Üretken yapay zekanın ortaya çıkışıyla birlikte yetkililer, bu teknolojinin toplumda uygulanmasını desteklemenin giderek daha önemli olduğunu düşünüyor. Ulusal Komisyon…
Üretken yapay zekanın ortaya çıkışıyla birlikte yetkililer, bu teknolojinin toplumda uygulanmasını desteklemenin giderek daha önemli olduğunu düşünüyor. Ulusal Bilgi İşlem ve Özgürlükler Komisyonu (CNIL), 16 Mayıs 2023’te eylem planını henüz sundu ” Bireylerin mahremiyetine saygı duyan AI sistemlerinin konuşlandırılması için “.
CNIL, dört hedefe dayalı bir eylem planı önermektedir.
2017’de CNIL, AI’nın etik sorunları hakkında bir ilk rapor yayınladı. OpenAI’nin ChatGPT liderliğindeki üretken yapay zeka sahnesinin önüne geliş, kartları yeniden karıştırmış gibi görünüyor. Kurum, günlük kullanımları ve gelişimleri ile bağlantılı olarak daha somut önlemler alma ihtiyacını gördü.
Bu yüzden, ” kişisel verilerin korunmasının bu araçların tasarımı ve kullanımı için önemli bir konu olduğunu göz önünde bulundurarak », CNIL bu teknolojinin gelişimini bir eylem planı aracılığıyla denetlemek istiyor. Belirtildiği gibi onun basın açıklamasıbu çok özel dört kısımda ifade edilmelidir:
- AI sistemlerinin nasıl çalıştığını ve insanlar üzerindeki etkilerini anlayın. Veri işleme sürecinin şeffaf olduğundan ve genel kamuoyunun bu araçların içeriklerini oluşturmak için verileri nasıl kullandığını kolayca anlayabildiğinden emin olun.
- Kişisel verilere saygı duyan yapay zekanın gelişimini etkinleştirin ve denetleyin. Verilerin yeniden kullanımıyla ilgili bir kılavuz yayınlanmalıdır ve 2023 yazının sonundan itibaren, üretken yapay zekanın oluşturulmasıyla ilgili temalar etrafında sektördeki çeşitli oyuncularla yapılan istişarelerden kaynaklanan sonuçlar şeklinde birkaç yayın yapılması beklenmektedir.
- Fransa ve Avrupa’daki AI ekosistemindeki yenilikçi oyuncuları bir araya getirin ve destekleyin. 2021’de sağlık ve ardından 2022’de eğitimle ilgili yenilikçi projeleri desteklemek amacıyla korumalı alanını başlattıktan sonra, yakında piyasaya sürülecek olan 2023 sürümü, yapay zekanın kamu sektöründe kullanımına odaklanacak.
- AI sistemlerini denetleyin ve kontrol edin ve insanları koruyun. CNIL’in kontrol eylemleri, artırılmış video gözetiminin kullanımına, dolandırıcılıkla mücadele için yapay zekanın kullanımına ve aynı zamanda yapılan tüm şikayetlere ilişkin pozisyona uymaya odaklanacaktır.
Üretken yapay zekalara saldıran düzenleyiciler
ChatGPT, DALL-E 2, Bard, Midjouney, vb. Üretken yapay zekalar, genel kamuoyunun yanı sıra profesyonel uygulamalar için şirketler ve idarelerin de ilgisini çeker. Şeffaflık adına, Avrupa Birliği gelecekteki İç Denetim Yasasına bu teknolojiyle ilgili önlemler eklemek zorunda kaldı. Metin şu anda Avrupa Parlamentosu’nda inceleniyor ve Haziran ayında oylanması gerekiyor.
Bu hükümler, özellikle haklardan muaf olmayan içeriğin kullanımına ilişkindir. Şirketler artık kullandıkları belgelerin telif hakkına tabi olup olmadığını belirtmek zorunda kalacak ve dolayısıyla ait oldukları platformları veya kişileri finanse etmek zorunda kalacak.
Başka bir kayıtta, Fransa’da, Rönesans milletvekili Éric Botorel, ChatGPT’ye karşı şikayette bulunmak için CNIL’e el koymuştu. OpenAI aracının yanlış bilgi verdiğini iddia etti ve üretici yapay zekayı Genel Veri Koruma Yönetmeliğini (GDPR) olası ihlallerle suçladı. Gerçekten de, GDPR’nin 5. maddesinin d paragrafı şunu öngörmektedir: “ kişisel verilerin doğru olduğunu ve gerektiğinde tüm makul adımlar atılarak güncel tutulduğunu ”, OpenAI bunu yapmazdı. Dolayısıyla bu şikayet, eylem planının bir parçası olarak CNIL tarafından şüphesiz incelenecek şikayetlerden birinin parçasıdır.
