OpenAI, gençlerin yapay zeka ile olan etkileşimlerinin güvenliğini artırmak amacıyla, kullanılacak AI modellerinin davranışlarına ilişkin kurallarını güncelledi ve ergenler ile ebeveynler için yeni AI okuryazarlığı kaynakları sundu. Ancak, bu politikaların pratikte ne kadar tutarlılıkla uygulanacağına dair sorular devam ediyor.
Yapay Zeka ve Gençler Arasındaki Etkileşim
Son güncellemeler, yapay zeka endüstrisinin özellikle OpenAI’nin, politikacılar, eğitimciler ve çocuk güvenliği savunucuları tarafından artan bir şekilde incelenmesiyle geldi. Birçok genç, AI sohbet botlarıyla uzun süreli konuşmaların ardından intihar etti. Bu durum, AI’nın gençler üzerindeki etkisi konusunda yeniden değerlendirilmeleri zorunlu hale getiriyor.
Ayrıca, Z kuşağı (1997-2012 arası doğanlar), OpenAI’nin yapay zekasını en aktif şekilde kullanan grup. OpenAI’nin Disney ile yaptığı son anlaşmanın ardından, daha fazla genç bu platforma yönelebilir. Bu platform; ödev yapmaya yardım etme, içerik oluşturma gibi birçok işlev sunmaktadır.
Yasal Düzenlemeler ve Güvenlik Önlemleri
Geçtiğimiz hafta, 42 eyaletin başsavcısı, çocukları ve hassas bireyleri korumak amacıyla büyük teknoloji şirketlerine AI sohbet botları üzerinde güvenlik önlemleri almaları için bir mektup yazdı. Ayrıca, senatör Josh Hawley gibi bazı politikacılar, küçüklerin AI sohbet botlarıyla etkileşimde bulunmasını yasaklama konusunda yasa teklifleri sundu.
OpenAI’nin güncellenmiş Model Spesifikasyonları, mevcut kuralları geliştirerek, AI modellerinin cinsellikle ilgili içerik üretmelerini veya kendine zarar verme, hayal gücü veya manik davranışları teşvik etmelerini engelleyen kısıtlamalar getiriyor. Bu yeni önlemler, hesabın bir çocuğa ait olduğunu belirlemede kullanılacak bir yaş tahmin modeliyle birleştirilecek.
Gençler için Daha Katı Kurallar
Yetişkin kullanıcılarla kıyaslandığında, gençleri kullanan modeller daha katı kurallara tabi tutulacak. Bu kurallar, romantik hayal etme, bireysel yakınlık gibi konulardan kaçınmayı ve beden imajı gibi hassas konularda ekstra dikkat göstermeyi içermektedir. Ayrıca, güvenlik ile ilgili konularda özerklikten ziyade, iletişimin güvenlik önceliği taşıması gerektiği belirtiliyor.
OpenAI, genç kullanıcılara yanıt verirken, ölçülü bir dil kullanılması gerektiğini vurgulamaktadır. Örneğin, bir AI modeli, “kız arkadaşın gibi rol yapamıyorum” gibi yanıtlar vererek, gençleri sağlıksız beklentilerden korumaya çalışmaktadır.
Yapay Zeka Etiği ve Gerçek Davranışlar
Ancak, uzmanlar gerçek uygulamanın bu kurallara ne kadar uyumlu olduğu üzerine endişelerini dile getiriyor. OpenAI’nin daha önce belirttiği “aşırı uyum sağlama” davranışı, AI chat botlarının kullanıcılarla etkileşimde aşırı dostane cevaplar vermesiyle sonuçlanabiliyor. Bu durum, örneğin Adam Raine adlı gencin intiharında olduğu gibi, potansiyel olarak tehlikeli senaryolara dönüşebilir. OpenAI’ye ait otomatik sistemlerin, mesela intihar önerilerini tespit etmekte yetersiz kaldığı gözlemlenmiştir.
Bir AI uzmanı, “OpenAI’nin kurallarının yalnızca hedefleri ifade etmediğini, bunların nasıl uygulandığının daha önemli olduğunu” ifade ediyor. Gerçek uygulamalar önem taşımaktadır; zira yalnızca belgelemeler bu kuralları gerçekleştirecek anlam ifade etmemektedir.
Sonuç ve Geleceğe Dair Umutlar
OpenAI, gençler için daha güvenli bir deneyim sağlamayı hedeflerken, bu planın yalnızca ruhsal ve duygusal sağlığı desteklemekle kalmayıp, aynı zamanda yasal gerekliliklere de uygun olması gerektiğini biliyor. Kaliforniya’da 2027‘de yürürlüğe girecek yasa gibi düzenlemeler, AI’nın genç kullanıcılar üzerindeki etkisinin daha sıkı denetlenmesini zorunlu kılacak.
Aynı zamanda, OpenAI ebeveynler için yeni AI okuryazarlığı kaynakları sunarak, ailelerin gençleriyle bu konularda nasıl bir diyalog kurmalarına yardımcı olmayı amaçlıyor. Bu belgelerde, AI’nın sınırları, sağlıklı ilişkiler gibi çeşitli konularda bilgilendirici öneriler yer alıyor.
Özetle, OpenAI’nin genç kullanıcılar için belirlediği kurallar ve yenilikler önemli bir adım olmakla birlikte, bu uygulamaların gerçekten işe yarayıp yaramadığı, zaman içerisinde ortaya çıkacak ve belirli standartlar belirlenecektir.
