Yapay Zeka ve Zihinsel Sağlık Üzerine Kaygılar
Son dönemde yapay zeka sohbet botları ile ilgili yaşanan rahatsız edici zihinsel sağlık olayları üzerine, bir grup eyalet başsavcısı, yapay zeka endüstrisinin önde gelen şirketlerine bir uyarı mektubu gönderdi. Bu mektupta, “yanıltıcı çıktılar” üretiminin önlenmesi gerektiği yoksa eyalet yasalarının ihlal edilme riski ile karşılaşacakları belirtildi.
Başsavcıların Uyarısı
Uygulamada, mevcut mektup, ABD eyaletlerinden ve bölgelerinden onlarca başsavcı tarafından imzalanmış durumda. Mektupta, Microsoft, OpenAI, Google gibi büyük yapay zeka firmalarının yanı sıra Anthropic, Apple, Chai AI, Character Technologies, Luka, Meta, Nomi AI, Perplexity AI, Replika ve xAI gibi diğer önemli şirketlerin de yer aldığı belirtiliyor. Bu firmaların, kullanıcılarını korumak için bir dizi yeni iç kontrol mekanizması geliştirmesi talep ediliyor.
Yapay Zeka Düzenlemeleri Üzerine Tartışmalar
Bu mektup, devlet ve federal hükümet arasında yapay zeka düzenlemeleri konusunda süregelen bir savaşın ortasında geldi.
Önerilen Güvenlik Önlemleri
Başsavcılar, büyük dil modellerinin yanıltıcı veya aşırı vasat düşünceler ürettiğini tespit edebilecek şeffaf üçüncü taraf denetimlerinin yapılması çağrısında bulunuyor. Ayrıca, kullanıcıları potansiyel olarak psikolojik zarara yol açan çıktılar hakkında bilgilendirmek amacıyla yeni olay raporlama prosedürleri geliştirilmesi gerektiği vurgulanıyor.
Mektupta, “Üçüncü tarafların, firmadan herhangi bir caydırıcı önlem olmaksızın, sistemleri piyasaya sürülmeden önce değerlendirme yapmasına ve bulgularını ön onay almadan yayımlamasına izin verilmelidir” denilmektedir.
Yapay Zeka ve Zihinsel Sağlık İlişkisi
“GenAI, dünyayı olumlu yönde değiştirme potansiyeline sahip. Ancak, aynı zamanda —ve muhtemel olarak— ciddi zararlar vermiştir, özellikle de savunmasız gruplara.” dendiği mektupta, son bir yıl içinde intiharlar ve cinayetler gibi çok sayıda olayın, aşırı yapay zeka kullanımına bağlandığı belirtiliyor.
Olay Raporlama Prosedürleri ve Güvenlik Testleri
Başsavcılar ayrıca, şirketlerin mental sağlık olaylarını, tıpkı siber güvenlik olayları gibi ele almasını öneriyor. Şirketlerin, vasat ve yanıltıcı çıktılar için tespit ve yanıt sürelerini geliştirip, yayınlaması gerektiği belirtildi. Dataların ihlal edilmesi durumunda uygulanan hızlı bildirim süreçleriyle aynı şekilde, kullanıcıların potansiyel olarak zararlı içeriklere maruz kalıp kalmadığını açık ve net bir şekilde bilgilendirmesi talep ediliyor.
Bunun yanı sıra, yapay zeka modellerinin “potansiyel olarak zararlı yanıltıcı ve aşırı vasat çıktılar üretmediğini” garanti altına alacak “makul ve uygun güvenlik testleri” geliştirmeleri isteniyor. Bu testlerin, modellerin halka sunulmadan önce yapılması gerektiği belirtiliyor.
Hükümetin Yaklaşımı ve Gelecek Beklentileri
TechCrunch, Google, Microsoft veya OpenAI ile yayın öncesinde iletişime geçmeyi başaramadı. Eğer bu şirketler yanıt verirse makale güncellenecektir.
Teknoloji şirketlerinin yapay zeka geliştirmeleri federal düzeyde daha sıcak karşılandı. Trump yönetimi, yapay zekanın kesinlikle desteklendiğini duyurdu. Son bir yıl içinde eyalet düzeyinde yapay zeka düzenlemeleri konusunda ulusal bir moratoryum geçirmeye yönelik birçok girişim oldu; ancak bu girişimler, eyalet yetkililerinin baskısı sayesinde başarısızlıkla sonuçlandı.
Her şeye rağmen, Trump, önümüzdeki hafta eyaletlerin yapay zeka düzenlemelerini sınırlayacak bir icra emri geçirmeyi planladığını açıkladı. Başkan, Truth Social’da yaptığı bir paylaşımda, yapay zekanın “ÇOCUKLUĞUNDA YOK EDİLMEMESİ” umudunu belirtti.
