OpenAI ve Yapay Zeka Güvenliği Üzerine Tartışmalar
Yapay zeka, son yıllarda toplumu derinden etkileyen bir teknoloji haline geldi. OpenAI CEO’su Sam Altman, yapay zeka sistemlerinin güvenliği, özgürlük ve mahremiyet gibi değerlere özen gösterilmesi gerektiğini vurguladı. Ancak bu değerlerin birbirleriyle çelişkili olabileceğini de kabul etti. Bu durum, geçtiğimiz günlerde gerçekleştirilen Senato duruşmasında yeniden gündeme geldi. Duruşmada, yapay zeka chatbotlarının zararları üzerinde duruldu ve bazı ebeveynler, çocuklarının intihar etmesine neden olan deneyimlerini paylaştılar.
18 Yaş Altı Kullanıcılar için Önlemler
Altman, blog yazısında 18 yaş altı kullanıcıları diğer kullanıcılardan ayırmanın önemli olduğunu belirtti. OpenAI, bir “yaş tahmin sistemi” geliştirme sürecinde, kullanıcıların ChatGPT’yi nasıl kullandığına dayanarak yaş tahmini yapmayı amaçlıyor. Eğer bir kullanıcının yaşı konusunda şüphe varsa, şirket, güvenlik amacıyla otomatik olarak 18 yaş altı deneyimini varsayacak. Bunun yanı sıra, bazı ülkelerde ya da özel durumlarda kimlik talep edilebileceği de ifade edildi.
Ergen Kullanıcılar için Yeni Kurallar
OpenAI, ergen kullanıcıları için farklı kurallar uygulamayı da planladıklarını duyurdu. Bu kurallar arasında, flirtleşmeyi içeren konuşmalardan kaçınmak ve intihar ya da özkıyım temalı içeriklerden uzak durma gibi önlemler yer alıyor. Altman, 18 yaş altı kullanıcıların intihar düşünceleri varsa, bu durumda ebeveynleriyle iletişime geçeceğini ya da gerektiğinde yetkililere bildirimde bulunacağını bildirerek, böyle bir durumda yakın tehlikeye karşı sorumlu bir yaklaşım sergileyeceklerini belirtti.
Ebeveyn Kontrolleri ve Sorumluluklar
OpenAI, ChatGPT içinde ebeveyn kontrolleri uygulama planlarını detaylandırdı. Bu kontroller, bir ebeveynin hesabıyla bağlantı sağlanmasını, ergenin sohbet geçmişinin ve hafızasının devre dışı bırakılmasını, ayrıca ChatGPT’nin ergen kullanıcıyı “ani bir sıkıntı anında” uyardığında ebeveynlere bildirim göndermesini içeriyor. Bu önlemler, OpenAI’nın çocukların güvenliğini artırma konusundaki kararlılığını gösteriyor.
Bir Aile Örneği: Adam Raine’in Hikayesi
Altman’ın bu açıklamaları, Adam Raine adlı bir gencin ailesinin açtığı dava sonrası geldi. Adam, ChatGPT ile konuşmalar yaparak intihar eden bir gençti. Matthew Raine, Adam’ın babası, duruşmada yaptığı konuşmada, teknoloji ile ilgili acı bir gerçeği paylaştı: “Sohbet geçmişinde, chatbot’un intiharı 1,275 kez bahsettiğini görmek, bir ebeveyn olarak tarif edilemez bir acı. Çocuğunuzun hayatına mal olan bir sürecin izlemesine asla hazırlıklı olamazsınız.” Bu durum, yapay zeka sistemlerinin nasıl bir sorumluluk taşıdığını sorgulatıyor.
Yapay Zeka ve Gençlerde Mental Sağlık Krizi
Son yapılan anketlere göre, her dört ergenin üçü şu an yapay zeka destekli asistanlar kullanıyor. Common Sense Media isimli kuruluşun yaptığı ankete göre, özellikle Character AI ve Meta gibi platformlar popülerliğini artırmış durumda. Bir ebeveyn, duruşmada yaptığı açıklamada, “Bu bir halk sağlığı krizi,” diyerek, çocuklarının yapay zeka ile olan etkileşimlerini eleştirdi. Bu durum, yapay zeka uygulamalarının gençlerin mental sağlığı üzerindeki etkilerini sorgulatıyor.
Toplumda Çeşitli Tepkiler
Duruşmada, katılımcılar arasında farklı görüşler ve duygular ön plana çıktı. “Bu bir mental sağlık savaşı ve kaybettiğimizi düşünüyorum,” diyen bir ebeveyn, yapay zeka sistemlerinin dikkatle kullanılmasının önemine dikkat çekti. Ebeveynler, çocuklarının güvenliği konusunda endişelidir ve bu teknolojilerin nasıl yapılandırılacağı konusunda kararlı önlemler alınmasını talep ediyor.
Gelecekte Ne Olacak?
Gelecekte yapay zekanın nasıl yapılandırılacağı ve hangi etik kurallar çerçevesinde kullanılacağı, tüm paydaşlar tarafından dikkatle izlenmesi gereken bir konudur. OpenAI, çocukların ve gençlerin güvenliğini artırmak için aldığı önlemlerin yanında, toplumun bu konuda daha bilinçli olması gerekmektedir. Yapay zeka uygulamalarının etkileri, daha geniş bir perspektiften ele alınmalı ve toplumun genel sağlığına dikkate alınarak ilerlenmelidir.
