Kanada’nın Tumbler Ridge bölgesinde sekiz kişiyi öldürdüğü iddia edilen 18 yaşındaki bir genç, OpenAI’nin ChatGPT’sini şirketin çalışanlarını endişelendiren bir şekilde kullandı.
Jesse Van Rootselaar’ın silah şiddeti ile ilgili sohbetleri, şirketin büyük dil modelini (LLM) kötüye kullanımları izleyen araçlar tarafından tespit edildi ve Haziran 2025’te yasaklandı.
Şirket çalışanları, durumla ilgili olarak Kanada hukukuna başvurup başvurmamayı tartıştı, ancak nihayetinde başvurmadı. Bir OpenAI sözcüsü, Van Rootselaar’ın faaliyetlerinin hukuka bildirme kriterlerini karşılamadığını belirtti; şirket, olayın ardından Kanada yetkilileriyle iletişime geçti.
ChatGPT transkriptleri, Van Rootselaar’ın dijital ayak izindeki tek endişe verici unsur değildi. Şu ana kadar çocukların sıklıkla kullandığı dünyayı simüle eden platform Roblox’ta bir alışveriş merkezinde kitlesel bir silahlı saldırıyı simüle eden bir oyun oluşturmuştu. Ayrıca Reddit’te silahlar hakkında paylaşımlarda bulundu.
Van Rootselaar’ın dengesizliği, yerel polis tarafından da biliniyordu. Belirli uyuşturucuların etkisi altındayken aile evinde yangın çıkardığı için polis olaya müdahale etmişti.
OpenAI ve rakipleri tarafından geliştirilen LLM sohbet botlarının, kullanıcıların gerçeklikten kopmasına neden olduğu iddia edilmektedir. Bunun sonucunda, insanların intihar etmeye teşvik eden veya bu konuda yardım sunan sohbet transkriptlerini içeren çok sayıda dava açılmıştır.
Eğer bir kriz içindeyseniz veya intihar düşünceleriniz varsa, 988’i arayarak veya mesaj atarak 988 İntihar ve Kriz Hattı’na ulaşabilirsiniz.
