OpenAI’nin en yeni GPT4-o modeli, örneğin sesinizi taklit ederek veya bir konuşma sırasında erotik şekilde bağırıp inleyerek oldukça garip davranışlar sergileyebiliyor.
Bunu bilmemizin sebebi bazı bağımsız araştırmacıların veya rastgele kullanıcıların bunu fark etmesi değil. Bunlar aslında OpenAI’nin kendisinin, modelin risklerini ve bu risklerin ele alınma biçimlerini tanımlaması gereken bir “kırmızı takım” raporundaki gözlemleridir.
Açık olmak gerekirse, OpenAI’nin bu riskleri tespit etmekte rahat olduğu anlaşılıyor çünkü bunları azaltmanın yollarını bulmuş.
Yani halkın erişebildiği GPT-4o versiyonu aniden onların seslerini kopyalamaya başlamamalı ve erotik veya şiddet içeren sesler çıkarmayı veya bu tür konuşmalar üretmeyi reddetmeli. (Ayrıca genel olarak ses efektleri yapmayı da reddetmeli.)
Daha fazlasını öğrenmek için oynat tuşuna basın, ardından yorumlarda ne düşündüğünüzü bize bildirin.