OpenAI’nin ertelediği “yetişkin modu”, kullanıma sunulduğunda cüretkar metin sohbetlerini desteklemesi bekleniyor, ancak sohbet botunun görüntü, ses veya video üretebilme yeteneği bulunmayacak. Adını açıklamayan bir OpenAI sözcüsü, yaklaşan özellik tarafından sunulacak içeriği pornografi değil, “aşırı cüretkar” olarak tanımladı; bu sayede ChatGPT kullanıcıları, yetişkin temalı metin sohbetleri oluşturabilecek.
Erteleme, aynı zamanda içsel endişeler ve bu özellik için güvenlik önlemleri konusundaki teknik zorluklar nedeniyle yaşandı. The Wall Street Journal‘ın haberine göre, OpenAI tarafından seçilen bir danışma kurulu, Ocak ayında ChatGPT’nin yetişkin modunun çocuklara erişilebilir olabileceği ve sohbet botuna sağlıksız duygusal bağımlılık oluşturabileceği konusunda şirketi uyardı. İsim verilmeyen bir kurul üyesi, OpenAI’nin “seksi intihar koçu” yaratma riskiyle karşı karşıya kaldığını belirtti.
İçerik moderasyonu sorunları da ertelemelere katkıda bulundu. Konuya hakim kaynaklar, OpenAI’nin ChatGPT’deki NSFW içerik kısıtlamalarını kaldırırken, rızasız davranışlar veya çocuk cinsel istismarı gibi daha zararlı senaryoları engellemekte zorlandığını söyledi.
OpenAI’nin çocukları erotik içerikten uzak tutmak için geliştirdiği yaş tahmin sistemi, bir noktada çocukları yüzde 12 oranında yetişkin olarak sınıflandırıyordu. ChatGPT’nin her hafta 100 milyonun üzerinde 18 yaş altı kullanıcı çektiği göz önünde bulundurulduğunda, bu hata oranı milyonlarca çocuğun sohbet botuyla cinsel içerikli sohbetlere girmesine olanak tanıyabilirdi. OpenAI’nin yaş tahmin algoritmaları sektör ortalamasıyla benzer performans sergiliyor; ancak adı gizli bir sözcü, sistemin “asla tamamen güvenli olmayacağını” aktardı.
Sadece metin tabanlı sohbetlere odaklanmak, ChatGPT’nin yapımcısının, Birleşik Krallık’ın Çevrimiçi Güvenlik Yasası gibi, pornografik görüntüler için yaş doğrulamasını zorunlu kılan kurallar etrafında gezinmesini kolaylaştırabilir. Bu yasalar yazılı erotik içerikler için geçerli değildir. Ayrıca, rakip yapay zeka sağlayıcılarının daha görsel NSFW deneyimleri ile de çelişmektedir; örneğin Grok’ın “baharatlı” arkadaşları gibi. xAI’nin Elon Musk’ı, Grok’ın görüntü ve video üreten sisteminin, “R dereceli bir filmde izin verilen her şeyin” üretmesine izin verildiğini açıkladı.
Bu yenilikler hakkında ne düşünüyorsunuz?
