ChatGPT’nin arkasındaki şirket olan OpenAI, şu anda kullanıcıların yapay zekayı kullanarak pornografi ve diğer açık içerik oluşturmalarına izin vermeyi düşünüyor. Ancak şirket, deepfake yasağının, varsa yetişkinlere yönelik materyaller için de geçerli olmaya devam edeceğini vurguladı.
Aynı zamanda DALL-E görüntü oluşturucunun da geliştiricisi olan OpenAI, geliştiricilerin ve kullanıcıların “iş için güvenli olmayan” (NSFW) olarak adlandırdığı içeriği “sorumlu bir şekilde” oluşturmalarına izin vermeyi düşündüğünü söyledi. OpenAI bunun “erotik, aşırı şiddet, istismar ve istenmeyen küfürleri” içerebileceğini söyledi.
OpenAI, “NSFW içeriğini yaşa uygun bağlamlarda üretme yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırıyoruz… Bu alandaki model davranışa ilişkin kullanıcı ve toplumsal beklentileri daha iyi anlamayı umuyoruz” dedi.
San Francisco merkezli şirketin bir çalışanı olan Joan Jang, OpenAI’nin erotik metin ve çıplaklığın ürünlerinde her zaman yasaklanıp yasaklanmayacağı konusunda bir tartışma başlatmak istediğini söyledi. Ancak deepfake’lere izin verilmeyeceğini vurguladı.
Jang, “Yasayı veya başkalarının haklarını ihlal etmeyecek şekilde insanların mümkün olduğunca fazla kontrole sahip olmasını sağlamak istiyoruz, ancak deepfake’lere izin vermek söz konusu olamaz” dedi.
Ancak içeriğin pornografi olarak algılanmasının kategorinin “tanımına bağlı” olduğunu da sözlerine ekledi. Chan, “cinsellik veya çıplaklıkla ilgili içeriğin kullanıcılarımız için önemli olduğu yaratıcı örnekler” olduğunu belirtti.
OpenAI CEO’su Sam Altman, insanların yapay zekanın yakında toplu işten çıkarmalara yol açacağının farkında olmadığını söylediğinde, kimsenin bu işleri düşünmesi pek mümkün değildi.