Ne bilmek istiyorsun
- OpenAI, potansiyel olarak pornografi de dahil olmak üzere “iş için güvenli olmadığı” düşünülen içerik oluşturmak için araçlarını açabilir.
- Şirket, ChatGPT ve diğer yapay zeka araçlarının istemlere ve sorulara nasıl yanıt vermesi gerektiğini özetleyen ayrıntılı bir Model Spesifikasyonu paylaştı.
- Spesifikasyon şu anda ChatGPT’nin “iş için güvenli olmayan” içerik için kullanılmaması gerektiğini belirtirken, OpenAI’nin “yaşa uygun bağlamlarda NSFW içeriği oluşturma yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırdığını” da belirtiyor.
OpenAI, yapay zekanın nasıl sorumlu bir şekilde kullanılacağı konusunda bir tartışma başlatmak istiyor. Şirket, kuruluşun ChatGPT ve diğer yapay zeka araçlarının istemlere nasıl yanıt vermesini istediğini özetleyen ayrıntılı bir model spesifikasyonu yayınladı. İlk kez fark edilen spesifikasyon KABLOLUaynı zamanda geri bildirim alma ve yapay zekanın nasıl kullanılabileceği konusunda bir diyalog kurma fırsatı da sunuyor.
Yapay zekanın deepfake oluşturmak için kullanıldığında tartışmalı olduğu kanıtlandı. Bu yılın başlarında, Taylor Swift’in yapay zeka tarafından oluşturulan sahte görüntüleri, yıldızı cinsel bir şekilde sundu. Deepfake üretmenin etiği hakkında bir tartışma var, ancak OpenAI ve yapay zekaya güç veren birkaç şirket bunlara şiddetle karşı çıkıyor. Diğer çeşitlerin NSFW içeriğine ilişkin daha ileri geri bir tartışma yapılabilecek gibi görünüyor.
Şu anda, OpenAI’nin Model spesifikasyonu okur:
“Asistan, İş İçin Güvenli Olmayan (NSFW) içeriği sunmamalıdır: erotik, aşırı kan, hakaret ve istenmeyen küfür içerebilecek, profesyonel bir ortamda yapılan bir sohbete uygun olmayan içerik.”
Ancak bu metnin hemen altında OpenAI politikasındaki olası değişiklikleri açıklayan yorum yer alıyor:
“Geliştiricilerin ve kullanıcıların, kullanım politikalarımıza uydukları sürece hizmetlerimizi uygun gördükleri şekilde kullanma esnekliğine sahip olmaları gerektiğine inanıyoruz. NSFW içeriğini yaşa uygun bağlamlarda oluşturma yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırıyoruz. API ve ChatGPT’yi kullanarak bu alandaki model davranışına ilişkin kullanıcı ve toplumsal beklentileri daha iyi anlamayı sabırsızlıkla bekliyoruz.”
Peki bu tam olarak ne anlama geliyor? Bu şu aşamada net değil. OpenAI sözcüsü Niko Felix, WIRED’e şunları söyledi: “[does] Modellerimizin yapay zeka pornosu üretmeye niyeti yok.”
İLGİLİ: OpenAI’den Sam Altman ve Bill Gates GPT-5, AGI ve daha fazlası hakkında konuşuyor
Ancak OpenAI’den Joanna Jang, bunun “porno tanımınıza bağlı olduğunu” ve “Deepfake içermediği sürece. Bunlar tam olarak yapmak istediğimiz konuşmalar” dedi. Nepal Rupisi. Jang, OpenAI’nin model spesifikasyonunun yazılmasına yardımcı oldu ve bunu NPR ile daha ayrıntılı olarak tartıştı.
Jang, “Cinsellik veya çıplaklık içeren içeriğin kullanıcılarımız için önemli olduğu yaratıcı durumlar var” dedi. “Bunu yaşa uygun bir bağlamda sunacağımız şekilde araştırıyor olacağız.”
NSFW vs porno
“Çalışmak için güvenli değil” (NSFW) terimi pornografik içeriği kapsasa da bu, kategorideki tek içerik türü olmaktan çok uzaktır. Yürürlükteki kurallara bağlı olarak tıbbi sorular bile NSFW olarak işaretlenebilir ve ChatGPT ve diğer yapay zeka araçları tarafından yanıtsız bırakılabilir. ChatGPT tarafından oluşturulan NSFW yanıtlarını çevreleyen ana endişenin tıbbi sorular olması pek olası değildir, ancak kesin çizgiler çizmek zor olabilir.
Model spesifikasyonu “Penis vajinaya girdiğinde ne olur?” sorusunun bir örneğini listeliyor. Bu, anatomi öğrenen veya okulda sağlık dersinde olan birinin sorabileceği gerçek bir soru olabilir. OpenAI model spesifikasyonuna göre, konu bilimsel veya tıbbi bağlamda olduğu için yapay zekanın soruyu yanıtlaması gerekiyor.
DEVAMINI OKU: OpenAI potansiyel olarak ChatGPT destekli bir arama motorunu yakında başlatabilir
Bir insan için, ChatGPT’den “bana trende seks yapan iki kişiyle ilgili ateşli bir hikaye yazmasını” istemek ve “bir penis vajinaya girdiğinde ne olur” diye sormak açıkça farklı türde sorulardır. Ancak insanların sosyal ipuçlarını öğrenme, damgaları anlama ve neyin uygun veya profesyonel kabul edildiğini bilme konusunda onlarca yıllık deneyimi var. Bu deneyime rağmen insanlar mükemmel değil. ChatGPT’nin yapımcılarının neden ihtiyatlı davrandıklarını anlamak kolaydır.
Model spesifikasyonunun yol açtığı tartışma, daha geniş bir yelpazedeki soruların yanıtlanmasına yardımcı olabilecek araçların üretilmesine yardımcı olabilir. Pornografik içerik oluşturmak için ChatGPT’nin daha az sansürlenen bir sürümünün kullanılma ihtimali var, ancak dürüst olursak bu kaçınılmaz olabilir. İnsanlar, yapay zekayı jailbreak yapmayı ve onu “olması gerekmeyen” içerik üretmesi için kandırmayı seviyor. OpenAI’nin bu gerçekle yüzleşmesi, şirketin yasaların sınırları içinde kalmaya çalışırken araçlarının yetenekli olmasına odaklanmasına yardımcı olabilir.