Microsoft CEO’su Satya Nadella, Taylor Swift’in müstehcen yapay zeka yapımı sahte görselleri hakkındaki tartışmaya yanıt verdi. ile yapılan bir röportajda NBC Gecelik Haberleri Önümüzdeki Salı yayınlanacak olan dizide Nadella, rıza dışı simüle edilmiş çıplak fotoğrafların çoğalmasını “endişe verici ve korkunç” olarak nitelendirerek röportajcı Lester Holt’a “Sanırım bu konuda hızlı hareket etmemiz gerekiyor” dedi.
30 Ocak’taki program öncesinde NBC tarafından dağıtılan bir transkriptte Holt, Nadella’dan internetteki “sahtecilikle patlayan ve ben Taylor Swift’in sahte, müstehcen görsellerini vurguluyorum” şeklinde tepki vermesini istiyor. Nadella’nın yanıtı, teknoloji politikası solucanlarıyla ilgili birkaç kutu açmayı başarıyor ve onlar hakkında çok az şey söylüyor; görünürde kesin bir çözüm olmadığında bu hiç de şaşırtıcı değil.
İki şey söyleyebilirim: Birincisi, yine bizim sorumluluğumuz olduğunu düşündüğüm şeye geri dönüyorum; yani daha güvenli içerik üretilebilmesi için teknolojinin etrafına yerleştirmemiz gereken korkuluklar var. Ve orada yapılacak ve yapılacak çok şey var. Ama bu küresel, toplumsal, bilirsiniz, belirli normlara yakınlaşmayla ilgili. Ve bunu yapabiliriz – özellikle de kanun uygulayıcılar ve teknoloji platformlarının bir araya geldiği durumlarda – sandığımızdan çok daha fazlasını yönetebileceğimizi düşünüyorum – kendimize güveniyoruz.
Microsoft’un sahte Swift fotoğraflarıyla bir bağlantısı olabilir. A 404 Medya rapor Microsoft Designer görüntü oluşturucusunun kullanılmasını öneren, Telegram tabanlı, rıza dışı porno üreten bir topluluktan geldiklerini belirtir. Tasarımcı teorik olarak ünlü kişilerin resimlerini üretmeyi reddediyor, ancak yapay zeka jeneratörlerini kandırmak kolaydır ve 404 istemlerde küçük ayarlamalar yaparak kurallarını çiğneyebileceğinizi keşfettim. Bu, Swift resimleri için Designer’ın kullanıldığını kanıtlamasa da, Microsoft’un çözebileceği türden bir teknik eksikliktir.
Ancak yapay zeka araçları, gerçek insanların sahte çıplak fotoğraflarını oluşturma sürecini büyük ölçüde basitleştirdi. kargaşaya neden olmak olan kadınlar için Swift’ten çok daha az güce ve şöhrete sahip. Ve üretimlerini kontrol etmek, büyük şirketlerin korkuluklarını güçlendirmesini sağlamak kadar basit değil. Microsoft’unki gibi büyük “Büyük Teknoloji” platformları kilitlenmiş olsa bile, insanlar Stabil Difüzyon gibi açık araçları yeniden eğiterek NSFW resimleri üretin bunu zorlaştırmaya yönelik çabalara rağmen. Bu jeneratörlere çok daha az sayıda kullanıcı erişebilir ancak Swift olayı, küçük bir topluluğun çalışmasının ne kadar geniş bir alana yayılabileceğini gösteriyor.
Başka geçici seçenekler de var; rıza dışı görüntülerin erişimini sınırlayan sosyal ağlar veya görünüşe göre, Swiftie’nin empoze ettiği kanunsuz adalet bunları yayan insanlara karşı. (Bu, “belirli normlara yakınlaşma” olarak sayılır mı?) Ancak şimdilik Nadella’nın tek net planı, Microsoft’un kendi yapay zeka evini düzene koymak.