Resim: Maria Diaz/ZDNET.
Yapay zeka kullanan görüntü oluşturucular, yaratıcılığı artırma ve içerik oluşturmada devrim yaratma potansiyeline sahiptir. Ancak bu görseller kötüye kullanıldığında yanlış bilgi yayarak, bazen belirli kişilere zarar vererek gerçek zarara yol açabilir. Microsoft, yeni korumalar uygulayarak üretken yapay zeka araçlarının daha fazla kötüye kullanılmasını önlemeyi umuyor.
Geçen hafta, Taylor Swift’i cinselleştiren yapay zeka tarafından oluşturulan deepfake’ler X’te (eski adıyla Twitter) ortalıkta dolaştı. Bu görüntülerin 4chan ve kullanıcıların Microsoft Designer kullanılarak oluşturulan ünlülerin yapay zeka tarafından oluşturulan görüntülerini paylaştığı bir Telegram kanalı aracılığıyla paylaşıldığı iddia ediliyor. 404 Medya’ya göre.
Yasaklanmış görseller oluşturmak için yazım hataları yapmak
Microsoft Designer bir grafik tasarım uygulamasıdır. Microsoft’un DALL-E 3 tarafından desteklenen AI görüntü oluşturucusu Image Creator’ı içerir. Uygulama, piyasaya sürülmesinden bu yana, kullanıcılarının, örneğin tanınmış kişilerden veya çıplaklıktan bahsederek “uygunsuz” isteklerde bulunmasını engellemeyi amaçlayan önlemlere sahiptir.
Ancak bazı insanlar bunda kusurlar buldu. 404 Media makalesine göre, özellikle bir ünlünün adının yanlış yazılması veya açıkça cinsel terimler yerine aynı sonucu doğurabilecek sözcüklerin kullanılması.
Microsoft o zamandan beri bu kusurları düzelterek ünlülerin görsellerini oluşturmayı imkansız hale getirdi. Örneğin, Image Creator’dan benim için şu açıklamayı içeren bir görsel oluşturmasını istedim: “Selena Gomez golf oynuyor.” Daha sonra yapay zeka bana isteğimin engelleneceğini söyledi. Amerikalı yıldızın adını yanlış yazarak tekrar denedim: cevap aynıydı.
Baypas korumaları
Bir Microsoft sözcüsü ZDNET’e “Herkes için güvenli ve saygılı bir deneyim sağlamaya kararlıyız” dedi. “Bu görüntüleri araştırmaya devam ediyoruz ve hizmetlerimizin bu tür görüntüler oluşturmak amacıyla kötüye kullanılmasını önlemek için mevcut güvenlik sistemlerimizi güçlendirdik. »
Ayrıca, Microsoft Tasarımcı Davranış Kuralları, yetişkinlere yönelik veya rıza dışı içerik oluşturulmasını açıkça yasaklar ve bu kullanım ilkesinin herhangi bir şekilde ihlal edilmesi, hizmete erişimin tamamen kaybedilmesine neden olabilir.
404 Media’ya göre bazı kişiler halihazırda Telegram kanalında bu yeni korumalara geçici bir çözüm arıyor. En ufak bir kusuru arayan kötü niyetli aktörler ile aracın arkasında onu düzeltmek için acele eden geliştiriciler arasındaki geleneksel kedi fare oyunu kalıcıdır.
Kaynak : ZDNet.com