Bing’in DALL-E 3 entegrasyonunun bazı kullanıcıları, aracın korkuluklarında bir boşluk bulup birkaç sevilen animasyonlu karakter ve İkiz Kuleleri içeren resimler oluşturduktan sonra, Microsoft, İkiz Kuleler ile ilgili herhangi bir şeyi yönlendirme yeteneğini engellemiş görünüyor.
Tarafından bildirildiği gibi 404 MedyaMicrosoft’un Bing Chat ve yakın zamanda OpenAI’nin DALL-E 3’üne entegre edilen Bing görüntü oluşturucu kullanıcıları, SpongeBob SquarePants, Kirby ve pilotların fotoğraflarını oluşturmak için araçları kullandı. Neon Genesis Evangelion’uve diğer pek çok kişi İkiz Kulelere uçak uçuruyor.
İnsanlar yapay zeka görüntü oluşturucularını kullanarak, bazıları telif hakkıyla korunan karakterler içeren, gerçekten akıl almaz fotoğraflar oluşturabildiler. Ancak yapay zeka görüntü oluşturucuları, telif hakkı iddiaları ve derin sahtekarlıklar nedeniyle sıkıntıya girdikçe, geliştiriciler, insanların şüpheli fotoğraflar oluşturmak için araçlarını kullanmalarına izin verme konusunda daha dikkatli olmaya başladı. DALL-E 3 geliştiricisi OpenAI, önde gelen isimlerin yer aldığı istemlerden resim oluşturmayacağına söz vermişti.
Microsoft’un iletişim direktörü Caitlin Roulston, e-postayla yaptığı açıklamada şunları söyledi: Sınır şirketin “zararlı içerik oluşturulmasını önlemeye yardımcı olmak için” sistemlerini iyileştirmeyi planladığını söyledi.
Roulston, “Her yeni teknolojide olduğu gibi, bazıları bunu amaçlanmayan şekillerde kullanmaya çalışıyor; bu nedenle Bing Image Creator’ı kullanıcılar için olumlu ve yararlı bir deneyim haline getirmek için bir dizi koruma ve filtre uyguluyoruz” dedi.
Bazı eşik yazarlar başlangıçta bunlara benzer resimler üretebildiler 404 Ünlü İtalyan tesisatçı Mario’nun kokpitin dışında İkiz Kuleler manzaralı bir uçağı uçurması da dahil olmak üzere anlatıldı. Ancak Microsoft’a ulaştıktan sonra bunu Bing Image Creator ile yeniden oluşturmaya çalıştığımda, “ikiz kuleler” teriminin engellendiğini ve istemin muhtemelen içerik politikalarını ihlal ettiğini belirten bir içerik uyarısıyla karşılaştığını gördüm. Bir meslektaşım sadece “İkiz Kuleler” ve “Dünya Ticaret Merkezi” sorulduğunda da aynı yanıtı aldı.
Microsoft, bu korkulukların veya filtrelerin neye benzeyebileceği konusunda ayrıntılı bilgi vermedi ve İkiz Kuleler ile ilgili içeriği yakın zamanda engelleyip engellemediği konusunda yorum yapmadı.
Bazı içeriklerin engellenmesi biraz geç olabilir. 404 Medya rapor edildi 4chan gibi sitelerdeki posterler, ırkçı görseller oluşturmak ve dağıtmak için Bing Chat ve Stable Diffusion gibi ücretsiz araçları nasıl kullanacakları konusunda insanlara rehberlik ediyor.
DALL-E 3’ün geliştiricileri, güvenlik önlemlerinin “mükemmel olmadığını” ve sürekli olarak geliştirildiğini açıkça kabul etti. Muhtemelen Sünger Bob’un terör eylemleri gerçekleştirdiği fotoğrafların bekledikleri sınav olmasını beklemiyorlardı.