Geçen hafta Bing AI’nın görüntü oluşturma aracı için (diğer son iyileştirmelerin yanı sıra) büyük bir yükseltme aldığını fark etmiş olabilirsiniz, ancak görünen o ki Microsoft bu büyük adımı ileriye doğru attıktan sonra şimdi bir adım geri attı.
Kaçırmış olmanız ihtimaline karşı, Bing’in görüntü oluşturma sistemi, çok daha güçlü olan tamamen yeni bir sürüm olan Dall-E 3’e yükseltildi. Öyle ki Microsoft, süper şarjlı Dall-E 3’ün çok fazla ilgi ve trafik oluşturduğunu ve bu nedenle başlangıçta yavaş olabileceğini belirtti.
Ancak Dall-E 3 ile ilgili başka bir sorun daha var çünkü Windows Merkezi Microsoft’un son yenilemesinden bu yana aracı önemli ölçüde dizginlediği gözlemlendi.
Resim oluşturma aracının, uygunsuz resimlerin oluşturulmasını durdurmak için bir ‘içerik denetleme sistemi’ kullanacağının zaten farkındaydık, ancak uygulanan sansürün beklenenden daha sert olduğu görülüyor. Bu, Bing AI kullanıcılarının sistemin oluşturmasını sağlamaya çalıştığı içerik türüne bir tepki olabilir.
Windows Central’ın işaret ettiği gibi, 11 Eylül saldırısını gerçekleştiren Mickey Mouse’un (hiç de şaşırtıcı olmayan bir şekilde) oluşturulan görüntüsü hakkında pek çok tartışma yaşandı.
Ancak sorun, bu tür aşırı soruların ötesinde, makalenin de açıkça belirttiği gibi, bazı kullanıcıların zararsız görüntü oluşturma isteklerinin reddedildiğini görmesidir. Windows Central, sohbet robotunun sunucu rafını balyozla kıran bir adamın görüntüsünü oluşturmasını sağlamaya çalıştı ancak bunun Microsoft’un Bing AI kullanım koşullarını ihlal ettiği söylendi.
Oysa geçen hafta makale yazarı, Bing AI’nin şikayette bulunmadığı popüler karakterlerin (telif hakkıyla korunan) yer aldığı şiddetli zombi kıyamet senaryoları oluşturabileceklerini belirtti.
Analiz: Rastgele sansür
Burada mesele sansürün aşırı bir tepki olduğu ya da raporlara göre durum böyleymiş gibi göründüğünü de eklememiz gerekiyor. Görünen o ki Microsoft, ilk uygulamada kuralları çok gevşek bırakmış ancak daha da ileri gitmiş ve işleri artık çok fazla sıkılaştırmış.
Bunu gerçekten gösteren şey, birisinin de belirttiği gibi, Bing AI’nin kendisini bile sansürlemesidir. Reddit. Bing Image Creator’ın rastgele bir görüntü oluşturan bir ‘beni şaşırt’ düğmesi vardır (rastgele bir arama üreten Google’ın ‘Kendimi şanslı hissediyorum’ düğmesinin eşdeğeri). Ancak işin ilginç yanı şu; yapay zeka bir görüntü oluşturuyor ve ardından onu hemen sansürlüyor.
Adil olmak gerekirse bunun bir sürpriz olduğunu düşünüyoruz – ve bu, Microsoft’un Image Creator’a yönelik sansürünün çok ileri gittiğini, kullanışlılığını en azından bir dereceye kadar sınırladığını uygun bir şekilde gösteriyor gibi görünüyor. Başlangıçta da söylediğimiz gibi, bu bir ileri adım, sonra hızlı bir geri adım durumudur.
Windows Central, Bing’in otosansürüne ilişkin bu senaryoyu tekrarlayabildiğini ve bunun nadir bir olay bile olmadığını, bildirildiğine göre üçte bir oranında gerçekleştiğini gözlemliyor. Microsoft’un bu alanda biraz daha ince ayar yapmasının zamanı gelmiş gibi görünüyor; ancak doğruyu söylemek gerekirse, yeni yetenekler kullanıma sunulduğunda, muhtemelen bir süre için ayarlamalar uygulanacaktır – yani belki de bu çalışma zaten devam ediyor olabilir.
Microsoft’un denklemin “üzülmekten ziyade güvenli” tarafında çok fazla hata yapması tehlikesi, bunun sonuçta yaratıcılığı keşfetmeyle ilgili olması gereken bir aracın kullanışlılığını sınırlayacak olmasıdır.
Bu bağlamda Bing AI ile ilgili neler olup bittiğini kontrol etmek için Microsoft’a ulaştık ve geri bildirim alırsak bu hikayeyi güncelleyeceğiz.
