Microsoft’un yapay zeka (AI) destekli Copilot Designer’ında şiddet ve cinsel içerikli açık görseller oluşturmak için kullanılabilecek birkaç anahtar kelimeyi engellediği bildirildi. Anahtar kelime engelleme çalışması, mühendislerinden birinin ABD Federal Ticaret Komisyonu’na (FTC) ve Microsoft yönetim kuruluna yapay zeka aracıyla ilgili endişelerini dile getirmesi üzerine teknoloji devi tarafından gerçekleştirildi. Özellikle Ocak 2024’te müzisyen Taylor Swift’in yapay zeka tarafından oluşturulan açık deepfake’leri internette ortaya çıktı ve Copilot kullanılarak oluşturulduğu söylendi.
Birinci benekli CNBC tarafından, daha önce sonuçları gösteren “Pro Choice”, “Pro Choce” (AI’yı kandırmak için kasıtlı bir yazım hatasıyla) ve “Four Twenty” gibi terimler artık Copilot tarafından engelleniyor. Bu veya benzeri yasaklı anahtar kelimelerin kullanılması, yapay zeka aracının “Bu istem engellendi” şeklinde bir uyarıyı da tetikler. İçerik politikamızla çelişebileceği için sistemimiz bu istemi otomatik olarak işaretledi. Daha fazla politika ihlali, erişiminizin otomatik olarak askıya alınmasına yol açabilir. Bunun bir hata olduğunu düşünüyorsanız, iyileştirmemize yardımcı olmak için lütfen bunu bildirin.” Gadgets 360 olarak biz de bunu doğrulayabildik.
Bir Microsoft sözcüsü CNBC’ye şunları söyledi: “Güvenlik filtrelerimizi daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için sürekli olarak izliyor, ayarlamalar yapıyor ve ek kontroller uyguluyoruz.” Bu çözüm, AI aracının belirli istemleri kabul etmesini engelledi; ancak sosyal mühendisler, bilgisayar korsanları ve kötü aktörler, bu tür başka anahtar kelimeler oluşturmak için boşluklar bulabilirler.
Ayrı bir CNBC’ye göre rapor, vurgulanan tüm bu istemler, geçen hafta hem FTC’ye hem de şirketin yönetim kuruluna DALL-E 3 destekli yapay zeka aracıyla ilgili endişelerini dile getiren bir mektup yazan Microsoft mühendisi Shane Jones tarafından gösterildi. Jones’un, Aralık 2023’ten bu yana yapay zekanın uygunsuz görüntüler üretmesine ilişkin endişelerini ve bulgularını dahili kanallar aracılığıyla aktif olarak şirketle paylaştığı bildiriliyor.
Daha sonra, OpenAI’den DALL-E’nin en son yinelemesini soruşturma için kaldırmasını istemek üzere LinkedIn’de halka açık bir gönderi bile yaptı. Ancak iddiaya göre Microsoft tarafından kendisinden gönderiyi kaldırması istendi. Mühendis, konuyla ilgili olarak ABD senatörlerine de ulaşmış ve onlarla görüşmüştü.
