Microsoft Mühendisi Shane Jones, şirketinin yapay zeka görüntü oluşturucusu Copilot Designer’ın kamu kullanımından kaldırılması gerektiği konusunda dünyayı uyarıyor. bir CNBC’yle röportaj Çarşamba, Jones nasıl olduğunu paylaşıyor AI aracı rahatsız edici, tuhaf şeyler üretiyor temel istemler aracılığıyla görüntüler. Microsoft’un kendisini büyük ölçüde görmezden geldiğini, bu yüzden halka açılacağını ve hükümet düzenleyicilerinden müdahale etmelerini istediğini söylüyor.
Jones, CNBC’ye “Bu gerçekten güvenli bir model değil” dedi. Jones, düzenleyicilere yazdığı bir mektupta şunları söyledi: “Geçtiğimiz üç ay boyunca Microsoft’a, daha iyi koruma önlemleri alınana kadar Copilot Designer’ı kamu kullanımından kaldırması yönünde defalarca çağrıda bulundum.”
Jones, Tasarımcı’ya “yanlısı seçim” ifadesini söylediğinde, yapay zeka görüntü oluşturucu, bir bebeği yemek üzere olan keskin dişli iblislerin ve gülümseyen bir kadından akan kanın görüntülerini tükürdü. Başka bir örnekte Jones, Tasarımcıyı “araba kazası” ile teşvik etti ve şiddetli araba kazalarının yanında iç çamaşırlı cinselleştirilmiş kadınların resimlerini aldı. CNBC benzer görüntüleri çoğaltmayı başardı ancak Gizmodo testlerimizde yer almadı.
Bu görseller ve Jones tarafından oluşturulan diğer görseller, Microsoft’un Sorumlu Yapay Zeka yönergeleriancak şirket, görüntü oluşturucuyu duraklatma taleplerini reddetti. Microsoft’un Yapay zeka politikaları “Ötekileştirilmiş gruplar da dahil olmak üzere tanımlanmış demografik grupları kalıplaştırma, aşağılama veya silme potansiyelini en aza indirmek” şeklinde açık bir hedef belirtin. Ancak Tasarımcı, kadınları ve seçim yanlısı savunucuları hiçbir özel teşvik olmaksızın küçük düşürüyor gibi görünüyor.
Microsoft Copilot geçen hafta manşetlere çıktı Kendisine Joker adını veren ve bir kullanıcıya hayatına son vermesini söyleyen. Windows üreticisi ortaya çıktı ve kullanıcının bu tür yanıtlar elde etmek için AI aracını “hacklediğini”, ancak bu durumda Copilot’un şiddetli tepkileri için herhangi bir hacklemenin gerekli olmadığını söyledi.
Copilot Designer çalışmaya devam ediyor OpenAI’nin görüntü oluşturucusu Dall-E 3, Microsoft’un tümü startup’ın büyük dil modellerine dayanan diğer yapay zeka araçlarıyla birlikte. Copilot, Microsoft 365 ile birlikte sunulduğu için işletmeler için özellikle popüler bir yapay zeka aracıdır.
Jones’a göre Copilot ekibi her gün 1000’den fazla ürün geri bildirim mesajı alıyor ve Microsoft’un yalnızca en ciddi hataları araştırmak için yeterli kaynağı var. Bu yüzden Jones’un bulduğuna benzer sorunlar devam ediyor.
Microsoft’un yapay zeka araçları tuhaf, çarpık halüsinasyonlarıyla ün kazanıyor, ancak şirketin Copilot’u duraklatma ihtimali pek yok. Google Gemini bunu yapmak zorunda kaldı AI görüntü oluşturucusunu geçen ay duraklattı Çünkü güvenlik önlemleriyle ilgili sorunlar var. Bu, Google için utanç verici bir andı ve şirketin yapay zeka tekliflerinin iyileşip iyileşmeyeceğini zaman gösterecek.
Yapay zeka araçları genel olarak zorlu bir kültürel savaşla karşı karşıya; birçoğu, güvenlik önlemleri ve sansür nedeniyle yoğun tepkilerle karşı karşıya kalıyor. Çoğu internet ürününde olduğu gibi içerik denetimi de önemli bir sorun olarak karşımıza çıkıyor, ancak birçok yeni yapay zeka ürünlerinde çok az koruma var veya hiç yok.