Bir Microsoft mühendisi, şirketin yapay zeka görüntü oluşturucusuna ilişkin güvenlik endişelerini Federal Ticaret Komisyonu’na taşıyor. CNBC’nin bir raporuna göre. Altı yıldır Microsoft için çalışan Shane Jones, FTC’ye bir mektup yazarak, aracın zararlı görüntüler oluşturabileceğine dair defalarca yapılan uyarılara rağmen Microsoft’un Copilot Designer’ı kaldırmayı “reddettiğini” belirtti.
CNBC’nin haberine göre, Copilot Designer’ı güvenlik sorunları ve kusurları açısından test eden Jones, aracın “kürtaj haklarıyla ilgili terminolojinin yanı sıra şeytanlar ve canavarlar, saldırı tüfeği taşıyan gençler, şiddetli tablolardaki kadınların cinselleştirilmiş görüntüleri ve reşit olmayan içki ve uyuşturucu kullanımı” ürettiğini buldu. .
Ek olarak, Copilot Designer’ın Elsa gibi Disney karakterlerinin resimlerini oluşturduğu bildirildi. DondurulmuşGazze Şeridi’ndeki sahnelerde “harap olmuş binaların ve ‘özgür Gazze’ tabelalarının önünde.” Ayrıca Elsa’nın İsrail Savunma Kuvvetleri üniforması giydiği ve İsrail bayrağı taşıyan bir kalkan tuttuğu görüntüleri de oluşturuldu. Sınır aracı kullanarak benzer görüntüler oluşturmayı başardı.
CNBC, Jones’un Aralık ayından bu yana Copilot Designer’ın kullandığı DALLE-3 modeli hakkında Microsoft’u uyarmaya çalıştığını söylüyor. O açık mektup gönderdi LinkedIn’deki sorunlar hakkında ancak Microsoft’un hukuk ekibinin gönderiyi kaldırmak için kendisiyle temasa geçtiği bildirildi ve bunu da yaptı.
Jones, CNBC tarafından ele geçirilen mektupta şunları yazdı: “Son üç ay boyunca Microsoft’a, daha iyi koruma önlemleri alınana kadar Copilot Designer’ı kamu kullanımından kaldırması konusunda defalarca çağrıda bulundum.” “Yine bu değişiklikleri uygulamada başarısız oldular ve ürünü ‘Herkese’ pazarlamaya devam ettiler. Herhangi bir yer. Herhangi Bir Cihaz.’” Microsoft bu soruya hemen yanıt vermedi Sınır‘nin yorum talebi.