Microsoft, AI güvenliğine olan bağlılığını göstermeye çalışıyor. bir dava değiştirmek Geçen yıl dört geliştiriciyi maskelemek için dosyalandı, ünlü derin dişler üretmek için AI araçlarından kaçındığını iddia etti. Şirket davayı Aralık ayında geri gönderdi ve Microsoft’un operasyonla ilişkili bir web sitesini ele geçirmesine izin veren bir mahkeme emri bireyleri tanımlamasına yardımcı oldu.
Dört geliştiricinin Storm-2139 adlı küresel bir siber suç ağının bir parçası olduğu bildiriliyor: Arian Yadegarnia aka İran’ın “Fiz”; Birleşik Krallık’tan Alan Krysiak aka “Drago”; Ricky Yuen aka Hong Kong’dan “CG-Dot” ve Vietnam’ın Phát Phùng tấn “Asakuri”.
Microsoft, şemaya dahil olduğunu belirlediği başkaları olduğunu, ancak devam eden bir soruşturmaya müdahale etmemek için onları henüz adlandırmak istemediğini söylüyor. Microsoft’a göre grup, üretken AI araçlarına erişimi olan hesapları tehlikeye attı ve istedikleri herhangi bir görüntü türünü oluşturmak için onları “jailbreak” yapmayı başardı. Grup daha sonra, diğer istismarların yanı sıra, ünlülerin derin peynir nüleri oluşturmak için kullanan başkalarına erişim sattı.
Dava açtıktan ve grubun web sitesini ele geçirdikten sonra Microsoft, sanıkların panik moduna geçtiğini söyledi. Blogunda, “Bu web sitesinin ele geçirilmesi ve Ocak ayında yasal başvuruların daha sonra ortaya çıkması, aktörlerden derhal bir tepki yarattı, bazı durumlarda grup üyelerinin birbirlerine açılmasına ve parmaklarını göstermelerine neden oldu” dedi.
Taylor Swift de dahil olmak üzere ünlüler, gerçek bir insanın yüzünü alan ve onu çıplak bir vücutta ikna edici bir şekilde üst üste binen derin bir doyma pornografisinin sık sık hedefleri olmuştur. Ocak 2024’te Microsoft, Swift’in sahte görüntüleri web’de göründükten sonra metin modellerini güncellemek zorunda kaldı. Üretken AI, çok az teknik yeteneğe sahip görüntüleri yaratmayı inanılmaz derecede kolaylaştırıyor – bu zaten ABD’deki lise salgına yol açtı. Derin Takrak Skandalları Yaşamak. Son Hikayeler Deepfakes kurbanları Görüntülerin oluşturulmasının nasıl kurbansız bir eylem olmadığını gösterin, çünkü dijital olarak gerçekleşir, ancak hedefleri endişeli, korkutucu hissettirerek gerçek dünyaya zarar verir ve dışarıdaki birinin bunu yapacak kadar takıntılı olduğunu bilerek ihlal eder.
AI topluluğunda güvenlik konusu ve endişelerin gerçek veya daha çok Openai gibi büyük oyuncuların üretken yapay zekanın gerçek gücünü aşırı hiper vererek satmaya ve ürünlerini satmaya yardımcı olmaya yönelik olup olmadığı konusunda devam eden bir tartışma olmuştur. Bir kamp, AI modellerini kapalı tutmanın, kullanıcıların güvenlik kontrollerini kapatma yeteneğini sınırlandırarak en kötü istismarları önlemeye yardımcı olabileceğini iddia etti; Açık kaynaklı kamptaki kişiler, modellerin değiştirilmesi ve gelişmesi için özgür hale getirilmesinin sektörü hızlandırmak için gerekli olduğuna inanıyor ve inovasyonu engellemeden kötüye kullanımı ele almak mümkün. Her iki durumda da, her şey daha acil tehditten biraz dikkat dağıtıcı bir şey gibi geliyor, yani AI web’i yanlış bilgi ve slop içeriği ile dolduruyor.
Yapay zeka hakkında birçok korku, doğada aşırı şişmiş ve varsayımsal hissediyor ve üretken yapay zekanın kendi ajansını alacak kadar yakın bir yerde olması pek olası görünmese de, AI’nın derin dişler yaratma kötüye kullanımı gerçek. Yasal araçlar, bu istismarların bugün ele alınabilmesinin bir yoludur. ABD’de, küçüklerin derin dişleri üretmek için AI kullanan bireylerden bir sürü tutuklama oldu ve Fakes Yok Yasası Geçen yıl Kongre’de tanıtılan, birinin benzerliğine dayalı görüntüler üretmeyi bir suç haline getirecekti. Birleşik Krallık zaten derin bir porno dağılımını cezalandırıyor ve yakında bir suç olacak üretmek. Avustralya son zamanlarda rıza dışı derin yaprakların yaratılmasını ve paylaşılmasını suçladı.
