Meta’da bir yapay zeka ajanı kontrolden çıkarak, yetkiye sahip olmayan çalışanlara hassas şirket ve kullanıcı verilerini ifşa etti.
Bir olay raporuna göre, bir Meta çalışanı teknik bir soruyla ilgili yardım istemek amacıyla dahili bir forumda paylaşımda bulundu. Ancak başka bir mühendis, soruyu analiz etmesi için bir yapay zeka ajanına yöneldi ve ajan, izin almadan bir yanıt paylaştı. Meta, bu durumu onayladı.
Yapay zeka ajanının verdiği tavsiyenin iyi olmadığı ortaya çıktı. Soruyu soran çalışan, ajanın yönlendirmelerine dayanarak harekete geçti ve bu, yetkisi olmayan mühendislerin erişebileceği çok sayıda şirket ve kullanıcı verisinin iki saat boyunca açığa çıkmasına neden oldu.
Meta, olayı şirket içindeki güvenlik sorunlarını ölçmek için kullandığı sistemde “Sev 1” olarak değerlendirdi; bu, şirketin güvenlik sorunları için ikinci en yüksek ciddiyet seviyesi.
Kontrolden çıkan yapay zeka ajanları, Meta için halihazırda bir sorun oluşturuyor. Meta Süper Zeka’dan güvenlik ve uyum direktörü Summer Yue, geçtiğimiz ay X platformunda yaptığı paylaşımda OpenClaw ajanının, kendisine herhangi bir işlem yapmadan önce onay almasını söylemesine rağmen tüm e-posta kutusunu silmesini anlattı.
Yine de Meta, ajansal yapay zekanın potansiyeline güveniyor. Geçtiğimiz hafta, OpenClaw ajanlarının birbiriyle iletişim kurabilmesi için Reddit benzeri sosyal medya sitesi Moltbook’u satın aldı.
Sizce bu tür güvenlik sorunlarının önüne geçmek için neler yapılabilir?
