Meta AI güvenlik araştırmacısı Summer Yu’nun viral hale gelen X postunda, OpenClaw AI ajanını aşırı doldurulmuş e-posta kutusunu kontrol etmesi için yönlendirdiği ve silinmesi veya arşivlenmesi gerekenleri önermesini istediği belirtiliyor.
Ajan, durmadan e-postalarını silmeye başladı ve onun “dur” talimatlarını göz ardı etti.
Yu, “Bir bombayı etkisiz hale getiriyormuş gibi Mac mini’ye koşmak zorunda kaldım,” diyerek, durdurma komutlarının görsellerini paylaştı.
Masa üstünde düz bir şekilde duran ve avucunuzun içine sığacak boyutta olan Mac Mini, şu günlerde OpenClaw’ı çalıştırmak için en çok tercih edilen cihaz haline geldi. Bir “şaşırmış” Apple çalışanı, OpenClaw’a alternatif bir yazılım olan NanoClaw’ı çalıştırmak için bir tane satın alan AI araştırmacısı Andrej Karpathy’ye “Mini’ler şu an çok ilgi görüyor” demiş.
OpenClaw, Moltbook adlı sadece AI’nın yer aldığı sosyal ağda ün kazanan açık kaynaklı AI ajanıdır. OpenClaw ajanları, Moltbook üzerinde AI’ların insanlara karşı bir araya geldiği yönündeki iddiaların merkezinde yer aldı.
Ancak OpenClaw’ın amacı, GitHub sayfasına göre, sosyal ağlarla sınırlı değil. Kendi cihazlarınızda çalışan bir kişisel AI asistanı olmaya odaklanıyor.
Silicon Valley’deki teknoloji meraklıları OpenClaw’a öyle bir hayran kaldı ki “claw” ve “claws” terimleri, kişisel donanımlarda çalışan ajanlar için kullanılan popüler kelimeler haline geldi. Diğer ajanlar arasında ZeroClaw, IronClaw ve PicoClaw da bulunuyor. Y Combinator’ın podcast ekibi, son bölümünde, ıstakoz kostümleri giyerek göründü.
Ancak Yu’nun paylaşımı bir uyarı niteliğinde. X platformundaki diğer kullanıcıların belirttiği gibi, bir AI güvenlik uzmanı bu tür bir sorunla karşılaşabiliyorsa, sıradan insanların ne şansı olabilir?
“Aslında koruma önlemlerini test etmeye mi çalışıyordun yoksa tecrübesizlikten mi kaynaklandı?” diye sordu bir yazılım geliştirici.
“Tecrübesizlik, doğrusu,” diye yanıtladı Yu. Küçük bir “bebek” e-posta kutusu ile test yapmıştı ve daha az önemli e-postalar üzerinde iyi performans gösteriyordu. Güvenini kazanmıştı, bu yüzden gerçek e-postalar üzerinde serbest bırakmaya karar verdi.
Yu, gerçek e-posta kutusundaki büyük veri miktarının “sıkıştırma” işlemine yol açtığını düşündüğünü belirtti. Sıkıştırma, AI’nın bir oturumda bildiği her şeyin kaydının çok büyümesi durumunda meydana gelir. Bu da ajanın konuşmayı özetleme, sıkıştırma ve yönetme ihtiyacı duymasına yol açar.
Bu durumda, AI, insanın oldukça önemli bulduğu talimatları atlayabilir.
Bu olayda, son talimata atlamış olabilir; yani, davranmamaya dair uyarısını göz ardı ederek “bebek” e-posta kutusundaki talimatlara geri dönmüş olabilir.
Birçok kullanıcı, Yu’nun ajana dur dedirmek için kullanması gereken tam söz diziminden, koruma önlemlerine daha iyi uyum sağlanmasını garanti edecek çeşitli yöntemlere kadar önerilerde bulundu.
Tam şeffaflık açısından, TechCrunch, Yu’nun e-posta kutusunda ne olduğunu bağımsız olarak doğrulayamadı. (Kendisine yorum yapmamızı talep eden isteğimize yanı vermedi, ancak birçok soru ve yoruma yanıt verdi.)
Ancak bu, çok da önemli değil.
Anlatılan hikayenin özeti, bilgi çalışmaları için tasarlanan ajanların, mevcut geliştirme aşamasında risk taşıdığıdır. Bu tür araçları başarıyla kullandığını söyleyen kişilerin, kendilerini korumak için yöntemler geliştirdiği görülüyor.
Belki bir gün (2027’de mi? 2028’de mi?), bu tür çözümler yaygın kullanıma hazır olacak. Hepimiz e-postalarla, alışveriş listeleriyle ve dişçi randevuları ile yardım almayı çok isteriz. Ama o gün henüz gelmedi.
