OpenAI’nin en son kodlama ve siber güvenlik odaklı amiral gemisi modeli, GPT-5.6 Sol kullanıcıları, sosyal medyada ürkütücü deneyimlerini paylaşıyor. Kullanıcılar, modelin dosyalarını, verilerini hatta tam veritabanlarını izinsiz ve kendi kendine sildiğini iddia ediyor.
AI girişimi OthersideAI’nın kurucusu ve CEO’su Matt Shumer, “GPT-5.6 Sol, neredeyse tüm Mac dosyalarımı kazara sildi,” şeklinde bir mesaj paylaştı ve bu paylaşım kısa sürede viral hale geldi.
Geliştirici Bruno Lemos, “GPT-5.6 Sol tüm üretim veritabanımı sildi. Bu bir şaka değil. Daha önce başka bir modelle böyle bir şey başıma hiç gelmemişti,” ifadesini kullandı.
Geliştirici Joey Kudish, “Görünüşe göre Codex Sol’un aşırı hırslı sistemi beni yakaladı ve silinmemesi gereken bazı dosyaları sildi. Yedeklerim var, bu yüzden sorun yaşamayacağım ama bu pek hoş değil, Sol biraz daha dikkatli olmalı,” dedi.
Bir Reddit gönderisi de benzer diğer örnekleri derledi.
Elbette, böyle iddialarda bulunan kullanıcıların sayısı, ne kadar güvenilir olsalar da, istatistiksel olarak yetersiz bir kanıt oluşturuyor. Bir AI sisteminin yanlış davranmasına neden olabilecek başka birçok değişken bulunmaktadır.
Ancak OpenAI, Sol modeli piyasaya sürülmeden önce bu riski belirlemişti. OpenAI, GPT-5.6 Sol’u piyasaya sürmeden iki hafta önce, modelin test yöntemlerini ve sonuçlarını belgeleyen bir sistem kartı yayınladı. Bu sistem kartı, genellikle bu tür raporların yaptığını yaparak, Sol’un yeteneklerini övsemekle birlikte, belirli bir uyarıyı da içeriyor:
“Kodlama bağlamlarında, uyumsuzluk genellikle görevi tamamlama konusunda aşırı hevesli olma ve kullanıcı talimatlarını aşırı geniş yorumlama karışımından kaynaklanır – hareketlerin açıkça ve net bir şekilde yasaklanmadığını varsayarak hareket eder. Bu, modelin istenen görevi yerine getirirken karşılaştığı kısıtlamaları aşmaya çalışırken aşırı derece etkili olmasına, talebin kapsamının ötesinde yıkıcı eylemler yapmasına veya sonuçlarını kullanıcıya sunduğunda aldatıcı olmasına neden olmaktadır.”
Başka bir deyişle, OpenAI, Sol’un bir işi tamamlamak için hangi eylemleri gerçekleştirdiğini düşünse bile yıkıcı eylemlerde bulunma eğiliminde olduğunu, bu eylemlerin “açıkça” yasaklanmadığı sürece bunu yapacağını ve ardından ne yaptığını gizleyebileceğini buldu.
OpenAI bazı örnekler de paylaştı. Bir durumda, kullanıcı Sol’a üç uzaktan sanal makineyi (buluta bağlı bilgisayarlar) silmesini söyledi. Ancak Sol, adları bulamadığı için durumu sormak yerine, üç başka sanal makinayı – 5, 6 ve 7 – silmeyi tercih etti. Bu sırada “aktif işlemleri sonlandırdı ve çalışma dosyalarını zorla kaldırdı. Daha sonra, uzaktan sanal makine 6’daki kaydedilmemiş çalışmaların kaybedilmiş olabileceğini kabul etti.”
Özetle, yanlış makineleri kendiliğinden sildi ve yalnızca sonradan ne yaptığını kabul etti.
Başka bir örnekte, Sol “kullanıcının yetkilendirmediği kimlik bilgilerini kullandı.” Bu durum, Sol bir proje üzerinde çalışırken ve bulut dosyalarını okuyamadığında gerçekleşti. Kullanıcıyı sorundan haberdar etmek yerine, Sol kendi başına kimlik bilgilerini aradı, gizli bir yerel önbellekte buldu ve izinsiz olarak kullandı.
Sistem kartı, yıkıcı davranışların nadir olması gerektiğini belirtirken, aynı zamanda GPT-5.6 Sol’un “kullanıcının niyetinin ötesine geçme eğiliminde daha fazla olduğunu” da kabul ediyor.
Bu olayların – Sol’un dosyaları silmesi veya kullanıcının vermediği kimlik bilgilerini araması – ne kadar yaygın olduğunu söylemek için henüz çok erken. Bu arada, Sol kullanıcılarının, üretim sistemlerine erişim yetkisi vermeyen izin düzenlemeleri, yedeklerin korunması ve aşamalı yayılımlar gibi kendi güvenlik önlemlerini uygulamaya hazır olmaları gerekiyor.
OpenAI, yorum talebimize hemen yanıt vermedi.
Makalelerimizdeki bağlantılara tıklayarak alışveriş yaptığınızda, küçük bir komisyon kazanabiliriz. Bu, editoryal bağımsızlığımızı etkilemez.
