OpenAI, bilgisayarınızın kontrolünü ele geçirebilecek ve sizin adınıza eylemler gerçekleştirebilecek bir yapay zeka aracını piyasaya sürmeye yakın olabilir.
Yaklaşan yapay zeka ürünlerini doğru bir şekilde sızdırmasıyla tanınan bir yazılım mühendisi olan Tibor Blaho, iddialar OpenAI’nin uzun zamandır söylentileri dolaşan Operatör aracına dair kanıtları ortaya çıkardığı belirtildi. Yayınlar içermek Bloomberg daha önce de rapor edildi Kod yazma ve seyahat rezervasyonu yapma gibi görevleri özerk bir şekilde yerine getirebilen “temsilci” bir sistem olduğu söylenen Operatör üzerinde.
Binaen The Information’a göre OpenAI, Operatörün yayın ayı olarak Ocak ayını hedefliyor. Blaho’nun bu hafta sonu ortaya çıkardığı kod, bu haberciliğin güvenilirliğini artırıyor.
OpenAI’nin macOS için ChatGPT istemcisi, Blaho’ya göre “Operatörü Değiştir” ve “Operatörden Çıkmaya Zorla” kısayollarını tanımlamak için şimdilik gizli olan seçenekler kazandı. Blaho, OpenAI’nin web sitesine Operatör’e referanslar eklediğini söyledi; ancak referanslar henüz kamuya açık değil.
OpenAI web sitesinde halihazırda Operatör/OpenAI CUA (Bilgisayar Kullanım Aracısı) – “Operatör Sistemi Kart Tablosu”, “Operatör Araştırma Değerlendirme Tablosu” ve “Operatör Reddetme Oranı Tablosu” referansları bulunmaktadır.
Claude 3.5 Sonnet Bilgisayar kullanımı, Google Mariner vb. ile karşılaştırma dahil.
(tabloların önizlemesi… pic.twitter.com/OOBgC3ddkU
— Tibor Blaho (@btibor91) 20 Ocak 2025
Blaho’ya göre OpenAI’nin sitesi, Operatörün performansını bilgisayar kullanan diğer AI sistemleriyle karşılaştıran henüz kamuya açıklanmamış tablolar da içeriyor. Tablolar yer tutucu olabilir. Ancak sayılar doğruysa, göreve bağlı olarak Operatörün %100 güvenilir olmadığını gösterir.
OpenAI web sitesinde halihazırda Operatör/OpenAI CUA (Bilgisayar Kullanım Aracısı) – “Operatör Sistemi Kart Tablosu”, “Operatör Araştırma Değerlendirme Tablosu” ve “Operatör Reddetme Oranı Tablosu” referansları bulunmaktadır.
Claude 3.5 Sonnet Bilgisayar kullanımı, Google Mariner vb. ile karşılaştırma dahil.
(tabloların önizlemesi… pic.twitter.com/OOBgC3ddkU
— Tibor Blaho (@btibor91) 20 Ocak 2025
Gerçek bir bilgisayar ortamını taklit etmeye çalışan bir kıyaslama olan OSWorld’de, “OpenAI Bilgisayar Kullanım Aracısı (CUA)” (muhtemelen Operatöre güç veren yapay zeka modeli) Anthropic’in bilgisayar kontrol modelinin önünde %38,1 puan alıyor, ancak %72,4’lük insan modelinin oldukça gerisinde. Gol. OpenAI CUA, yapay zekanın web sitelerinde gezinme ve etkileşim kurma yeteneğini değerlendiren WebVoyager’daki insan performansını geride bırakıyor. Ancak sızdırılan kıyaslamalara göre model, başka bir web tabanlı kıyaslama olan WebArena’daki insan düzeyindeki puanların gerisinde kalıyor.
Sızıntıya inanılacak olursa, operatör aynı zamanda bir insanın kolayca gerçekleştirebileceği görevlerle de mücadele ediyor. Operatöre bir bulut sağlayıcısına kaydolma ve bir sanal makine başlatma görevi veren bir testte Operatör, zamanın yalnızca %60’ında başarılı oldu. Bitcoin cüzdanı oluşturma görevi verilen Operatör, zamanın yalnızca %10’unu başardı.
OpenAI’nin AI ajan alanına yakında girmesi, yukarıda bahsedilen Anthropic, Google ve diğerleri de dahil olmak üzere rakiplerin yeni oluşan segment için oyunlar oynamasıyla birlikte geliyor. AI ajanları olabilir riskli ve spekülatifancak teknoloji devleri zaten onları yapay zekadaki bir sonraki büyük şey olarak tanıtıyor. Binaen Analiz firması Markets and Markets’a göre yapay zeka temsilcileri pazarının değeri 2030 yılına kadar 47,1 milyar dolar olabilir.
Bugünün ajanları oldukça ilkel. Ancak bazı uzmanlar, teknolojinin hızla gelişmesi durumunda güvenlikleri konusunda endişelerini dile getirdi.
Sızan tablolardan biri, Operatörün, sistemin “yasadışı faaliyetler” gerçekleştirmesini ve “hassas kişisel verileri” aramasını sağlamaya çalışan testler de dahil olmak üzere, seçilen güvenlik değerlendirmelerinde iyi performans gösterdiğini gösteriyor. Bildirildiğine göreGüvenlik testleri, Operatörün uzun geliştirme döngüsünün nedenleri arasındadır. Yakın zamanda bir X’te postalamakOpenAI kurucu ortağı Wojciech Zaremba, Anthropic’i güvenlik önlemlerinden yoksun olduğunu iddia ettiği bir ajanı serbest bıraktığı için eleştirdi.
Zaremba, “OpenAI benzer bir sürüm yaparsa olumsuz tepkileri ancak hayal edebiliyorum” diye yazdı.
OpenAI’nin, eski personel de dahil olmak üzere yapay zeka araştırmacıları tarafından, teknolojisini hızlı bir şekilde ürünleştirme lehine güvenlik çalışmalarına vurgu yapmadığı iddiasıyla eleştirildiğini belirtmekte fayda var.
