Büyük AI Agentleri Üzerine Yanıltıcı Beklentiler
2025 yılı, büyük AI şirketleri tarafından “AI agentlerinin yılı” olarak müjdelenmişti. Ancak bu yıl, AI agentleri hakkında konuşmakla geçerken, gerçek anlamda dönüşümün 2026 veya daha sonrasına ertelendiği anlaşıldı. Diyelim ki, insanların hayatını tamamen otomatikleştiren, işlerinizi sizin için yapan jeneratif AI robotları ne zaman gelecek? Belki de yanıt, meşhur bir karikatürde olduğu gibi “Asla” denilebilir.
AI Agentlerinin Temel Sınırlamaları
Bir süre önce, “Hallucination Stations: On Some Basic Limitations of Transformer-Based Language Models” adlı bir makale yayınlandı. Bu makalede, dil modeli LLM’lerin belirli bir karmaşıklığın üzerinde hesaplama ve ajans görevlerini yerine getirme kapasitesine sahip olmadığı matematiksel olarak ortaya konuldu. Makalenin yazarları arasında, AI alanının öncülerinden John McCarthy’nin öğrencisi olan eski SAP CTO’su ve onun genç dehası yer alıyor. Bu keşif, agentic cennet hayalini keskin bir şekilde çözmeye başladı.
Güvenilirlik Sorunu
Vishal Sikka, bu sorunların üstesinden gelinmesinin imkansız olduğunu belirtiyor. AI hizmetleri sunan Vianai adlı bir şirketin lideri olan Sikka, “AI agentleri nükleer santralleri yönetebilir mi?” sorusuna “Kesinlikle hayır” yanıtını veriyor. Belki bazı belgeleri doldurabiliriz, fakat hata almaya da hazırlıklı olmalıyız.
AI Endüstrisi Görüş Farklılıkları
AI endüstrisi ise bu görüşe katılmıyor. Özellikle, geçen yıl kodlama alanında önemli başarılar elde edildi. Davos’ta konuşan Google’ın Nobel ödüllü AI başkanı Demis Hassabis, yanlış bilgilendirmeyi azaltma konusunda ilerleme kaydedildiğini vurguladı. Ayrıca, Harmonic adlı bir startup, AI kodlama alanında matematik temelli yeni bir başarı duyurdu. Bu yeni çözüm, LLM’lerin çıktısını doğrulamak için matematiksel yöntemler kullanıyor.
Harmonic ve Gelecek Vizyonu
Harmonic’in kurucu ortakları arasında bulunan Stanford eğitimli matematikçi Tudor Achim, AI sistemlerinin güvenilirliğini garanti etmenin yollarını bulduklarını iddia ediyor. Ancak şu anda, yalnızca matematikle doğrulanabilir alanlara odaklanıyorlar; tarih denemeleri gibi matematiksel olarak doğrulanamayan konular dışındaki alanlar üzerindeki çalışmalarını henüz başlatmadılar.
İki Tarafın Ortak Noktası
Sonuç olarak, AI dünyasında her iki taraf da haklı. Herkes, “hallucination” olarak bilinen yanılsamaların devam edeceğini kabul ediyor. OpenAI’nin yayınladığı son çalışmalara göre, bu hatalar, modelin kullanıcılarına gerçek bilgiler sunamaması açısından büyük bir sorun teşkil ediyor. AI teknolojisinin, bu hatalardan tamamen kurtulması beklenmiyor.
AI agentleri konusunda beklentilerimiz, teknoloji ne kadar ilerlese de, gün geçtikçe daha gerçekçi olmalı. Her ne kadar bazı şirketler “güvenilirlik” için çözümler geliştirmeye çalışsa da, potansiyel kullanıcıların AI’nın sınırlamalarını anlaması kritik öneme sahip. Gelecekte bizi nelerin beklediğini göreceğiz, ancak şu an için, AI’nın yeteneklerini abartmamamız gerektiği açık.
Teknoloji
US-1
