Geliştiriciler, otomasyon araçlarının oluşturulmasında halihazırda birden fazla büyük dil modeli (LLM) ve diğer üretken yapay zeka tabanlı araçları kullanıyor. Ve yakında araçlar birbirini kullanabilecek.
Yapay zeka “sürülerindeki” yeni bir gelişme, siber güvenlik, otomasyon ve aslında genel olarak BT ile ilgilenen herkes için bir uyandırma çağrısı görevi görüyor: OpenAI’nin Swarm’ı.
OpenAI Sürüsü nedir?
OpenAI geçen ay Swarm adında deneysel bir çerçeve başlattı. OpenAI’ye göre bu, insan müdahalesi olmadan karmaşık görevleri yerine getirmek için birlikte çalışabilen otonom AI ajanlarından oluşan ağlar olan ajan AI sürülerinin geliştirilmesine yönelik “hafif” bir sistemdir.
(Temmuz ayında ajanlar hakkında yazmıştım, ancak ajanların kaynaşması hakkında yazmıştım.)
Swarm bir ürün değildir. Yapay zeka aracılarının ağlarını koordine etmek veya düzenlemek için deneysel bir araçtır. Çerçeve, MIT lisansı altında açık kaynaktır (Python geliştiricilerinin yazılımı minimum kısıtlamayla kullanmasına, değiştirmesine ve dağıtmasına olanak tanır) ve GitHub’da mevcut.
GitHub benioku bölümünde OpenAI şunu söylüyor:
“Swarm şu anda çok etmenli sistemler için ergonomik arayüzleri keşfetmeyi amaçlayan deneysel bir örnek çerçevedir. Üretimde kullanılması amaçlanmamıştır ve bu nedenle resmi bir desteği yoktur. (Bu aynı zamanda PR’leri veya sorunları incelemeyeceğimiz anlamına da gelir!)
Swarm’ın temel amacı, Orchestrating Agents: Handoffs & Routines yemek kitabında keşfedilen aktarım ve rutin modellerini sergilemektir. Bağımsız bir kütüphane olarak tasarlanmamıştır ve öncelikle eğitim amaçlıdır.
Swarm tamamen benzersiz değil. Ajan yapay zeka sürülerinin işleyişine yaklaşan, birden fazla aracının orkestrasyonu için mevcut diğer sistemler kullanılabilir. Açıkça sürü için tasarlanmasa da, AI ajanlarının birbirleriyle değişen derecelerde etkileşime girmesini sağlamak için kullanılabilirler. Bunlar şunları içerir: Microsoft AutoGen, CrewAI, LangChain, LangGraph, MetaGPT, AutoGPT ve Haystack.
Swarm basitlik ve göreceli kullanım kolaylığı için tasarlanmış olsa da diğer tüm araçlar daha sağlam, güvenilir, destekleniyor ve kullanıma hazır.
Görünüşe göre OpenAI, Swarm’ı “rutinler” ve “aktarmalar” yoluyla temsilci iş birliğini geliştirmeye yönelik yöntemleri keşfetmek için başlattı. Bu durumda “rutinler”, aracılara görevler veya iş akışları boyunca rehberlik eden önceden tanımlanmış talimatlar dizisidir. Temsilcilerin takip edeceği tarifler olarak hizmet ederler, bu da çoklu temsilci sistemlerine kontrol ve öngörülebilirlik katar. “Devretme”, bir temsilcinin mevcut bağlama göre bir işi diğerine devretmesine olanak tanır. Örneğin, aracı, o görevde uzmanlaşmış bir aracı tarafından daha iyi yönetilebilecek belirli bir şeye ihtiyaç duyuyorsa, bunu devredebilir. Bu “devrediş”, yeni temsilciye görevin geçmişini sağlar, böylece ilerleyeceği bağlam bulunur.
Swarm’ın bir özelliği de vatansız olmasıdır, dolayısıyla aracılar önceki etkileşimlerden hiçbir şey hatırlamaz. Bu basitleştirici unsur aynı zamanda aracı daha basit görevlerle de sınırlandırıyor. (Ancak geliştiriciler aracı etkileşimleri arasında hafızayı mümkün kılan çözümler geliştirebilirler.)
Swarm gerçek üretim için tasarlanmasa da (ve OpenAI bunu sürdürmeyecektir), konseptle amatörce ilgilenmesi, ajan sürülerinin sonunda sıradan hale gelebileceğinin bir göstergesidir.
Bu aynı zamanda ajan sürüsü teknolojisinin giderek daha kullanışlı hale geldiği ve daha iyi bir terim olmadığı için demokratikleştiği bir eğilime de işaret ediyor.
Ajansal yapay zeka sürüsü teknolojisine bakmanın bir yolu, bunun üretken yapay zekanın (genAI) evrimindeki bir sonraki güçlü aşama olmasıdır. Aslında Swarm, GPT-4 gibi Yüksek Lisans’ları kullanan OpenAI’nin Sohbet Tamamlama API’si üzerine kurulmuştur.
API, yapay zeka modelleriyle etkileşimli “konuşmaları” kolaylaştırmak için tasarlanmıştır. Geliştiricilerin doğal dil konuşmalarına katılabilecek sohbet robotları, etkileşimli aracılar ve diğer uygulamaları oluşturmasına olanak tanır.
Günümüzde geliştiriciler, belirli bir görevi yerine getiren, tek seferlik yapay zeka araçları diyebileceğiniz araçlar yaratıyor. Agentic AI, geliştiricilerin farklı spesifik görevlerde uzmanlaşmış çok sayıda bu tür araç oluşturmasına olanak tanıyacak ve daha sonra, aracı, görevin diğer türde bir araç tarafından daha iyi gerçekleştirileceğine karar verirse, her aracın diğerlerini hizmete sokmasına olanak tanıyacak. Bu araç türleri şunları içerebilir:
- 1. paçavra (Geri Alma-Artırılmış Üretim): İlgili alınan bilgilerle metin oluşturmanın geliştirilmesi. Temel olarak, bu temsilcilere “Google’da” görev verilecek ve bulunan bilgilerle eldeki göreve geri dönecekler.
- 2. NL2SQL: Doğal dil sorgularını SQL komutlarına dönüştürme.
- 3. Metin Üretimi: Çeşitli yazılı içerik biçimleri oluşturmak.
- 4. Kod Oluşturma: Doğal dildeki açıklamalara dayalı kod üretmek.
- 5. Veri Analizi: Büyük veri kümelerinin işlenmesi ve yorumlanması.
- 6. Görüntü Üretimi: Metin istemlerinden görüntüler oluşturma.
- 7. Konuşma Sentezi: Metni sözlü sese dönüştürme.
- 8. Dil Çevirisi: Farklı diller arasında çeviri.
- 9. Özetleme: Uzun biçimli içeriğin kısa özetlere yoğunlaştırılması.
- 10. Diyalog Yönetimi: Sohbet robotlarında çok yönlü konuşmaları yönetme.
Kullanıcının seçim yapması, yeni araçlar açması ve esas olarak karmaşık yapay zeka tabanlı görevler için kılavuz ve yapıştırıcı görevi görmesi yerine, aracılar tüm bunları özerk bir şekilde yapacak.
Kullanımı kolay yapay zeka ajanları sürüsü; ne yanlış gidebilir?
Ajansal yapay zeka sürülerinin kurumsal üretkenliği ciddi şekilde artırabileceği, insanların ev işlerinin yükünü hafifletebileceği ve onların daha üst düzey sorumluluklara odaklanmasına olanak verebileceği açıktır.
Riskler de açıktır. Örneğin güvenliği ele alalım.
Şu anda bildiğimiz kadarıyla hiçbir ulus devlet veya devlet destekli bilgisayar korsanı, yapay zeka sürülerini kullanmıyor. Ama o gün mutlaka gelecektir.
Düşman ulus devletler, kötü niyetli keşif ve araştırma, komut dosyası oluşturma ve kodlama, sosyal mühendislik ve kimlik avı içeriği, dil çevirisi ve tespitten kaçınma için genel olarak Yüksek Lisans’ı ve hatta özellikle ChatGPT’yi kullanıyor.
Şu anda, bu ulus devletler için çalışan insanlar bireysel hackleme yapıyor ve LLM’leri bilgi araç setinin bir parçası olarak kullanıyor, sohbet robotlarını manuel olarak yönlendiriyor ve ardından geri dönen sonuçları ihlal girişimlerinde kullanıyor.
Ajansal yapay zeka sürüsü geleceğinde, devlet destekli bilgisayar korsanları bu görevlerin her birini gerçekleştirmek için bireysel uzman yapay zeka ajanları oluşturabilecek ve ajanların gerektiğinde diğer ajanları devreye sokmasına olanak tanıyacak. Bir insan operatörün “darboğazını” ortadan kaldırarak, kötü niyetli bilgisayar korsanlığı çok büyük bir hızda ve inanılmaz bir hızda gerçekleşebilir.
Bu erken aşamada, ajan AI sürü saldırılarına karşı en etkili savunmanın, ajan AI sürü savunmaları olacağını varsaymak mantıklı olacaktır.
Bir başka endişe konusu da aşırı karmaşıklık riskidir. Ajansal AI sürü teknolojisi de dahil olmak üzere Agentic AI, hedefleri takip etmek için özerk bir şekilde çalışır. “Yaratıcı” olabilir veya daha doğru bir ifadeyle, onu oluşturan geliştiriciler ve onu dağıtan kullanıcılar tarafından kendisine verilen hedeflere nasıl ulaştığı tahmin edilemez olabilir. Otonom olduğu için insanlar ne yaptığını veya nasıl yaptığını bilemeyebilir. Ayrıca ajan sürülerinin ne yaptığını, hatta hâlâ faaliyette olup olmadıklarını bile kaçırmak mümkün.
Bireysel çalışanlar, yakından izledikleri ajan yapay zeka sürülerini kullanarak kendi işlerini otomatikleştirebilirler; bu ajanlar, işçiler şirketten ayrıldıktan (veya bir otobüse çarptıktan sonra) çalışmaya devam edebilir.
Kötümser (veya gerçekçi) tahminciler, ajan yapay zeka sürülerinin, insanlar gibi çalışabilecek kapasiteye sahip olmaları nedeniyle iş kayıplarını bile hızlandırabileceğinden korkuyor.
Yapay zeka teknolojisindeki diğer yeni ve güçlü gelişmelerde olduğu gibi, ajan yapay zeka sürüleri de umut ve tehlikelerle doludur.
OpenAI’nin Swarm’ı hakkında bilmeniz gereken önemli şey, sürü halindeki ajanları basitleştirmeye ve demokratikleştirmeye yönelik bir hareketi temsil etmesidir. Bu muhtemelen yakın gelecekte faaliyette olan sürü aracı sayısının katlanarak artması ve teknoloji profesyonellerinin her türlü otomasyon için aracı yapay zeka aracılarını kullanacağı beklentisinin artması anlamına geliyor.
Ajanlar geliyor. Buraya gelmeden önce onlar hakkında her şeyi öğrenmenizi öneririm.