Yapay zeka (YZ) modelleri giderek yaygın hale geldikçe, girişimler bu modellerin üzerinde yer alan yazılım katmanını geliştirmek için yarışıyor. Bu alanda dikkat çekici bir yenilik, kullanıcıların hem yerel hem de bulut ortamında farklı YZ modelleri arasında geçiş yapmasını sağlayan Osaurus adında açık kaynaklı bir Apple-özel LLM sunucusu.
Osaurus, kurucu ortağı Terence Pae tarafından “YZ güçlendirilmiş Clippy” tarzında bir masaüstü YZ yardımcı programı olarak tasarlanan Dinoki fikrinden evrildi. Dinoki’nin müşterileri, uygulamayı almanın nedenini sorguladılar; çünkü hala işlem yapmak ve yanıt üretmek için token ödemeleri gerekiyordu.
Bu durum, Pae’nin yerel YZ çalıştırma üzerine daha derin düşünmesine sebep oldu.
“Osaurus böyle başladı,” diyen Pae, daha önce Tesla ve Netflix’te yazılım mühendisi olarak çalışıyordu. Açıklamalarına göre, amaç, bir YZ asistanını yerel olarak çalıştırmaya çalışmaktı. “Mac’inizde dosyalara göz atma, tarayıcıya erişme, sistem yapılandırmalarınıza ulaşma gibi birçok şeyi yerel olarak yapabilirsiniz. Bu, Osaurus’un kişisel bir YZ olarak konumlandırılması için harika bir yol olacağını düşündüm.”
Pae, açık kaynaklı bir proje olarak aracı halkla birlikte inşa etmeye başladı; özellikler ekleyerek ve hataları gidererek geliştirdi.
Günümüzde, Osaurus yerel olarak barındırılan YZ modelleri veya OpenAI ve Anthropic gibi bulut hizmetleriyle esnek bir şekilde bağlantı kurabiliyor. Kullanıcılar, hangi YZ modellerini kullanacaklarını özgürce seçebiliyor ve diğer YZ deneyimi unsurlarını kendi donanımlarında saklayabiliyorlar, örneğin modellerin kendi hafızaları ya da dosyaları ve araçları.
Farklı YZ modellerinin farklı güçlü yanları olduğundan, bu sistemin avantajı, kullanıcıların ihtiyaçlarına en uygun YZ modeline geçiş yapabilmeleridir.
Bu yapı, Osaurus’u “harness” olarak adlandırılan bir kontrol katmanı haline getiriyor; farklı YZ modellerini, araçlarını ve iş akışlarını tek bir arayüz üzerinden bağlayabilen bir sistem. Bu, OpenClaw veya Hermes gibi araçlara benziyor. Ancak, bu tür araçlar genellikle terminal konusunda deneyimli geliştiricilere yöneliktir. Açık kaynaklı bir sistem olsalar da, güvenlik sorunları ve açıklar bulunabilir.
Öte yandan, Osaurus, kullanıcıların kolayca kullanabileceği bir arayüz sunarak, işlemleri donanım tarafından izole edilmiş sanal bir kumanda alanında gerçekleştirir. Bu, YZ’yi belirli bir kapsamla sınırlı tutarak bilgisayarınızı ve verilerinizi korur.
Elbette, YZ modellerini kendi makinenizde çalıştırma uygulaması hala erken aşamalarında; bu işlem kaynak yoğun ve donanım bağımlı. Yerel modelleri çalıştırmak için sisteminizin en az 64 GB RAM’e ihtiyacı var. Daha büyük modeller, örneğin DeepSeek v4 çalıştırmak için Pae, yaklaşık 128 GB RAM olan sistemleri öneriyor.
Ancak Pae, yerel YZ gereksinimlerinin zamanla azalacağına inanıyor.
“Bunun potansiyelini görebiliyorum; çünkü watt başına zeka – bu, yerel YZ için bir ölçü – önemli ölçüde artıyor. Bu kendi yenilik eğrisinde ilerliyor. Geçen yıl, yerel YZ cümleleri tamamlamakta bile zorluk çekiyordu ama bugün gerçekten araçlar çalıştırabiliyor, kod yazabiliyor, tarayıcınıza erişebiliyor ve Amazon’dan şeyler sipariş edebiliyor […] her seferinde daha iyi hale geliyor,” dedi.
Osaurus, günümüzde MiniMax M2.5, Gemma 4, Qwen 3.6, GPT-OSS, Llama, DeepSeek V4 ve diğer modelleri çalıştırabiliyor. Ayrıca, Apple’ın cihaz içi temel modellerini, Liquid AI’nin cihaz içi LFM ailesini desteklerken, bulutta OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama ve LM Studio’ya bağlantı sağlayabiliyor.
Tam bir MCP (Model Context Protocol) sunucusu olarak, herhangi bir MCP uyumlu istemciye araçlarınıza erişim izni verebilirsiniz. Ayrıca, Mail, Takvim, Görüntü, macOS Kullanımı, XLSX, PPTX, Tarayıcı, Müzik, Git, Dosya Sistemi, Arama, Fetch ve daha fazlası için 20’den fazla yerel eklenti ile geliyor.
Son zamanlarda, Osaurus’un ses özellikleri de eklendi.
Proje, yaklaşık bir yıl önce yayına girdiğinden beri, websitesine göre 112,000’den fazla kez indirildi.
Şu anda, Osaurus’un kurucuları (kurucu ortaklarından Sam Yoo da dahil) New York merkezli girişim hızlandırıcısı Alliance’da yer alıyor. Ayrıca, yasal alan veya sağlık alanındaki işletmelere yerel LLM’ler sunmayı düşünecekleri sonraki adımları planlıyorlar; bu da gizlilik endişelerini ele alabilir.
Yerel YZ modellerinin gücü arttıkça, ekip bunun YZ veri merkezlerine olan talebi azaltabileceğini düşünüyor.
“Yapay zeka alanında muazzam bir büyüme görüyoruz; [bulut YZ sağlayıcıları] veri merkezleri ve altyapı kullanarak ölçeklenmek zorundalar, ancak yerel YZ’nin daha fazla değer gördüğünü düşünmüyoruz,” dedi Pae. “Buluta dayanmak yerine, Asya stüdyosunu yerinde dağıtabilirler ve bu, önemli ölçüde daha az enerji tüketmeli. Bulutun yeteneklerine hala sahip olsanız da, o YZ’yi çalıştırmak için bir veri merkezine bağımlı olmazsınız,” şeklinde ekledi.
Makale içerisindeki bağlantılardan yapacağınız alımlarda, küçük bir komisyon kazanabiliriz. Bu, editorial bağımsızlığımızı etkilemez.
