OpenAI artık makine öğrenimi ile eşanlamlı olabilir ve Google kendini yerden kaldırmak için elinden gelenin en iyisini yapıyor, ancak her ikisi de yakında yeni bir tehditle karşı karşıya kalabilir: en son teknolojiyi zorlayan ve derin cebe bırakan, hızla çoğalan açık kaynaklı projeler. tozları içinde hantal şirketler. Bu Zerg benzeri tehdit varoluşsal olmayabilir, ancak baskın oyuncuları kesinlikle savunmada tutacaktır.
Bu fikir, uzun vadede yeni değil – hızlı hareket eden AI topluluğunda, bu tür bir kesintiyi haftalık olarak görmesi bekleniyor – ancak durum, bir uzman tarafından perspektife yerleştirildi. yaygın olarak paylaşılan belge Google’dan kaynaklandığı iddia ediliyor. Notta “Hendekimiz yok, OpenAI de yok” yazıyor.
Okuyucuyu bu mükemmel şekilde okunabilir ve ilginç parçanın uzun bir özetiyle meşgul etmeyeceğim, ancak işin özü şu ki, GPT-4 ve diğer tescilli modeller aslan payını ve aslında geliri elde etse de, kazandıkları avantaj. finansman ve altyapı ile gün geçtikçe daha zayıf görünüyor.
OpenAI sürümlerinin hızı, sıradan büyük yazılım sürümlerinin standartlarına göre çok yüksek görünebilir: GPT-3, ChatGPT ve GPT-4, iOS veya Photoshop sürümleriyle karşılaştırırsanız, kesinlikle birbirlerinin peşindeydiler. Ama yine de aylar ve yıllar ölçeğinde meydana geliyorlar.
Notun işaret ettiği şey, Mart ayında, LLaMA adlı Meta’dan sızdırılmış bir temel dil modelinin oldukça kaba bir biçimde sızdırılmış olmasıdır. İçinde haftalar, dizüstü bilgisayarlarda ve dakikası kuruşluk sunucularda kurcalayan insanlar, talimat ayarlama, çoklu modaliteler ve insan geri bildirimlerinden pekiştirici öğrenme gibi temel özellikler eklemişti. OpenAI ve Google da muhtemelen kodu araştırıyordu, ancak alt dizinlerde ve Anlaşmazlıklarda meydana gelen işbirliği ve deney düzeyini kopyalayamadılar – kopyalayamadılar.
Meydan okuyanlar için aşılmaz bir engel – bir hendek – oluşturuyor gibi görünen devasa hesaplama sorunu, gerçekten de farklı bir yapay zeka geliştirme çağının kalıntısı olabilir mi?
Sam Altman, probleme parametreler atarken azalan getiriler beklememiz gerektiğini zaten belirtmişti. Daha büyük her zaman daha iyi değildir, elbette – ama çok azı bunun yerine daha küçük olduğunu tahmin ederdi.
GPT-4 bir Wal-Mart’tır ve aslında kimse Wal-Mart’ı sevmez
Şu anda OpenAI ve diğerleri tarafından takip edilen iş paradigması, SaaS modelinin doğrudan soyundan geliyor. Yüksek değere sahip bazı yazılımlarınız veya hizmetleriniz var ve bunlara bir API veya benzeri aracılığıyla dikkatli bir şekilde kapılı erişim sunuyorsunuz. Bu, büyük bir dil modeli gibi yekpare ancak çok yönlü tek bir ürün geliştirmek için yüz milyonlarca yatırım yaptığınızda mükemmel bir anlam ifade eden basit ve kanıtlanmış bir yaklaşımdır.
GPT-4, sözleşme hukukundaki emsaller hakkındaki soruları yanıtlamak için iyi bir genelleme yapıyorsa, harika – “akılının” büyük bir kısmının, şimdiye kadar İngilizce bir eser yayınlayan her yazarın tarzını papağan gibi papağan gibi papağan gibi tekrar etmeye adamış olmasına aldırmayın. GPT-4 bir Wal-Mart gibidir. aslında kimse istiyor oraya gitmek, böylece şirket başka bir seçenek olmadığından emin oluyor.
Ancak müşteriler merak etmeye başlıyor, neden birkaç elma almak için 50 hurda reyonundan geçiyorum? Tek yapmak istediğim bu sözleşmenin dilini birkaç yüz diğeriyle eşleştirmek için biraz zeka kullanmaksa, neden şimdiye kadar oluşturulmuş en büyük ve en genel amaçlı AI modelinin hizmetlerini işe alıyorum? Metafora eziyet etme pahasına (okur hakkında hiçbir şey söylememek), eğer elma almak için gittiğiniz Wal-Mart GPT-4 ise, otoparkta bir meyve tezgahı açıldığında ne olur?
Yapay zeka dünyasında büyük bir dil modelinin, tabii ki (uygun bir şekilde) bir Raspberry Pi üzerinde oldukça kısaltılmış biçimde çalıştırılması uzun sürmedi. OpenAI gibi bir işletme, onun jokeyi Microsoft, Google veya hizmet olarak yapay zeka dünyasındaki herhangi biri için, işlerinin tüm öncülünü etkili bir şekilde dilencilik haline getiriyor: bu sistemlerin inşa edilmesi ve çalıştırılması o kadar zor ki, bunları yapmak zorundalar. Kendin için yap. Aslında bu şirketler, yapay zekanın mevcut iş modellerine uyan bir sürümünü seçip tasarlamış gibi görünmeye başlıyor, tersi değil!
Bir zamanlar kelime işlemeyle ilgili hesaplamaları bir ana bilgisayara boşaltmanız gerekiyordu — terminaliniz yalnızca bir ekrandı. Elbette o farklı bir dönemdi ve biz uzun zamandan beri tüm uygulamayı kişisel bir bilgisayara sığdırabiliyoruz. Cihazlarımız hesaplama kapasitelerini art arda ve katlanarak artırdığından beri bu süreçler birçok kez gerçekleşti. Bir süper bilgisayarda bir şeyler yapılması gereken bu günlerde, herkes bunun sadece bir zaman ve optimizasyon meselesi olduğunu anlıyor.
Google ve OpenAI için zaman beklenenden çok daha hızlı geldi. Ve optimizasyonu yapacak olanlar onlar değildi ve asla bu hızda olmayabilirler.
Şimdi, bu şanssız oldukları anlamına gelmez. Google bulunduğu yere en iyisi olarak gelmedi – en azından uzun bir süre değil. Wal-Mart olmanın avantajları vardır. Şirketler, mevcut satıcılarından makul bir fiyat alabilirlerse ve gemiyi çok fazla sallamazlarsa, istedikleri görevi %30 daha hızlı gerçekleştiren ısmarlama çözümü bulmak zorunda kalmak istemiyorlar. İş dünyasında atalet değerini asla hafife almayın!
Elbette, insanlar LLaMA’yı o kadar hızlı yineliyorlar ki onlara isim verecek devegiller tükeniyor. Bu arada, sevimli, sarımsı kahverengi yüzlerce resim arasında gezinmek için bir bahane buldukları için geliştiricilere teşekkür etmek istiyorum. vekiller çalışmak yerine. Ancak az sayıda kurumsal BT departmanı, OpenAI’nin basit, etkili API’si üzerinden yarı yasal sızdırılmış bir Meta modelinin devam eden Stability’nin açık kaynaklı türevinin bir uygulamasını bir araya getirecek. Yürütmeleri gereken bir işleri var!
Ancak aynı zamanda, Gimp ve Paint.net gibi açık kaynak seçenekleri inanılmaz derecede iyi hale geldiğinden, görüntü düzenleme ve oluşturma için Photoshop kullanmayı yıllar önce bıraktım. Bu noktada, argüman diğer yöne gider. Photoshop için ne kadar ödersiniz? Olmaz, yürütmemiz gereken bir işimiz var!
Google’ın anonim yazarlarının açıkça endişelendiği şey, birinci durumdan ikinci duruma olan mesafenin kimsenin düşündüğünden çok daha kısa olacağı ve kimsenin bu konuda yapabileceği lanet bir şey yok gibi görünüyor.
Ancak, not şunu tartışıyor: kucaklayın. Açın, yayınlayın, işbirliği yapın, paylaşın, uzlaşma sağlayın. Sonuç olarak:
Google, açık kaynak topluluğunda kendisini bir lider haline getirmeli ve daha geniş konuşmayı görmezden gelmek yerine onlarla işbirliği yaparak liderliği ele geçirmelidir. Bu muhtemelen, küçük ULM varyantları için model ağırlıklarını yayınlamak gibi bazı rahatsız edici adımların atılması anlamına gelir. Bu zorunlu olarak modellerimiz üzerindeki kontrolün bir kısmından vazgeçmek anlamına gelir. Ancak bu taviz kaçınılmazdır. Hem yeniliği yönlendirmeyi hem de kontrol etmeyi umut edemeyiz.