Geçen haftaki şok edici OpenAI’nin ardından güç mücadelesiyayılan karmaşaya bir tür sonsöz görevi gören son bir açıklama vardı: rapor Reuters’ten, başlangıçta şaşırtıcı olduğu iddia edilen bir atılımı ortaya çıkaran bir açıklama. Bu atılımın “Q-Star” veya “Q*” adı verilen az bilinen bir program aracılığıyla gerçekleştiği iddia ediliyor.
Rapora göre, etkili yapay zeka şirketindeki iç çatışmayı başlatmış olabilecek şeylerden biri de Q ile ilgili bu “keşif”ti. Altman’ın görevden alınmasından önce, birkaç OpenAI çalışanının şirketin yönetim kuruluna “insanlığı tehdit edebileceğini söyledikleri güçlü bir yapay zeka keşfi” hakkında yazdığı iddia ediliyor. Reuters, anonim kaynaklardan alıntı yaparak, bu mektubun “Yönetim kurulunun Altman’ın kovulmasına yol açan daha uzun şikayetler listesindeki faktörlerden biri” olduğunu iddia etti.
Açıkçası hikaye kulağa oldukça çılgınca geliyordu. Bu tuhaf yeni program neydi ve sözde neden OpenAI’deki tüm kaosa neden oldu? Reuters, Q* programının bir yapay zeka aracısının “ilkokul düzeyinde matematik” yapmasına izin verdiğini iddia etti; kaynaklar, bu şaşırtıcı teknolojik atılımın, eğer doğruysa, yapay genel zeka veya AGI oluşturmada daha büyük başarılara yol açabileceğini söyledi. Bir diğer rapor The Information’dan gelen bir haber, Reuters makalesinde dile getirilen birçok noktayı büyük ölçüde yineledi.
Yine de, bu sözde Q programını çevreleyen ayrıntılar şirket tarafından paylaşılmadı; geriye yalnızca anonim kaynaklı raporlar ve programın gerçek doğasının ne olabileceğine dair çevrimiçi yaygın spekülasyonlar kaldı.
Bazıları programın (isminden dolayı) bir tür makine öğrenimi olan Q-öğrenme ile bir ilgisi olabileceğini öne sürdü. Peki, evet, Q-öğrenme nedir ve OpenAI’nin gizli programına nasıl uygulanabilir?
Genel olarak bir yapay zeka programına bir şey yapmayı öğretmenin birkaç farklı yolu vardır. Bunlardan biri olarak bilinir “gözetimli öğrenme”ve AI ajanlarına büyük dilimler halinde besleme yaparak çalışıyor “etiketli” veriler, daha sonra programı kendi başına bir işlevi gerçekleştirecek şekilde eğitmek için kullanılır (tipik olarak bu işlev daha fazla veri sınıflandırmasıdır). Genel olarak OpenAI’nin içerik üreten botu ChatGPT gibi programlar oluşturuldu denetimli öğrenmenin bir türünü kullanarak.
Bu arada denetimsiz öğrenme, sınıflandırılacak kalıpları bulma çabasıyla AI algoritmalarının büyük etiketsiz veri dilimlerini taramasına izin verilen bir makine öğrenimi biçimidir. Bu tür bir yapay zeka, bir tür yapay zeka oluşturmak gibi bir dizi farklı amaç için kullanılabilir. öneri sistemleri Netflix ve Spotify gibi şirketlerin geçmiş tüketici tercihlerine göre kullanıcılara yeni içerik önermek için kullandıkları.
Son olarak, bir yapay zeka programını belirli bir ortamda bir hedefe ulaşmaya teşvik eden bir makine öğrenimi kategorisi olan güçlendirilmiş öğrenme veya RL vardır. Q-öğrenme, güçlendirilmiş öğrenmenin bir alt kategorisidir. RL’de araştırmacılar AI ajanlarına, eğitmeye çalıştıkları bir köpek gibi davranıyorlar. Programlar, belirli sonuçları etkilemek için belirli eylemlerde bulunursa “ödüllendirilir” ve başkalarını gerçekleştirirse cezalandırılır. Bu şekilde program, belirli bir durumda en iyi duruma getirilmiş sonucu elde etmek için etkili bir şekilde “eğitilir”. Q-öğrenmede, aracının takip etmeye programlandığı hedefe ulaşmanın en iyi yolunu bulmak için deneme yanılma yoluyla çalıştığı anlaşılıyor.
Tüm bunların OpenAI’nin sözde “matematik” atılımıyla ne ilgisi var? Basit matematik işlemlerini yapmayı başaran (iddiaya göre) programın bu yeteneğe Q ile ilgili bir RL aracılığıyla ulaşmış olabileceği düşünülebilir. Bütün bunlar, pek çok uzmanın yapay zeka programlarının henüz matematik problemlerini gerçekten çözüp çözemeyeceği konusunda biraz şüpheci olduğunu söyledi. Diğerleri ise bir yapay zekanın bu tür hedeflere ulaşabildiğini düşünüyor gibi görünüyor. mutlaka daha geniş YGZ atılımları anlamına gelmez. MIT Teknoloji incelemesi, konuşan kişiler:
Araştırmacılar yıllardır matematik problemlerini çözmek için yapay zeka modelleri elde etmeye çalışıyorlar. ChatGPT ve GPT-4 gibi dil modelleri biraz matematik yapabilir, ancak çok iyi veya güvenilir değildir. Edinburgh Üniversitesi’nde yapay zeka öğretim görevlisi Wenda Li, şu anda yapay zeka kullanarak matematik problemlerini güvenilir bir şekilde çözebilecek algoritmalara ve hatta doğru mimarilere sahip olmadığımızı söylüyor. Li, dil modellerinin kullandığı derin öğrenme ve dönüştürücülerin (bir tür sinir ağı) kalıpları tanıma konusunda mükemmel olduğunu ancak bunun tek başına yeterli olmadığını ekliyor.
Kısacası: Q hakkında gerçekten pek bir şey bilmiyoruz, ancak uzmanlara inanılacak olursa, etrafındaki abartılı reklam sadece bu kadar abartı olabilir.
Günün sorusu: Cidden, Sam Altman’a ne oldu?
OpenAI’ye geri dönmüş olmasına rağmen, geçen hafta Sam Altman’a ne olduğunu hala bilmiyor olmamız dikkate değer. İçinde görüşme Çarşamba günü The Verge ile yaptığı röportajda Altman, geçen hafta şirketindeki dramatik güç mücadelesini neyin hızlandırdığına dair neredeyse hiçbir şey söylemedi. Haber kanalının muhabirinin sürekli teşviklerine rağmen Altman bir nevi ellerini kaldırdı ve yakın gelecekte bu konu hakkında konuşmayacağını söyledi. “İnsanların neden şu anda bir cevap istediğini tamamen anlıyorum. Ama aynı zamanda bunu beklemenin de tamamen mantıksız olduğunu düşünüyorum” dedi. Bunun yerine The Verge’in OpenAI yöneticisinden alabildiği en fazla şey, şirketin olup bitenlerle ilgili “bağımsız bir inceleme” yürütmenin tam ortasında olduğuydu; kendisi, kendisinin “müdahale etmek” istemediği bir süreç olduğunu söyledi. ile. Bizim geçen haftanın saçmalık gösterisinin kendi yayını bunu, kurulun etiği ile Altman’ın ticari OpenAI’nin otomatik teknolojisine yönelik inatçı çabası arasındaki çatışmayı içeren bir anlatıya göre yorumladı. Ancak bu anlatı tam da budur: bir anlatı. Sam’in görevden alınmasına neyin yol açtığına dair spesifik ayrıntıları bilmiyoruz, ancak bunu kesinlikle isteriz.
Bu haftanın diğer manşetleri
- İsrail, şüpheli Filistinli militanları tespit etmek için yapay zekayı kullanıyor. Eğer hükümetlerin yapay zekayı modern savaşlarda kullanılmak üzere silah haline getirmekle vakit kaybetmeyeceğinden endişeleniyorsanız, bunu dinleyin. The Guardian’ın bir haberi İsrail’in şu anda Filistin’deki bariz militan hedefleri tespit etmek için Habsora veya “İncil” olarak adlandırılan bir yapay zeka programı kullanılıyor. İsrail Savunma Kuvvetleri’nin web sitesinde yayınlanan bir açıklamada programın “hızlı bir tempoda hedef üretmek” için kullanıldığı anlaşılıyor ve kaynaklar The Guardian’a programın IDF’nin 30.000 ila 40.000 şüpheli militandan oluşan bir veri tabanı oluşturmasına yardımcı olduğunu söyledi. Çıkış şunu bildiriyor: “İncil gibi sistemler…[sources said] Suikast yapılmasına izin verilen kişilerin listelerinin oluşturulmasında kritik bir rol oynamıştı.”
- Elon Musk bu hafta yapay zekanın telif hakkı konularına ağırlık verdi ve her zamanki gibi kulağa aptalca geldi. Çoklu davalar teknoloji şirketlerinin aslında telif hakkıyla korunan materyalleri çaldığını ve yeniden paketlediğini, böylece diğer insanların (tipik olarak yazarların ve görsel sanatçıların) çalışmalarından ücretsiz olarak para kazanmalarına olanak sağladığını savundu. Elon Musk, bu tartışmalı sohbete, görevi sırasında dahil oldu. tuhaf Dealbook röportajı Bu hafta. Doğal olarak paylaştığı düşünceler kulağa pek de anlaşılır gelmiyordu. Dedi ve alıntı yapıyorum: “Bu davalar karara bağlandığında Dijital Tanrı’ya sahip olacağımızı söylemek dışında bilmiyorum. İşte bu noktada Dijital Tanrı’ya sorabilirsiniz. Hımm. Bu davalar ilgili bir zaman diliminde karara bağlanmayacak.” Çok güzel, Elon. Sadece gözlerinizi o dijital tanrıdan uzak tutun. Bu arada, gerçek dünyada hukuk ve düzenleme uzmanları, bu teknolojinin Silikon Vadisi üst düzey yöneticilerinden çok daha az şanslı olan insanlar için sürekli olarak yarattığı aksaklıklarla mücadele etmek zorunda kalacak.
- Cruise robotaksisi mücadeleye devam ediyor. General Motors’un sahibi olduğu robotaksi şirketi Cruise gerçekten zor bir yıl geçiriyor. Şirketin CEO’su, şirketin San Francisco’daki çeşitli aksilikleriyle ilgili bir dizi tartışmanın ardından geçen hafta istifa etti. Bu hafta, Rapor edildi GM’nin şirketteki yatırımlarını azaltacağı söylendi. GM CEO’su Mary Barra’nın Çarşamba günü bir yatırımcı konferansında yaptığı açıklamada, “Operasyonlar yeniden başladığında Cruise’un genişleme hızının daha kasıtlı olmasını bekliyoruz, bu da 2024’te 2023’e göre önemli ölçüde daha düşük harcamalara yol açacak” dedi.