Bu bölümde misafirim, Verge için kıdemli yapay zeka muhabiri olan Hayden Field oluyor. Hayden programa geldiğinde genellikle yapay zeka dünyasında bir sorun yaşandığı zamandır. Geçen hafta sonu, o sorun, Anthropic, Trump yönetimi ve Anthropic’in yeni yapay zeka modeli Fable 5’in karıştığı yoğun bir durumdu.
Cuma günü, Anthropic’in Fable’ı halka sunmasından sadece bir hafta geçmişti, ABD hükümeti bu yeni model ve Fable’ın dayandığı Mythos modeline ihracat kontrolleri getireceğini duyurdu. Bu kontroller, ABD’de çalışan yabancı uyrukluların, bu modellere erişimini kısıtladı. Ardından Anthropic, Fable ve Mythos’u herkes için çevrimdışı hale getirdi çünkü şirket, bu modellere erişimi sınırlayamayacaklarından endişeliydi.
Düşündüğünüz gibi, durum oldukça karmaşık. Hayden aslında bu olayın nasıl geliştiği hakkında mükemmel bir detay yayınladı ve her iki tarafın da geçen hafta sonu boyunca yaşananları nasıl çözmeye çalıştığına dair yoğun anları içermekte. Bu yüzden onu çağırıp zaman çizelgesini ve ne anlama geldiğini anlatmasını istedim.
Durum devam ediyor. Salı günü kaydı alırken, Fable hâlâ çevrimdışı. Aslında, Claude’yi açtığınızda sohbet penceresinin üst kısmında “Fable 5 mevcut değil.” yazıyor. Ancak Hayden’ın açıklayacağı üzere, Fable bu hafta çevrimiçi geri döner mi bilmiyoruz ama hükümetin Anthropic ile olan çatışmasının teknoloji endüstrisi ve ABD’nin yapay zeka düzenleme rejimi için çok geniş kapsamlı sonuçları olacak.
Bir de büyük bir ironi var burada, Hayden ve ben bunun üzerine de konuşacağız: Anthropic, yıllardır yapay zekanın tehlikeli olabilecek kadar güçlü hale geleceğini savunuyor ve hükümetin bu konuda ciddileşmesi gerektiğini savunuyor. İşte buradayız, ama Anthropic bunun nasıl gerçekleştiğine pek memnun değil.
Şimdi herkes – belki özellikle Çin hükümeti – ABD’nin yapay zeka düzenleme yaklaşımının ciddi bir güvenlik çerçevesine dönüşüp dönüşmeyeceğini izliyor. Yoksa bu, Beyaz Saray’ın diz çökmesini istemeyen şirketler ve bireyler karşısında kullandığı başka bir silah mı olacak? Gerçekten karmaşık bir durum.
Tamam: Verge kıdemli yapay zeka muhabiri Hayden Field, Claude Fable yasaklaması ve yeni yapay zeka düzenleyici manzarası hakkında. İşte başlıyoruz.
Bu transkript kısa ve açık bir şekilde düzenlenmiştir.
Hayden Field, sen The Verge için kıdemli yapay zeka muhabirisiniz. Decoder programına yeniden hoşgeldiniz.
Teşekkür ederim. Burada olmak harika.
Buradayken her zaman bir karmaşa var, Hayden. Bunu keşfettim.
Gerçekten öyle. Benim kuralım hâlâ geçerli, her zaman bir Cuma günü oluyor. Her şey her zaman bir Cuma günü patlıyor, bu da farklı değildi.
Özellikle hükümetin yapay zekayı düzenlemesiyle ilgili bir durum olduğunda, “Cuma günü her şey felç oldu, bu yüzden tüm hafta sonunu düşünmemiz gerekti” durumu var. Bu, Trump yönetimi boyunca temel bir gerçek oldu. Pazartesi günü her şeyi toparlamak için aceleyle geri dönmek hemen devreye giriyor.
Kesinlikle. Her şeyin üzerinde tüm hafta sonu boyunca toplantıların yapılması ve sonra Pazartesi günü hâlâ çözüm bulunmaması çılgınca. Şu ana kadar hiçbir şeyin hala çözüme kavuşmaması beni şaşırtıyor, ama evet, çokça dram var.
Peki, bu podcast bir Perşembe günü yayınlanacak. Biz Salı günü kaydediyoruz. Önümüzdeki iki günde neler olacağını göreceğiz. Ama burada büyük resim, ABD hükümetinin yapay zekayı nasıl düzenlemesi gerektiği ve bunun Amerikan yapay zeka şirketleri için dünya sahnesinde ne anlama geldiği açık.
Tüm hikayeyi anlamaya çalışalım ve sonra bu temaları ortaya çıkaralım, çünkü her yeni modelle birlikte sürekli olarak geri döneceğini düşünüyorum. Başlayalım başlangıçtan. Claude Mythos nedir? Fable nedir? Birbirleriyle nasıl ilişkilidirler?
Harika bir soru. Bununla ilgili geçen hafta Anthropic’e aynı şeyi sordum. Yapay zeka şirketlerinin isimlendirme konusunda gerçekten başarısız olduğunu ve bu durumun her zaman kafa karıştırıcı olduğunu biliyorsunuz. Ama durum şu: Mythos, Mythos 5 ve Fable 5’i destekleyen temel modeldir. Fable, yeni bir model. Önceki Fable 1, 2, 3 veya 4 yoktu; doğrudan Fable 5 ile başladılar, oldukça kafa karıştırıcı. Ama Fable, Mythos 5’in sulandırılmış veya güvence altına alınmış versiyonudur. Mythos Önizleme’yi Nisan’da çıkardıklarında, Anthropic bunu çok fazla abartıyordu. Bu potansiyel bir siber silah olabilir. Kamuya asla sunulamaz, en azından güvenlik önlemleri eşleşinceye kadar. Bunu sadece işletmelere ve hükümetlere veya “siber savunucular” dedikleri yerlere sunacağız — kötü niyetli kişilerin bu zayıf noktaları istismar etmeden önce tüm çerçevelerini düzeltmelileri gereken yerler.
Şimdi, geçen haftaya dönelim; Anthropic sadece Mythos 5’i değil, aynı zamanda Mythos sınıfı modellerinin ilk kamuya açık versiyonu olan Fable 5’i de yayınladı. Aynı temel yapı ama şimdi üstüne birçok güvenlik tedbiri eklenmiş, kamuoyunun bu son derece tehlikeli — Anthropic’in kendi itirafına göre — modeline erişimini durdurmak amacıyla.
Yani, bu şekilde yayınladılar. Bunun ne kadar tehlikeli olduğunu oldukça fazla abarttılar ve daha sonra bu durum onlara geri döndü.
Fable, güvenlik kısıtlamaları olan bir Mythos. İlk çıktığında, çok fazla tartışma yaşandı değil mi? Yapay zeka ve güvenlik araştırmacıları, bu kısıtlamaların gerçekte araştırma yapmalarını engellediğini ve Fable’ın neler yapabileceğini görmelerini engellediğini buldu.
Evet. İlk çıktığında, kısıtlamaların ne kadar sıkı olduğuna dair insanlar mizah yapmaya başladılar.
Peki, bu çelişkilerden birisi, kısıtlamaların bu kadar sıkı olması ve bir şeyin hükümetin Fable’ın bu kadar tehlikeli olduğunu düşünmesi hakkında ne olduğunu hissediyorsunuz? Neler oldu?
Birkaç bağımsız “red team” (kırmızı takım) ile bu konuyu görüştüm. Amazon beyaz kağıdı yayılmadan önce, bu “jailbreak” (hapisten kaçma) iddiaları kamuya açılmadan önce, bazı red team üyeleri Fable 5’in güvenliğinin ne kadar iyi olduğunu belirtiyordu. Benim içten düşüncelerimyle ilgili olarak, bunun çok daha kolay kırılacağını bekliyordum. Birçok şey denediler ve hiçbir şey çalışmadığı iddiasındaydılar. Bu benim normalde bağımsız red team üyeleriyle konuştuğumdan çok daha farklıydı.
Şimdi, geçtiğimiz hafta sunumlarda gerçekleşen durumlar, Anthropic’e Amazon araştırmacılarının gerçekleştirdiği bazı araştırmalara dikkat çekilmesiyle başladı. Umut verici bir jailbreak tespit etmişlerdi ve bu konuda oldukça endişeliydiler.
Bunu Anthropic’e ilettiler. Anthropic, Amazon araştırmacılarıyla gidip geri görüşüyorlardı, bunun gerçekten bir jailbreak olup olmadığını tartışıyorlardı. Amazon CEO’su Andy Jassy bu durumdan endişelendi ve belki de [Hazine Bakanı] Scott Bessent’i arayarak endişelerini ifade etti.
Trump yönetimi hemen devreye girdi. Onlar hızlı bir şekilde Anthropic’e ulaştılar ve “Bunu 90 dakika içinde kapatmalısınız” dediler.
Evet, 90 dakikalık bir son teklif. Dediler ki, “Açığa çıkan bu jailbreak’i düzeltmek için ne yapacağımızı anlamalısınız.” Anthropic, bu ilk aramadan 15 dakika içinde Trump yönetimi ile telefona geçti ve “Tamam, bunu çözelim. Hangi araştırmadan bahsettiğiniz? Bizim halihazırda bildiğimiz bir şey mi?” diye sormaya başladılar.
Sanırım yönetim, Anthropic’in CEO’su Dario Amodei’nin ilk çağrının üzerinden 1 saat 15 dakika geçtikten sonra geri aramasından dolayı da öfkeliydi. Anthropic, 15 dakika içinde geri aradı; ancak Dario’nun geri dönmesi 1 saat 15 dakika sürdü; yani ortada birçok gelişim vardı. Ancak konuştuklarında 90 dakika geçiyor ve Trump yönetimi “Tamam, bunu yapmadığınız için sizde ihracat kısıtlamaları uygulayacağız.” dediler.
İşte o zaman, Anthropic’e bu modellerden hiçbir yabancı uyruklunun kullanamayacağını ve bunun sağlandığını temin etmelerini söylenmiştir. Eğer birisi, Bank of America gibi, Mythos 5’e erişiyorsa ve bu hesabında zayıflıkları belirlemek için kullanıyorsa, eğer ABD vatandaşının dışında birisi ise bunu yapamaz. Aynı şey, bir sıradan birey için Fable 5’i kullanırken de geçerli; aynı şey, Anthropic’te kendisi de bir ABD vatandaşı olmayan bir araştırmacı için de geçerlidir.
Bu durumda, Anthropic’in yapabileceği tek şey neydi? “Tamam, her iki modeli de bir kenara koymalıyız. 1 dakikada, hiç ABD vatandaşı olmayan kimsenin bu modellere erişmesini sağlamak için bir yol bulamayız.” dediler. İşte bu oldu.
Bir dizi çılgın saat geçmişti. Anthropic daha sonra o gece bir açıklama yaparak Trump yönetimiyle birlikte bu durumu düzeltmeye çalıştıklarını duyurdu. Tüm hafta sonu boyunca yönetim yetkilileriyle sanal toplantılar yapmaya çalıştılar ve ayrıca D.C.’ye üç çalışan göndererek yüz yüze görüşmeler gerçekleştirdiler.
Özellikle, Dario orada yüz yüze yoktu. Tüm bu toplantılara sanal olarak katıldığına dair bir bilgim var; bazı raporların belirttiği üzere, bir sağlık tatilinde de olmadığı kesin.
[Gülmeye başlamadan] Evet, çok şey oluyor, dram dolu. Geçtiğimiz birkaç gün içinde görüştüğüm tüm kaynaklar, tüm teknoloji endüstrisinin ve özellikle siber güvenlik topluluğunun bunun hakkında konuştuğunu belirtti; kaynaklardan biri dedi ki, “Pekin şu anda bizimle dalga geçiyor.”
İlginç bir durum, çünkü siber güvenlik alanındaki bazı liderler bir araya gelerek bir kamu mektubu yazdılar ve “Bakın, aramızda düzenleme konusunda hemfikir olmayanlarımız var; ama eğer düzenleyecekseniz, bu şekilde olamaz,” dediler. Bu, bu durumun tamamının göstergesi gibi geldi.
Belki düzenleme konusunda agresif bir hükümet yaklaşımına inanıyorsunuzdur, belki de inanmıyorsunuzdur. Ancak düzenleme çabalarının titiz, düşünceli, dikkatli ve öngörülebilir bir şekilde çalıştırılabileceği bir yol var. Ancak burada görünen hiçbir şey titiz veya düşünceli ya da öngörülebilir değil.
Bunu başından itibaren ele almak istiyorum. Andy Jassy ve Scott Bessent, toplumda çok yüksek kıdemli pozisyonlara sahip akıllı adamlardır. Ancak Amazon CEO’sunun, AI güvenlik araştırmalarına ilişkin endişeleri Scott Bessent’e iletmesi ve bunun 90 dakikalık bir sonuca yol açması, bir yere varabilecek bir durum mu? Ciddi güvenlik ihlali olup olmadığını sormak gerek.
Sadece bu kadar basit bir durum mu ki, Dario Amodei Beyaz Saray’a gitmiyor? Trump’a hediyeler vermiyor mu? Yani, Sam Altman Trump ile basın toplantıları düzenliyor. Sundar Pichai, yemin törenine katıldı.
Zuckerberg, UFC savaşına katıldı.
[Gülerek] Dario’yu Thanos ile karşılaştırmak sanırım bir yanlış anlama.
Durum kompozit bir durum. Kullanılan pazarlama söylemi kesinlikle geri tepiyor. Eğer bir şeyin bu kadar tehlikeli olduğunu söylüyorsanız ve sonra bir araştırmacı belki de beklenmedik bir şey keşfediyorsa, ardından insanların sarsılacağını tahmin edebilirsiniz. İlk olayda bu şekilde patlayacağını göremiyorum ama kalanlarını tam olarak görmüyorum.
Ama kısaca çok önemli detaylar var. Çeşitli sistemlerin risklerini konuşmak önemlidir ama bunu yaparsanız ve bir hata yapar veya beklenmedik bir şey olursa, sonuçların üstesinden gelmeniz gerekir. Kesinlikle birçok detay var burada.
Yani, her şey AI teknolojisini askeri teknoloji gibi ele almakla mı ilgili? Kamuya sadece sulandırılmış versiyon mu sunuluyor? Zira Trump yönetimi, bu durumun risk profili ile ilgili. Bu kesinlikle saldırgan bir teknoloji.
Böyle bir durumda, alıcılar için sunulmadan önce kesmek gerekmekte mi? Kamuya vermemek için bu şekilde, militar ile standartları karşılaştırarak mı ilerleyeceğiz?
Açıkçası. Mythos ve Fable, bunun bir suistimali. Fable, sulandırılmış versiyon, ancak resmi versiyonu Mythos 5 sadece önceki sürümler. Hem devletler hem de kurumsal kullancıların erişebilirliğini ayarlamak için bu tür kısıtlamalar bulunmakta.
Anthropic para kazanmayı hedefleyen birçok AI şirketinden biri olarak, mevcut durum bu kadar kaotik. İnsanlar bu bekleyişleri nasıl karşılayacak? Hızla gelişiyor ve toplumun inşasını er geç karşılıyor ve doğal yoldan sürdürülmektedir. Herkesin güvenliğe ihtiyaç duyduğuna dair eksikliklerin gürültü çıkaracağını ve bir tür çözüm önerisi başlatmasını beklemekteyiz.
Eminim bu, daha fazla düşünce ve daha az hızla olması gereken bir durum. Ancak işler iç içe geçtiği sürece, olmak içgüdü olarak adlandırılan durum. Fazladan belirlemelerde çözüm sürecine duyulan ihtiyaç.
Kısa vadede neler olacak? Bunu nasıl öngörebiliriz? Bunları çözümleme hususundaki eksiklikler, büyük ölçüde görülecektir. Ve böyle bir durum kesinlikle tartışılmakta. Ama net olacak.
Hayden, bunu tamamlamak adına daha çok zaman harcamamız gerekecek. Zamanlar geliyor, birçok durumla karşı karşıyayız.
Teşekkür ederiz. Decoder için yeniden katılmak çok güzel.
Herhangi bir sorunuz veya yorumunuz var mı? Bize [email protected] üzerinden ulaşın. Gerçekten her e-postayı okuyoruz!
