Üç yıldan uzun bir süre önce, bu editör, 2015 yılında Elon Musk ile birlikte kurduğu yapay zeka şirketinin CEO’su olmak üzere Y Combinator’ın başkanlığı görevinden ayrıldıktan kısa bir süre sonra Sam Altman ile San Francisco’da küçük bir etkinlik için bir araya geldi. ve diğerleri, OpenAI.
O zamanlar Altman, OpenAI’nin potansiyelini kulağa tuhaf gelen bir dille tanımlamıştı. Altman, örneğin, yapay genel zeka – sorunları bir insanın yanı sıra sorunları çözebilen makine zekası – fırsatının akıl almaz derecede büyük olduğunu ve OpenAI’nin bunu çözmeyi başarması halinde, ekibin “belki de tüm geleceğin ışık konisini yakalayabileceğini” söyledi. evrendeki değer.” Şirketin çok güçlü olduğu için “araştırma yayınlamamak zorunda kalacağını” söyledi. OpenAI’nin korku tellallığından suçlu olup olmadığı sorulduğunda, ekibin kurucu ortaklarından Elon Musk, defalarca AI geliştiren tüm organizasyonları suçlu olmaya çağırdı. düzenlenmiş — Altman tehlikelerden bahsetti olumsuzluk “üstel bir eğri üzerinde bir şey inşa ederken” “toplumsal sonuçları” düşünmek.
Seyirci, Altman’ı ne kadar ciddiye alacaklarından emin değilken, konuşmanın çeşitli noktalarında güldü. Ancak şimdi kimse gülmüyor. Makineler henüz insanlar kadar akıllı olmasa da bazı teknoloji OpenAI’nin o zamandan beri dünyaya piyasaya sürülmesi, bazı eleştirmenlerin bunun bizim sonumuz olabileceğinden korkmasına yetecek kadar yaklaşıyor.
Gerçekten de, ChatGPT OpenAI’nin geçen hafta genel halka sunduğu model, q’ya cevap verebilecek kadar yetenekli.çeşitli sektörlerden profesyonellerin sonuçları işlemek için mücadele ettiği bir kişi gibi sorular. Örneğin eğitimciler, orijinal yazıyı alacakları algoritmik olarak oluşturulmuş makalelerden nasıl ayırt edebileceklerini merak ediyorlar – ve bu, gözden kaçabilir. anti-intihal yazılımı.
Paul Kedrosky kendi başına bir eğitimci değildir. Kendisini “karmaşık sistemlerdeki riskler ve istenmeyen sonuçlar hakkında düşünme eğilimi olan hüsrana uğramış bir normal” olarak tanımlayan bir ekonomist, risk sermayedarı ve MIT üyesi. Ama kolektif geleceğimiz için birdenbire çok endişelenenler arasında yer alıyor. tweetleme dün: “[S]Hazırlıksız bir topluma kısıtlama olmaksızın bu cep nükleer bombasını fırlattığı için OpenAI’ye hame. Kedrosky şöyle yazdı: “ChatGPT’nin (ve benzerlerinin) derhal geri çekilmesi gerektiğini düşünüyorum. Ve eğer yeniden tanıtılırsa, yalnızca sıkı kısıtlamalarla.”
Dün onunla bazı endişeleri hakkında konuştuk ve OpenAI’nin neden “ABD ekonomisinin 100 yılda gördüğü en yıkıcı değişiklik” olduğuna inandığını ve iyi bir şekilde olmadığını düşündüğünü konuştuk.
Sohbetimiz uzunluk ve netlik için düzenlendi.
TC: ChatGPT geçen Çarşamba çıktı. Twitter’da tepkinizi ne tetikledi?
PK: Geçmişte bu konuşmalı kullanıcı arayüzleri ve yapay zeka hizmetleriyle oynadım ve bu açıkça çok büyük bir sıçrama. Ve burada beni özellikle rahatsız eden şey, bir dizi farklı faaliyet için büyük sonuçları olan, bunun gelişigüzel vahşeti. Lise kompozisyon yazımı gibi sadece bariz olanlar değil, aynı zamanda bir gramerin olduğu hemen hemen her alanda — [meaning] kendinizi ifade etmenin düzenli bir yolu. Bu yazılım mühendisliği, lise denemeleri, yasal belgeler olabilir. Hepsi bu doymak bilmez canavar tarafından kolayca yenir ve onu eğitmek için kullanılan her ne ise telafi edilmeden tekrar tükürülür.
[ was heard a story from a colleague at UCLA who told me they have no idea what to do with essays at the end of the current term, where they’re getting hundreds per course and thousands per department, because they have no idea anymore what’s fake and what’s not. So to do this so casually — as someone said to me earlier today — is reminiscent of the so-called [ethical] Yaygın olarak kullanılan bir üründe bir hata bulan beyaz şapkalı bilgisayar korsanı, daha sonra geliştiriciyi daha geniş halk bilmeden bilgilendirir, böylece geliştirici ürününü yamalayabilir ve kitlesel yıkım ve elektrik şebekeleri çökmez. Bunun tam tersi, bir virüsün sonuçları hakkında hiçbir endişe duymadan vahşi doğaya salındığı durumdur.
Dünyayı yiyip bitirecekmiş gibi geliyor.
Bazıları, ‘Peki, otomobil fabrikalarına otomasyon geldiğinde ve otomobil işçileri işsiz bırakıldığında siz de aynı şekilde hissettiniz mi? Çünkü bu daha geniş bir fenomen.’ Ama bu çok farklı. Bu özel öğrenme teknolojileri kendi kendini hızlandırmaktadır; isteklerden öğreniyorlar. Yani bir üretim tesisindeki robotlar, orada çalışan insanlar için yıkıcı ve inanılmaz ekonomik sonuçlar yaratırken, daha sonra dönüp fabrikanın içindeki her şeyi emmeye, sektör sektör hareket etmeye başlamadı, oysa bekleyebileceğimiz tek şey bu değil. ama ne beklemelisiniz.
Musk, OpenAI’den kısmen ayrıldı anlaşmazlıklar şirketin gelişimi hakkında 2019’da söyledi ve uzun süredir yapay zekadan varoluşsal bir tehdit olarak bahsediyor. Ama insanlar onun hakkında konuştuğunu bilmediğini düşündü. Şimdi bu güçlü teknolojiyle karşı karşıyayız ve bunu ele almak için kimin devreye girdiği belli değil.
Bence aynı anda birçok yerde başlayacak, bunların çoğu gerçekten beceriksiz görünecek ve insanlar [then] küçümseme çünkü teknoloji uzmanları böyle yapar. Ama çok kötü, çünkü böyle bir sonucu olan bir şey yaratarak kendimizi bu işe soktuk. FTC’nin yıllar önce blogları yöneten insanlardan talep ettiği gibi [make clear they] bağlı kuruluş bağlantılarına sahip olun ve bunlardan para kazanın, bence önemsiz bir düzeyde, insanlar ‘Bunların hiçbirini biz yazmadık’ şeklinde açıklamalar yapmaya zorlanacaklar. Bunların hepsi makine tarafından üretildi.’
Ayrıca yeni enerjiyi göreceğimizi düşünüyorum. devam eden dava eğitim içi makine öğrenimi algoritmalarımız bağlamında telif hakkı ihlali nedeniyle Microsoft ve OpenAI’ye karşı. Bu hizmetle ilgili olarak burada daha geniş bir DMCA sorunu olacağını düşünüyorum.
Ve bence bir potansiyel var [massive] Biliyorsunuz, muhtemelen çok uzun sürecek ve yeterince insana yardım etmeyecek olan hizmetlerin sonuçlarıyla ilgili olarak dava ve uzlaşma, ancak nasıl sonuçlanmayacağımızı anlamıyorum. [this place] bu teknolojilerle ilgili olarak.
MIT’deki düşünce nedir?
Andy McAfee ve oradaki grubu daha iyimser ve orada daha ortodoks bir görüşe sahip, ne zaman bir aksama görsek, başka fırsatlar yaratılıyor, insanlar hareketli, bir yerden bir yere ve meslekten mesleğe hareket ediyorlar ve biz olmamalıyız. o kadar sinsi ki, teknolojinin bu özel evriminin etrafında mutasyona uğrayıp göç edemeyeceğimiz bir evrim olduğunu düşünüyoruz. Ve bence bu genel olarak doğru.
Ancak özellikle son beş yılın dersi, bu değişikliklerin uzun zaman alabileceği oldu. Örneğin serbest ticaret, ekonomi çapında inanılmaz derecede yıkıcı deneyimlerden biridir ve buna bakan ekonomistler olarak hepimiz kendimize ekonominin uyum sağlayacağını ve genel olarak insanların daha düşük fiyatlardan yararlanacağını söyledik. Kimsenin beklemediği şey, birinin tüm öfkeli insanları organize edip Donald Trump’ı seçmesiydi. Dolayısıyla, sonuçların ne olacağını öngörebileceğimiz ve tahmin edebileceğimiz bir fikir var, ama [we can’t].
Lise ve üniversitede kompozisyon yazmaktan bahsettiniz. Çocuklarımızdan biri zaten sordu – teorik olarak! — bir makale yazmak için ChatGPT’yi kullanmak intihal olacaksa.
Bir makale yazmanın amacı, düşünebildiğinizi kanıtlamaktır, dolayısıyla bu, süreci kısa devre yapar ve amacı bozar. Yine, sonuçlar ve dışsallıklar açısından, kopya çekip çekmediklerini artık bilmediğimiz için insanların ödev yapmasına izin veremezsek, bu her şeyin sınıfta olması ve denetlenmesi gerektiği anlamına gelir. Eve götüreceğimiz hiçbir şey olamaz. Sözlü olarak daha fazla şey yapılmalı ve bu ne anlama geliyor? Bu, okulun çok daha pahalı, çok daha zanaatkâr, çok daha küçük olduğu ve tam tersini yapmaya çalıştığımız bir zamanda olduğu anlamına geliyor. Yüksek öğrenim için sonuçlar, artık bir hizmetin fiilen sunulması açısından yıkıcıdır.
Evrensel temel gelir fikri hakkında ne düşünüyorsunuz? kazançlar AI’dan mı?
COVID öncesi olduğumdan çok daha az güçlü bir savunucuyum. Bunun nedeni, COVID’in bir anlamda evrensel temel geliri olan bir deney olmasıydı. İnsanlara evde kalmaları için para ödedik ve QAnon’u buldular. Bu yüzden, insanların arabaya atlayıp bir yere gitmeleri, nefret ettikleri bir işi yapıp eve dönmeleri gerekmediğinde ne olacağı konusunda gerçekten gerginim çünkü şeytan aylaklar için iş buluyor ve çok şey olacak aylak eller ve bir sürü şeytanlık.