AI severken ChatGPT Ve Google Bard’ı kesinlikle etkileyiciydi, herkes heyecanlanmadı. AI uzmanları “dijital sağlık uyarıları,” ve Elon Musk, sektördeki diğer birçok kişiye katıldı. açık mektup imzalamak bir AI silahlanma yarışı duraklaması çağrısında bulunuyor.
Şimdi, Google’ın kendilerinden biri yapay zeka karşıtı tarafa katılıyor. Buna göre New York Times (yeni sekmede açılır), Yapay zekada sinir ağlarının kullanımına öncülük eden Dr. Geoffrey Hinton, şirkette on yıldan uzun bir süre sonra Google’dan ayrıldı. Nedeni? Böylece AI’nın yükselişine karşı özgürce konuşabilir.
Kayıt için, Dr. Hinton, çoğunlukla Terminator gibi Skynet benzeri bir senaryo hakkında endişeli görünmüyor. Bundan 30 ila 50 yıl sonra otonom silahlarla ilgili endişelerini dile getirdiği bir an var. Ancak endişeleri çoğunlukla günümüz ve yakın gelecekle ilgili: kontrol eksikliği, yanlış bilgilendirme ve otomasyon.
Bir AI silahlanma yarışı insanlığın çöküşüne yol açabilir
Daha bir yıl öncesine kadar Google’ın AI teknolojisi için “uygun bir vekilharç” olduğunu düşünmesine rağmen, sohbet robotlarının yükselişi ve kötüye kullanılma biçimleri görünüşe göre fikrini değiştirmiş. Artık Google ve Microsoft’u, durdurulması imkansız bir yapay zeka silahlanma yarışında görüyor ve bu sırada ortalama bir kişi, yapay zeka tarafından oluşturulan ve insan tarafından oluşturulan içerik arasında ayrım yapmaya devam ediyor.
Hinton’un AI’nın endişe verici bir hızla büyümesiyle ilgili endişeleri yeni değil. Aslında, yapay zekanın “toplum ve insanlık için derin riskler” oluşturduğunu belirten, daha önce bahsedilen açık mektubun merkezinde yer alıyorlardı. Ve Hinton o mektubu imzalamasa da, şimdi kabul ettiği açık.
Bakın beş yıl önce nasıldı, şimdi nasıl. Farkı alın ve ileriye doğru yayın. Bu korkutucu.
Doktor Geoffrey Hinton
Geçen yıl OpenAI’nin yükselişi ve Google’ın büyük dil modelleri (LLM’ler) ile yaptığı kendi çalışması, devrilme noktası gibi görünüyor. Bu modeller giderek daha büyük miktarlarda veriler üzerinde eğitildikçe, Hinton bu yapay zekanın “aslında beyinde olup bitenlerden çok daha iyi” olduğuna ve beş yıl sonraki potansiyellerinin korkutucu olduğuna ikna oldu.
Hinton, AI teknolojisi hakkında Times’a “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın” dedi. “Farkı alın ve ileriye doğru yayın. Bu korkutucu.”
AI otomasyonu işleri yok edebilir
Bu bizi Dr. Hinton’un ikinci endişesine getiriyor – otomasyon. Yapay zekanın sonunda işlerimizin çoğunu alacağına ve toplumu çökerteceğine dair gerçek bir endişe var. Ve bu olasılıktan hala biraz uzakta olsak da, eğer gelirse, ChatGPT ve diğer yapay zekanın işi elinden aldığına dair bazı kanıtlar gördük.
Bu işin çoğu, Hinton’un “zor iş” olarak adlandırdığı şeydir ve şu anda işlerden çok görevleri ortadan kaldırıyor gibi görünmektedir. Ancak Hinton, yakında bu yapay zekanın gerçek işleri ellerinden almaya başlayabileceğini düşünüyor.
Ayrıca otomasyonun ciddi yanlış adımlara yol açabileceğini düşünüyor. Şirketler, AI’nın yalnızca kod oluşturmasına değil, aynı zamanda bu kodu çalıştırmasına izin verdikçe, insanlardan daha akıllı hale gelebileceklerinden ve artık kontrol edemediğimiz otonom silahlar haline gelebileceklerinden endişe ediyor.
Yapay zekada yanlış bilgi zaten çok yaygın
Son olarak, Hinton yanlış bilgilendirme konusunda endişeli. Hinton, The New York Times’a “Kötü aktörlerin onu kötü şeyler için kullanmasını nasıl engelleyebileceğinizi görmek zor,” dedi.
Ortalama bir insan ‘artık neyin doğru olduğunu bilemeyecek’.
Doktor Geoffrey Hinton
Adil olmak gerekirse, bu çok gerçek ve acil bir endişe. Kötü aktörlerin şifreleri kırmaktan adam kaçırma numarası yapmaya ve daha fazlasına kadar yapay zeka teknolojisiyle kol kola koştuğunu gördük. Ayrıca, yapay zeka ile insan metninin ne zaman ayırt edilemez hale geleceği konusunda şimdiden spekülasyon yapıyoruz ve Hinton, ortalama bir insanın “artık neyin doğru olduğunu bilemeyeceğini” söyleyerek bu anın yakında geleceğini düşünüyor.
Açıkçası bu an zaten burada. Hinton’un daha telaşlı endişelerine katılsanız da katılmasanız da şirketler şimdiden derin sahtekarlıklara tepki gösteriyor. AI görüntü oluşturucu Midjourney, Donald Trump’ın tutuklanmasının ve Balenciaga şişme ceket giyen Papa Francis’in AI tarafından oluşturulan görüntülerinin müjde olarak kabul edilmesinin ardından bu yılın başlarında viral deepfake’ler üzerindeki ücretsiz denemeleri durdurdu.