Neredeyse on yıl önce Turing Ödülü sahibi ve şimdi eski Google çalışanı olan Dr. Geoffrey Hinton’un yapay zeka öğrencileri arasında coşkuyla “Beynin nasıl çalıştığını şimdi anlıyorum!” Ancak şimdi, “Yapay zekanın vaftiz babası” Google’dan uzaklaştı ve yapay zeka alarm zillerinin çaresizce çaldığını duymaya daha yatkın.
bir çıkış röportajı New York Times (yeni sekmede açılır), Hinton, yapay zekanın hızla yayılmasıyla ilgili derin endişelerini dile getirerek, “kötü aktörlerin onu kötü şeyler için kullanmasını nasıl engelleyeceğinizi görmek zor” dedi.
Doğrudan bir hat, Hinton’un nöral ağlar alanındaki onlarca yıllık öncü çalışmalarını günümüzün sohbet robotlarına (ChatGPT, Google Bard, Bing AI) bağlar. On yıldan uzun bir süre önce yaptığı atılımlar, Google’ın bilgisayarların görüntüleri, metinleri ve konuşmaları insanların yaptığı gibi yorumlamasına yardımcı olabilecek yeni nesil derin öğrenme sistemleri geliştirmesi için onu yanına almasına yol açtı.
W ile konuşmakkızgın 2014 yılında (yeni sekmede açılır)Hinton’un coşkusu açıktı: “Sinir ağlarını daha iyi hale getirmenin bir yolunu keşfettiğimizde ve bu beynin çalışma şekliyle yakından ilgili olduğunda çok heyecanlanıyorum.”
Çok farklı bir Hinton konuştu New York Times (yeni sekmede açılır) Bu hafta, AI’nın insanlığı raydan çıkarabileceği tüm yolları özetlemek için. İşte önemli çıkarımlar:
Rekabet için acele etmek, korkulukların uçup gitmesi anlamına gelir
Hinton, Microsoft, Google ve OpenAI gibi şirketler genellikle yapay zeka geliştirme ve chatbot dağıtımı konusunda yavaş ve temkinli bir yaklaşım izlediklerini itiraf etse de, dedi. New York Times gerçeğin, artan rekabetin daha az temkinli bir yaklaşımla sonuçlanmasından endişe duyduğunu söyledi. Ve açıkça haklı: Bu yılın başlarında Google’ın, Microsoft’un ChatGPT destekli Bing AI’sinin sürpriz görünümünü karşılamak için primetime hazır olmayan bir Bard’ı aceleyle dışarı çıkardığına tanık olduk.
Bu şirketler, rekabette önde olmak için bir pazar zorunluluğunu (örneğin, Google’ın aramada 1 numara olarak kalması) daha büyük fayda ile dengeleyebilir mi? Dr. Hinton artık ikna olmamıştır.
gerçeğin kaybı
Hinton, AI’nın çoğalmasının sahte çevrimiçi içerik seline yol açmasından endişe ediyor. Tabii ki, insanlar artık düzenli olarak yapay zeka müziği tarafından kandırıldıklarından, bu gerçek zamanlı bir endişe olmaktan çok gelecekle ilgili bir endişe. ustaların ses yeteneklerini taklit eder (ölenler dahil), AI haber görselleri (yeni sekmede açılır) gerçek ve üretken görüntüler olarak ele alınması kazanan fotoğraf yarışmaları (yeni sekmede açılır). Deep fake’lerin gücü ve yaygınlığıyla, bugün izlediğimiz çok az video göründüğü gibi alınabilir.
Yine de, Dr. Hinton bunun sadece başlangıç olduğu konusunda haklı olabilir. Google, Microsoft, OpenAI ve diğerleri bu konuda bir şeyler yapmadıkça gördüğümüz ve hatta duyduğumuz hiçbir şeye güvenemeyeceğiz.
Yıkılmış bir iş piyasası
Hinton uyardı Kere AI, yapmak istemediğimiz görevlerden daha fazlasını üstlenecek şekilde ayarlanmıştır.
Birçoğumuz sunumlar, teklifler ve hatta programlama yazma konusunda Bard ve ChatGPT gibi ChatBot’ları bir tur attık. Çıktının çoğu prime time için hazır değil, ancak bir kısmı ya da en azından fena.
şu anda var satılık düzinelerce yapay zeka ürünü roman Amazon’da ve ABD’deki senaristler birliği (Amerika Yazarlar Birliği), yeni bir sözleşme üzerinde anlaşmazlarsa stüdyoların işlerini yapay zekaya devretmek. Doğrudan AI ile bağlantılı yaygın işten çıkarmalar olmasa da, bu güçlü araçların büyümesi bazılarının işgücünü yeniden düşünmek.
Beklenmedik ve istenmeyen davranış
Sinir ağlarının ve derin öğrenme yapay zekasının ayırt edici özelliklerinden biri, kendi kendine öğretmek için geniş veri alanlarını kullanabilmesidir. Bu insan beyni benzeri gücün istenmeyen sonuçlarından biri, yapay zekanın hiç tahmin etmediğiniz dersler çıkarabilmesidir. Kendi kaderini tayin eden bir yapay zeka, bu derslerde yapay zeka olabilir. Hinton, yalnızca programlamakla kalmayıp daha sonra kendi programlamasını çalıştırabilen bir yapay zekanın, özellikle istenmeyen sonuçlarla ilgili olduğu için özellikle endişe verici olduğunu söyledi.
AI bizden akıllı olacak
Mevcut yapay zeka genellikle insanlardan daha akıllı görünür, ancak halüsinasyon eğilimi ve üretilmiş gerçeklerle, en büyük zihinlerimizle eşleşmekten çok uzaktır. Hinton, yapay zekanın bizi zekasıyla alt edeceği günün hızla yaklaştığına ve kesinlikle başlangıçta tahmin ettiğinden daha hızlı olduğuna inanıyor.
Yapay Zeka, empati kurabilirmiş gibi davranabilir – son denemesine şu şekilde bakın: tıbbi tavsiye için bir kaynak (yeni sekmede açılır) – ama bu gerçek insan empatisi ile aynı şey değil. Her şeyi çözebilen, ancak seçimlerinin insanları nasıl etkileyeceğini düşünmeden süper akıllı sistemler, derinden endişe vericidir.
Hinton’un uyarıları, icat ettiği teknoloji sektörüne yönelik orijinal coşkusuyla taban tabana zıt olsa da, söylediği bir şey kablolu 2014’te insan beynini taklit eden yapay zeka sistemleri üzerindeki çalışma hakkında şimdi garip bir şekilde ileri görüşlü geliyor: “Deli saçak olmayı bıraktık. Artık çılgın çekirdeğiz.”
