AI öncüsü Geoffrey Hinton, Cuma günü Reuters’e verdiği röportajda, yapay zekanın insanlık için iklim değişikliğinden “daha acil” bir tehdit oluşturabileceğini söyledi.
Yaygın olarak “yapay zekanın vaftiz babalarından” biri olarak bilinen Geoffrey Hinton, geçtiğimiz günlerde firmada on yıl geçirdikten sonra Alphabet’ten ayrıldığını duyurdu ve eski işverenini etkilemeden teknolojinin riskleri hakkında konuşmak istediğini söyledi.
Hinton’un çalışması, çağdaş AI sistemlerinin geliştirilmesi için gerekli kabul edilir. 1986’da, yapay zeka teknolojisini destekleyen sinir ağlarının geliştirilmesinde bir kilometre taşı olan “Geri yayılma hatalarıyla öğrenme temsilleri” adlı ufuk açıcı makalenin ortak yazarlarından biridir. 2018’de, araştırma buluşlarının tanınması nedeniyle Turing Ödülü’ne layık görüldü.
Ancak şu anda, makinelerin insanlardan daha fazla zeka elde etmesi ve gezegenin kontrolünü ele geçirmesi durumunda yapay zekanın oluşturacağı olası tehditle ilgili endişelerini açıkça savunan, sayısı giderek artan teknoloji liderleri arasında yer alıyor.
“İklim değişikliğini değersizleştirmek istemem. ‘İklim değişikliği konusunda endişelenmemelisin’ demek istemem. Bu da büyük bir risk” dedi Hinton. “Ama bence bu daha acil hale gelebilir.”
“İklim değişikliği söz konusu olduğunda yapmanız gerekenleri önermek çok kolay: karbon yakmayı bırakın. Bunu yaparsanız, eninde sonunda her şey yoluna girecek. Bunun için ne yapmanız gerektiği hiç de net değil.”
Microsoft destekli OpenAI, Kasım ayında yapay zeka destekli sohbet robotu ChatGPT’yi halka sunduğunda teknolojik bir silahlanma yarışında ilk adımı attı. Kısa sürede tarihin en hızlı büyüyen uygulaması oldu ve iki ayda aylık 100 milyon kullanıcıya ulaştı.
Nisan ayında Twitter CEO’su Elon Musk, OpenAI’nin yakın zamanda piyasaya sürülen GPT-4’ünden daha güçlü sistemlerin geliştirilmesinde altı aylık bir duraklama çağrısı yapan açık bir mektubu imzalayan binlerce kişiye katıldı.
İmzacılar arasında Stability AI CEO’su Emad Mostaque, Alphabet’e ait DeepMind araştırmacıları ve AI öncüleri Yoshua Bengio ve Stuart Russell yer aldı.
Hinton, imza sahiplerinin AI’nın insanlık için varoluşsal bir tehdit olabileceği yönündeki endişelerini paylaşırken, araştırmayı duraklatma konusunda aynı fikirde değil.
“Tamamen gerçekçi değil,” dedi. “Bunun varoluşsal bir risk olduğunu düşünen kamptayım ve bu o kadar yakın ki şu anda çok sıkı çalışmamız ve bu konuda ne yapabileceğimizi bulmak için çok kaynak harcamamız gerekiyor.”
Avrupa Birliği’nde bir milletvekilleri komitesi Musk destekli mektuba yanıt vererek ABD Başkanı Joe Biden’ı Avrupa Komisyonu Başkanı Ursula von der Leyen ile teknolojinin gelecekteki yönü hakkında küresel bir zirve düzenlemeye çağırdı.
Geçen hafta komite, üretici yapay zekayı hedefleyen ve OpenAI gibi şirketleri modellerini eğitmek için kullanılan herhangi bir telif hakkı materyalini ifşa etmeye zorlayacak bir dizi dönüm noktası niteliğindeki teklifi kabul etti.
Bu arada Biden, Beyaz Saray’da Alphabet CEO’su Sundar Pichai ve OpenAI CEO’su Sam Altman da dahil olmak üzere bir dizi AI şirket lideriyle görüştü ve şirketlerin sistemleri hakkında daha şeffaf olmaları gerektiğine dair “açık sözlü ve yapıcı bir tartışma” sözü verdi.
Hinton, “Bunu en iyi anlayanlar teknoloji liderleri ve politikacıların dahil olması gerekiyor” dedi. “Hepimizi etkiliyor, bu yüzden hepimiz bunu düşünmeliyiz.”
© Thomson Reuters 2023
