Geoffrey Hinton, ChatGPT tarafından kullanılan teknolojiyi yarattığı için pişmanlık duyuyor

Bugün ChatGPT gibi konuşma robotları varsa, bu Dr. Geoffrey Hinton tarafından yürütülen araştırma çalışması sayesindedir. 75 yaşındaki bu İngiliz bilim adamı, “kötü aktörlerin bunları kötü amaçlarla kullanmasını engellemenin zor olduğuna” inanarak yapay zekanın yanlış kullanımından pişmanlık duyuyor. Dijital bilimler dünyasında, Toronto Üniversitesi’nin bilgisayar bilimleri bölümünde seçkin bir profesör olan, nörobilimler ve yapay zeka programlarında büyük bir uzman olan Geoffrey Hinton bir otorite figürüdür. Şu anda 75 yaşında olan Kanada’da yaşayan bu İngiliz doğumlu araştırmacı, bir yapay sinir ağının bir insan beyninin işleyişini taklit ederek bağımsız olarak görmeyi, okumayı, yazmayı, saymayı veya çizmeyi “öğrenebilmesi” için algoritmaları uygulayan ilk kişilerden biriydi. . Bu araştırma, şu anda büyük dijital firmalar tarafından geliştirilmekte olan tüm sözde üretici AI programlarını eğitmek için derin öğrenmenin temelini oluşturuyor. Çalışmaları bu nedenle, Amerikan start-up OpenAI’den ChatGPT veya Google tarafından geliştirilen muadili Bard gibi konuşma robotları veya hatta kafa karıştırıcı gerçekçilik fotoğrafları üretebilen Midjourney gibi görüntü oluşturma AI’sı geliştirmeyi mümkün kıldı. Yapay zekanın “vaftiz babası”, yapay zekanın tehlikelerine karşı alarm veriyor Bilimsel araştırma çevrelerinde yapay zekanın “vaftiz babası” lakaplı yapay zekanın bu öncüsü, potansiyel tehditlere karşı bizi uyarmak için yarı zamanlı çalıştığı Google’dan istifa etti. yapay zeka programlarındaki son gelişmelerin insanlığa sunduğu. Araştırmacı, bu Pazartesi günü New York Times’a verdiği bir röportajda, keşiflerinin küresel yüksek teknoloji şirketleri tarafından kullanılmasıyla ilgili hem pişmanlıklarını hem de korkularını ortaya koyuyor. Araştırmacının endişeleri haklı! Dijital etik uzmanı ve GoodAlgo CEO’su Jérôme Béranger’ı ele alıyor. Şirketleri bu yapay zeka sistemlerinde olabildiğince hızlı bir şekilde ustalaşmaya teşvik eden bu Fransız şirketinin patronu, günümüzde yapay sinir ağlarının yapay zekanın giderek daha anlayışlı olmasına izin verdiğini açıklıyor: “Yapay sinir ağları, biyolojik nöronların işleyişinden ilham alan bir bilgisayar sistemidir. . Beynin davranışını son derece özlü bir şekilde taklit eden bu ağlar, yapay zeka programlarının öğrenme mekanizmalarını tasarlamak için kullanılır; örneğin, bir AI cihazı, kedilerin görüntülerini milyarlarca fotoğrafı tarayarak eğitir ve öğrenir. bu yapay sinir ağlarının kullanımı ve geliştirilmesinde: “ChatGPT programı, metin yazmayı öğrenmek için bu süreci kullandı ve kullanmaya devam ediyor. Şu anda kamusal alanı kasıp kavuran AI fenomeni, dijital uzmanlar tarafından teknolojik bir sıçrama olarak tanımlanıyor. Güçteki bu artış, yaşamı boyunca üretken programların sağladığı bu tür performansları görmediğine inanan Geoffrey Hinton gibi en büyük araştırmacıları bile zorluyor. Ayrıca AI’nın gelişiminin herhangi bir kontrol olmadan gerçekleştirildiğini de belirtiyor. Bununla birlikte, yapay zekanın geliştirilmesi ve kullanılmasına ilişkin düzenlemeler ve çerçeveler uygulamaya konulmalıdır” ve Jérôme Béranger şu sonuca varıyor: “Yapay zekanın doğru kullanımına yönelik bu etik çerçeve birkaç yıl içinde değil, şimdi gerçekleştirilmelidir çünkü bu teknolojiler Geoffrey Hinton, yapay zeka tarafından üretilen çok ayrıntılı sahte haberlerin genelleştirilmesinden korkuyor Geoffrey Hinton ile ilgili temel endişelerinden biri, sıfırdan oluşturulan fotoğraflar, videolar ve metinlerdir. internet kullanıcılarını yanıltmak Bilim adamı, çok ayrıntılı bilgilerin bu otomatik olarak üretilmesinin artık “normal insanların doğruyu yanlıştan ayırt etmesine” izin vermeyeceğine inanıyor. Amerikan bankası Goldman Sachs tarafından hazırlanan bir rapora atıfta bulunarak, yapay zekanın gelişiminin ekonomik ve sosyal sonuçları da endişelerinin merkezinde yer alıyor. Bu çalışma, AI teknolojilerinin yakında dünya çapında 300 milyon çalışanın yerini alabileceğini ve en azından şimdilik gerçekten yeni işler yaratmayacağını öngörüyor.



genel-10