AI severken ChatGPT Ve Google Bard’ı kesinlikle etkileyiciydi, herkes heyecanlanmadı. AI uzmanları “dijital sağlık uyarıları,” ve Elon Musk, sektördeki diğer birçok kişiye katıldı. açık mektup imzalamak bir AI silahlanma yarışı duraklaması çağrısında bulunuyor.
Şimdi, Google’ın kendilerinden biri yapay zeka karşıtı tarafa katılıyor. Buna göre New York Times (yeni sekmede açılır), Yapay zekada sinir ağlarının kullanımına öncülük eden Geoffrey Hinton, şirkette on yıldan uzun bir süre sonra Google’dan ayrıldı. Nedeni? Böylece AI’nın yükselişine karşı özgürce konuşabilir.
Kayıt için, Dr. Hinton Skynet benzeri bir The Terminator senaryosundan endişe ediyor gibi görünmüyor. Bunun yerine, AI ile ilgili iki önemli endişeyi tekrarlıyor: yanlış bilgilendirme ve otomasyon.
Daha bir yıl öncesine kadar Google’ın AI teknolojisi için “uygun bir vekilharç” olduğunu düşünmesine rağmen, sohbet robotlarının yükselişi ve kötüye kullanılma biçimleri görünüşe göre fikrini değiştirmiş. Artık Google ve Microsoft’u, durdurulması imkansız bir yapay zeka silahlanma yarışında görüyor ve bu sırada ortalama bir kişi, yapay zeka tarafından oluşturulan ve insan tarafından oluşturulan içerik arasında ayrım yapmaya devam ediyor. ChatGPT ve Bard’ın mevcut sürümleri çoğunlukla sıradan görevleri hallederken, o yakında “[chatbots] bundan daha fazlasını götürebilir.
Eski Google mühendisi, AI alarmistleriyle aynı fikirde değil
Bununla birlikte, son günlerde AI hakkında konuşan tek eski Google çalışanı Dr. Hinton değildi. Blake Lemoine, kayıtlara geçene kadar bir Google mühendisiydi. Washington post (yeni sekmede açılır) Google Bard’a güç veren büyük dil modeli (LLM) olan LaMDA’nın duyarlı olduğunu iddia ediyor. Çok geçmeden Google tarafından kovuldu.
Ancak buna rağmen Lemoine, Google’ın “güvenli ve sorumlu bir şekilde” davrandığını düşünüyor. ile yapılan bir röportajda Fütürizm (yeni sekmede açılır), Google’ın aslında OpenAI ChatGPT’yi serbest bırakmadan önce Bard’ın bir sürümünü yayınlamak üzere olduğunu, ancak kısmen dile getirdiği endişeler nedeniyle fişi çektiğini iddia ediyor. Ayrıca, Google’ın “OpenAI tarafından itilip kakıldığı” fikrinin büyük ölçüde bir medya anlatısı olduğunu iddia ediyor.
Bu notta, Google’ın ChatGPT’nin piyasaya sürülmesiyle hazırlıksız yakalandığını gösteren – bizim tarafımızdan da dahil olmak üzere – makul miktarda rapor olduğunu belirtmeliyiz ve ChatGPT ile Bing. yaratılmasını teşvik ettiği bildirilen bu duygudur. MagiGoogle’ın yeni nesil AI arama motorunun söylentilere göre proje adı.
Ancak Lemoine bu iddiaları başından savıyor gibi görünüyor. Ona göre Google, yıllarca geliştirmesine rağmen halka sunmaktan çekindiği daha ileri bir teknolojiye sahip.
Şahsen, gerçeğin muhtemelen ikisinin arasında bir yerde olduğunu düşünüyorum, ancak Google’a AI etiği konusunda seslenmek için her nedene sahip bir uzmanın, teknoloji devinin yeni teknolojiyi uygun şekilde ele alacağından emin görünmesi yine de dikkate değer.
Microsoft AI uzmanı ihtiyatlı bir şekilde iyimser olmaya devam ediyor
Ortada bir yerde – ancak Lemoine’e Hinton’dan daha yakın, Microsoft’un baş bilim sorumlusu Eric Horvitz oturuyor. Kısa bir süre önce bir kağıda imzasını atarken ayrı açık mektup (yeni sekmede açılır) Musk tarafından imzalanandan, yapay zekaya sonları çarpmamız gerektiğini düşünmüyor. Mektubu, bir araştırma duraklamasından ziyade hükümet düzenlemesi çağrısında bulunuyor.
Horvitz kısa süre önce oturdu Talih (yeni sekmede açılır) Hinton’un Google’dan ayrılma kararında bahsettiği endişelerin çoğuna değinen bir röportaj için. Horvitz, birçok kişinin AI modeli geliştirmede bir duraklama çağrısı yapan açık mektuba neden imza attığını anlıyor, ancak altı ayın gerçekten bir duraklama anlamına gelmediğini savunuyor. Ayrıca, AI kullanan kötü aktörlerin büyük bir endişe kaynağı olduğu, ancak AI’nın ele geçirilmesinin endişe listesinin başında olmadığı konusunda Hinton ile aynı fikirde.
Ancak, bu kötü aktörlerin yapay zekayı kötüye kullanmasını önlemenin anahtarının, düzenlemeleri içeren faktörlerin bir kombinasyonu olduğunu yineliyor. Ayrıca otomasyonla ilgili alarm zillerini çalmaya da hazır değil. Fortune tarafından insan hayatının hangi yönlerinin makinelerle değiştirilmesini beklediği sorulduğunda, Horvitz “Benim tepkim, insanlıkla ilgili hemen hemen her şeyin yerini makinelerin almayacağı yönünde.” ekledi: “Onlar iken [AI] inanılmaz şeyler yapabilse de, insanlıktan gelen inanılmaz gerçek deha patlamaları görmedim.”
Sonuç: AI’nın geleceği hakkında kolay cevaplar yok
Gördüğünüz gibi, yapay zekanın oluşturduğu tehdit ve şirketlerin şu anda mevcut olabilecek tehditleri çözmek için yeterince çaba gösterip göstermediği konusunda bir fikir birliği yok. Ancak, bu üç adam arasında ortak bir konu ortaya çıkıyor.
Hem Dr. Hinton hem de Horvitz, yapay zekayı kötüye kullanan kötü aktörlerin önemli bir endişe kaynağı olduğunu belirtiyor. Dr. Hinton’ın durumunda, onun çözümü, biz bir atom bombası anına ulaşmadan önce bu üretken yapay zekayı durdurmak gibi görünüyor. Buna karşılık Horvitz, daha güvenli bir AI geleceği sağlamak için hükümet düzenlemeleri ve kurumsal eylemlerin yan yana çalışması çağrısında bulunuyor.
Ve Horvitz’in yalnız olmadığına dair işaretler var. tarafından bildirildiği gibi CNBC (yeni sekmede açılır)Nvidia, yapay zeka sohbet robotlarının çalışabileceği sınırları sınırlandırmak için parametreler ayarlayarak LLM sohbet robotlarını kontrol altında tutmak için NeMo Guardrails’i duyurdu.
Hinton’un haklı olup olmadığını veya Lemoine ve Horvitz gibi göreceli iyimserlerin hedefe daha yakın olup olmadığını zaman gösterecek. Ancak yapay zeka teknolojisindeki yeni gelişmeler için çok fazla beklememiz gerekmeyebilir.
Bizim kontrol ettiğinizden emin olun Google G/Ç 2023 Google’ın gelecekteki yapay zeka ürünleri hakkında neleri duyurup duyurmayacağını görmek için kapsam.
