Google, AI Genel Bakışlarından da utanıyor. Geçtiğimiz hafta, teknoloji devinin az pişmiş yeni yapay zeka destekli arama özelliğinden kaynaklanan kalitesiz ve açık yanlış bilgilendirmeyi ortadan kaldıran bir dizi smaç ve mem yağmurunun ardından, şirket Perşembe günü bir tür kabahat yayınladı. Google – adı internette arama yapmakla eşanlamlı olan ve markası “dünyanın bilgisini organize etmeye” ve bunu kullanıcının parmaklarının ucuna getirmeye odaklanan bir şirket – aslında bir blog yazısında yazdı “bazı tuhaf, yanlış veya faydasız Yapay Zeka Genel Bakışları kesinlikle ortaya çıktı.”
Bu hafif bir ifadeyle.
başarısızlığın kabulüGoogle Başkan Yardımcısı ve Arama Direktörü Liz Reid tarafından kaleme alınan bu yazı, yapay zeka teknolojisini her şeye karıştırma çabasının artık bir şekilde Google Arama’yı nasıl daha kötü hale getirdiğinin bir kanıtı gibi görünüyor.
“Geçen hafta hakkında” başlıklı gönderide (bu PR’yi aştı mı?), Reid, Yapay Zeka Genel Bakışının hata yaptığı birçok yolu açıklıyor. Her ne kadar diğer büyük dil modellerinin (LLM’ler) yaptığı gibi “halüsinasyon görmeseler” veya bir şeyler uydurmasalar da, “sorguları yanlış yorumlamak, dildeki bir nüansı yanlış yorumlamak” gibi “başka nedenlerle” bazı şeyleri yanlış anlayabilirler. İnternet’te ya da pek çok harika bilginin mevcut olmaması.”
Reid ayrıca geçtiğimiz hafta sosyal medyada paylaşılan bazı ekran görüntülerinin sahte olduğunu, bazılarının ise “Kaç tane kaya yemeliyim?” gibi saçma sapan sorgulara yönelik olduğunu kaydetti. – daha önce kimsenin gerçekten aramadığı bir şey. Bu konuyla ilgili çok az gerçek bilgi olduğundan, Google’ın yapay zekası kullanıcıyı hiciv içeriğine yönlendirdi. (Kayalar söz konusu olduğunda hiciv içeriği yayınlanan bir jeolojik yazılım sağlayıcısının web sitesinde.)
Google’da “Kaç tane kaya yemeliyim?” diye arattıysanız şunu belirtmekte fayda var. ve size bir dizi yararsız bağlantı veya hatta şakacı bir makale sunulduysa şaşırmazsınız. İnsanların tepki gösterdiği şey, yapay zekanın “jeologlar günde en az bir küçük kaya yemeyi öneriyorsanki gerçek bir cevapmış gibi. Teknik anlamda bir “halüsinasyon” olmayabilir ama son kullanıcının umurunda değil. Bu delilik.
Rahatsız edici olan şey ise Reid’in, Google’ın “güçlü kırmızı ekip çalışmaları” da dahil olmak üzere “lansmandan önce bu özelliği kapsamlı bir şekilde test ettiğini” iddia etmesi.
O halde Google’da hiç kimsenin mizah anlayışı yok mu? Hiç kimse kötü sonuçlar doğuracak istemleri düşünmedi mi?
Buna ek olarak Google, yapay zeka özelliğinin bilgi ve gerçek kaynağı olarak Reddit kullanıcı verilerine olan güvenini de küçümsedi. Her ne kadar insanlar düzenli olarak “Reddit”i aramalarına o kadar uzun süredir eklemiş ve Google sonunda bunu yerleşik bir arama filtresi haline getirmiş olsa da, Reddit gerçeklere dayalı bir bilgi bütünü değil. Ancak yine de yapay zeka, ilk elden Reddit bilgisinin ne zaman yararlı olduğunu, ne zaman yararlı olmadığını ya da daha kötüsü ne zaman trol olduğunu anlamadan soruları yanıtlamak için Reddit forum gönderilerine işaret ediyor.
Reddit bugün verilerini aşağıdaki gibi şirketlere sunarak para kazanıyor Google, OpenAI ve diğerleri kendi modellerini eğitecekler ancak bu, kullanıcıların Reddit’te ne zaman bir yanıt arayacaklarına Google’ın yapay zekasının karar vermesini veya birinin fikrinin bir gerçek olduğunu öne sürmesini istediği anlamına gelmiyor. Reddit’te ne zaman arama yapılacağını öğrenmenin incelikleri var ve Google’ın yapay zekası bunu henüz anlamıyor.
Reid’in de itiraf ettiği gibi, “forumlar genellikle orijinal, ilk elden bilgi için harika bir kaynaktır, ancak bazı durumlarda peynirin pizzaya yapışmasını sağlamak için yapıştırıcı kullanmak gibi pek de yararlı olmayan tavsiyelere de yol açabilir” dedi ve bir tanesine atıfta bulundu. AI özelliğinin geçen haftaki en dikkat çekici başarısızlıklarından biri.
Google AI genel bakışı, peynirin pizzaya yapışmasını sağlamak için yapıştırıcı eklenmesini öneriyor ve kaynağın, F*cksmith kullanıcısının 11 yıllık bir Reddit yorumu olduğu ortaya çıktı 😂 pic.twitter.com/uDPAbsAKeO
— Peter Yang (@petergyang) 23 Mayıs 2024
Geçen hafta bir felaket olsaydı, en azından Google sonuç olarak hızlı bir şekilde yineleniyor – ya da öyle diyor.
Şirket, AI Genel Bakış’tan örneklere baktığını ve saçma sorgular için daha iyi tespit mekanizmaları oluşturmak, yanıltıcı tavsiyeler sunabilecek yanıtlar için kullanıcı tarafından oluşturulan içeriği sınırlamak, sorgular için tetikleyici kısıtlamalar eklemek dahil olmak üzere daha iyisini yapabileceği kalıpları belirlediğini söylüyor. Yapay Zeka Genel Bakışları yararlı olmadı; “tazelik ve gerçekliğin önemli olduğu” zorlu haber konuları için Yapay Zeka Genel Bakışları gösterilmedi ve sağlık aramalarına yönelik korumalara ek tetikleyici iyileştirmeler eklendi.
Yapay zeka şirketlerinin her gün sürekli gelişen sohbet robotları oluşturmasıyla birlikte soru, dünyadaki bilgileri anlamamıza yardımcı olmak açısından Google Arama’dan daha iyi performans gösterip gösteremeyecekleri değil, Google Arama’nın yapay zeka konusunda hızlanıp onlara meydan okuyabileceğidir. geri dönmek.
Google’ın hataları ne kadar saçma olursa olsun, onu yarış dışı saymak için henüz çok erken; özellikle de Google’ın beta test ekibinin (aslında aramayı kullanan herkesten oluşan) devasa ölçeği göz önüne alındığında.
Reid, “Milyonlarca insanın bu özelliği birçok yeni aramayla kullanması gibisi yok” diyor.