Üretken yapay zeka alanındaki en son gelişmeleri takip ediyorsanız Google’ın, Google Arama’daki ‘Yapay Zekaya Genel Bakış’ bölümünün tüm ABD’ye sunulmasını hızlandırdığını görmüş olabilirsiniz.
14 Mayıs’ta düzenlenen Google I/O 2024’te Google, Arama’da kullanıcıları şaşırtmayı beklediği bir sonraki büyük şey olarak AI Genel Bakışlarını kendinden emin bir şekilde sundu ve özellik nihayet ertesi hafta kullanıma sunulmaya başladığında pek de hevesli olmayan bir yanıt aldı. Bunun temel nedeni, AI Genel Bakışlarının tuhaf ve tamamen yanlış bilgiler vermesiydi ve şimdi Google, ne olduğunu ve AI Genel Bakışlarının neden bu şekilde performans gösterdiğini açıklayarak yanıt verdi (Google’a göre).
Bu özelliğin, kullanıcı sorgularına daha karmaşık ve daha iyi ifade edilmiş yanıtlar getirmesi, ilgili bilgi havuzunu sentezlemesi ve bunu birkaç uygun paragrafa ayırması amaçlandı. Bu özetin ardından, alıştığımız web sitelerinin kısa açıklamalarını içeren listelenmiş mavi bağlantılar gelecektir.
Ne yazık ki Google, AI Genel Bakış’ın garip, anlamsız ve tamamen yanlış bilgiler sağlayan ekran görüntüleri, kullanıma sunulduktan kısa bir süre sonra sosyal medyada dolaşmaya başladı. Google o zamandan beri bu özelliği geri çekti ve açıklayıcı bir yazı yayınladı AI Genel Bakışının bunu neden yaptığını açıklamak için ‘Anahtar Kelime’ blogunda, belirtildiği gibi, bu ekran görüntülerinin çoğunun sahte olduğunu hemen belirtmek.
Yapay Zeka Genel Bakışlarının ne olması amaçlandı?
Blog yazısında Google ilk olarak Yapay Zeka Genel Bakışlarının, aksini öğrenmek için birden fazla arama yoluyla daha fazla araştırmanız gereken bilgileri toplamak ve sunmak ve bilginin geldiği yere kredi bağlantılarını belirgin bir şekilde dahil etmek için tasarlandığını açıklıyor. özetten kolayca takip edin.
Google’a göre bu, mevcut eğitim verilerine dayalı olarak ikna edici görünen yanıtları bir araya getiren yalnızca büyük dil modelleri (LLM’ler) değil. AI Genel Bakışları, Google’ın aramaları gerçekleştirmek ve ilgili ve yüksek kaliteli bilgileri özete entegre etmek için kullanılan temel web sıralama sistemlerini entegre eden kendi özel dil modeli tarafından desteklenmektedir. Doğruluğun Google’ın arama konusunda övündüğü temel taşlardan biri olduğunu belirten şirket, yalnızca en iyi olduğunu düşündüğü web sonuçlarından elde edilen bilgileri göstermek için Yapay Zeka Genel Bakışlarını oluşturduğunu söylüyor.
Bu, AI Genel Bakışlarının genellikle diğer LLM ürünlerine göre daha az halüsinasyon görmesi gerektiği anlamına gelir ve eğer işler ters giderse, bu muhtemelen Google’ın da arama söz konusu olduğunda karşılaştığı bir nedenden dolayıdır ve olası sorunları “sorguları yanlış yorumlamak, bir bilgiyi yanlış yorumlamak” gibi verir. internetteki dilin incelikleri ya da pek çok harika bilginin mevcut olmaması.”
Kullanıma sunma sırasında gerçekte ne oldu?
Google, AI Genel Bakışının doğruluk açısından optimize edildiğini ve daha geniş bir kullanıma sunulmadan önce kapsamlı bir şekilde test edildiğini belirtiyor, ancak görünüşte sağlam olan bu test çabalarına rağmen Google, bunun, milyonlarca insanın bir dizi yeni aramayla bu özelliği denemesiyle aynı şey olmadığını kabul ediyor. . Ayrıca bazı kişilerin saçma aramalar yaparak arama motorunu anlamsız AI Genel Bakışları üretmeye kışkırtmaya çalıştıklarına da dikkat çekiyor.
Google’ın açıklamasının bu bölümünü biraz tuhaf buluyorum, çünkü AI Genel Bakış gibi bir özellik geliştirirken şirketin, insanların onu kırmaya çalışacağını veya bir şekilde raydan çıkaracağını düşüneceğini hayal ediyorum. bu nedenle aptalca veya anlamsız aramaları kolayca halledebilecek şekilde tasarlanmalıdır.
Her halükarda, Google daha sonra web’de dolaşan bazı saçma ve esprili Yapay Zeka Genel Bakışlarının sahte ekran görüntülerini ortaya çıkarmaya devam ediyor ki bu bence adil. Her ne kadar çok yakından incelemezseniz sahte ekran görüntüleri oldukça iyi görünse de (ve tüm bunlar zaten yapay zeka tarafından oluşturulan özelliklerin kontrol edilmesi gerektiğinin altını çiziyor) bize çevrimiçi olarak gördüğümüz her şeye inanmamamız gerektiğini hatırlatıyor elbette.
Ancak Google, AI Genel Bakışlarının bazen tuhaf, yanlış veya faydasız yanıtlar ürettiğini kabul ediyor. Bunların gerçekleşmesinin birden fazla nedeni olduğunu ve tüm bu bölümün AI Genel Bakışlarının geliştirilebileceği belirli alanları vurguladığını açıklayarak konuyu detaylandırıyor.
Teknoloji şirketi ayrıca, bu şüpheli AI Genel Bakışlarının, sık sık gerçekleşmeyen sorgu aramalarında görüneceğini gözlemliyor. Bir Threads kullanıcısı olan @crumbler, AI Genel Bakış ekran görüntüsünü yayınladı Google’a “kaç tane kaya yemeliyim?” diye sorduktan sonra viral olan şey. Bu, günde en az bir küçük taş yemeyi öneren bir Yapay Zeka Genel Bakışı döndürdü. Google’ın açıklaması, bu ekran görüntüsünün internette yayınlanmasından önce bu sorunun aramalarda nadiren sorulduğu yönünde (ki bu kesinlikle yeterince inandırıcı).
Google, bu soruyu ciddi bir şekilde yanıtlayacak çok fazla kaliteli kaynak materyal olmadığını açıklamaya devam ediyor ve bunun gerçekleştiği durumları “veri geçersizliği” veya “bilgi açığı” olarak adlandırıyor. Ek olarak, yukarıdaki sorgu durumunda mevcut olan içeriğin bir kısmı doğası gereği hiciv niteliğindeydi ve sorguya yanıt veren tek web sitelerinden biri olarak ciddi bir şekilde bağlantı verilmişti.
Diğer saçma ve saçma AI Genel Bakışları, alaycı veya mizahi içerik kaynaklarından ayrıntılar ve tartışma forumlarındaki trol gönderilerin beğenilerini aldı.
Google’ın sonraki adımları ve yapay zekanın geleceği
Google, AI Genel Bakışlarını veya Arama sonuçlarının herhangi bir bölümünü düzeltmek ve iyileştirmek için neler yaptığını açıklarken, Arama sonuçları sayfalarını tek tek incelemediğini belirtiyor. Bunun yerine şirket, gelecekteki olası sorgular da dahil olmak üzere tüm sorgu kümelerini etkileyen güncellemeleri uygulamaya çalışıyor. Google, AI Genel Bakışının işleri yanlış anladığı durumları analiz ederken kalıpları tespit edebildiğini ve özelliği geliştirmeye devam etmek için bir dizi yeni önlem aldığını iddia ediyor.
Kontrol edebilirsiniz Tam liste Google’ın yayınındaancak tuhaf bir Yapay Zeka Genel Bakışını kışkırtmaya çalışan anlamsız sorgular için daha iyi algılama yetenekleri uygulanıyor ve arama devi, hicivli veya mizahi içeriğin eklenmesini sınırlamanın yollarını arıyor.
Google, AI Genel Bakışını iyileştirmeye yönelik yeni önlemlerin yanı sıra, kullanıcı geri bildirimlerini ve dış raporları izlediğini ve Google’ın içerik politikalarını ihlal eden az sayıda özet hakkında harekete geçtiğini belirtiyor. Bu, Google’a göre yedi milyon benzersiz sorgunun birinden daha azında oldukça nadiren meydana geliyor ve bu sorunla ilgileniliyor.
Yapay Zekaya Genel Bakış’ın neden bu şekilde performans gösterdiğine dair Google’ın gösterdiği son neden, Arama’da her gün gerçekleştirilen milyarlarca sorgunun tam ölçeğidir. Bunun için Google’ı suçladığımı söyleyemem ve özellik geliştirilmeye devam etse bile AI Genel Bakış üzerinde yaptığı testleri hızlandıracağını umuyorum.
AI Genel Bakış’ın alaycılığı anlamamasına gelince, bu ilk başta kaçamak gibi gelebilir, ancak genel olarak alaycılık ve mizah, insan iletişiminde hesaba katılmasının zor olduğunu hayal edebildiğim bir nüanstır. Komedi başlı başına bir sanattır ve bu çok çetrefilli ve üzerinde çalışılması zor bir alan olacaktır. Dolayısıyla bunun büyük bir girişim olduğunu anlayabiliyorum, ancak eğer Google bu yeni özelliği kullanıma sunarken doğruluk konusundaki itibarını korumak istiyorsa, bu ele alınması gereken bir şeydir.
Google’ın Yapay Zeka Genel Bakışları yeniden sunulduğunda nasıl performans gösterdiğini görmemiz gerekecek – ve bahse girebilirsiniz ki çok sayıda insan bunu dikkatle izleyecek (ve bu viral ekran görüntüsünü elde etmek için daha da saçma aramalar başlatacak).
