Google, 30 Mayıs Perşembe günü birden fazla sorgu için hatalı yanıtların oluşturulduğunu gören yapay zeka (AI) destekli arama aracı AI Genel Bakış’ın neden olduğu fiyaskoyla ilgili bir açıklama yayınladı. Arama için yapay zeka özelliği, 14 Mayıs’ta Google I/O 2024’te tanıtıldı, ancak kısa bir süre sonra arama sorgularına tuhaf yanıtlar vermesi nedeniyle incelemeyle karşı karşıya kaldığı bildirildi. Google, uzun bir açıklamada sorunun arkasındaki olası nedeni ve sorunu çözmek için atılan adımları açıkladı.
Google’ın Yanıtı
Bir blogda postalamakGoogle, AI Genel Bakış özelliğinin diğer sohbet robotlarından ve Büyük Dil Modellerinden (LLM’ler) nasıl farklı çalıştığını açıklayarak başladı. Şirkete göre AI Genel Bakışları basitçe “eğitim verilerine dayalı bir çıktı” oluşturmuyor. Bunun yerine, “temel web sıralama sistemlerine” entegre olduğu ve indeksten geleneksel “arama” görevlerini yerine getirmesi gerektiği söyleniyor. Google ayrıca yapay zeka destekli arama aracının “genel olarak halüsinasyon görmediğini” iddia etti.
Şirket, “Aramada doğruluk çok önemli olduğundan, AI Genel Bakışları yalnızca en iyi web sonuçlarıyla desteklenen bilgileri gösterecek şekilde oluşturuldu” dedi.
Sonra ne oldu? Google’a göre bunun nedenlerinden biri, AI Genel Bakış özelliğinin hicivli ve saçma içerikleri filtreleyememesiydi. Google, “Kaç tane kaya yemeliyim” arama sorgusuna atıfta bulunarak, kişinin günde bir kaya tüketmesini öneren sonuçlar verdiğini belirterek, arama öncesinde “neredeyse hiç kimsenin bu soruyu sormadığını” söyledi.
Şirkete göre bu, yüksek kaliteli içeriğin sınırlı olduğu bir “veri boşluğu” yarattı. Bu özel sorguyla birlikte hicivsel içerik de yayınlandı. Google, “Dolayısıyla birisi bu soruyu Arama’ya koyduğunda, soruyu ele alan yegane web sitelerinden birine sadık bir şekilde bağlanan bir Yapay Zeka Genel Bakışı ortaya çıktı” diye açıkladı.
Şirket ayrıca AI Genel Bakış’ın forumlardan referans aldığını da kabul etti; forumlar “gerçek, ilk elden bilgi için harika bir kaynak” olmasına rağmen, peynir yapmak için pizzanın üzerine yapıştırıcı kullanmak gibi “yardımcı olmayan tavsiyelere” yol açabilirler. sopa. Diğer durumlarda, arama özelliği Web sayfalarındaki dili de yanlış yorumlayarak hatalı yanıtlara yol açmıştır.
Google, “algoritmalarımızda iyileştirmeler yaparak veya politikalarımıza uymayan yanıtları kaldırmak için yerleşik süreçler aracılığıyla bu sorunları çözmek için hızlı bir şekilde çalıştığını” söyledi.
Yapay Zeka Genel Bakışlarını Geliştirmek İçin Atılan Adımlar
AI Genel Bakış özelliği tarafından oluşturulan sorgulara verilen yanıtları iyileştirmek için Google tarafından aşağıdaki adımlar atılmıştır:
- Saçma sapan sorgular için daha iyi algılama mekanizmaları oluşturarak hicivli ve saçma içeriklerin eklenmesini sınırladı.
- Şirket ayrıca, yanıltıcı tavsiyelerde bulunabilecek yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımını sınırlamak için sistemleri güncellediğini söylüyor.
- Ciddi haber konularına ilişkin Yapay Zeka Genel Bakışları, “tazelik ve gerçekçiliğin” çok önemli olduğu durumlarda gösterilmeyecektir.
Google ayrıca, içeriğini ihlal eden az sayıda AI Genel Bakış yanıtına ilişkin geri bildirimleri ve harici raporları izlediğini de iddia etti. Ancak bunun gerçekleşme ihtimalinin “her 7 milyon tekil sorguda birinden az” olduğu belirtildi.
