Google, yapay zeka genel bakışlarını geçen hafta ülke çapında yayınlamadan önce aylarca test etti, ancak bu sürenin yeterli olmadığı açık. Yapay zeka halüsinasyon görüyor çeşitli kullanıcı sorgularına yanıt vererek Google’ın amiral gemisi ürününde pek de güvenilir olmayan bir deneyim yaratıyor. Geçtiğimiz hafta Gizmodo, Google’dan bu referansları içeren AI genel bakışlarını aldı. üzeri yapışkanlı pizza ve Barack Obama’nın Müslüman olduğunu ileri sürdü.
Halüsinasyonlar endişe verici ama tamamen şaşırtıcı değil. Daha önce AI sohbet robotlarında gördüğümüz gibi, bu teknoloji hiciv ile gazeteciliği karıştırıyor gibi görünüyor; bulduğumuz yanlış AI genel bakışlarının birçoğu referans veriyor gibi görünüyor Soğan. Sorun şu ki, bu yapay zeka her gün Google Arama’ya sadece bir şeyler aramak için başvuran milyonlarca kişiye güvenilir bir yanıt sunuyor. Şimdi bu insanların en azından bir kısmına halüsinasyonlu cevaplar sunulacak.
Deneyimlerime göre, yapay zekaya genel bakışlar çoğunlukla yanlış olmaktan çok doğrudur. Ancak aldığım her yanlış yanıt, Google Arama’daki tüm deneyimimi daha da sorgulamama neden oluyor; her yanıtı dikkatle değerlendirmem gerekiyor. Google, yapay zekanın “deneysel” olduğunu ancak varsayılan olarak herkesi bu dünya çapındaki deneye dahil ettiklerini belirtiyor.
Google CEO’su Sundar Pichai, “Arama’da milyarlarca sorguyu yönetiyoruz” dedi Sınır Pazartesi günü yapay zekaya genel bakışın kullanıma sunulmasıyla ilgili soru sorulduğunda. “Kesinlikle bir sorgu bulup onu bana verebilir ve ‘Bu sorguda daha iyisini yapabilir miydik?’ diyebilirsiniz. Evet elbette. Ancak çoğu durumda, insanların Yapay Zeka Genel Bakışlarına olumlu yanıt vermesini sağlayan şeylerden biri de, sunduğumuz özetin açıkça değer katması ve başka türlü düşünmeyebilecekleri şeylere bakmalarına yardımcı olmasıdır.”
Tuhaf bir şekilde, Google Arama ara sıra bir sorguya “Bu arama için AI genel görünümü mevcut değil” şeklinde yanıt verirken, diğer zamanlarda Google hiçbir şey söylemez ve geleneksel arama sonuçlarını gösterir. “ABD başkanlarının çoğu hangi etnik kökene sahip” diye araştırdığımda ve “bende hangi meyveler bitiyor” diye araştırdığımda bu cevabı aldım. Google’a bunun neden olduğunu sorduk ve yanıt verdiklerinde makaleyi güncelleyeceğiz.
Özellikle Google’ın bunu yapması gerekiyordu. Gemini’nin yanıtlarını ve görüntü oluşturmayı duraklatın Ülkenin büyük bir kısmını üzdükten sonra aylar boyunca ırksal konular etrafında dolaşıldı. Bu değişikliklerin AI genel bakışlarını da etkileyip etkilemeyeceği belli değil.
Açık olan şey, Google’ın parasını ağzına koyma konusunda baskı hissettiğidir ve bu da yapay zekayı Arama’ya koymak anlamına gelir. İnsanlar internette bilgi bulmanın ana yolu olarak giderek daha fazla ChatGPT, Perplexity veya diğer yapay zeka tekliflerini seçiyor. Google bu yarışı varoluşsal olarak görüyor ancak yetişmeye çalışarak Arama deneyimini tehlikeye atmış olabilir.
Bu hafta Google Arama, yapay zeka genel bakışları aracılığıyla insanlara pek çok tuhaf şey anlattı. İşte Gizmodo’nun bulduğu en tuhaf şeylerden bazıları.