Google, son zamanlardaki tuhaf ve yararsız yanıtların yalnızca bir avuç niş sorguyla sınırlı olduğunu söyleyerek yapay zeka destekli arama sonuçlarını ikiye katladı.
AI Genel Bakışları bu ayın başında Google I/O’nun bir parçası olarak duyuruldu ve daha karmaşık sorgular için sonuçların üzerine daha uzun biçimli Gemini destekli metin yanıtları yerleştirildi. Bunlar, yanıtlanması için birden fazla web sitesi ziyareti gerektiren sorulardır.
Lansmanından kısa bir süre sonra, toksik olmayan maddelerin kullanımını öneren bir sorun da dahil olmak üzere bir dizi sorun ortaya çıkmaya başladı. pizza sosunu koyulaştırmak için yapıştırıcıbaşka bir söz taş yemek sizin için iyi olabilir ve üçüncü bir öneri hamileyken sigara içmek sağlıklıdır – değildir. Yapay Zekaya Genel Bakış’ı istemiyorsanız, bunların sonuçlarda engellenmesine yönelik bir kılavuzumuz var.
İçinde ifadeGoogle’ın arama başkanı Liz Reid, sosyal medyadaki en tuhaf iddiaların çoğunun (en şaşırtıcı soru da dahil) tekrarlanamayacağını söyledi ve gerçek sorgular hakkında şunları söyledi: “Geliştirmemiz gereken alanlar var.”
Google AI Genel Bakışında ne yanlış gitti?
Reid, sonuçların birçoğundaki en büyük sorunun, yapay zeka modelinin alaycılık ve mizahı nasıl yorumladığıyla ilgili olduğunu söylüyor. “Tartışma forumlarında alaycı veya trol içerikli AI Genel Bakışları gördük” diye yazdı.
“Forumlar genellikle orijinal, ilk elden bilgi için harika bir kaynaktır, ancak bazı durumlarda peynirin pizzaya yapışmasını sağlamak için yapıştırıcı kullanmak gibi pek de yararlı olmayan tavsiyelere yol açabilir.” Bu, OpenAI’nin Reddit ile olan anlaşması için bir sorun olabilir.
Daha sonra insanların bunu bir şaka olarak kullanmasını sağladınız ve tartışma forumlarındaki alaycı ve troll içerikleri daha da artırdınız.
Ayrıca Google için beklenmeyen davranışları test eden bir web stres testi unsuru da vardır. Reid şöyle diyor: “Milyonlarca insanın bu özelliği birçok yeni aramayla kullanması gibi bir şey yok. Aynı zamanda, görünüşe göre hatalı sonuçlar üretmeyi amaçlayan anlamsız yeni aramalar da gördük.”
Yapay Zeka Genel Bakış sorununun çözümü nedir?
Üretken yapay zekanın neyin doğru olduğunu bilmesinin hiçbir yolu yoktur; yalnızca neyin popüler olduğunu bilir. Bu nedenle, çoğu zaman gerçek gerçekler yerine güvenilmez kaynaklardan veya parodi hesaplardan gelen yanıtların ortaya çıkmasıyla sonuçlanır. Bazı durumlarda yapay zeka, bilgi açığını kapatmak için yanlış veriler oluşturduğu “halüsinasyona” da eğilimlidir.
Google her zaman kullanıcıların her türlü bilgiye ve dezenformasyona ulaşabileceği bir platform olmuştur. Ancak bilgiyi kaynağın itibarıyla ilişkilendirme yeteneği olmadan, aldığınız yanıtların doğru olup olmadığını bilmenin hiçbir yolu yoktur.
Reid, Genel Bakış’ta zaten bazı iyileştirmeler yaptıklarını söylüyor. “Geçen birkaç haftadaki örneklere bakarak, doğru yapmadığımız kalıpları tespit edebildik ve sistemlerimizde bir düzineden fazla teknik iyileştirme yaptık” dedi.
Buna anlamsız sorgular için algılama mekanizmalarının iyileştirilmesi ve AI Genel Bakışlarının görüntülenmesinin engellenmesi de dahildir. Buna, söz konusu sorgulara ilişkin kaynak materyalden hiciv ve mizah içeriğinin kaldırılması da dahildir.
Ayrıca yanıtlarda kullanıcı tarafından oluşturulan içeriği azaltıp bunun yerine daha kaliteli malzeme kaynaklarına odaklandılar.
Son olarak Google, özellikle haber ve sağlık içerikleri için daha güçlü korumalar uyguladığını söylüyor. Reid, “Tazeliğin ve gerçekliğin önemli olduğu zorlu haber konuları için Yapay Zeka Genel Bakışlarını göstermemeyi hedefliyoruz. Sağlık konusunda, kalite korumalarımızı geliştirmek için ek tetikleyici iyileştirmeler başlattık” dedi.
Tom’s Guide’dan daha fazlası
MacBook Air’e geri dön
