BBC yakın zamanda yürütüldü Yapay zeka ile çalışan sohbet botlarının haber hikayelerini özetleme yeteneği üzerine kapsamlı araştırmalarMicrosoft Copilot, Openai’nin ChatGPT, Google’ın İkizleri ve şaşkınlık dahil. Güvenlik ve güvenlik, üretken AI’nın ilerlemesinde büyük caydırıcılar olmaya devam ederken, sorgulara yanlış veya açıkça yanlış yanıtlar üreten AI araçlarının yüksek eğilimi, kullanıcıları bulmaya devam etmektedir.
Outlet, haber hikayelerini özetlemek için listelenen AI araçlarından yararlandı ve sonuç olarak özetlenmiş haber yayınlarının içeriğine dayanarak sorular sordu. İlginç bir şekilde, araştırma AI tarafından oluşturulan cevapların önemli yanlışlıklar ve çarpıklıklar içerdiğini gösterdi.
Ortaya çıkan cevapların “önemli yanlışlıklar” ve bozulmalar içerdiğini söyledi. BBC News ve Mevcut İşler CEO’suna göre Deborah Turness:
“Ekip, asistanlar tarafından üretilen cevapların yarısından fazlası ile ‘önemli sorunlar’ buldu. AI asistanları, BBC materyalinden geldiğini söyledikleri cevapların yaklaşık beşte birine açık olgusal hatalar getirdi.
Ve AI asistanlarının BBC makalelerinden ‘alıntılar’ içerdiği durumlarda, ondan fazlası değiştirilmiş ya da makalede mevcut değildi.
Sorunun bir kısmı, AI asistanlarının haber kapsamındaki gerçekler ve görüşler arasında farklılık göstermediği; Akım ve arşiv malzemesi arasında bir ayrım yapmayın; ve cevaplarına görüşler enjekte etme eğilimindedir.
Verdikleri sonuçlar, tüm bunların karışık bir kokteyli olabilir – tüketicilerin istediklerini ve hak ettiğini bildiğimiz doğrulanmış gerçeklerden ve netlikten uzak bir dünya. “
Bağlam için BBC’nin çalışması, AI Chatbots’un çıkış tarafından yayınlanan 100 haber hikayesini özetlemesini gerektiriyordu. Yayın, AI tarafından üretilen cevapları doğruluğa göre derecelendirmek için deneyimli muhabirlerinin ve gazetecilerinin uzmanlığını geniş bir konuda kullandı.
Belki de daha çok, AI tarafından üretilen cevapların% 51’i “bir formda önemli konular” içeriyordu. Çalışma ayrıca, BBC içeriğine atıfta bulunan chatbots tarafından üretilen cevapların% 19’unun rakamlar, ifadeler ve tarihler dahil olmak üzere olgusal hatalar getirdiğini ortaya koydu.
BBC ile bulguları hakkında konuşurken, bir Openai sözcüsü şunları belirtti:
“Haftalık 300 milyon CHATGPT kullanıcısının özetler, alıntılar, net bağlantılar ve ilişkilendirme yoluyla kaliteli içerik keşfetmelerine yardımcı olarak yayıncıları ve içerik oluşturucuları destekliyoruz.”
AI tarafından oluşturulan haber özetlerine güvenebilir miyim? Apple zaten fişi çekti
“Sorunlu zamanlarda yaşıyoruz ve yapay zeka ile süslenmiş bir başlık önemli gerçek dünyaya zarar vermeden ne kadar sürecek?” BBC’nin turnesi retorik olarak sordu.
BBC’nin araştırması ayrıca Copilot ve Gemini’nin chatgpt ve şaşkınlığa kıyasla daha karmaşık sorunlar gösterdiğini ortaya koydu. Araçların “görüş ve gerçek arasında ayrım yapmak, editoryalize olmuş ve genellikle temel bağlamı içeremediğini” vurgulayarak.
İlgili: Microsoft Copilot, ‘sınıfta can sıkıcı bir çocuk’ poster çocuğudur.
Karmaşık raporda vurgulanan yanlışlığın, ağını listelenen sohbet botlarının ötesine taşıdığını belirtmek gerekir. Bildiğiniz gibi, Apple son zamanlarda geçici olarak Apple istihbarat bildirimlerini taktı Araç hatalı manşetleri paylaşarak tespit edildikten sonra, haber kuruluşlarından ve özgürlük gruplarından tepki veriyor.
Sonuç olarak, BBC, AI hizmet sağlayıcıları ile çok ihtiyaç duyulan bir görüşmeyi bekleyen AI haber özetlerinde bir “geri çek” önerir. “Çözümler bulmak için ortak olarak birlikte çalışabiliriz”.
