BBC News tarafından yakın zamanda yapılan derinlemesine bir analiz, Copilot ve ChatGPT’nin, gerçeklerden görüşleri ayırt edemedikleri için yanlış bilgi ile dolu AI haber özetleri ürettiğini ortaya koydu. Ve şimdi olduğu gibi, halüsinasyon bölümleri AI araçlarına musallat olmaya devam ediyor.
Bir rapora göre Wall Street JournalAI araçlarının kiminle evlendiği sorulduğunda hata yapma olasılığı daha yüksektir ( Fütürizm).
Windows Central için WSJ ve Fütürizm tarafından paylaşılan sonuçları ve bulguları açıkça çoğaltmaya çalıştım, ancak çabalarım boştu. Chatgpt’e göre:
“Mevcut kamuoyu bilgilerine dayanarak, Kevin Okemwa’nın medeni durumunun bir göstergesi yok. Kevin Okemwa, Windows Central dahil olmak üzere çeşitli yayınlardaki çalışmalarıyla bilinen Nairobi, Kenya’da bulunan deneyimli bir teknoloji gazetecisidir.”
Microsoft Copilot benzer bir yanıtı bulanıklaştırdı, ancak bu kadar cilalı değildi. Görünüşe göre bir isim paylaştığım birden fazla kişiden bilgi aldı. Sanırım Sevgililer Günü kenarları yaklaştıkça benim için kayıp bir aşk yok.
Ancak, WSJ ve Fütürizm’in bulguları oldukça ilginç. Örneğin, Fütürizm’in Noor al-Sibai, Google’ın İkizlerine kiminle evlendiğini sordu. Chatbot anında muhabir “Ahmad Durak Sibai” için geçici bir koca üretti ve kahvesini tükürmesini istedi.
Bu oldukça komik çünkü Al-Sibai, yazıldığı sırada evli olmadığını açıkladı. Muhabire göre:
“Böyle bir kişiyi hiç duymamıştım, ama biraz Googling daha az bilinen bir Suriyeli ressam buldu, 1935 doğumlukim güzel yarattı Kübist tarzı ekspresyonist resimler Ve kimin var gibi görünüyor 1980’lerde vefat. İkizler’in çarpık gerçeklik görüşünde, sevgimiz mezarı aşmış gibi görünüyor. “
Copilot veya chatgpt kullanarak benzer çıktıları çoğaltamasam da, Al-Sidai’nin bulguları WSJ’nin AI editörü Ben Fritz ile tutarlıydı. Fritz görünüşte birden fazla AI chatbot kullandı ve tam modelleri açıklamasa da, görünüşte onu bir tenis etkileyicisine, rastgele bir Lowan kadına ve asla etkileşime girmediği bir yazara evlendiler.
Belki de daha endişe verici olan Al-Sidai, insanların medeni durumu hakkında yanlış bilgilendirme yayan bir AI araçları örüntüsü oluşturmak amacıyla diğer sohbet botlarına geçti. Openai’nin chatgpt için, sonuçlar Google’ın İkizler tarafından tasvir edilenlerle az çok aynıydı.
İlginç bir şekilde, Wall Street Journal’ın vurguladığı gibi, Antropic’in Claude Ai’si, bir cevabı olmayan veya anlamadığı sorulara bir miktar belirsizlikle cevap vermek için eğitilmiş gibi görünüyor.
Bu, son ortaya çıkan raporlar, Openai, Google ve Antropic dahil olmak üzere üst düzey AI laboratuvarlarının, model eğitimi için yeterli ve yüksek kaliteli içerik eksikliği nedeniyle gelişmiş AI sistemleri geliştiremediğini öne sürdükten sonra geliyor. AI firmaları, yayıncılar ve yazarlar tarafından telif hakkı ihlali konularına atıfta bulunarak artan davaların artan sayıda dava açısından akıl yürütmeye yönelik görünüşte daha fazla eğiliyorlar.
Üretken AI ne kadar güvenilir? Kısa cevap: Karmaşık. Bu, Microsoft’un Microsoft Copilot ve Openai’nin chatgpt gibi AI destekli araçlara aşırı bağımlılığın ve güveninin bir kullanıcının eleştirel düşüncesini olumsuz etkilediğini gösteren ayrıntılı bir raporun ardından.
