Elon Musk’ın X’teki bazı kullanıcıları, gerçek kontrol etmek için Musk’ın AI Bot Grok’a yöneliyor ve bunun yanlış bilgilendirmeyi artırabileceği insan gerçek denetleyicileri arasında endişelerini dile getiriyor.
Bu ayın başlarında X, kullanıcıların Xai’nin GROK’larını çağırmasını ve farklı şeyler hakkında sorular sormasını sağladı. Hareket şaşkınlığa benzerBenzer bir deneyim sunmak için X’te otomatik bir hesap çalıştırıyor.
Xai, GroK’ın X’te otomatik hesabını oluşturduktan kısa bir süre sonra, kullanıcılar soru sormayı denemeye başladı. Hindistan da dahil olmak üzere pazarlardaki bazı insanlar Grook’a belirli siyasi inançları hedefleyen yorumları ve soruları kontrol etmesini istemeye başladı.
Gerçek denetleyiciler, bu şekilde GROK’ı-veya başka bir AI asistanı-kullanmaktan endişe duyarlar, çünkü botlar cevaplarını gerçekte doğru olmasalar bile ikna edici seslere çerçeveleyebilirler. Örnekleri Sahte haberleri yaymak Ve yanlış bilgi geçmişte Grook ile görüldü.
Geçen yıl Ağustos ayında, beş devlet sekreteri çağrılan Musk, ABD seçimleri öncesinde sosyal ağlarda ortaya çıktıktan sonra Asistan tarafından üretilen yanıltıcı bilgilerden sonra GROK’da kritik değişiklikler uygulamak.
Openai’s Chatgpt ve Google’ın İkizleri de dahil olmak üzere diğer sohbet botlarının da olduğu görülüyordu. yanlış bilgi üretmek Geçen yıl seçimlerde. Ayrı ayrı, dezenformasyon araştırmacıları, 2023’te chatgpt dahil AI chatbot’ların üretmek için kolayca kullanılabileceğini buldu. yanıltıcı anlatılarla ikna edici metin.
Ponter (IFCN) Techcrunch’ın uluslararası gerçek-checking ağı (IFCN) direktörü Angie Hollan, “AI asistanları, Grook gibi, Grok gibi, doğal dili kullanma ve bir insanın söylediği gibi görünen bir cevap vermede gerçekten iyi bir cevap veriyorlar. Ve bu şekilde, bu tehlike ve otantik sondaj tepkileri hakkında bu iddiaya sahipler. Bu, bu tehlike olurdu.
Yapay zeka asistanlarının aksine, insan bilgi kontrolcileri bilgiyi doğrulamak için birden fazla, güvenilir kaynak kullanırlar. Ayrıca, güvenilirlik sağlamak için isimleri ve kuruluşları ile bulguları için tam hesap verebilirlik alırlar.
Hindistan’ın kar amacı gütmeyen bilgi kontrol web sitesi Alt News’in kurucu ortağı Pratik Sinha, GROK’ın şu anda ikna edici cevapları gibi görünse de, bunun sadece verildiği veriler kadar iyi olduğunu söyledi.
“Hangi verilerin verildiğine kim karar verecek ve hükümetin müdahalesi vb.
“Şeffaflık yok. Şeffaflıktan yoksun herhangi bir şey zarar verecektir çünkü şeffaflıktan yoksun herhangi bir şey bu şekilde kalıplanabilir.”
“Yanlış kullanılabilir – yanlış bilgi yaymak için”
Bu haftanın başlarında yayınlanan yanıtlardan birinde, GROK’ın X üzerindeki hesabı kabul edilmiş yanlış bilgilendirmeyi yaymak ve gizliliği ihlal etmek için yanlış kullanılabileceğini ”.
Bununla birlikte, otomatik hesap, cevaplarını aldıklarında kullanıcılara herhangi bir feragatname göstermez ve örneğin, AI’nın potansiyel dezavantajı olan cevabı halusine etmişse yanlış bilgilendirilmesine yol açar.
Goa merkezli multidisipliner araştırma kolektif dijital vadeli işlemler laboratuvarında araştırma görevlisi olan Anushka Jain, TechCrunch’a verdiği demeçte, “Yanıt sağlamak için bilgi oluşturabilir” dedi.
GROK’ın X’teki yayınları eğitim verileri olarak ne kadar kullandığı ve bu tür yayınları kontrol etmek için hangi kalite kontrol önlemlerini kullandığı hakkında bazı sorular var. Geçen yaz, GROK’ın varsayılan olarak X kullanıcı verilerini tüketmesine izin veren bir değişikliği zorladı.
GROK gibi AI asistanlarının sosyal medya platformları aracılığıyla erişilebilmesi gibi bir diğeri, chatgpt veya özel olarak kullanılan diğer chatbotların aksine, kamuoyunda bilgi vermeleridir.
Bir kullanıcı asistandan aldığı bilgilerin yanıltıcı olabileceğinin veya tamamen doğru olmayabileceğinin farkında olsa bile, platformdaki diğerleri hala buna inanabilir.
Bu ciddi sosyal zararlara neden olabilir. Bunun örnekleri Hindistan’da daha önce görüldü WhatsApp üzerinde dolaşan yanlış bilgilendirme mafya linçlerine yol açtı. Bununla birlikte, bu ciddi olaylar, sentetik içerik üretimini daha da kolaylaştıran ve daha gerçekçi görünen Genai’nin gelişinden önce meydana geldi.
“Bu groK cevaplarının çoğunu görürseniz, hey, pek çoğu haklıdır ve bu da olabilir, ancak yanlış olan bazı olacaklar. Ve kaç tane? Küçük bir kesir değil. Bazı araştırma çalışmaları, AI modellerinin% 20 hata oranlarına tabi olduğunu gösterdi… ve yanlış gittiğinde, gerçek dünya sonuçlarıyla gerçekten yanlış gidebilir.”
AI ve Gerçek Bilgi Denetleyicileri
XAI dahil AI şirketleri, AI modellerini daha fazla insan gibi iletişim kurmaları için rafine ederken, hala insanların yerini almazlar ve yapamazlar.
Son birkaç aydır, teknoloji şirketleri insan gerçek denetleyicilerine güvenmeyi azaltmanın yollarını araştırıyorlar. X ve Meta dahil platformlar, sözde topluluk notları aracılığıyla yeni kitle kaynaklı gerçek kontrol konseptini benimsemeye başladı.
Doğal olarak, bu tür değişiklikler de bilgi dama için endişe yaratır.
Alt News Sinha, insanların makineler ve insan gerçek denetçileri arasında ayrım yapmayı öğreneceklerine ve insanların doğruluğuna daha fazla değer vereceğine inanıyor.
IFCN’den Holan, “Sarkaçın sonunda daha fazla gerçek kontrolüne doğru geri döndüğünü göreceğiz” dedi.
Bununla birlikte, bu arada, gerçek denetleyicilerinin hızlı bir şekilde yayılan AI tarafından üretilen bilgilerle daha fazla işi olacağını kaydetti.
“Bu sorunun birçoğu, gerçekte neyin doğru olduğunu gerçekten önemsiyor musunuz? Sadece gerçek olmadan doğru hissettiren ve hissettiren bir şeyin kaplamasını mı arıyorsunuz? Çünkü AI yardımı budur.” Dedi.
X ve Xai yorum talebimize yanıt vermedi.
