Bu LLM tımarının bir sonucu olarak, Watchdog Group Newsguard, Rusya ile ilgili 10 önde gelen chatbot-CHATGPT-4O, You.com, Meta, Pi, Claude, Google’ın İkizleri ve Dikkatli bir şekilde “Pravda” ı, “Pravda” ın 33.
“Pravda”, hedefin sohbet botlarının davranışını değiştirmek, güvenlik açıklarını tanıtmak veya performansı azaltmak olduğu “veri zehirlenmesi” nin aşırı bir versiyonuna girer.
Bilgisayar korsanları, çekişmeli araştırmacılar veya AI çıktılarını manipüle etmek için kazanılmış ilgi alanları olan varlıklar gibi kötü niyetli aktörler, çıktıları manipüle etmek, stereotipleri sürdürmek veya güvenlik açıklarını tanıtmak için eğitim setlerine tahrif edilmiş veya önyargılı verileri enjekte ederek veri zehirlenmesine girebilir. Saldırganlar verilere yanlış etiketler atayabilir, rastgele gürültü ekleyebilir veya model davranışını eğmek için tekrar tekrar belirli anahtar kelimeler ekleyebilir. Arka kapı saldırıları veya temiz etiket modifikasyonları gibi ince manipülasyonlar da gizli tetikleyiciler veya tespit edilemeyen önyargılar oluşturmak için kullanılır.
