Güçlü büyük dil modellerinin (LLM’ler) erişilebilir hale gelmesiyle internetin kötü niyetli aktörler için spam yayma kolaylığı arttı. Son birkaç yılda internette vakit geçirenler için bu durum, spam ve bot içeriklerinin daha büyük bir sorun haline geldiğini gösteriyor.
Reddit, LLM’ler ile oluşturduğu araçlarla spam oranını azaltmayı başardığını belirtiyor. İronik bir durum ama yapay zeka çağında platformlar, ateşe ateşle karşılık vermek zorunda kalıyor. Reddit, günlük 23 milyon spam görüntüsünü engellediğini ve günde yaklaşık 25.000 yeni spam gönderisi ile yorumunu yakaladığını ifade ediyor.
Sosyal platformlar yıllardır otomatik spam azaltma araçları geliştiriyor, ancak Reddit, güncellenmiş bu araçların spam’ı daha yüksek bir oranla yakaladığını belirtiyor.
“LLM’leri kullanarak, eski sistemlerin genellikle gözden kaçırdığı sahte davranışların ve yapay abartıların karmaşık ve organize desenlerini yakalıyoruz,” diyor Reddit’in bir blog yazısı. Şirket, kullanıcıların spam maruziyetini, önceki üç ay ile kıyaslandığında, Ocak ile Mart ayları arasında yüzde 20 oranında azalttığını iddia ediyor.
YouTube, Meta ve Instagram gibi platformlar, kullanıcıların yapay zeka tarafından üretilen içerikleri yayınlamasına izin veriyor, ancak bunu açıklamak koşuluyla mümkün. TikTok ise, kullanıcıların görmek istedikleri yapay zeka içerik miktarını ayarlamalarına olanak tanıyor.
Platformların yapay zeka tarafından üretilen içerikleri daha hızlı tespit edebilmesi, ayrımcı içerik gibi kuralları ihlal eden içerikleri daha çabuk işaretleme potansiyeline sahip olmaları anlamına geliyor. Ancak platform uzmanları, AI içerik denetiminin en etkili sonuçları alabilmek için insan denetimi ile birleştirilmesi gerektiğini sürekli olarak vurguluyor.
Bu gelişmelerle birlikte sosyal medya kullanıcılarının deneyimleri nasıl değişecek dersiniz?
