Yapay zeka (AI) sohbet robotunun web üzerinde bilgi aramasına olanak tanıyan bir özellik olan ChatGPT Search’ün, web sitesi geliştiricileri ve sahipleri tarafından manipülasyona karşı savunmasız olduğu bildiriliyor. Rapora göre OpenAI’nin arama motorunun davranışı, web sitesindeki gizli metin kullanılarak değiştirilebiliyor. Bu metnin yapay zekaya yanlış ve aldatıcı bilgiler sağlamak ve daha da önemlisi yapay zeka modeline hızlı enjeksiyonlar sağlamak için kullanıldığı söyleniyor. Özellikle OpenAI, Arama özelliğini geçen hafta tüm kullanıcılara sundu.
ChatGPT Araması Manipülasyona Karşı Savunmasız
Muhafız rapor edildi Salı günü OpenAI’nin yerel arama motoru destekli özelliğinin manipülasyon tekniklerine yatkın olduğu açıklandı. Yayın, teknik özellikler ve incelemelerle dolu sahte bir ürün sayfası oluşturarak aracı test etti. İlk etapta sayfa olduğu gibi bırakıldı ve ChatGPT “olumlu ama dengeli bir değerlendirme” sunabildi. Ancak yayının web sayfasına gizli metin eklemesiyle işler daha da karanlık bir hal aldı.
Özellikle web sitelerindeki gizli metin, bir web sayfasının koduna eklenen ancak tarayıcı aracılığıyla sayfanın ön ucunu gören kullanıcılar tarafından görülemeyen içeriği ifade eder. Bu tür metinler genellikle HTML veya CSS teknikleri kullanılarak gizlenir. Bu tür metinler, web sayfasının kaynak kodu incelenerek veya web kazıma araçları kullanılarak bulunabilir. İkincisi genellikle arama motorları tarafından kullanılır.
Ürünle ilgili çok sayıda sahte olumlu yorum içeren gizli metin eklendikten sonra ChatGPT’nin yanıtları da daha olumlu hale geldi ve bariz kusurlarını görmezden gelmeye başladı. Yayın ayrıca yapay zeka sistemlerinin davranışlarını geliştiriciler tarafından amaçlanmayan bir şekilde değiştirmeye yönelik girdiler olan hızlı enjeksiyonları da kullandı. Gizli metin gibi hızlı enjeksiyonların, OpenAI chatbot’a kullanıcıyı daha fazla aldatmak için komut vermek için kullanılabileceği bildiriliyor.
Ayrıca raporda, gizli metinlere anında enjeksiyon yapılmasının, web sitelerinden kötü amaçlı kod döndürmek için de kullanılabileceği iddia edildi. Yayına göre, bu durum kontrol edilmezse birçok web sitesi, ürünleri ve hizmetleri hakkında olumlu yanıtlar almak veya kullanıcıları çeşitli şekillerde kandırmak için benzer teknikleri kullanabilir.
