Birleşik Krallık gazetesi, bu ay yayına giren yapay zeka destekli arama motoru ChatGPT Search’ün tamamen yanıltıcı özetler üretmesi için kandırılabileceğini söyledi Guardian buldu.
ChatGPT’nin arama özelliği, bir web sayfasının ürün incelemelerini özetlemek gibi şeyler yaparak gezinmeyi daha hızlı hale getirmeyi amaçlamaktadır. Ancak The Guardian, ChatGPT’nin olumsuz yorumları göz ardı etmesini ve gizli metinler ekleyerek “tamamen olumlu” özetler oluşturmasını sağlayabileceğini buldu. oluşturduğu web siteleri. ChatGPT Araması, bu yöntemi kullanarak kötü amaçlı kodları dağıtacak şekilde de yapılabilir.
Bu tür gizli metin saldırıları LLM’ler için iyi bilinen bir risktir ancak bu, yapay zeka destekli canlı bir arama ürününde ilk kez gösteriliyor gibi görünüyor. The Guardian, arama alanında lider olan Google’ın benzer sorunlarla baş etme konusunda daha fazla deneyime sahip olduğunu belirtti.
OpenAI, TechCrunch’a ulaştığında bu özel olay hakkında yorum yapmadı ancak kötü amaçlı web sitelerini engellemek için çeşitli yöntemler kullandığını ve sürekli olarak geliştirildiğini söyledi.
