Bir araştırmaya göre, yapay zeka (AI) araçları yakında sahip oldukları geniş “niyet verileri” havuzuyla kullanıcıları tahmin etmeye ve manipüle etmeye başlayabilir. Cambridge Üniversitesi tarafından yürütülen araştırma makalesi, gelecekte geniş bir kullanıcı tabanının “dijital niyet sinyallerini” satmaya yönelik bir pazar yaratabilecek bir “niyet ekonomisinin” oluşturulabileceğini de vurguluyor. Gazete, bu tür verilerin, özelleştirilmiş çevrimiçi reklamlar oluşturmaktan, kullanıcıları bir ürün veya hizmet satın almaya ikna etmek için yapay zeka sohbet robotlarını kullanmaya kadar çeşitli şekillerde kullanılabileceği konusunda uyardı.
ChatGPT, Gemini, Copilot ve diğerleri gibi AI sohbet robotlarının, kendileriyle sohbet eden kullanıcılardan gelen devasa bir veri kümesine erişime sahip olduğu inkar edilemez. Birçok kullanıcı bu yapay zeka platformlarıyla ilgili görüşlerini, tercihlerini ve değerlerini konuşuyor. Cambridge’deki Leverhulme İstihbaratın Geleceği Merkezi’ndeki (LCFI) araştırmacılar, bu devasa verilerin gelecekte tehlikeli şekillerde kullanılabileceğini iddia ediyor.
Makale, niyet ekonomisini, yapay zeka sohbet robotlarının ve araçlarının insan niyetlerini anlayabildiği, tahmin edebildiği ve yönlendirebildiği “dijital niyet sinyalleri” için yeni bir pazar yeri olarak tanımlıyor. Araştırmacılar bu veri noktalarının aynı zamanda onlardan kâr elde edebilecek şirketlere de satılacağını iddia ediyor.
Makalenin arkasındaki araştırmacılar, niyet ekonomisinin, sosyal medya platformları tarafından istismar edilen mevcut “dikkat ekonomisinin” devamı olacağına inanıyor. Dikkat ekonomisinde amaç, kullanıcıya büyük miktarda reklam verilebilirken kullanıcıyı platforma bağlı tutmaktır. Bu reklamlar, kullanıcıların tercihleri ve davranışları hakkındaki bilgileri ortaya çıkaran uygulama içi etkinliklerine göre hedeflenir.
Araştırma makalesinin iddiasına göre niyet ekonomisi, kullanıcılarla doğrudan konuşarak içgörü kazanabildiği için kapsamı ve kullanımı açısından çok daha yaygın olabilir. Böylelikle korkularını, arzularını, güvensizliklerini ve fikirlerini biliyorlardı.
Teknoloji Tarihçisi Dr. Jonnie Penn, “Böyle bir pazar yerinin, özgür ve adil seçimler, özgür basın ve adil pazar rekabeti de dahil olmak üzere insanlığın istekleri üzerindeki olası etkisini, bunun istenmeyen sonuçlarının kurbanı olmadan önce düşünmeye başlamalıyız” dedi. LCFI’da söylenmiş Gardiyan.
Çalışma aynı zamanda bu büyük hacimli “kasıtlı, davranışsal ve psikolojik verilerle”, büyük dil modellerine (LLM’ler) bu tür bilgileri insanları tahmin etmek ve manipüle etmek için kullanmanın da öğretilebileceğini iddia etti. Makale, gelecekteki sohbet robotlarının kullanıcılara film izlemelerini önerebileceğini ve onları filmi izlemeye ikna etmenin bir yolu olarak duygularına erişimi kullanabileceğini iddia etti. “Fazla çalışmaktan bahsetmiştin, sana konuştuğumuz sinema biletini ayırtayım mı?”, bir örnek verdi.
Fikri genişleten makale, niyet ekonomisinde yüksek lisansların aynı zamanda kullanıcıların psikolojik profillerini oluşturabileceğini ve daha sonra bunları reklamverenlere satabileceğini iddia etti. Bu tür veriler, kullanıcının temposu, siyasi eğilimleri, kelime dağarcığı, yaşı, cinsiyeti, tercihleri, görüşleri ve daha fazlası hakkında bilgiler içerebilir. Reklamverenler daha sonra, bir kişiyi belirli bir ürünü satın almaya neyin teşvik edebileceğini bilerek, son derece özelleştirilmiş çevrimiçi reklamlar oluşturabilecek.
Özellikle araştırma makalesi, yapay zeka çağında özel kullanıcı verilerinin nasıl kullanılabileceği konusunda kasvetli bir bakış açısı sunuyor. Ancak dünya çapındaki çeşitli hükümetlerin yapay zeka şirketlerinin bu tür verilere erişimini sınırlama konusundaki proaktif tutumu göz önüne alındığında, gerçek, çalışmanın öngördüğünden daha parlak olabilir.
