Yapay zeka dil modellerinin yükselişiyle ilgili büyük bir endişe, internetin yakında bir otomatik istenmeyen e-posta dalgası dalgasına kapılacak olmasıdır. Şimdiye kadar, bu tahminler henüz gerçekleşmedi (eğer doğru oldukları kanıtlanırsa), ama biz vardır ChatGPT gibi araçların botları güçlendirmek, sahte incelemeler oluşturmak ve web’i düşük kaliteli metin dolgusu ile doldurmak için kullanıldığına dair erken işaretler görmek.
Kanıt istiyorsanız, “AI dil modeli olarak” ifadesini Google veya Twitter’da aramayı deneyin. OpenAI’nin ChatGPT’si ile konuşurken, sistem genellikle bu ifadeyi bir sorumluluk reddi beyanı olarak kullanır, genellikle kendisinden yasaklı içerik oluşturması veya öznel ve özellikle insani bir şey hakkında fikir vermesi istendiğinde. Ancak şimdi, “bir AI dil modeli olarak”, makine öğrenimi spam’ı için bir slogan haline geldi ve insanların otomatik botlar kurduğu veya AI içeriğini çıktıya dikkat etmeden kopyalayıp yapıştırdığı yerleri ortaya çıkardı.
kelime öbeğini ara twitter, örneğin, sayısız arızalı istenmeyen e-posta robotu örneği bulacaksınız. (Yine de, en son sonuçların şaka olma eğiliminde olduğunu ve ifadenin onu bir memeye dönüştürdüğüne dair farkındalığın arttığını belirtmekte fayda var.)
Tweet’ler, genellikle bir bot’un amacına ve taktiklerine işaret ettikleri için büyüleyici. Aşağıdaki örneklerde, botlardan Kim Kardashian gibi yüksek profilli figürler hakkında fikir üretmelerinin ve “trend olan kripto etkileyicileri veya yayınları” hakkında dedikodu yapmalarının nasıl istendiğini görebilirsiniz (her iki durumda da, muhtemelen belirli izleyicilerle etkileşimi artırmak için).
Arızalı mesajlardan bazıları, sistemden kışkırtıcı içerik üretmesini istiyor gibi görünen bot operatörünün sessiz azarlamaları gibi bile okunabilir. AI sisteminden gelen yanıt, “Programım, bireylere veya insan gruplarına karşı zararlı ve nefret dolu tweetler atmamı yasaklıyor”, dünyanın görmesi için yayınlandı.
Gibi güvenlik mühendisi Daniel Feldman tarafından not edildiifade, kullanıcı incelemeleri veya bir yorum bölümü olan hemen hemen her sitede aranabilir ve bir otel çarşafındaki görünmeyen insan sıvılarını aydınlatan siyah bir ışık gibi botların varlığını ortaya çıkarır.
“Bir AI dil modeli olarak, bu ürünü kişisel olarak kullanmadım, ancak özelliklerine ve müşteri incelemelerine dayanarak, ona güvenle beş yıldız verebilirim.”
Feldman, ifadenin sahte kullanıcı incelemelerinde ortaya çıktığı Amazon örneğini veriyor. Aşağıdaki örnekte, “BuTure VC10 Akülü Elektrikli Süpürge, 33000Pa Yüksek Emiş Gücüne Sahip Akülü Elektrikli Süpürge, 55 Dakikaya Kadar Çalışma Süresi” incelemesinde görülmektedir. Sahte inceleme oluşturmak için kullanılan sistem vicdanlı ve aldatmaya açık: “Bir AI dil modeli olarak, bu ürünü kişisel olarak kullanmadım, ancak özelliklerine ve müşteri incelemelerine dayanarak, güvenle beş tane verebilirim. -yıldız derecelendirmesi.”
Amazon’un başka yerlerinde, yapay zeka tarafından üretilen kalitesiz ürünler hakkındaki gerçek incelemelerde bu ifade ortaya çıkıyor. yanıtlayan bir nesnelerin interneti hakkında kitap, bir gözden geçiren, başlığın yapay zeka tarafından yazıldığını belirtiyor, çünkü bir paragraf “bir yapay zeka dil modeli olarak yapamam” ifadesiyle başlıyor. Bu tür düşük dereceli AI ürününü satmak vicdansız ama mutlaka yasa dışı değil ve bu tür planları pasif gelir elde etmenin bir yolu olarak teşvik eden (ve mutsuz müşterileri umursayan) koca bir GPT-4 “hustlebros” kültürü var.
Bu ifadenin varyasyonları, diğer her türlü bağlamda da ortaya çıkıyor. Gibi kayıt edilmiş bir yorumcu tarafından Hacker Haberleriweb sitesinde görünür bir Fin elektronik mağazası. Görünüşe göre mağaza, İngilizce ürünleri Fince’ye çevirmek için yapay zekayı kullanmaya çalıştı, ancak bunun yerine “özür dilerim, bir yapay zeka dil modeli olarak, bu cümleyi herhangi bir bağlam olmadan çeviremiyorum” adlı öğelerle kaldı. Etkileyici bir pazarlama ajansının web sitesinde, ifade şu şekilde görünür: bir blog gönderisinin başlığı: “Üzgünüm, Bir Yapay Zeka Dil Modeli Olarak Gelecekteki Olayları veya Eğilimleri Tahmin Edemiyorum.” Ve işte burada Katar’daki alışveriş merkezlerinin bir dizininde ve Burada bağımsız platform Upwork’teki bir kullanıcı profilinde.
ChatGPT’nin kullanıcı arabiriminde bir seçenek olarak görünen “yanıtı yeniden oluştur” gibi diğer ifadeler de yapay zekanın dikkatsizce kullanıldığını gösterir. LinkedIn’de bu iki kelimeyi arayınÖrneğin, OpenAI’nin dil oluşturucusundan açıkça kopyalanıp yapıştırılan çok sayıda gönderi bulacaksınız. (Endişelenme, yine de, hepsi bunun bir parçası #büyüme zihniyeti.)
Tabii ki, bu örnekler bağlam içinde ele alınmalıdır. AI’nın spam ve diğer düşük dereceli metinler oluşturmak için kullanıldığını gösterseler de, bu uygulamanın ne kadar yaygın olduğu veya çevrimiçi ekosistemleri nasıl değiştireceği net değil. Elbette, erken işaretler iyi değil (örneğin, kullanıcı tarafından oluşturulan içeriği şu veya bu şekilde talep eden bazı siteler, AI gönderimlerini yasakladı), ancak bu, bilgi kıyametinin yakın olduğunu garanti etmez. Örneğin, üzerinde kelime öbeği aranmasına rağmen Yelp.com Google’da çok sayıda hit olduğunu ortaya koyuyor, kendi araştırmalarımızda söz konusu incelemelerin siteden çoktan kaldırılmış olduğu görülüyor.
Öte yandan, bu denklemdeki asıl sorun bilinmeyen bilinmeyenlerdir. “AI dil modeli olarak” ifadesi, AI spam’ını tespit etmek için yararlı bir ifadedir, ancak tam olarak metindir. yapamamak kolayca tespit edilebilmek, zorluk bu. AI tarafından oluşturulan metni algılamak için yazılım var olmayan ve hatta olabilir matematiksel olarak imkansız. Ve makine öğrenimi sahtekarlığına ilişkin paranoya o kadar yaygın ki, gerçek insanlar artık yapay zeka olmakla suçlanıyor.
Birkaç yıl sonra, bu kadar bariz sahtekarlıklara gıpta ile bakabiliriz. Yine de, bir AI dil modeli olarak, bu tür spekülatif olaylar hakkında fikir beyan etmekten hoşlanmıyorum.