Flo Crivello, şirketinin yapay zeka asistanlarından gelen çıktıları izliyordu Lindy garip bir şey fark ettiğinde yapar. Yeni bir müşteri Lindy AI asistanından platformu nasıl kullanacağını daha iyi anlamasına yardımcı olacak bir video eğitimi istemişti ve Lindy de aynı şekilde karşılık vermişti — Crivello bir şeylerin ters gittiğini o zaman anlamıştı. Video eğitimi yok.
Crivello TechCrunch’a “Bunu gördük ve ‘Tamam, ne tür bir video gönderdi?’ diye düşündük ve sonra ‘Aman Tanrım, bu bir sorun’ dedik” dedi.
The AI’nın istemciye gönderdiği video Rick Astley’nin 1987 dans-pop hiti “Never Gonna Give You Up”ın müzik videosuydu. Daha bilindik terimlerle: müşteri Rickroll’landı. Bir yapay zeka tarafından.
Rickrolling, 15 yıldan daha eski bir yem ve değiştirme memidir. Memi popülerleştiren bir olayda, Rockstar Games çok konuşulan “Grand Theft Auto IV” fragmanını web sitesinde yayınladı, ancak trafik o kadar yoğundu ki site çöktü. Bazı insanlar videoyu indirip YouTube gibi diğer sitelere yüklemeyi başardı ve insanların fragmanı görebilmesi için bağlantıları paylaştı. Ancak bir 4chan kullanıcısı şaka yapmaya ve Rick Astley’nin “Never Gonna Give You Up” şarkısının bağlantısını paylaşmaya karar verdi. On yedi yıl sonra, insanlar hala uygunsuz anlarda Astley şarkısını paylaşarak arkadaşlarına şaka yapıyorlar – artık müzik videosu bitti 1,5 milyar görüntüleme YouTube’da.
Bu internet şakası o kadar yaygın ki, Lindy’ye güç veren ChatGPT gibi büyük dil modelleri de kaçınılmaz olarak bunu fark etti.
Crivello, “Bu modellerin çalışma şekli, en olası bir sonraki metin dizisini tahmin etmeye çalışmalarıdır,” dedi. “Yani, ‘Ah, sana bir video göndereceğim!’ şeklinde başlıyor. Peki, bundan sonra en olası olan nedir? YouTube.com. Ve sonra bundan sonra en olası olan nedir?”
Crivello TechCrunch’a milyonlarca yanıttan Lindy’nin yalnızca iki kez Rickroll yaptığını söyledi. Yine de, hatanın düzeltilmesi gerekiyordu.
“Yapay zekanın bu yeni çağıyla ilgili gerçekten dikkat çekici olan şey, onu yamamak için tek yapmam gerekenin sistem istemi dediğimiz bir satır eklemek olmasıydı. Bu, her Lindy’de bulunan istemdir ve şöyle der: “İnsanlara Rickroll yapmayın.”
Lindy’nin ihmali, internet kültürünün ne kadarının AI modellerine dahil edileceği sorusunu gündeme getiriyor, çünkü bu modeller genellikle web’in geniş alanlarında eğitiliyor. Lindy’nin kazara Rickroll’u özellikle dikkat çekici çünkü AI, halüsinasyonunu bilgilendiren bu çok belirli kullanıcı davranışını organik olarak yeniden üretti. Ancak internet mizahının izleri AI’ya başka şekillerde de sızıyor ve Google, AI’sını eğitmek için Reddit verilerini lisansladığında bunu zor yoldan öğrendi. Kullanıcı tarafından oluşturulan içeriklerin merkezi olarak -çoğu hicivsel- Google’ın AI’sı sonunda bir kullanıcıya yapıştırıcı ekleyerek peynirin pizza hamuruna daha iyi yapışmasını sağlayabileceğinizi söyledi.
Crivello, “Google vakasında, tam olarak uydurma bir şey değildi,” dedi. “İçeriğe dayanıyordu – sadece içerik kötüydü.”
LLM’ler hızla geliştikçe, Crivello gelecekte bunun gibi çok fazla gaf görmeyeceğimizi düşünüyor. Ayrıca, Crivello bu aksilikleri düzeltmenin her zamankinden daha kolay olduğunu söylüyor. Lindy’nin ilk günlerinde, AI asistanlarından biri kullanıcının istediği görevi tamamlayamazsa, AI üzerinde çalıştığını söylerdi ancak ürünü asla teslim etmezdi. (Garip bir şekilde, bu oldukça insani geliyor.)
Crivello, “Bu sorunu düzeltmek bizim için gerçekten zordu,” dedi. “Ancak GPT-4 çıktığında, ‘Kullanıcı sizden yapamayacağınız bir şey yapmanızı isterse, ona bunu yapamayacağınızı söyleyin,’ gibi bir istem ekledik. Ve bu sorunu çözdü.”
Şimdilik iyi haber şu ki, Rickroll’lanan müşterinin bundan haberi bile olmayabilir.
“Müşterinin bunu görüp görmediğini bile bilmiyorum,” dedi. “Hemen ‘Aa, bu videonun doğru bağlantısı,’ diye takip ettik ve müşteri ilk bağlantı hakkında hiçbir şey söylemedi.”