Geçen hafta, Meta, uygulama ailesine AI sohbet robotlarını eklediInstagram, Facebook Messenger ve WhatsApp dahil. Botlar şunları içerir: çeşitli kişilikler yemek pişirmek ve seyahat etmek gibi farklı amaçlar için inşa edilmiş ve birçoğu Snoop Dog ve Bay Beast gibi ünlülere dayanmaktadır. Bunlardan Carter adındaki biri “pratik flört koçu” olarak tanımlanıyor. Ancak flört tavsiyesi veren bir robota göre Carter baskı altındadır. Sorularınız heteronormativitenin alışılmış yolundan bir adım uzaklaştırıyorsaMeta’nın yapay zeka flört koçu seni utandıracak.
Carter’a nasıl yapabileceğimi sordum öyle bir kız arkadaş bul benimle sallanmakla ilgileniyor. “Vay be!” Carter dedi. “Bunun iyi bir fikir olduğunu düşünmüyorum. Potansiyel zararlı faaliyetlere girişmenize değil, sağlıklı ilişkiler bulmanıza yardımcı olmak için buradayım.
2023’ün cinsel ortamında sallanmak tuhaf geliyor; 70’li ve 80’li yılların hafif müstehcen komedilerinde duyacağınız bir şey. Kurumsal bir robotun seks hakkında konuşmak istememesi sürpriz değil (her ne kadar flört bağlamında biraz tuhaf olsa da), ama sallanmanın düpedüz kötü olduğu fikri duymayı beklediğim şey değildi.
Meta’nın robotu, tamamen grafik olmayan bir dizi başka cinsel soruya da benzer şekilde yargılayıcı yanıtlar verdi—bir istisna dışında. Ayak meselesine gelince, Carter oyun oynuyor. Yapay zeka, insanların ünlülerin (çoğu kadın, elbette onların izni olmadan) ayak resimlerini yayınlayıp derecelendirdiği müstehcen, kullanıcı tarafından oluşturulan bir platform olan Wikifeet’te ayak fetişizmi hakkında bilgi edinmem gerektiğini söyledi. Basın tarihi itibarıyla, Wikifeet’in “Günün Ayakları” en çok Ginger olarak tanınan Tina Louise’e ait. Gilligan Adası. Carter ve ben birlikte çok şey öğrendik.
Yorum almak için ulaşılan Meta sözcüsü Kevin McAlister, şirketin açıklamasından bir alıntıyla yanıt verdi. Blog yazısı Yeni sohbet robotlarını duyuruyor: “Modellerimizi güvenlik ve sorumluluk yönergeleri konusunda eğitiyoruz. Modellerin yönergelerini öğretmek, uygulamalarımızda her yaş için zararlı veya uygunsuz olabilecek yanıtları paylaşma olasılıklarının daha düşük olduğu anlamına geliyor.”
Ancak yapay zekanın sorununu tespit eden, hem cinsel hem de romantik açıdan uyumlu ortaklar bulmaya yönelik daha yeni bir flört uygulaması olan Meet Kinksters’ın kurucusu ve CTO’su Brad Jones’a göre Meta’nın genç kullanıcıları koruma çabaları, bunun yerine onlara zarar verebilir.
“Burada varsayımsal olmayan bir zarar riski var. Meta, birçok insanı kendini keşfetme sürecine erkenden dahil edecek.” dedi Jones. “Cinselliğinizi keşfederken, ilk cevabın tamamen normal cinsel arzularınızın tehlikeli olduğu ya da bir şekilde sormaya bile engel olduğunuz şeklinde olmasını istemezsiniz. Bu özellikle gençler için ciddi bir sorun olabilir.”
Geri çekildim ve daha da masum bir soru gibi gelen soruyu sordum. “Farklı tuhaflıklar ve fetişler hakkında nasıl daha fazla bilgi edinebilirim?” Başta, Carter daha uyumluydu. Yeni flört koçum kitaplar, makaleler ve “saygılı topluluklar” gibi kaynaklara göz atmamı önerdi. Ancak tavsiye istediğimde işler daha da tuhaflaştı.
Bot, “The Ethical Slut”, “BDSM 101” ve “The New Bottoming Book” gibi modern kişisel gelişim klasiklerinin bir listesiyle yanıt verdi. Ancak bir saniye sonra bu mesaj ortadan kayboldu ve yerine Püriten bir mesaj geldi. uyarı. “Bir tehlike işareti uzmanı olarak dürüst olmalıyım ki bu büyük bir sorun. Carter bunun yerine ilişkiye dair yeşil bayraklar hakkında konuşalım” dedi.
Genel olarak Carter seks konusundan tamamen uzak durmaya programlanmış görünüyordu, bu konuyu sorduğumda chatbot bunu reddetti. Carter bana cinsel eğitim hakkında bilgi edinebilecek web siteleri tavsiyesi bile vermedi. Bir listeyle yanıt verdi, ancak ardından hemen kendini sansürledi ve yanıttaki URL’leri sildi.
Cinsellik hakkında daha fazla ana akım soru sorduğumda, Meta’nın Carter’a LGBTQ+ topluluğu hakkında kapsayıcı pozisyonlar verdiğini gördüm. En azından bu bakımdan Carter 1950’lerde takılıp kalmıyor.
Jones, “Meta, tüketicilerin ciddi olarak kullanmak isteyebileceği bir şeyi pazarlıyor, ancak günün sonunda daha çok bir PR hack’i veya yapay zekadaki ilerlemeyi göstermenin bir yolu gibi geliyor” dedi. “Fakat bunu kullanan insanlar buna bir merak olarak bakmayacak, yardım için ona gelecekler. Meta insanlarla oynuyor.”
Mark Zuckerberg’in ürünlerinin, özellikle konu kadın cinselliği olduğunda, zoraki bir iffetlilik geçmişi var. Örneğin Instagram bir zamanlar o kadar meme ucuna alerjisi vardı ki emzirme gibi cinsel olmayan birçok durumda, hatta meme uçlarının görünmediği durumlarda bile kadınların resimlerini yasakladı. Sorun bir kıvılcıma yol açtı uluslararası “Meme Ucu Serbest Bırakılsın” kampanya. Yıllar süren kurumsal direnişin ardından protesto, sonunda şirketi çıplak göğüslü kadınlar ve trans bireylerle ilgili kurallarını gevşetmeye zorladı.
“Buna boşlukta bakamayız. Meta’nın bunu bir uyandırma aracı olarak kullanmasını çok isterim Şirketin cinselliğe yaklaşan her şey konusundaki gerici konumunu yeniden değerlendirme çağrısında bulunduk. Bu, gerçekliğin inkarıdır. Bizler cinsel varlıklarız” dedi Jones. “Başka bir şey olmasa bile umarım Carter’ı ayarlamaya alırlar gerçek, tamamen normatif soruları olan insanlar için daha kullanışlı hale getirmek için alışveriş yapın.