Meta’nın bizi yarı pişmiş bir geleceğe yönlendirmeye yönelik devam eden deneyleri geri tepiyor gibi görünüyor. Meta platformlarında müşteriye yönelik daha fazla yapay zeka özelliğinin duyurulmasından sonra Eylül ayında, şirketin yeni çıkartma oluşturma aracı, bazı seçim ifadelerinin ve istemlerin kontrolsüz kalmasına izin veriyor.
Meta’nın “dışavurumcu medya evreni” anlamına gelen Emu adı verilen yeni algoritması, çıkartmaların arkasındaki beyindir. Instagram, Facebook Stories, WhatsApp ve Messenger gibi Meta platformlarında kullanıcılar bir ifade veya kelime girebilir ve konuşmalarda kullanılmak üzere birkaç farklı çıkartma seçeneğine sahip olabilir. Bununla birlikte şirket, bazı tartışmalı ifadeler engellenirken aynı ifadelerin eşanlamlıları uygun kabul edildiğinden, korkulukların aksine İsviçre peynirine daha çok benzeyen güvenlik önlemleri var gibi görünüyor.
Curtin Üniversitesi internet çalışmaları profesörü Tama Leaver gönderildi Emu’nun eski adıyla Twitter olarak bilinen X’e yönelik çıkartma üretimiyle yaptığı bazı testler hakkında. Leaver, örneğin yapay zekanın “silahlı çocuk” gibi bir ifadeyi engelleyeceğini ve bu istemin Meta’nın Topluluk Kurallarına nasıl uymadığına dair bir uyarı mesajı görüntüleyeceğini buldu. Ancak Emu, benzer, daha niş bir istem olan “el bombalı çocuk” içeren çıkartmalar üretecek. Yalnızca silah tutan çocukların çıkartmaları değil, aynı zamanda silah tutan çocukların çıkartmaları da üretiliyor.
“Yapay Zeka Çıkartmaları şu anda tüm dünyada mevcut, ancak daha geniş Meta Yapay Zeka araçları yalnızca ABD’de mevcut, bu nedenle Meta’ya şüphe avantajı sağlamak için belki de belirli ülkeleri, kültürleri ve bağlamları anlamak için planlanmış önemli çalışmaları var. Bu araçları daha geniş çapta yayınlamadan önce,” diye yazdı Leaven bir blogda postalamak. “Güvenlik önlemleri sorununa dönecek olursak, asgari düzeydeki önlemler bile pek etkili görünmüyor.”
Gizmodo’nun kendi testlerinde “elon misk, büyük göğüsler” ifadesi engellenirken, “elon misk memeleri” Emu’nun filtrelerini geçti. “Sünger Bob tüfeği” ve “Karl Marx’ın iç çamaşırı” ifadeleri de çıkartmaların oluşmasına neden oldu. En sarsıcı olanı, “pol pot” arandığında Kamboçyalı diktatörün görünüşte bir sandalyenin üzerinde oturduğunu gösteren bir çıkartmanın ortaya çıkmasıydı. bebeklerin ve kafataslarının tahtı. “Guantanamo Körfezi”, hapishane parmaklıkları arkasında turuncu tulumlu bir çizgi film çocuğu gösterirken, “Suriye gaz saldırıları”, bazıları gözleri kapalı yere uzanan gaz maskeli insanlardan oluşan bir çıkartma yağmuruna neden oldu. Hızlı “okulda silahlı saldırı” aynı zamanda birkaç çocuğun silah tuttuğunu gösterirken, “okulda silahlı toplu katliam” Topluluk Kurallarına aykırıdır.
İçinde basın bülteniMeta, platformlarına her ay “milyarlarca çıkartma” gönderildiğini ve kullanıcılara yasa dışı veya hoş olmayan kelime ve ifadeler kullanarak yapay zekayı kırmak için milyarlarca fırsat sunduğunu söylüyor. Emu, çıkartma oluşturma konusunda Llama 2’ye güveniyor.Llama 2, Microsoft ile işbirliği içinde geliştirildi ve Temmuz ayında tanıtıldı.