Bu Yapay Zeka Modeli Kendi Gizli Dilini İcat Etti mi?

Yazılı bir ipucuna dayanarak, yeni nesil yapay zeka (AI) modelleri, talep üzerine “yaratıcı” görseller üretebilir. Imagen, MidJourney ve DALL-E 2, yeni teknolojilerin yaratıcı içeriğin oluşturulma şeklini, telif hakkı ve fikri mülkiyet açısından sonuçlarıyla nasıl değiştirdiğinin sadece birkaç örneğidir. Bu modellerden elde edilen çıktılar genellikle etkileyici olsa da, sonuçlara tam olarak nasıl ulaştıklarını belirlemek zordur. Amerika Birleşik Devletleri’ndeki araştırmacılar geçen hafta DALL-E 2 modelinin nesneler hakkında iletişim kurmak için kendi gizli dilini kurmuş olabileceğini iddia etti.

Araştırma, her ikisi de Austin’deki Texas Üniversitesi’nde öğrenim gören Giannis Daras ve Alexandros G. Dimakis tarafından yürütüldü. Yapay zekadan metin alt yazıları içeren fotoğraflar oluşturmasını isteyip ardından alt yazıları sisteme geri besleyen araştırmacılar, DALL-E 2’nin ‘Apoploe vesrreaitais’in ‘kuşlar’, ‘contarra ccetnxniams luryca tanniounons’un ‘böcekler veya zararlılar’ anlamına geldiğini düşündüğünü keşfettiler. ‘vicootes’, ‘sebzeler’ ve ‘wa ch zod rea’, ‘bir balinanın yiyebileceği deniz canlıları’ anlamına gelir.

Bu ifadeler ilgi çekicidir ve eğer doğruysa, bu tür devasa yapay zeka modelinin güvenliği ve yorumlanabilirliği için önemli sonuçları olabilir. DALL-E 2’nin gizli bir dil içermesi pek olası değildir.

Daras bir raporda, “Kendi kelime dağarcığına sahip olduğunu söylemek daha doğru olabilir – ama o zaman bile kesin olarak bilemeyiz” dedi. yayınlanan içinde Konuşma.

Başlangıç ​​olarak, bu noktada DALL-E 2 ve diğer devasa yapay zeka modelleriyle ilgili herhangi bir iddiayı doğrulamak zor çünkü bunlara yalnızca birkaç araştırmacı ve yaratıcı uygulamacı erişebiliyor. Daras, halka açık olarak yayınlanan tüm fotoğrafların, çok sayıda AI çıktı görüntüsünden bir insan tarafından özenle seçildiği için bir tuz tanesi ile çekilmesi gerektiğini ekledi.

Bir teori, anlamsız cümlelerin İngilizce olmayan kelime dağarcığından türetilmesidir. Örneğin, kuşların görüntülerini çağrıştırıyor gibi görünen Apoploe, bir kuş türü ailesinin Latincedeki bilimsel adı olan Apodidae ile ilişkilidir. Örneğin DALL-E 2, çok sayıda İngilizce olmayan terim de dahil olmak üzere, internetten alınan geniş bir veri yelpazesi üzerinde eğitildi.

AI dil modellerinin metni insanlarla aynı şekilde yorumlamaması bu teoriyi desteklemektedir. Daras, bunun yerine metni analiz etmeden önce onu ‘belirteçlere’ ayırdıklarını söyledi. Her kelimeyi bir simge olarak ele almak basit görünebilir, ancak aynı simgelerin çeşitli anlamları olduğunda sorunlu olabilir. Daras, örneğin tenis oynarken ve ateş yakarken ‘maç’ kelimesinin farklı anlamlar taşıdığına dikkat çekti.

Öte yandan, her karakteri bir simge olarak ele almak, daha az sayıda geçerli simgeyle sonuçlanır, ancak her biri çok daha az alakalı bilgi iletir.

DALL-E 2, bir yarım çözüm olan bayt çifti kodlamasını (BPE) kullanır. Anlamsız kelimelerin bazıları için BPE temsillerini incelemek, bunun kodu deşifre etmede önemli bir yön olabileceğini ortaya koyuyor. Her durumda, bu olasılıkların hiçbiri neler olup bittiğine dair tam açıklamalar değildir. Örneğin, bu cümlelerden tek tek karakterler çıkarıldığında, ortaya çıkan görseller çok kesin şekillerde bozuluyor gibi görünüyor. Tek tek anlamsız kelimeler her zaman mantıklı birleşik görseller oluşturmak için bir araya gelmiyor, öyle görünüyor.

Genel olarak, DALL-E 2’nin gizli dili, yorumlanabilirlik hakkında sorular ortaya koyuyor. Araştırmacılar, en son bildiribu modellerin insanlar gibi davranmasını istiyor, ancak anlamsız kelimelere yanıt olarak organize çıktılar görmek beklentilerine meydan okuyor.

Ancak, başka Twitter dizisi DALL-E 2’deki ‘Contarra ccetnxniams luryca tanniounons’ ifadesinin aramayı böcek ve zararlılarla sınırlamadığını, aynı zamanda diğer hayvanların resimlerini de gösterdiğini belirterek son iddiaları reddetti.