OpenAI’nin ilk “akıl yürütme” yapay zeka modeli olan o1’i piyasaya sürmesinden kısa bir süre sonra insanlar ilginç bir olguyu fark etmeye başladı. Model bazen Çince, Farsça veya başka bir dilde “düşünmeye” başlıyordu; hatta İngilizce bir soru sorulduğunda bile.
Çözülmesi gereken bir problem verildiğinde – örneğin “‘Çilek’ sözcüğünde kaç R vardır?” – o1, bir dizi akıl yürütme adımını gerçekleştirerek bir cevaba ulaşarak “düşünce” sürecine başlar. Soru İngilizce yazılmış olsaydı o1’in son yanıtı İngilizce olurdu. Ancak model, sonucunu çıkarmadan önce başka bir dilde bazı adımlar gerçekleştirecektir.
“[O1] Reddit’teki bir kullanıcı, yarı yolda rastgele Çince düşünmeye başladı. söz konusu.
“Neden [o1] rastgele Çince düşünmeye mi başlıyorsunuz? farklı bir kullanıcı şunu sordu: X’te yayınla. “Konuşmanın hiçbir kısmı (5’ten fazla mesaj) Çince değildi.”
o1 pro neden rastgele Çince düşünmeye başladı? Konuşmanın hiçbir kısmı (5’ten fazla mesaj) Çince değildi… çok ilginç… eğitim verilerinin etkisi pic.twitter.com/yZWCzoaiit
— Rishab Jain (@RishabJainK) 9 Ocak 2025
OpenAI, o1’in tuhaf davranışına ilişkin bir açıklama yapmadı, hatta bunu kabul bile etmedi. Peki neler oluyor olabilir?
Yapay zeka uzmanları emin değil. Ancak birkaç teorileri var.
Hugging Face CEO’su Clément Delangue dahil olmak üzere X’teki birçok kişi, ima edildi o1 gibi muhakeme modellerinin çok sayıda Çince karakter içeren veri kümeleri üzerinde eğitilmiş olduğu gerçeğine. Google DeepMind araştırmacılarından Ted Xiao, OpenAI dahil şirketlerin üçüncü taraf Çin veri etiketleme hizmetlerini kullandığını ve o1’in Çinceye geçmesinin “Çince dil etkisinin muhakeme üzerindeki etkisinin” bir örneği olduğunu iddia etti.
“[Labs like] OpenAI ve Antropik kullanım [third-party] Bilim, matematik ve kodlamaya yönelik doktora düzeyinde akıl yürütme verileri için veri etiketleme hizmetleri,” diye yazdı Xiao. X’te yayınla. “[F]veya uzman iş gücü bulunabilirliği ve maliyet nedenleri nedeniyle, bu veri sağlayıcıların çoğu Çin merkezlidir.”
Etiketler veya ek açıklamalar olarak da bilinen etiketler, modellerin eğitim süreci sırasında verileri anlamasına ve yorumlamasına yardımcı olur. Örneğin, bir görüntü tanıma modelini eğitmek için kullanılan etiketler, nesnelerin etrafında işaretlemeler veya bir görüntüde tasvir edilen her bir kişiye, yere veya nesneye atıfta bulunan başlıklar şeklini alabilir.
Araştırmalar önyargılı etiketlerin önyargılı modeller üretebileceğini göstermiştir. Örneğin, ortalama açıklayıcı Bazı Siyah Amerikalılar tarafından kullanılan gayri resmi dilbilgisi olan Afro-Amerikan Yerel İngilizcesindeki (AAVE) ifadeleri toksik olarak etiketleme olasılığı daha yüksektir ve AAVE’yi orantısız derecede toksik olarak görmek için etiketler üzerinde eğitilmiş önde gelen AI toksisite dedektörleri.
Ancak diğer uzmanlar o1 Çin veri etiketleme hipotezini kabul etmiyor. O1’in geçiş yapma olasılığının aynı olduğunu belirtiyorlar Hintçe, Tay diliveya bir çözüm üzerinde çalışırken Çince dışında bir dil.
Aksine, bu uzmanlar şunu söylüyor: o1 ve diğer akıl yürütme modelleri basitçe olabilir dilleri kullanmak bir hedefe ulaşmanın en etkili yolunu bulurlar (ya da halüsinasyon görürler).
Alberta Üniversitesi’nde yapay zeka araştırmacısı ve yardımcı doçent olan Matthew Guzdial, TechCrunch’a “Model dilin ne olduğunu veya dillerin farklı olduğunu bilmiyor” dedi. “Hepsi sadece bir mesaj.”
Gerçekten de modeller kelimeleri doğrudan işlemez. Bunun yerine jeton kullanıyorlar. Jetonlar olabilmek “fantastik” gibi kelimeler olabilir. Veya “fan”, “tas” ve “tic” gibi heceler olabilirler. Veya kelimelerdeki tek tek karakterler bile olabilirler – örneğin “f”, “a”, “n”, “t”, “a”, “s”, “t”, “i”, “c.”
Etiketleme gibi belirteçler de önyargılara yol açabilir. Örneğin, birçok kelimeden belirteç çevirmeni, tüm dillerin kelimeleri ayırmak için boşluk kullanmamasına rağmen, cümledeki bir boşluğun yeni bir kelimeyi ifade ettiğini varsayar.
Yapay zeka girişimi Hugging Face’te yazılım mühendisi olan Tiezhen Wang, akıl yürütme modellerindeki dil tutarsızlıklarının eğitim sırasında yapılan ilişkilendirmelerle açıklanabileceği konusunda Guzdial ile aynı fikirde.
Wang, “Her dilsel nüansı kucaklayarak, modelin dünya görüşünü genişletiyoruz ve insan bilgisinin tüm yelpazesinden öğrenmesine olanak sağlıyoruz” dedi. yazdı X ile ilgili bir gönderide: “Örneğin, Çince matematik yapmayı tercih ediyorum çünkü her rakam yalnızca bir heceden oluşuyor, bu da hesaplamaları net ve verimli kılıyor. Ancak bilinçsiz önyargı gibi konulara gelince, otomatik olarak İngilizceye geçiyorum çünkü bu fikirleri ilk öğrendiğim ve özümsediğim yer burası.”
Wang’ın teorisi makul. Sonuçta modeller olasılıksal makinelerdir. Birçok örnek üzerinde eğitim alarak, bir e-postada “kime” ifadesinin genellikle “ilgili olabilir” ifadesinden önce nasıl geldiği gibi tahminlerde bulunma kalıplarını öğrenirler.
Ancak kar amacı gütmeyen Allen Yapay Zeka Enstitüsü’nde araştırma bilimcisi olan Luca Soldaini, kesin olarak bilemeyeceğimiz konusunda uyardı. TechCrunch’a şunları söyledi: “Konuşlandırılmış bir yapay zeka sistemi üzerinde bu tür bir gözlemin, bu modellerin opak olması nedeniyle yedeklenmesi imkansızdır.” “Bu, yapay zeka sistemlerinin nasıl oluşturulduğu konusunda şeffaflığın neden önemli olduğunu gösteren birçok örnekten biri.”
OpenAI’den yanıt gelmediği için o1’in neden şunu düşündüğünü düşünmek zorunda kalıyoruz şarkılar Fransızca ama sentetik biyoloji Mandarin dilinde.
