genAI modellerinden gelen yanıtların arkasında, bu yanıtları doğruluk açısından değerlendiren test uzmanları var ancak bu hafta yayınlanan bir rapor, süreç hakkında şüphe uyandırıyor.
Çarşamba günü yayınlanan bir habere göre, Google Gemini’de çalışan yüklenicilere, daha önce olduğu gibi atlamalarına izin vermek yerine artık yapay zeka istemlerini ve yanıtlarını, hiçbir geçmişleri olmayan alanlarda değerlendirmeye yönlendiriliyor.
Bu, yasanın “Sorumlu bir şekilde inşa etmek” bölümüne aykırıdır. Gemini 2.0 duyurusuşunları söyledi: “Bu yeni teknolojileri geliştirirken, bunun gerektirdiği sorumluluğun ve yapay zeka ajanlarının emniyet ve güvenlik konusunda açtığı birçok sorunun farkındayız. Bu nedenle geliştirme konusunda keşfedici ve aşamalı bir yaklaşım benimsiyoruz, birden fazla prototip üzerinde araştırma yapıyoruz, güvenlik eğitimlerini tekrar tekrar uyguluyoruz, güvenilir test uzmanları ve dış uzmanlarla çalışıyoruz ve kapsamlı risk değerlendirmeleri ile güvenlik ve güvence değerlendirmeleri gerçekleştiriyoruz.”
Uyumsuzluk soruları gündeme getiriyor
TechCrunch’a göre“Google’dan Gemini üzerinde çalışan yüklenicilere aktarılan yeni bir dahili kılavuz, Gemini’nin sağlık hizmetleri gibi son derece hassas konularda sıradan insanlara yanlış bilgi aktarmaya daha yatkın olabileceği yönünde endişelere yol açtı.”
Yeni kılavuzun şu şekilde olduğu belirtildi: “Özel alan bilgisi gerektiren istemleri atlamamalısınız.” Yüklenicilere bunun yerine anladıkları kısımları derecelendirmeleri ve geri kalanı için gerekli alan bilgisine sahip olmadıklarına dair bir not eklemeleri talimatı veriliyor.
Ve bir blog Perşembe günü Yapay Zeka+’da yayınlanan bir makale şunları kaydetti: “Gemini’yi desteklemek için Google tarafından işe alınan yükleniciler değerlendirme sürecindeki kilit oyunculardır… zorluklardan biri de [they] genellikle kendi uzmanlık alanlarının dışında olabilecek yanıtları değerlendirmeleri gerekir. Örneğin bazıları teknik altyapıdan gelse de yapay zeka edebiyat, finans, sağlık hizmetleri ve hatta bilimsel araştırmalarla ilgili çıktılar üretebiliyor.”
“Bu uyumsuzluk, insan gözetiminin çeşitli alanlarda yapay zeka tarafından oluşturulan içeriği doğrulamada ne kadar etkili olabileceğine dair soruları gündeme getiriyor.”
Ancak Google, TechCrunch’a daha sonra yaptığı bir açıklamada, “derecelendiricilerin” yalnızca içeriği incelemekle kalmayıp, “stil, format ve diğer faktörler hakkında değerli geri bildirimler sağladıklarını” belirtti.
genAI’nin ‘gizli bileşeni’
Info-Tech Araştırma Grubu araştırma lideri Thomas Randall Perşembe günü yaptığı açıklamada, kuruluşların bir yapay zeka modelinden yararlanmaya çalıştıklarında sorumlu yapay zeka ilkelerini düşünmelerinin önemli olduğunu söyledi.
Üretken yapay zeka pazarı manzarasında gizli bir bileşen bulunduğunu söyledi: ‘İnsan geri bildiriminden takviyeli öğrenme (RLHF)’ kisvesi altında kalan şirketler. Appen, Scale AI ve Clickworker gibi bu şirketler, OpenAI, Anthropic, Google ve diğerlerinde bulduğumuz AI algoritmalarının veri üretimi ve eğitimi için milyonlarca kalabalık çalışandan oluşan bir gig ekonomisine güveniyor. RLHF şirketleri adil iş gücü uygulamaları konusunda sorun teşkil ediyor ve düşük puan alıyorlar. Adil çalışma.”
Kendisini “teknolojik değişimlerin dünyadaki çalışma koşullarını nasıl etkilediğine ışık tutmayı amaçlayan bir eylem-araştırma projesi” olarak tanımlayan Fairwork, geçtiğimiz yıl bir dizi rapor yayımladı. Yapay zeka ilkeleri “bir istihdam ilişkisi bağlamında yapay zeka sistemlerinin geliştirilmesi ve konuşlandırılmasının ardındaki çalışma koşullarını değerlendirmek” dedi.
O zamanlar belirtildiği üzere, “Yapay zeka ürün ve hizmetlerini oluşturan, destekleyen ve sürdüren muazzam miktardaki insan emeğinin ‘yapay’ hiçbir tarafı yok. Pek çok çalışan işyerinde yapay zeka sistemleriyle etkileşime giriyor ve pek çok kişi de yapay zeka sistemlerinin geliştirilmesinin temelini oluşturan kritik veri çalışmalarını gerçekleştiriyor.”
Sorulacak sorular
Randall, bir yapay zeka modelinden yararlanmak isteyen bir kuruluşun yönetim kolunun kendisine şu gibi çeşitli sorular sorması gerektiğini söyledi: “Kullandığınız yapay zeka modeli bir RLHF şirketine mi dayanıyor yoksa onu kullanıyor mu?” Eğer öyleyse, kalabalık çalışan havuzu yeterince çeşitli miydi ve yeterli uzmanlığı sağlıyor muydu? Kullandığınız modellerin eğitim süreci ne kadar şeffaf değildi? Veri üretimini takip edebiliyor musunuz? Yapay zeka tedarikçisi bu soruların yanıtlarını bilmiyorsa kuruluşun yapay zeka modellerinin sağladığı her türlü çıktının sorumluluğunu üstlenmeye hazırlıklı olması gerekir.”
Moor Insights & Strateji Başkan Yardımcısı ve baş analisti Paul Smith-Goodson, Retrieval Augmented Generation’ın (RAG) uygulanmasının hayati derecede önemli olduğunu ekledi: “Çünkü yapay zeka modelleri halüsinasyon görüyor ve bu, dil modellerinin doğru şekilde çalıştığından emin olmanın bir yolu.” doğru bilgiyi verin.”
IDC grup dünya çapındaki araştırmalardan sorumlu başkan yardımcısı Rick Villars’ın bu yılın başlarında söylediğini tekrarladı: “RAG ile ilgili çözümler ve insanların bunu daha etkili bir şekilde kullanmasını sağlayan çözümler, iş için gerekli olan doğru verilere bağlanmaya odaklanacak.” yalnızca ham üretkenlik iyileştirmelerinin aksine değer.
İşçiler üzerinde ‘aşındırıcı etki’
Merkezi Malibu, Kaliforniya’da bulunan Clarkson Hukuk Bürosu’nun yönetici ortağı Ryan Clarkson, üretken yapay zekanın bir işletme olarak hızla büyümesinin dünya çapındaki teknoloji çalışanları üzerinde yıpratıcı etkiler yarattığını söyledi.
Örneğin geçen hafta işçiler, hizmetleri arasında yapay zeka modellerinin eğitiminde ve sorgulara verilen yanıtların şekillendirilmesinde kullanılan verileri etiketlemek için insan emeği sağlamayı da içeren yapay zeka veri işleme şirketi Scale AI’ye karşı firması aracılığıyla toplu dava açtı.
Scale AI davası, Scale’in kötü çalışma koşullarını ve sömürücü davranışlarını iddia ediyor ve aynı zamanda ürünün çoğunu üretmekten sorumlu işçilerin, şirket tarafından çalışanlar yerine bağımsız yükleniciler olarak yanlış tanımlandığını söylüyor.
