Üretken yapay zeka sihir gibi görünebilir, ancak bu sistemlerin geliştirilmesinin arkasında Google, OpenAI ve diğerleri gibi şirketlerin “hızlı mühendisler” olarak bilinen çalışanlarından ve yapay zekalarını geliştirmek için sohbet robotlarının çıktılarının doğruluğunu derecelendiren analistler vardır.
Ancak Google’dan Gemini üzerinde çalışan yüklenicilere iletilen ve TechCrunch tarafından görülen yeni bir dahili kılavuz, Gemini’nin sağlık gibi son derece hassas konularda sıradan insanlara yanlış bilgi verme eğiliminde olabileceği yönünde endişelere yol açtı.
Yükleniciler Gemini’yi geliştirmek için bir dış kaynak firması olan GlobalLogic ile çalışıyor Hitachi’ye aittirrutin olarak AI tarafından oluşturulan yanıtları “doğruluk” gibi faktörlere göre değerlendirmeleri istenir.
Bu yükleniciler yakın zamana kadar belirli istemleri “atlayabiliyordu” ve dolayısıyla, istemin kendi alan uzmanlıklarının çok dışında olması durumunda, bu istemlere verilen çeşitli yapay zeka yazılı yanıtları değerlendirmeyi devre dışı bırakabiliyorlardı. Örneğin, bir yüklenici, kardiyolojiyle ilgili özel bir soru soran bir istemi atlayabilir çünkü yüklenicinin hiçbir bilimsel geçmişi yoktur.
Ancak geçen hafta GlobalLogic, Google’dan, yüklenicilerin kendi uzmanlıkları ne olursa olsun bu tür istemleri atlamalarına artık izin verilmeyeceği yönünde bir değişiklik yaptığını duyurdu.
TechCrunch tarafından görülen şirket içi yazışmalar, daha önce yönergelerin şu şekilde olduğunu gösteriyor: “Bu istemi derecelendirecek kritik uzmanlığınız (örn. kodlama, matematik) yoksa, lütfen bu görevi atlayın.”
Ancak artık yönergelerde şu ifadeler yer alıyor: “Özel alan bilgisi gerektiren istemleri atlamamalısınız.” Bunun yerine yüklenicilere “istemin anladığınız kısımlarını derecelendirmeleri” ve alan bilgisine sahip olmadıklarına dair bir not eklemeleri söyleniyor.
Yüklenicilere bazen arka planlarının olmadığı nadir hastalıklar gibi konularda son derece teknik yapay zeka yanıtlarını değerlendirmekle görev verildiğinden, bu durum Gemini’nin belirli konulardaki doğruluğu hakkında doğrudan endişelere yol açmıştır.
“Atlamanın amacının, onu daha iyi birine vererek doğruluğu artırmak olduğunu sanıyordum?” TechCrunch tarafından görülen iç yazışmalarda bir yüklenicinin belirttiği.
Yükleniciler artık yalnızca iki durumda istemleri atlayabiliyor: Yeni yönergeler, istemin tamamı veya yanıt gibi “bilgilerin tamamen eksik olması” veya değerlendirilmesi için özel onay formları gerektiren zararlı içerik içermeleri durumunda.
Google, TechCrunch’ın yorum taleplerine basın saatine kadar yanıt vermedi.
