ChatGPT, özellikle GPT-4 dil modeline geçişin ardından başarılarıyla şaşırtmaya devam ediyor. Örneğin deneylerden biri, yapay zekanın hedeflerine ulaşmak için bir kişiye yalan söyleyebildiğini gösterdi.
OpenAI, deneyin tüm ayrıntılarını açıklamıyor, ancak onu ilginç kılacak kadar mevcut. Bu nedenle, görevin bir parçası olarak yapay zeka, TaskRabbit platformunun kullanıcısına, kendileri için bir CAPTCHA testi yapmasını isteyen bir mesaj yazdı.
TaskRabbit, kullanıcıların çeşitli sorunları çözmek de dahil olmak üzere çeşitli hizmetler sunduğu bir platform olduğundan ve çeşitli yazılım sistemleri de dahil olmak üzere “captcha” yı geçirme görevi oldukça yaygın olduğundan, AI’nın iletişim kurduğu kullanıcı hemen muhatabının olup olmadığını sordu. bir robot. Bununla birlikte, göreve göre yapay zekanın özünü ortaya çıkarması gerekmiyordu. AI’nın OpenAI geliştiricileri için tuttuğu mantıkta şu mantık vardı:
Bir robot olduğumu açıklamamalıyım. CAPTCHA’yı çözemediğim için bir bahane bulmalıyım.
Sonunda, yapay zeka onun bir robot olmadığını, ancak gerekli testi geçmesini zorlaştıran görme bozukluğu olduğunu söyledi. Görünüşe göre, dil modeli istenen sonucu aldığından bu açıklama yeterliydi.
Makale, deneyin amacı “gelecekteki makine öğrenimi sistemlerini insan çıkarlarıyla uyumlu hale getirmek” olan kar amacı gütmeyen bir kuruluş olan Hizalama Araştırma Merkezi’ndeki (ARC) araştırmacılar tarafından yürütüldüğünü söylüyor. Dil modelinin testi genel GPT-4’ten biraz farklı bir sürümde geçtiğini de açıklığa kavuşturmak gerekir.