OpenAI, gerçekçi AI ses işlevselliğinin, insanların insan etkileşimi pahasına duygusal olarak bota bağlanmasına yol açabilecek potansiyel olumsuz etkisi hakkındaki endişelerini dile getirdi.
8 Ağustos’ta yayınlanan bir güvenlik raporunda şirket, bir yapay zekayla sanki bir insanmış gibi konuşmanın yersiz güvene yol açabileceğini ve GPT-4o’nun yüksek ses kalitesinin bu etkiyi daha da kötüleştirebileceğini gösteren literatüre atıfta bulundu.
Antropomorfizasyon, yani insan özelliklerini ve davranışlarını insan olmayan varlıklara atfetmek, GPT-4o’nun ses yetenekleriyle ilişkili risklerden biridir. OpenAI, test uzmanlarının yapay zeka ile ortak bağlantıları ima edecek şekilde etkileşime girdiğini fark ettiklerini, örneğin yüksek sesle birlikte geçirdikleri son gün olduğuna dair yakınmalarını fark ettiklerini söyledi. Bu vakalar zararsız gibi görünse de şirket, bunların daha uzun sürelerde nasıl gelişebileceğini anlamak için bunların incelenmesi gerektiğine inanıyor.
OpenAI ayrıca yapay zeka ile uzun vadeli etkileşimin sosyal normları etkileyebileceğini ve kullanıcıları insanlarla ilişkilere daha az yatkın hale getirebileceğini öne sürdü. Yapay zeka modelleri, kullanıcıların herhangi bir zamanda onları kesmesine izin vererek “iletişime” saygılı hale gelecektir; bu, yapay zekadan beklense de, insan etkileşimlerinde normatif olmayacaktır. Ek olarak, yapay zekanın bir konuşma sırasında ayrıntıları hatırlama ve görevleri tamamlama yeteneği, insanların teknolojiye aşırı bağımlı olmasına yol açabilir.
Yapay zeka tabanlı intihal tespit platformu Copyleaks’in kurucu ortağı ve CEO’su Alon Yamin, OpenAI’nin endişelerinin, yapay zeka teknolojisinin insan etkileşimlerini ve ilişkilerini nasıl etkilediğini düşünme ihtiyacını vurguladığını söyledi. Yapay zekanın hiçbir zaman gerçek insan etkileşiminin yerini almaması gerektiğini vurguladı.
OpenAI, yapay zekasının ses yeteneklerinin insanlarda nasıl duygusal bağlar yaratabildiğini test etmeye devam edeceğini söyledi. Ek olarak, ChatGPT-4o’nun ses yeteneklerini test eden ekipler, onun yanlış bilgileri tekrarlamasını ve komplo teorilerini öne çıkarmasını sağlayarak, yapay zeka modelinin bunu ikna edici bir şekilde yapmaya zorlanabileceği endişelerini artırdı.