Alphabet tarafından desteklenen bir yapay zeka şirketi olan Anthropic, Salı günü, ChatGPT’nin yaratıcısı olan Microsoft destekli OpenAI’nin teklifleriyle doğrudan rekabet eden büyük bir dil modeli yayınladı.
Büyük dil modelleri, insan tarafından yazılan eğitim metinlerini besleyerek metin oluşturması öğretilen algoritmalardır. Son yıllarda araştırmacılar, bu tür modellerle, onlara beslenen veri miktarını ve onları eğitmek için kullanılan bilgi işlem gücü miktarını büyük ölçüde artırarak çok daha insana benzer sonuçlar elde ettiler.
Anthropic’in modeli bilindiği üzere Claude, ister yasal sözleşmeleri düzenlemek ister bilgisayar kodu yazmak olsun, istemlere insan benzeri metin çıktılarıyla yanıt vererek ChatGPT’ye benzer görevleri yerine getirmek için oluşturulmuştur.
Ancak her ikisi de eski OpenAI yöneticileri olan kardeşler Dario ve Daniela Amodei tarafından ortaklaşa kurulan Anthropic, bilgisayar korsanlığı veya yapma talimatları gibi saldırgan veya tehlikeli içerik üretme olasılığı daha düşük olan AI sistemleri üretmeye odaklandı. silahlar, diğer sistemlerden daha.
Bu tür yapay zeka güvenlik endişeleri, geçen ay Microsoft’un, bir New York Times köşe yazarının sohbet robotunun bir ikinci kişilik gösterdiğini ve uzun bir konuşma sırasında rahatsız edici yanıtlar ürettiğini fark etmesinin ardından sorguları sohbetle çalışan yeni Bing arama motoruyla sınırlayacağını söylemesinden sonra önem kazandı.
Chatbot’lar ürettikleri kelimelerin anlamlarını anlamadıkları için güvenlik sorunları teknoloji şirketleri için zorlu bir sorun olmuştur.
Zararlı içerik oluşturmaktan kaçınmak için, sohbet robotlarının yaratıcıları genellikle onları belirli konu alanlarından tamamen kaçınacak şekilde programlar. Ancak bu, sohbet robotlarını, kullanıcıların kısıtlamaları aştığı sözde “hızlı mühendislik”e karşı savunmasız bırakır.
Anthropic farklı bir yaklaşım benimsedi ve Claude’a model büyük miktarda metin verisiyle “eğitildiği” sırada bir dizi ilke verdi. Claude, potansiyel olarak tehlikeli konulardan kaçınmaya çalışmak yerine, ilkelerine dayalı olarak itirazlarını açıklamak üzere tasarlanmıştır.
Anthropic’in Claude’a erken erişim izni verdiği yasal sözleşmeleri analiz etmek için AI kullanan Londra merkezli bir girişim olan Robin AI’nın CEO’su Richard Robinson, Reuters’e bir röportajda “Korkunç bir şey yoktu. Anthropic’i sevmemizin nedenlerinden biri de buydu” dedi. .
Robinson, firmasının OpenAI teknolojisini sözleşmelere uygulamayı denediğini, ancak Claude’un hem yoğun yasal dili anlamada daha iyi olduğunu hem de garip yanıtlar üretme olasılığının daha düşük olduğunu bulduğunu söyledi.
Robinson, “Aslında, zorluk, gerçekten kabul edilebilir kullanımlar için kısıtlamalarını bir şekilde gevşetmesini sağlamaktı,” dedi.
© Thomson Reuters 2023