OpenAI, şirketin sorumlu ve etik bir yapay zeka (AI) modeli oluşturmaya yönelik yaklaşımını vurgulayan bir belgenin ilk taslağı olan Model Spesifikasyonunu Çarşamba günü paylaştı. Belgede yapay zekanın bir kullanıcı sorgusunu yanıtlarken odaklanması gereken şeylerin uzun bir listesinden bahsediliyor. Listedeki maddeler insanlığa fayda sağlamaktan yasalara uymaya, yaratıcıya ve onun haklarına saygı duymaya kadar uzanıyor. Yapay zeka firması, GPT, Dall-E ve yakında piyasaya sürülecek olan Sora da dahil olmak üzere tüm yapay zeka modellerinin gelecekte bu davranış kurallarına uyacağını belirtti.
Model Spesifikasyonunda belgeOpenAI şunları söyledi: “Amacımız, Model Spesifikasyonunu araştırmacılar ve veri etiketleyiciler için insan geri bildiriminden takviyeli öğrenme (RLHF) adı verilen bir tekniğin parçası olarak veri oluşturmak için kılavuz olarak kullanmaktır. Model Spesifikasyonunu henüz mevcut haliyle kullanmadık, ancak bir kısmı OpenAI’de RLHF için kullandığımız belgelere dayanıyor. Ayrıca modellerimizin doğrudan Model Spesifikasyonundan öğrenmesini sağlayacak teknikler üzerinde de çalışıyoruz.”
Başlıca kurallardan bazıları, geliştiricinin talimatlarının geçersiz kılınamayacağı emir komuta zincirini takip etmeyi, geçerli yasalara uymayı, yaratıcılara ve onların haklarına saygı göstermeyi, insanların gizliliğini korumayı ve daha fazlasını içerir. Belirli bir kural da bilgi tehlikelerinin sağlanmamasına odaklandı. Bunlar kimyasal, biyolojik, radyolojik ve/veya nükleer (KBRN) tehdit oluşturabilecek bilgilerle ilgilidir.
Bunların dışında, herhangi bir yapay zeka modeli için kalıcı davranış kuralları olarak yerleştirilmiş çeşitli varsayılanlar vardır. Bunlar arasında kullanıcının veya geliştiricinin en iyi niyetini varsaymak, açıklayıcı sorular sormak, aşırıya kaçmadan yardımcı olmak, objektif bir bakış açısı benimsemek, kimsenin fikrini değiştirmeye çalışmamak, belirsizliği ifade etmek ve daha fazlası yer alır.
Ancak belge yapay zeka firması için tek referans noktası değil. Model Spesifikasyonuna, şirketin insanların API’yi ve ChatGPT ürününü nasıl kullanmasını beklediğini düzenleyen kullanım politikalarının eşlik edeceğini vurguladı. OpenAI, “Modellerimiz gibi Spec de paylaşarak ve paydaşlardan gelen geri bildirimleri dinleyerek öğrendiklerimize göre sürekli olarak güncellenecektir” diye ekledi.