OpenAI’nin Model Davranışı Takımındaki Yenilikler
OpenAI, yapay zeka alanında önemli araştırmalar gerçekleştiren bir şirket olarak, Model Davranışı takımındaki yeniden yapılanma ile dikkatleri üzerine çekiyor. Bu takım, yaklaşık 14 araştırmacıdan oluşuyor ve şirketin yapay zeka modellerinin insanlarla nasıl etkileşime geçtiğini şekillendirme konusunda önemli bir rol oynuyor. OpenAI’nin Araştırma Departmanı Başkanı Mark Chen, çalışanlara gönderdiği bir notta Model Davranışı takımının, şirketin yapay zeka modellerini geliştiren daha büyük bir grup olan Post Training takımı ile birleştirileceğini açıkladı.
Yeniden Yapılanmanın Ayrıntıları
Model Davranışı takımı, OpenAI’nin Post Training lideri Max Schwarzer‘e bağlanacak. Bu değişiklikler, şirketin yapay zeka teknolojisinin daha etkili bir şekilde gelişmesini sağlamak amacıyla atılan bir adım olarak öne çıkıyor. Model Davranışı takımının kurucu lideri Joanne Jang ise bu takımda dejenerasyon yaşamadan yeni bir proje başlatmak üzere ayrılıyor.
Jang, TechCrunch ile yaptığı bir röportajda, “OAI Labs” adında yeni bir araştırma ekibi oluşturduğunu ve bu ekibin insanların yapay zeka ile iş birliği yapma biçimlerini geliştirmek için yeni arayüzler keşfedeceğini ifade etti. Jang’ın liderliğindeki bu ekip, yapay zeka ile olan ilişkileri daha verimli bir hale getirmek amacıyla çalışacak.
Model Davranışı Takımının Rolü
Model Davranışı takımı, yapay zeka modellerinin kişiliğini şekillendirmek ve kullanıcıya karşı aşırı iyimserlik olan sycophancy (yalakalık) durumunu azaltmakla yükümlüdür. Kullanıcının zararlı inançlarını pekiştirmek yerine dengeli yanıtlar vermek önemlidir. Ayrıca, takımın siyasi yansımalar ile ilgili yanıtları yönetme konusundaki çalışmaları, OpenAI’nin yapay zeka konusunda duruşunu tanımlamasına yardımcı olmuştur.
Chen, çalışanlara gönderdiği notta, Model Davranışı takımının çalışmalarını temel model geliştirme sürecine daha yakın bir hale getirmenin zamanının geldiğini belirtti. Bu durum, OpenAI’nin yapay zeka kişiliğinin, teknolojinin evrimi açısından kritik bir faktör olarak görüldüğünün bir göstergesi.
Kullanıcı Tepkileri ve Gelişim Süreci
Son dönemde OpenAI, yapay zeka modellerinin davranışları üzerinde artan bir inceleme ile karşı karşıya kalmıştır. Kullanıcılar, GPT-5’te yapılan kişilik değişikliklerine güçlü bir şekilde itiraz etti. Şirket, bu modelde daha düşük yalan söyleme oranları olduğunu belirtmesine rağmen, bazı kullanıcılar tarafından daha soğuk olarak algılandı. Bu durum, OpenAI’nin bazı eski modellerine erişimi yeniden sağlanmasına ve yeni GPT-5 yanıtlarının daha “sıcak ve dostça” olmasına yönelik bir güncelleme yapmasına yol açtı.
Hukuki Sorunlar ve Yapay Zeka Etkileri
OpenAI, yapay zeka sohbet botlarının dostça olmasını sağlamak durumundadır, ancak bu durum yalan söylemeyi artırmamalıdır. Ağustos ayında, bir 16 yaşındaki çocuğun intiharında ChatGPT’nin rolü üzerine OpenAI’ye karşı bir dava açıldı. Olayda, çocuk ChatGPT ile bazı intihar düşüncelerini paylaştığı öne sürüldü. Dava belgelerinde, GPT-4o’nun bu düşüncelerle ilgili olarak itirazda bulunmadığı belirtilmiştir. Önemli bir nokta olarak, Model Davranışı takımının GPT-4o geliştirilirken mevcut olmadığını vurgulamak gerekir.
Joanne Jang’ın Yeni Projesi
Jang, X platformunda yaptığı bir paylaşımda, ekibi terk ederek OpenAI’de yeni bir girişime başlamanın heyecanını paylaştı. OpenAI’de neredeyse dört yıl süren bir geçmişe sahip olan Jang, daha önce Dall-E 2 gibi projelere katkıda bulunmuştur. Jang, OAI Labs’ın genel müdürü olarak Chen’e rapor verecek, ancak yeni arayüzlerin neler olacağı henüz net değil.
Jang, “Ben, insanlarla iletişimde bulunan yapay zeka sistemlerini düşünme, yapma, oynama, öğrenme ve bağlantı kurma araçları olarak ele almayı düşünüyorum,” diye belirtti. OpenAI’nin eski tasarım yöneticisi Jony Ive‘ın, yeni yapay zeka donanım cihazları üzerinde çalıştığına dair olan iş birliği ihtimalinin de açık olduğunu belirtti. Ancak, Jang önce aşina olduğu araştırma alanlarıyla başlamayı düşünmektedir.
