Önemli bir personel değişikliği kapıda OpenAI, ChatGPT’nin piyasaya sürülmesiyle üretken yapay zeka kavramını küresel kamuoyu söylemine neredeyse tek başına sokan yapay zeka ezici gücü. Startup’ın güven ve emniyet başkanı olan endüstri gazisi Dave Willner, bir duyuruda duyurdu. LinkedIn’de yayınla dün gece işten ayrıldığını ve danışman rolüne geçtiğini söyledi. Genç ailesiyle daha fazla vakit geçirmeyi planladığını söyledi. Bir buçuk yıldır roldeydi.
Ayrılışı yapay zeka dünyası için kritik bir zamanda geliyor.
Görsel Kaynakları: LinkedIn (yeni bir pencerede açılır) altında 2.0 TARAFINDAN CC (yeni bir pencerede açılır) lisans.
Büyük dil modellerine dayanan ve kullanıcılardan gelen basit istemlere dayalı olarak özgürce oluşturulmuş metin, resim, müzik ve daha fazlasını ışık hızında üreten üretken yapay zeka platformlarının yetenekleriyle ilgili tüm heyecanın yanı sıra, büyüyen bir soru listesi var. Bu cesur yeni dünyada faaliyetleri ve şirketleri en iyi nasıl düzenleyebiliriz? Bütün bir sorun yelpazesinde herhangi bir zararlı etki en iyi nasıl azaltılır? Güven ve güvenlik, bu konuşmaların temel parçalarıdır.
Henüz bugün, OpenAI başkanı Greg Brockman, çalışmakta olan bir AI Yürütme Emri öncesinde ortak güvenlik ve şeffaflık hedeflerini takip etmeye yönelik gönüllü taahhütleri desteklemek için Anthropic, Google, Inflection, Microsoft, Meta ve Amazon’dan yöneticilerle birlikte Beyaz Saray’da görünecek. Bu, Avrupa’da AI düzenlemesi ile ilgili çok sayıda gürültünün yanı sıra değişen duygular arasında bazı diğerleri.
Tüm bunların önemi, OpenAI’de kaybolmadı. kendini konumlandırmak sahada bilinçli ve sorumlu bir oyuncu olarak.
Willner, özellikle LinkedIn gönderisinde bunlardan herhangi birine atıfta bulunmuyor. Bunun yerine, not ederek üst düzeyde tutar. OpenAI işinin taleplerinin, ChatGPT’nin piyasaya sürülmesinden sonra “yüksek yoğunluklu bir aşamaya” geçtiğini.
“Ekibimizin OpenAI’de benim zamanımda başardığı her şeyden gurur duyuyorum ve oradaki işim bugün sahip olunabilecek en havalı ve en ilginç işlerden biri olsa da, ilk katıldığımdan bu yana kapsamı ve ölçeği önemli ölçüde büyümüştü” diye yazdı. Kendisi ve aynı zamanda bir güven ve emniyet uzmanı olan eşi Chariotte Willner, her zaman aileye öncelik verme taahhüdünde bulunurken, “ChatGPT’nin lansmanını takip eden aylarda, pazarlığın bana düşen kısmını yerine getirmeyi giderek daha zor buldum” dedi.
Willner, OpenAI görevinde sadece 1,5 yıldır bulunuyor, ancak Facebook ve Airbnb’de önde gelen güven ve emniyet ekiplerini içeren bu alanda uzun bir kariyere sahip.
Facebook çalışması özellikle ilginç. Orada, şirketin bugün hala yaklaşımının temeli olarak kullanılan ilk topluluk standartları konumunun açıklanmasına yardımcı olan erken bir çalışandı.
Bu, şirket için çok biçimlendirici bir dönemdi ve muhtemelen – Facebook’un sosyal medyanın küresel olarak nasıl geliştiği üzerindeki etkisi göz önüne alındığında – internet ve genel olarak toplum için. O yılların bazılarına, ifade özgürlüğü ve Facebook’un tartışmalı grupları ve tartışmalı gönderileri dizginleme çağrılarına nasıl direnmesi gerektiği konusunda çok açık sözlü pozisyonlar damgasını vurdu.
Örneklerden biri, 2009’da Facebook’un Holokost İnkarcılarının hesaplarını ve gönderilerini nasıl ele aldığına dair halka açık bir forumda oynanan çok büyük bir tartışmaydı. Bazı çalışanlar ve dışarıdan gözlemciler, Facebook’un tavır alma ve bu gönderileri yasaklama görevi olduğunu düşündüler. Diğerleri bunu yapmanın sansüre benzediğine ve özgür söylem etrafında yanlış mesaj gönderdiğine inanıyordu.
Willner, “nefret söylemi”nin “doğrudan zarar” ile aynı şey olmadığına ve dolayısıyla aynı şekilde yumuşatılmaması gerektiğine inandığı için ikinci kampta yer alıyordu. “Holokost İnkârının bir fikir olarak kabul edilemeyeceğine inanıyorum. [sic] kendi, doğası gereği başkalarının güvenliğine yönelik bir tehdit oluşturuyor, ”diye yazmıştı o sırada. (TechCrunch geçmişinden bir patlama için, buradaki gönderinin tamamına bakın.)
Geriye dönüp bakıldığında, bu kadar çok şeyin olup bittiği göz önüne alındığında, bu oldukça dar görüşlü, naif bir pozisyondu. Ancak, bu fikirlerin en azından bir kısmının geliştiği görülüyor. 2019’da artık sosyal ağda çalışmıyordu. aleyhinde konuşmak şirketin politikacılara ve tanınmış kişilere nasıl daha zayıf içerik denetleme istisnaları vermek istediği.
Ancak Facebook’ta doğru temelleri atma ihtiyacı, o zamanlar insanların tahmin ettiğinden daha büyükse, bu muhtemelen yeni teknoloji dalgası için daha da fazla. Buna göre New York Times hikayesi Willner, bir aydan daha kısa bir süre önce OpenAI’ye, başlangıçta girişimin görüntü oluşturucusu Dall-E’nin kötüye kullanılmasını ve üretici AI çocuk pornografisi oluşturmak gibi şeyler için kullanılmasını nasıl önleyeceğini anlamasına yardımcı olması için getirilmişti.
Ama olarak söyleyerek gider, OpenAI (ve endüstri) dün bu politikaya ihtiyaç duydu. Stanford İnternet Gözlemevi’nin baş teknoloji uzmanı David Thiel, NYT’ye “Bir yıl içinde, bu alanda çok sorunlu bir duruma ulaşacağız” dedi.
Şimdi, Willner olmadan, OpenAI’nin bunu ele alma suçlamasını kim yönetecek?
(Yorum için OpenAI’ye ulaştık ve bu gönderiyi herhangi bir yanıtla güncelleyeceğiz.)