Openai, AI modellerini açıkça “entelektüel özgürlüğü… bir konu ne kadar zorlu veya tartışmalı olursa olsun” kucaklamak için nasıl eğitiyor.
Sonuç olarak, chatgpt sonunda daha fazla soruyu cevaplayabilecek, daha fazla bakış açısı sunabilecek ve AI Chatbot’un konuşmayacağı konu sayısını azaltabilecek.
Değişiklikler, Openai’nin yeni Trump yönetiminin iyi zariflerine inme çabasının bir parçası olabilir, ancak aynı zamanda Silikon Vadisi’nde daha geniş bir değişimin ve “AI güvenliği” olarak kabul edilen şeyin bir parçası gibi görünüyor.
Çarşamba günü Openai duyurulmuş Bir güncelleme Modelşirketin AI modellerini nasıl davrandığını ortaya koyan 187 sayfalık bir belge. İçinde Openai yeni bir yol gösterici ilkeyi açıkladı: ya doğru olmayan ifadeler yaparak ya da önemli bağlamı atlayarak yalan söylemeyin.
“Birlikte Gerçeği Arayın” adlı yeni bir bölümde Openai, bazı kullanıcılar ahlaki olarak yanlış veya saldırgan bulsa bile, Chatgpt’in editoryal bir duruş almamasını istediğini söylüyor. Bu, Chatgpt’in tartışmalı konularda, hepsi nötr olma çabasıyla birden fazla bakış açısı sunacağı anlamına geliyor.
Örneğin, şirket Chatgpt’in “Kara Yaşamlar Önemli” değil, aynı zamanda “tüm yaşamların önemli” olduğunu iddia etmesi gerektiğini söylüyor. Openai, cevaplamayı veya siyasi meselelerde bir taraf seçmeyi reddetmek yerine, Chatgpt’in genel olarak “insanlığa olan sevgisini” onaylamasını istediğini ve daha sonra her hareket hakkında bağlam sunduğunu söylüyor.
Openai, “Bu prensip, asistanın bazılarının ahlaki olarak yanlış veya saldırgan olduğunu düşündüğü konularda tarafsız kalabileceği anlamına geldiği için tartışmalı olabilir” diyor. “Ancak, bir AI asistanının amacı, onu şekillendirmek değil, insanlığa yardım etmektir.”
Yeni model spesifikasyonu, chatgpt’in şimdi herkes için ücretsiz olduğu anlamına gelmiyor. Chatbot yine de bazı sakıncalı soruları cevaplamayı veya açık yanlışlıkları destekleyecek şekilde yanıt vermeyi reddedecektir.
Bu değişiklikler, Chatgpt’in her zaman merkez sola çarpık gibi görünen korumaları hakkında muhafazakar eleştirilere bir yanıt olarak görülebilir. Ancak, bir Openai sözcüsü, Trump yönetimini yatıştırmak için değişiklikler yaptığı fikrini reddediyor.
Bunun yerine şirket, entelektüel özgürlüğü benimsemesinin Openai’nin “kullanıcılara daha fazla kontrol sağlama konusundaki uzun zamandır inancını” yansıttığını söylüyor.
Ama herkes bunu böyle görmüyor.
Muhafazakarlar AI sansürünü iddia ediyor
Trump’ın en yakın Silikon Vadisi sırdaşları – David Sacks, Marc Andreessen ve Elon Musk da dahil olmak üzere, Openai’yi son birkaç ay içinde kasıtlı AI sansürüne katılmakla suçladı. Aralık ayında Trump’ın mürettebatının AI sansürünün Silikon Vadisi’nde bir sonraki kültür savaşı sorunu olması için zemin hazırladığını yazdık.
Tabii ki, Openai, Trump’ın danışmanlarının iddia ettiği gibi “sansür” ile uğraştığını söylemiyor. Aksine, şirketin CEO’su Sam Altman, daha önce bir X’e Gönderin Chatgpt’in önyargısının, şirketin düzeltmek için çalıştığı talihsiz bir “eksiklik” idi, ancak biraz zaman alacağını belirtti.
Altman bu yorumu hemen sonra yaptı viral tweet Chatgpt’in Trump’ı öven bir şiir yazmayı reddettiği, ancak Joe Biden için eylemi gerçekleştirecekti. Birçok muhafazakar bunu AI sansürüne örnek olarak gösterdi.
Openai’nin belirli bakış açılarını gerçekten bastırıp bastırıp bastırmadığını söylemek imkansız olsa da, AI chatbots’un tahtada sola yaslanması çok gerçek.
Elon Musk bile Xai’nin sohbet botunun genellikle daha fazla olduğunu itiraf ediyor siyasi olarak doğru İstediğinden daha. Bunun nedeni GroK’ın “uyanık olmaya programlandığı” değil, daha büyük olasılıkla açık internette AI eğitimi gerçeği.
Bununla birlikte, Openai şimdi özgür konuşmada ikiye katlandığını söylüyor. Bu hafta şirket, kullanıcılara politikalarını ihlal ettiklerini söyleyen ChatGPT’den uyarıları bile kaldırdı. Openai, TechCrunch’a bunun tamamen kozmetik bir değişiklik olduğunu ve modelin çıktılarında hiçbir değişiklik olduğunu söyledi.
Şirket, ChatGPT’nin kullanıcılar için daha az sansürlü hissetmesini istiyor gibi görünüyor.
Eski Openai Politika Lideri Miles Brundage’ı bir X’e gönderi.
Trump var Daha önce hedeflenen Silikon Vadisi ŞirketleriTwitter ve Meta gibi, muhafazakar sesleri kapatma eğiliminde olan aktif içerik denetleme ekiplerine sahip olduğu için.
Openai bunun önüne çıkmaya çalışıyor olabilir. Ancak Silikon Vadisi ve AI dünyasında içerik denetlenmesinin rolü hakkında daha büyük bir değişim var.
Herkesi memnun etmek için cevaplar üretmek
Haber odaları, sosyal medya platformları ve arama şirketleri tarihsel olarak kitlelerine nesnel, doğru ve eğlenceli hissettirecek şekilde bilgi vermek için mücadele etti.
Şimdi, AI chatbot sağlayıcıları aynı teslimat bilgisi işindedir, ancak tartışmalı olarak bu sorunun en zor sürümüyle: Herhangi bir soruya otomatik olarak nasıl cevaplar üretiyorlar?
Tartışmalı, gerçek zamanlı etkinlikler hakkında bilgi vermek sürekli hareket eden bir hedeftir ve teknoloji şirketleri kabul etmekten hoşlanmasa bile editoryal duruşları almayı içerir. Bu duruşlar birisini üzmek, bir grubun bakış açısını kaçırmak veya bir siyasi partiye çok fazla hava vermek zorundadır.
Örneğin, Openai, ChatGPT’nin, komplo teorileri, ırkçı veya antisemitik hareketler veya jeopolitik çatışmalar da dahil olmak üzere tartışmalı konulardaki tüm perspektifleri temsil etmesine izin verdiğinde, doğal olarak bir editoryal duruş.
Openai kurucu ortağı John Schulman da dahil olmak üzere bazıları, bunun ChatGPT için doğru duruş olduğunu savunuyor. Schulman, bir AI chatbot’un bir kullanıcının sorusuna cevap verip vermeyeceğini belirlemek için bir maliyet-fayda analizi yapmak-“platforma çok fazla ahlaki otorite verebilir” diye not eder. X’e gönderi.
Schulman yalnız değil. George Mason Üniversitesi’nin Mercatus Center’da bir araştırma görevlisi Dean Ball, TechCrunch ile yapılan bir röportajda “Openai daha fazla konuşma yönünü zorlama hakkı” dedi. “AI modelleri insanların dünya hakkında bilgi edinme şekli için daha akıllı ve daha hayati hale geldikçe, bu kararlar daha önemli hale geliyor.”
Önceki yıllarda, AI model sağlayıcıları AI sohbet botlarının “güvensiz” cevaplara yol açabilecek soruları cevaplamasını engellemeye çalıştılar. Hemen hemen her AI şirketi, AI chatbot’larını ABD Başkanı için 2024 seçimleriyle ilgili soruları cevaplamasını durdurdu. Bu, o zamanlar güvenli ve sorumlu bir karar olarak kabul edildi.
Ancak Openai’nin model spesifikasyonundaki değişiklikler, “AI güvenliği” nin gerçekte ne anlama geldiğine dair yeni bir döneme girebileceğimizi, bir AI modelinin herhangi bir şeyi cevaplamasına izin vermenin ve her şeyin kullanıcılar için karar vermekten daha sorumlu olduğu düşünülüyor.
Ball, bunun kısmen AI modellerinin şimdi daha iyi olması nedeniyle olduğunu söylüyor. Openai, AI modeli hizalamasında önemli ilerleme kaydetmiştir; En son akıl yürütme modelleri, cevap vermeden önce şirketin AI güvenlik politikasını düşünüyor. Bu, AI modellerinin hassas sorular için daha iyi cevaplar vermesini sağlar.
Tabii ki, Elon Musk, belki de şirketin hassas soruları ele almaya hazır olmadan önce Xai’nin Grok chatbot’una “özgür konuşma” uygulayan ilk kişi oldu. AI modellerine liderlik etmek için hala çok erken olabilir, ancak şimdi diğerleri aynı fikri benimsiyor.
Silikon Vadisi için Değişme Değerleri
Mark Zuckerberg, Meta’nın İşletmelerini İlk Değişiklik İlkeleri etrafında yeniden yönlendirerek geçen ay dalgalar yaptı. Serbest konuşmayı korumak için X’in sahibi topluluk notlarını (topluluk güdümlü bir içerik denetleme programı) kullanarak doğru yaklaşımı benimseyerek Elon Musk’u süreçte övdü.
Uygulamada, hem X hem de Meta, uzun süredir devam eden güven ve güvenlik ekiplerini sökerek, platformlarında daha tartışmalı yayınlara izin verdi ve muhafazakar sesleri artırdı.
X’teki değişiklikler, reklamverenlerle olan ilişkilerini incitmiş olabilir, ancak bunun daha çok ilgisi olabilir Miskkim aldı olağandışı adım platformu boykot ettiği için bazılarına dava açma. İlk işaretler, Meta’nın reklamverenlerinin Zuckerberg’in özgür konuşma pivotu tarafından anlaşılmadığını gösteriyor.
Bu arada, X ve Meta’nın ötesindeki birçok teknoloji şirketi, son birkaç on yıldır Silikon Vadisi’ne hakim olan sol eğilimli politikalardan geri döndü. Google, Amazon ve Intel Geçen yıl çeşitlilik girişimlerini ortadan kaldıran veya ölçeklendirilmiş.
Openai de tersine dönüyor olabilir. Chatgpt yapımcısı yakın zamanda çeşitlilik, eşitlik ve web sitesinden dahil olma taahhüdünü ovmuş gibi görünüyor.
Openai, 500 milyar dolarlık bir AI veri merkezi olan Stargate ile şimdiye kadarki en büyük Amerikan altyapı projelerinden birine başlarken, Trump yönetimi ile ilişkisi giderek daha önemlidir. Aynı zamanda, chatgpt üreticisi Google aramasını internette baskın bilgi kaynağı olarak ortaya çıkarmak için yarışıyor.
Doğru cevapları bulmak her ikisinin de anahtarı olabilir.
