Warren ve Trahan, “Sizin kamuya açık yorumlarınız ile OpenAI’nin eylemleri hakkındaki raporlar arasındaki tutarsızlık göz önüne alındığında, federal müdahalenin gerekli olup olmadığını anlamak için OpenAI’nin ihbarcı ve çıkar çatışması korumaları hakkında bilgi talep ediyoruz” diye yazdı. mektup yalnızca paylaşıldı Sınır.
Kanun koyucular, OpenAI’nin güvenlik prosedürlerinin sorgulandığı birkaç örnekten bahsetti. Örneğin, 2022’de GPT-4’ün yayınlanmamış bir sürümünün bir Hindistan’da Microsoft Bing arama motorunun yeni sürümü OpenAI’nin güvenlik kurulundan onay almadan önce. Ayrıca, kurulun kısmen “sonuçları anlamadan ilerlemeleri ticarileştirme” endişeleri nedeniyle 2023’te Altman’ın şirketten kısa süreli kovulmasını da hatırlattılar.
Warren ve Trahan’ın Altman’a yazdığı mektup, şirketin çoğu zaman şirketin kamuya açık açıklamalarıyla çelişen bir dizi güvenlik endişesiyle boğuştuğu bir dönemde geldi. Örneğin, anonim bir kaynak söylenmiş Washington post OpenAI’nin güvenlik testlerini aceleyle yaptığı, Superalignment ekibinin (kısmen güvenlikten sorumlu olan) dağıtıldığı ve bir güvenlik yöneticisinin “güvenlik kültürü ve süreçlerinin parlak ürünlere göre ikinci planda kaldığını” iddia ederek istifa ettiği iddia edildi. OpenAI’nin sözcüsü Lindsey Held, iddiaları yalanladı. Washington post‘nin raporunda, şirketin “ekiplerimiz için lansmanın stresli olduğunu bilmemize rağmen güvenlik sürecinde köşe kesmediği” belirtildi.
Diğer kanun koyucular da şirketin güvenlik uygulamaları hakkında yanıtlar aradılar. bir grup senatör de dahil Temmuz ayında Brian Schatz (D-HI) önderliğinde. Warren ve Trahan daha fazla netlik istedi OpenAI’nin bu gruba verdiği yanıtlarÇalışanların endişelerini bildirebilecekleri yeni bir “Dürüstlük Hattı” oluşturulması da dahil olmak üzere.
Bu arada, OpenAI saldırıya geçmiş gibi görünüyor. Şirket Temmuz ayında Los Alamos Ulusal Laboratuvarı ile ortaklık duyurdu Gelişmiş AI modellerinin biyobilimsel araştırmalara güvenli bir şekilde nasıl yardımcı olabileceğini keşfetmek için. Geçtiğimiz hafta, Altman X aracılığıyla OpenAI’nin ABD AI Güvenlik Enstitüsü ile iş birliği yaptığını duyurdu ve şirketteki bilgi işlem kaynaklarının yüzde 20’sinin güvenliğe ayrılacağını vurguladı (aslen artık faaliyette olmayan Superalignment ekibine verilen bir söz.) Aynı gönderide, Altman ayrıca OpenAI’nin çalışanlar için karalama karşıtı maddeleri ve Warren’ın mektubunda önemli bir konu olan kazanılmış sermayenin iptaline izin veren hükümleri kaldırdığını söyledi.
Warren ve Trahan, Altman’dan çalışanlar için yeni AI güvenlik hattının nasıl kullanıldığı ve şirketin raporları nasıl takip ettiği hakkında bilgi vermesini istedi. Ayrıca OpenAI ürünlerinin “güvenlik protokollerini atlattığı” tüm zamanların “ayrıntılı bir muhasebesini” ve bir ürünün güvenlik incelemesini atlamasına hangi durumlarda izin verileceğini istediler. Yasa koyucular ayrıca OpenAI’nin çıkar çatışmaları politikası hakkında bilgi arıyorlar. Altman’a herhangi bir dış holdingden elden çıkarmak zorunda kalıp kalmadığını ve “OpenAI’yi finansal çıkar çatışmalarından korumak için hangi özel korumaların mevcut olduğunu” sordular. Altman’dan 22 Ağustos’a kadar yanıt vermesini istediler.
Warren ayrıca Altman’ın yapay zeka konusundaki endişelerini ne kadar yüksek sesle dile getirdiğini de belirtiyor. Geçtiğimiz yıl, Senato önünde Altman Yapay zekanın yeteneklerinin azaltılabileceği konusunda uyardı “kamu güvenliği ve ulusal güvenlik için önemli ölçüde istikrarsızlaştırıcı” ve teknolojinin her olası kötüye kullanımı veya başarısızlığını öngörmenin imkansızlığını vurguladı. Bu uyarılar yasa koyucular arasında yankı buldu—OpenAI’nin ana eyaleti Kaliforniya’da, Senatör Scott Wiener, AI’ları zararlı şekillerde kullanılırsa şirketleri yasal olarak sorumlu tutacak kısıtlamalar da dahil olmak üzere büyük dil modellerini düzenleyen bir yasa tasarısı için baskı yapıyor.
