The first paragraph should be questions related to the content of the article and these should be in bold. Let them be original questions:
Yeni bir raporda, AI öncüsü olan Fei-Fei Li tarafından yönetilen Kaliforniya merkezli bir politika grubu, milletvekillerinin AI düzenleyici politikaları hazırlarken “dünyada henüz gözlemlenmemiş” AI risklerini dikkate almaları gerektiğini öne sürüyor.
. 41 sayfalık ara rapor Salı günü yayınlanan, Vali Gavin Newsom tarafından Kaliforniya’nın tartışmalı AI güvenlik faturası SB 1047 vetosunun ardından düzenlenen bir çaba olan Frontier AI modellerinde ortak California Politika Çalışma Grubu’ndan geliyor. Newsom, SB 1047’nin işareti kaçırdığını bulurken, geçen yıl AI’nin daha kapsamlı bir değerlendirme ihtiyacını kabul etti.
Raporda, Li, ortak yazarlar UC Berkeley Bilgi İşlem Koleji ile birlikte Dean Jennifer Chayes ve Uluslararası Barış Başkanı Mariano-Florentino Cuéllar için Döküm, Openai gibi sınır AI laboratuvarlarına şeffaflığı artıracak yasalar lehine tartışıyor. İdeolojik spektrumun dört bir yanından gelen endüstri paydaşları, Turing ödülü kazananı Yoshua Benjio gibi sadık AI güvenlik savunucuları ve Databricks kurucu ortağı Ion Stoica gibi SB 1047’ye karşı tartışanlar da dahil olmak üzere raporu yayınlamadan önce gözden geçirdi.
Rapora göre, AI sistemlerinin ortaya koyduğu yeni riskler, AI model geliştiricilerini güvenlik testlerini, veri toplama uygulamalarını ve güvenlik önlemlerini kamuya açıklamaya zorlayacak yasaları gerektirebilir. Raporda ayrıca, AI şirket çalışanları ve yüklenicileri için genişletilmiş bilgi uçurma korumalarının yanı sıra, bu metrik ve kurumsal politikaların üçüncü taraf değerlendirmeleri etrafında artan standartları savunmaktadır.
Li ve ark. Yazın AI’nın siber saldırıları gerçekleştirmeye, biyolojik silahlar yaratmaya veya diğer “aşırı” tehditleri getirmeye yardımcı olma potansiyeli için “sonuçsuz bir kanıt seviyesi” var. Bununla birlikte, AI politikasının sadece mevcut riskleri ele alması değil, aynı zamanda yeterli önlemler olmadan ortaya çıkabilecek gelecekteki sonuçları öngörmesi gerektiğini de savunuyorlar.
“Örneğin, bir nükleer silah gözlemlememiz gerekmiyor [exploding] Büyük zarara neden olabileceğini ve neden olabileceğini güvenilir bir şekilde tahmin etmek ”diyor.“ Eğer en aşırı riskler hakkında spekülasyon yapanlar haklıysa – ve bu anda sınır AI üzerindeki etkilerin riskleri ve maliyetleri son derece yüksek. ”
Rapor, AI model geliştirme şeffaflığını artırmak için iki yönlü bir strateji önermektedir: güven ancak doğrulayın. Raporda, AI model geliştiricilerine ve çalışanlarına kamuoyu kaygısı olan alanlar hakkında rapor vermeleri için yollar sağlanmalıdır.
Nihai versiyonu Haziran 2025’te yayınlanan rapor, belirli bir mevzuatı onaylamasa da, AI politika yapma tartışmasının her iki tarafındaki uzmanlar tarafından iyi karşılandı.
George Mason Üniversitesi’nde SB 1047’yi eleştiren AI odaklı bir araştırma görevlisi olan Dean Ball, X’teki bir yazıda raporun raporunun umut verici bir adım California’nın AI güvenlik düzenlemesi için. Geçen yıl SB 1047’yi tanıtan California Eyalet Senatörü Scott Wiener’e göre, AI güvenlik savunucuları için de bir kazanç. Wiener, bir basın açıklamasında raporun “AI yönetişimi etrafında acil görüşmeler yasama organında başladık [in 2024]. “
Rapor, AI model geliştiricilerinin güvenlik testlerinin sonuçlarını bildirmelerini istemek gibi SB 1047 ve Wiener takip faturası SB 53’ün çeşitli bileşenleriyle uyumlu görünüyor. Daha geniş bir görüş alarak, gündemi geçen yıl zemini kaybeden AI güvenlik halkı için çok ihtiyaç duyulan bir galibiyet gibi görünüyor.
Write 750 words article about: Fei-Fei Li tarafından Grup Ortak Lide AI güvenlik yasalarının gelecekteki riskleri öngörmesi gerektiğini öne sürüyor
