ABD hükümeti, şirketler ve daha geniş anlamda halk için teknoloji geliştiren ve test eden ABD Ticaret Bakanlığı kurumu olan Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Pazartesi günü, üretkenliği değerlendirmek üzere NIST’in öncülüğünde yeni bir program olan NIST GenAI’nin başlatıldığını duyurdu. Metin ve görüntü üreten yapay zeka dahil yapay zeka teknolojileri.
NIST, NIST’in web sitesinde yaptığı açıklamaya göre, kıyaslamalar yayınlayacak, “içerik orijinalliği” tespit (ör. derin sahte kontrol) sistemleri oluşturmaya yardımcı olacak ve yapay zeka tarafından oluşturulan sahte veya yanıltıcı bilgilerin kaynağını tespit edecek yazılımların geliştirilmesini teşvik edecek. yeni başlatılan NIST GenAI web sitesi ve bir basın bülteni.
“NIST GenAI programı bir dizi zorlayıcı problem yayınlayacak [intended] basın bülteninde, üretken yapay zeka teknolojilerinin yeteneklerini ve sınırlamalarını değerlendirmek ve ölçmek için” deniyor. “Bu değerlendirmeler, bilgi bütünlüğünü teşvik edecek ve dijital içeriğin güvenli ve sorumlu kullanımına rehberlik edecek stratejileri belirlemek için kullanılacak.”
NIST GenAI’nin ilk projesi, metinden başlayarak insan yapımı ve yapay zeka tarafından üretilen medya arasındaki farkı güvenilir bir şekilde söyleyebilecek sistemler oluşturmaya yönelik bir pilot çalışmadır. (Birçok hizmet deepfake’leri tespit etme iddiasında olsa da, araştırmalar ve kendi testlerimiz bunların en iyi ihtimalle, özellikle konu metin olduğunda sallantılı olduğunu gösterdi.) NIST GenAI, akademiden, endüstriden ve araştırma laboratuvarlarından ekipleri “üreticileri” sunmaya davet ediyor: İçerik oluşturmak için yapay zeka sistemleri veya yapay zeka tarafından oluşturulan içeriği tanımlamak için tasarlanmış sistemler olan “ayırıcılar”.
Çalışmadaki üreticiler, bir konu ve bir dizi belge sağlanan 250 kelimelik veya daha az özetler oluşturmalı, ayrımcılar ise belirli bir özetin potansiyel olarak yapay zeka tarafından yazılıp yazılmadığını tespit etmelidir. Adilliği sağlamak için NIST GenAI, jeneratörleri test etmek için gerekli verileri sağlayacaktır. Kamuya açık verilerle eğitilen sistemler kabul edilmeyecektir.
Pilot kayıtlar 1 Mayıs’ta başlayacak ve sonuçların Şubat 2025’te yayınlanması planlanıyor.
NIST GenAI’nin lansmanı ve deepfake odaklı çalışması, deepfake’lerin katlanarak büyümesiyle birlikte geliyor.
Deepfake tespit firması Clarity’nin verilerine göre, bu yıl geçen yılın aynı zaman dilimine kıyasla %900 daha fazla deepfake oluşturuldu. Anlaşılacağı üzere alarma neden oluyor. A son anket YouGov’dan bunu buldum Amerikalıların yüzde 85’i endişeli olduklarını söyledi yanıltıcı deepfake’lerin çevrimiçi ortamda yayılması hakkında.
NIST GenAI’nin lansmanı, NIST’in, Başkan Joe Biden’ın AI şirketlerinin modellerinin nasıl çalıştığı konusunda daha fazla şeffaflık gerektiren kuralları belirleyen ve AI tarafından oluşturulan içeriğin etiketlenmesi de dahil olmak üzere bir dizi yeni standart belirleyen idari emrine verdiği yanıtın bir parçasıdır. .
Bu aynı zamanda eski bir OpenAI araştırmacısı olan Paul Christiano’nun ajansın Yapay Zeka Güvenliği Enstitüsüne atanmasından sonra NIST’in yapay zeka ile ilgili ilk duyurusu.
Christiano, “kıyamet yanlısı” görüşleri nedeniyle tartışmalı bir seçimdi; o bir kez tahmin “Yapay zeka gelişiminin %50 ihtimalle sonuçlanabileceği” [humanity’s destruction].” EleştirmenlerBildirildiğine göre NIST’teki bilim insanları da dahil olmak üzere, Cristiano’nun Yapay Zeka Güvenlik Enstitüsü’nü yapay zekadan kaynaklanan gerçekçi, daha acil riskler yerine “fantezi senaryolara” odaklanmaya teşvik edebileceğinden korkuyor.
NIST, NIST GenAI’nin AI Güvenlik Enstitüsü’nün çalışmalarına bilgi vereceğini söylüyor.