OpenAI ve Anthropic, ABD hükümetinin güvenliğini artırmak amacıyla piyasaya sürülmeden önce önemli yeni yapay zeka modellerine erişmesine izin verme konusunda anlaştı.
Şirketler, modellerin hem kamuoyuna açıklanmasından önce hem de sonra erişime açılmasını sağlamak için ABD Yapay Zeka Güvenlik Enstitüsü ile mutabakat zaptı imzaladılar. ajans duyurdu Perşembe. Hükümet, bu adımın güvenlik risklerini değerlendirmek ve olası sorunları azaltmak için birlikte çalışmalarına yardımcı olacağını söylüyor. ABD ajansı, İngiltere’deki muadili ajansla iş birliği yaparak güvenlik iyileştirmeleri hakkında geri bildirim sağlayacağını söyledi.
AI modellerine erişimi paylaşmak, federal ve eyalet meclislerinin yeniliği engellemeden teknolojiye ne tür korumalar koyacaklarını düşündüğü bir zamanda önemli bir adımdır. Çarşamba günü, Kaliforniyalı kanun koyucular, Kaliforniya’daki AI şirketlerinin gelişmiş temel modelleri eğitmeden önce belirli güvenlik önlemleri almasını gerektiren Güvenli ve Emniyetli Yenilik Sınır Yapay Zeka Modelleri Yasası’nı (SB 1047) geçirdi. OpenAI ve Anthropic gibi AI şirketlerinden, daha küçük açık kaynak geliştiricilerine zarar verebileceği konusunda uyarıda bulunan tepkiler aldı, ancak o zamandan beri bazı değişiklikler geçirdi ve hala Vali Gavin Newsom’dan bir imza bekliyor.
ABD Yapay Zeka Güvenlik Enstitüsü Direktörü Elizabeth Kelly, yaptığı açıklamada, yeni anlaşmaların “sadece bir başlangıç” olduğunu, ancak “Yapay Zeka’nın geleceğini sorumlu bir şekilde yönetmeye çalışırken önemli bir kilometre taşı” olduğunu söyledi.