Süpürücü bir şekilde icra emriABD Başkanı Joseph R. Biden Jr. Pazartesi günü yapay zekanın (AI) geliştirilmesi ve kullanımına yönelik kapsamlı bir dizi standart, güvenlik ve gizlilik korumaları ve gözetim önlemleri oluşturdu.
Yapay zeka alanını izleyen birçok gözlemciye göre, iki düzineden fazla girişim arasında Biden’ın “Güvenli, Emniyetli ve Güvenilir Yapay Zeka” emrinin gelmesi uzun zaman almıştı; özellikle de üretken yapay zekanın (genAI) dünya çapındaki yükselişiyle birlikte. geçen sene.
Biden’ın fermanı, güvenlik ve güvenlik önlemlerinin yanı sıra, Amerikalıların mahremiyet ve önyargı ve sivil haklar etrafında dönen yapay zeka sorunlarına da değiniyor. Örneğin, GenAI tabanlı otomatik işe alım sistemlerinin, iş başvurusunda bulunan bazı kişilere ırklarına veya cinsiyetlerine göre avantajlar sağlayabilecek yerleşik önyargılara sahip olduğu bulunmuştur.
kapsamındaki mevcut kılavuzun kullanılması Savunma Üretim YasasıBaşkana yerel endüstrileri kontrol etme konusunda önemli bir acil durum yetkisi veren bir Soğuk Savaş dönemi yasası olan emir, önde gelen genAI geliştiricilerinin güvenlik testi sonuçlarını ve diğer bilgileri hükümetle paylaşmasını gerektiriyor. Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yapay zeka araçlarının kamuya açıklanmadan önce emniyetli ve emniyetli olmasını sağlamak için standartlar oluşturacaktır.
Dijital dönüşüm hizmetleri şirketi UST’nin baş yapay zeka mimarı Adnan Masood, “Bu emir, özellikle bu yıl tanık olduğumuz üretken yapay zeka patlamasından sonra, küresel dikkatin yapay zekayı düzenlemeye yönelik çok ihtiyaç duyulan bir değişimin altını çiziyor” dedi. “Bu emrin en dikkat çekici yönü, yapay zekanın sadece başka bir teknolojik gelişme olmadığının açıkça kabul edilmesidir; toplumsal normları yeniden tanımlayabilecek bir paradigma değişimidir.”
Masood, kontrol edilmeyen yapay zekanın sonuçlarını kabul etmenin bir başlangıç olduğunu ancak ayrıntıların daha önemli olduğunu belirtti.
“Bu iyi bir ilk adım, ancak yapay zeka uygulayıcıları olarak biz artık karmaşık ayrıntıları doldurma gibi ağır bir görevle görevlendirildik. [It] Masood, geliştiricilerin yapay zeka sistemlerinin güvenli olmasını sağlamaya ve bu testlerin sonuçlarını halkla paylaşmaya yardımcı olacak standartlar, araçlar ve testler oluşturmasını gerektiriyor.” dedi.
Emir, ABD hükümetinin kritik yazılımlardaki güvenlik açıklarını bulup düzeltmek için yapay zeka araçları geliştirmek amacıyla “gelişmiş bir siber güvenlik programı” kurmasını gerektiriyor. Ek olarak, Ulusal Güvenlik Konseyi’nin, askeri ve istihbarat camiasının herhangi bir görevde yapay zekayı güvenli ve etik bir şekilde kullanmasını sağlamak için Beyaz Saray genelkurmay başkanıyla koordineli çalışması gerekiyor.
Ve ABD Ticaret Bakanlığı, yapay zeka tarafından oluşturulan içeriği açıkça etiketlemek amacıyla içerik kimlik doğrulaması ve filigranlama için kılavuz geliştirmekle görevlendirildi; bu sorun, gen yapay zeka araçları sanatı ve diğer içerikleri taklit etme konusunda yetkin hale geldikçe hızla büyüyor. Kararda, “Federal kurumlar bu araçları Amerikalıların hükümetlerinden aldıkları iletişimlerin gerçek olduğunu bilmelerini kolaylaştırmak ve özel sektöre ve dünya çapındaki hükümetlere örnek oluşturmak için kullanacak” ifadeleri kullanıldı.
Bugüne kadar bağımsız yazılım geliştiricileri ve üniversitelerin bilgisayar bilimleri bölümleri, yapay zekanın kasıtlı veya kasıtsız fikri mülkiyet ve sanat hırsızlığına karşı suçlamalara öncülük etti. Geliştiriciler giderek artan bir şekilde, benzersiz içeriğe filigran uygulayabilecek ve hatta genAI sistemleri tarafından alınan verileri zehirleyebilecek ve üzerinde eğitim verilecek bilgiler için interneti tarayan araçlar geliştiriyor.
Bugün, Yedi Grup (G7) büyük sanayi ülkesinin yetkilileri de, 11 maddelik yapay zeka güvenlik ilkeleri seti ve yapay zeka geliştiricileri için gönüllü bir davranış kuralları. Bu emir, Biden Yönetimi’nin bu yılın başlarında yayınladığı “gönüllü” ilkeler dizisine benziyor; ikincisi çok belirsiz ve genel olarak hayal kırıklığı yarattığı için eleştirildi.
Biden’ın idari emrinde, “Yurt içinde bu gündemi ilerletirken, Yönetim, yapay zekanın geliştirilmesini ve kullanımını yönetmek için güçlü bir uluslararası çerçeve üzerinde yurtdışındaki müttefikler ve ortaklarla birlikte çalışacak” ifadesine yer verildi. “Yönetim, geçtiğimiz birkaç ay içinde Avustralya, Brezilya, Kanada, Şili, Avrupa Birliği, Fransa, Almanya, Hindistan, İsrail, İtalya, Japonya, Kenya, Meksika, Hollanda ile etkileşime geçerek yapay zeka yönetişim çerçeveleri konusunda zaten geniş çapta istişarede bulundu. Yeni Zelanda, Nijerya, Filipinler, Singapur, Güney Kore, BAE ve Birleşik Krallık.”
Biden’ın emri aynı zamanda ulusal güvenlik, ekonomik güvenlik veya kamu sağlığı açısından ciddi risk oluşturabilecek büyük dil modelleri (LLM’ler) geliştiren şirketleri de hedef alıyor; Modeli eğitirken federal hükümete bildirimde bulunmaları ve tüm güvenlik testlerinin sonuçlarını paylaşmaları gerekecek.
Gartner Research’ün başkan yardımcısı ve seçkin analistlerinden Avivah Litan, en büyük yapay zeka geliştiricilerini hedef alan netlik ve güvenlik testleri ile yeni kurallar güçlü bir şekilde başlasa da, talimatların hala yetersiz olduğunu söyledi; bu gerçek, bir yürütme emri kapsamında kuralların uygulanmasının sınırlamalarını ve Kongre’nin yasaları yürürlüğe koyma ihtiyacını yansıtıyor.
Yeni yetkilerin birçok alanda yetersiz kaldığını düşünüyor:
- ‘En güçlü’ yapay zeka sistemlerinin tanımını kim belirliyor?
- Bu açık kaynaklı AI Modelleri için nasıl geçerlidir?
- İçerik kimlik doğrulama standartları sosyal medya platformlarında ve diğer popüler tüketici mekanlarında nasıl uygulanacak?
- Genel olarak, bu talimat ve yönergelere uyma konusunda hangi sektörler/şirketler kapsam dahilindedir?
“Ayrıca, uygulama mekanizmaları mevcut olduğunda bile nasıl görüneceği benim için net değil. Bu eylemleri hangi kurum izleyecek ve uygulayacak? Uyumsuzluğun cezası nedir?” dedi Litan.
Masood da bu görüşe katılarak, Beyaz Saray’ın “önemli bir adım” atmasına rağmen, yürütme emrinin devasa bir zorluğun yalnızca yüzeyini çizdiğini söyledi. “Tasarım gereği, cevaplardan çok sorulara sahip olmamızı istiyor; güvenlik tehdidi nedir?” Masood dedi. “Bu karar alma görevini kim üstleniyor? Potansiyel tehditleri tam olarak nasıl test ediyoruz? Daha da önemlisi, tehlikeli yetenekleri başlangıçta nasıl ortadan kaldırıyoruz?”
Düzenin ele almaya çalıştığı kritik endişe alanlarından biri de yapay zekanın biyomühendislikte kullanılmasıdır. Talimat, yapay zekanın insan popülasyonlarına zarar verebilecek ölümcül virüsler veya sonunda insanları öldüren ilaçlar gibi zararlı biyolojik organizmaları tasarlamak için kullanılmamasını sağlamaya yardımcı olacak standartlar oluşturuyor.
Litan, “Karar, bu hükmü yalnızca ortaya çıkan standartları yaşam bilimi projelerinin federal finansmanı için bir temel olarak kullanarak uygulayacaktır” dedi. “Daha da ileri gitmesi ve bu standartları özel sermaye veya federal olmayan hükümet finansman organları ve kaynakları (risk sermayesi gibi) için uygulaması gerekiyor. Ayrıca daha da ileri giderek bu standartların kimler tarafından ve nasıl uygulanacağını ve bunlara uyulmaması halinde verilecek cezaların neler olduğunu açıklaması gerekiyor.”
Araştırma firması IDC’de başkan yardımcısı analisti Ritu Jyoti, Biden’ın “insanları potansiyel olarak derin risklerden korurken yapay zekanın gücünden iyilik için yararlanma yükümlülüğümüz olduğunu” açıkça kabul etmesiyle dikkat çektiğini söyledi.
Bu yılın başlarında AB Parlamentosu Yapay Zeka Yasası taslağını onayladı. Önerilen yasa, ChatGPT gibi üretken yapay zeka sistemlerinin, içeriğin yapay zeka tarafından üretilip üretilmediğini açıklayarak şeffaflık gereksinimlerine uymasını ve içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını açıklayarak şeffaflık gerekliliklerine uymasını gerektiriyor. derin sahte görüntüler gerçek olanlardan.
ABD yapay zekayı yönetmek için kurallar oluştururken Avrupa’yı takip etmiş olsa da Jyoti, Amerikan hükümetinin mutlaka müttefiklerinin arkasında olmadığını veya Avrupa’nın korkuluk kurma konusunda daha iyi bir iş çıkardığını söyledi. “Dünya çapındaki ülkelerin toplumsal fayda için yapay zeka yönetişimi konusunda birlikte çalışma fırsatı olduğunu düşünüyorum” dedi.
Litan, AB’nin Yapay Zeka Yasasının başkanın yürütme emrinin ötesinde olduğunu, çünkü Avrupa kurallarının bu yasanın geçerli olduğu şirketlerin kapsamını açıklığa kavuşturduğunu söyleyerek buna karşı çıktı, “bunu bir düzenleme olarak yapabilir; yani, sisteme yerleştirilen tüm yapay zeka sistemleri için geçerlidir.” AB’de pazara sunuluyor, hizmete sunuluyor veya kullanılıyor” dedi.
Caitlin Fennessy, başkan yardımcısı ve bilgi sorumlusu Uluslararası Gizlilik Uzmanları Birliği Kâr amacı gütmeyen bir savunuculuk grubu olan IAPP, Beyaz Saray talimatlarının test ve şeffaflık gereklilikleri aracılığıyla sorumlu yapay zekaya yönelik pazar beklentilerini belirleyeceğini söyledi.
Fennessy ayrıca ABD hükümetinin, diğer birçok önlemin yanı sıra, yapay zeka tarafından oluşturulan içerik için dijital filigranlama ve hükümet satın almaları için yapay zeka güvenlik standartları konusundaki çabalarını da alkışladı.
Fennessy, “Başkan, bu emri Kongre’ye iki partili gizlilik yasasını geçirme çağrısıyla eşleştirerek gizlilik ile yapay zeka yönetimi arasındaki kritik bağlantıyı vurguladığını belirtti” dedi. “Yapay zekayı düzenlemek için Savunma Üretim Yasasından yararlanmak, düşünülen ulusal güvenlik risklerinin önemini ve Yönetimin harekete geçme aciliyetini açıkça ortaya koyuyor.”
Beyaz Saray, emrin “adil, açık ve rekabetçi bir yapay zeka ekosisteminin desteklenmesine” yardımcı olacağını, küçük geliştiricilerin ve girişimcilerin teknik yardım ve kaynaklara erişmesini sağlayacağını, küçük işletmelerin yapay zeka buluşlarını ticarileştirmesine yardımcı olacağını ve Federal Ticaret Komisyonu’nun kendi kararlarını uygulamaya teşvik edeceğini savundu. yetkililer.
Göçmenlik ve işçi vizeleri de Beyaz Saray tarafından ele alındı; Beyaz Saray, yüksek vasıflı göçmenlerin ve kritik alanlarda uzmanlığa sahip göçmen olmayanların ABD’de eğitim alma, kalma ve çalışma yeteneklerini “modernizasyon ve çalışma yoluyla” genişletmek için mevcut göçmenlik yetkililerini kullanacağını söyledi. Vize kriterlerini, görüşmeleri ve incelemeleri kolaylaştırıyoruz.”
Fennessy, ABD hükümetinin yapay zekayı inşa etmek ve yönetmek için hızla profesyonelleri işe alarak ve devlet kurumlarında yapay zeka eğitimi sağlayarak örnek teşkil ettiğini söyledi.
“Yapay zeka yönetişim uzmanlarına ve eğitime odaklanmak, yapay zeka güvenlik önlemlerinin teknolojinin derinlemesine anlaşılmasıyla geliştirilmesini ve inovasyonun güvenebileceğimiz bir şekilde ilerlemesini sağlamak için gerekli bağlamı kullanmasını sağlayacaktır” dedi.
Polonya merkezli yapay zeka destekli reklam şirketi RTB House’un analitik ve veri bilimi başkanı Jaysen Gillespie, Biden’ın olumlu bir konumdan başladığını çünkü çoğu yapay zeka iş liderinin bile bazı düzenlemelerin gerekli olduğu konusunda hemfikir olduğunu söyledi. Gillespie, Senato Çoğunluk Lideri Chuck Schumer’in (D-NY) önde gelen iş dünyası liderleriyle yaptığı ve yapmaya devam ettiği görüşmelerden elde edilecek her türlü çapraz görüşten de muhtemelen yararlanacağını söyledi.
Şirketi, yeniden hedefleme ve gerçek zamanlı teklif verme stratejileri de dahil olmak üzere hedefli reklamcılıkta yapay zekayı kullanan Gillespie, “Yapay zeka düzenlemesi aynı zamanda iki partili bir yaklaşımın gerçekten mümkün olabileceği birkaç konudan biri gibi görünüyor” dedi. “Potansiyel Başkanlık Kararnamesi’nin ardındaki bağlam göz önüne alındığında, Başkan, bu yüzyılın en önemli konusu olabilecek konuda – hem kişisel hem de ABD adına – liderlik oluşturmak için gerçek bir fırsata sahip.”
Telif Hakkı © 2023 IDG Communications, Inc.