Üretken yapay zekayı (genAI) kontrol altına almaya yönelik daha önceki çabaların çok belirsiz ve etkisiz olduğu gerekçesiyle eleştirilmesinin ardından, Biden Yönetiminin artık teknolojinin federal çalışanlar tarafından kullanımına ilişkin yeni, daha kısıtlayıcı kurallar açıklaması bekleniyor.
Pazartesi günü açıklanması beklenen idari emir, ABD’nin kalkınma çabalarını hızlandırmaya yardımcı olmak için daha fazla teknoloji çalışanı akışına olanak tanıyacak şekilde göçmenlik standartlarını da değiştirecek.
Salı gecesi Beyaz Saray, Pazartesi günü Başkan Joseph R. Biden Jr.’ın ev sahipliği yapacağı “Güvenli, Emniyetli ve Güvenilir Yapay Zeka” etkinliği için davetiye gönderdi. Washington post.
Baş döndürücü bir hızla ilerleyen ve sektör uzmanları arasında alarm zillerini çalan üretken yapay zeka, Biden’ı geçen Mayıs ayında “rehberlik” yayınlamaya teşvik etti. Başkan Yardımcısı Kamala Harris ayrıca Google, Microsoft ve popüler ChatGPT sohbet robotunun yaratıcısı OpenAI’nin CEO’larıyla da bir araya gelerek güvenlik, gizlilik ve kontrol sorunlarını içeren genAI ile ilgili olası sorunları tartıştı.
ChatGPT’nin Kasım 2022’deki lansmanından önce bile yönetim bir açıklama yapmıştı. “Yapay Zeka Haklar Bildirgesi” olarak adlandırılan planın taslağı Yapay Zeka Risk Yönetimi Çerçevesinin yanı sıra; aynı zamanda Ulusal Yapay Zeka Araştırma Kaynağını oluşturmak için bir yol haritası da hazırladı.
Yeni yönetim emrinin, üretken yapay zekanın temeli olan büyük dil modellerinin (LLM’ler) ABD devlet kurumları tarafından kullanılmadan önce değerlendirmelerden geçmesini gerektirerek ulusal siber güvenlik savunmalarını yükseltmesi bekleniyor. Rapora göre bu kurumlar arasında ABD Savunma Bakanlığı, Enerji Bakanlığı ve istihbarat teşkilatları yer alıyor. Postalamak.
Yeni kurallar, 15 yapay zeka geliştirme şirketinin genAI sistemlerinin sorumlu kullanımla tutarlı bir şekilde değerlendirilmesini sağlamak için ellerinden geleni yapma yönündeki gönüllü taahhütlerini güçlendirecek.
Kurumsal yapay zeka uygulama satıcısının CEO’su Tom Siebel, “Korkarım bu konuda pek iyi bir geçmişimiz yok; yani ayrıntılar için Facebook’a bakın” dedi. C3 AI ve Siebel Systems’in kurucusu, geçen Mayıs ayında MIT’nin EmTech Konferansında dinleyicilere söyledi. “Öz düzenlemenin işe yarayacağına inanmak isterim ama güç yozlaştırır ve mutlak güç mutlaka yozlaştırır.”
ShutterstockgenAI, görevleri otomatikleştirme ve karmaşık metin yanıtları, resimler, videolar ve hatta yazılım kodları oluşturma yeteneğiyle kapsamlı faydalar sunarken, teknolojinin aynı zamanda halüsinasyon olarak bilinen bir anormallik olan hileli olduğu da biliniyor.
Bulmak, işe almak ve işe almak için yapay zekayı kullanan bir Palo Alto, CA şirketi olan Turing’in CEO’su Jonathan Siddharth, “Halüsinasyonlar, yüksek lisansların en vanilya biçiminde, dünyanın dahili bir devlet temsiline sahip olmaması nedeniyle meydana geliyor” dedi. yazılım mühendisleri uzaktan.” “Gerçek kavramı yok. Şu ana kadar gördüklerine dayanarak bir sonraki kelimeyi tahmin ediyorlar; bu istatistiksel bir tahmin.”
GenAI ayrıca hassas veya kişisel olarak tanımlanabilir verileri beklenmedik bir şekilde açığa çıkarabilir. En temel düzeyde araçlar, kullanıcılara daha doğru ve derinlemesine içerik sunmak için İnternet’ten, şirketlerden ve hatta devlet kaynaklarından çok büyük miktarlarda veri toplayabilir ve analiz edebilir. Dezavantajı, yapay zeka tarafından toplanan bilgilerin mutlaka güvenli bir şekilde saklanmamasıdır. Yapay zeka uygulamaları ve ağları, bu hassas bilgileri üçüncü tarafların veri istismarına karşı savunmasız hale getirebilir.
Örneğin akıllı telefonlar ve sürücüsüz arabalar, kullanıcıların konumlarını ve sürüş alışkanlıklarını takip ediyor. Bu izleme yazılımı, teknolojinin kullanıcılara daha verimli hizmet verebilmek için alışkanlıkları daha iyi anlamasına yardımcı olmayı amaçlasa da, aynı zamanda yapay zeka modellerini eğitmek için kullanılan büyük veri setlerinin bir parçası olarak kişisel bilgileri de topluyor.
Dijital dönüşüm hizmetleri şirketi UST’nin baş yapay zeka mimarı Adnan Masood, Beyaz Saray’ın yaklaşan düzenlemelerinin “uzun zamandır beklenen ve iyi bir adım” olduğunu söyledi. [at] ABD hükümetinin yapay zeka teknolojisinden yararlanma ve kontrol altına alma yaklaşımında kritik bir dönemeç.
Masood, “Düzenleyici erişimin araştırma ve geliştirme alanlarına genişletilmesi konusunda çekincelerim var” dedi. “Yapay zeka araştırmasının doğası, aşırı düzenlemelerle engellenebilecek düzeyde bir açıklık ve kolektif inceleme gerektirir. Özellikle, bu alandaki çoğu yeniliğin arkasında itici güç olan açık kaynaklı yapay zeka girişimlerini engelleyebilecek her türlü kısıtlamaya karşı çıkıyorum. Bu işbirlikçi platformlar, yapay zeka modellerindeki kusurların hızla tanımlanmasına ve düzeltilmesine olanak tanıyarak güvenilirliklerini ve güvenliklerini güçlendiriyor.”
GenAI aynı zamanda erkekleri kadınlara veya beyaz adayları azınlıklara tercih etme eğiliminde olan yapay zeka destekli işe alım uygulamaları gibi yerleşik önyargılara karşı da savunmasızdır. Ve genAI araçları doğal dili, görüntüleri ve videoları taklit etme konusunda daha iyi hale geldikçe, yakında sahte sonuçları gerçek olanlardan ayırt etmek imkansız hale gelecek; bu da şirketleri, ister kazara ister kötü aktörlerin kasıtlı çabaları olsun, en kötü sonuçlara karşı “korkuluklar” kurmaya teşvik ediyor.
ABD’nin yapay zekayı kontrol altına alma çabaları, Avrupa ülkelerinin teknolojinin AB yasalarını ihlal eden içerik üretmemesini sağlamaya yönelik benzer çabalarını takip etti; Buna çocuk pornografisi veya bazı AB ülkelerinde Holokost’un inkarı da dahil olabilir. İtalya ChatGPT’nin daha da geliştirilmesi tamamen yasaklandı Doğal dil işleme uygulamasında kullanıcı konuşmalarını ve ödeme bilgilerini içeren bir veri ihlali yaşanmasının ardından gizlilik endişeleri nedeniyle.
Avrupa Birliği’nin “Yapay Zeka Yasası”(AI Yasası), batılı bir grup ulus tarafından türünün ilk örneğiydi. Önerilen mevzuat büyük ölçüde Genel Veri Koruma Yönetmeliği (GDPR), Dijital Hizmetler Yasası ve Dijital Piyasalar Yasası gibi mevcut kurallara dayanmaktadır. Yapay Zeka Yasası ilk olarak Avrupa Komisyonu tarafından Nisan 2021’de önerilmişti.
Eyaletler ve belediyeler, mahremiyet ve önyargı sorunları nedeniyle iş adaylarını bulmak, taramak, mülakat yapmak ve işe almak için yapay zeka tabanlı botların kullanımına ilişkin kendi kısıtlamalarını göz önünde bulunduruyor. Bazı eyaletler zaten kitaplara yasalar koymuş durumda.
Beyaz Saray’ın ayrıca yapay zeka sistemlerinin test edilmesi ve değerlendirilmesine ilişkin endüstri kurallarını sıkılaştırmak için Ulusal Standartlar ve Teknoloji Enstitüsü’ne güvenmesi bekleniyor; bu hükümler, Biden yönetiminin güvenlik, güvenlik ve güvene ilişkin gönüllü taahhütlere dayanacaktır. 15 büyük teknoloji şirketi bu yıl AI’da.
Masood, genAI’nin devam eden bir patlama yaşadığı ve içerik, derin sahtekarlıklar ve potansiyel olarak yeni siber tehdit biçimleri oluşturmada benzeri görülmemiş yeteneklere yol açtığı göz önüne alındığında Biden’ın hareketinin özellikle kritik olduğunu söyledi.
“Bu manzara hükümetin rolünün sadece düzenleyici değil, aynı zamanda [also as] Yapay zeka teknolojisinin kolaylaştırıcısı ve tüketicisi” diye ekledi. “ABD hükümeti, yapay zekanın federal değerlendirmelerini zorunlu kılarak ve siber güvenlikteki rolünü vurgulayarak, yapay zekanın ikili doğasını hem stratejik bir varlık hem de potansiyel bir risk olarak kabul ediyor.”
Masood, yapay zeka düzenlemelerine incelikli bir yaklaşımın sadık bir savunucusu olduğunu, çünkü yapay zeka ürünlerinin dağıtımını denetlemenin, güvenlik ve etik standartları karşıladıklarından emin olmak için gerekli olduğunu söyledi.
“Örneğin, sağlık hizmetlerinde veya otonom araçlarda kullanılan gelişmiş yapay zeka modellerinin, halkın refahını korumak için sıkı testlerden ve uyumluluk kontrollerinden geçmesi gerekiyor” dedi.
Telif Hakkı © 2023 IDG Communications, Inc.