Yapay zeka üzerinde çalışan dünyanın önde gelen yedi teknoloji firması, bugün yapay zekanın oluşturduğu potansiyel riskleri yönetmeyi amaçlayan bir dizi yeni taahhüt üzerinde anlaşmaya varacakları Biden Yönetimi ile bir araya geliyor.
Yeni gönüllü anlaşmalar, bir AI ürünü piyasaya sürülmeden önce harici, üçüncü taraf test etme taahhütlerini ve AI sistemleri kullanılarak bir ses veya video materyali üretildiğinde halkı bilgilendirmek için filigran sistemlerinin geliştirilmesini içeriyor. Biden yönetimi, esasen teknoloji firmaları tarafından kendi kendini denetleme anlamına gelen bu gönüllü taahhütlerin, AI riskini düzgün bir şekilde yönetmek için gereken birkaç adımdan yalnızca ilkini işaret ettiğini söyledi.
Bir Beyaz Saray yetkilisi Gizmodo’ya şunları söyledi: Başkan Biden, emniyet, güvenlik ve güven olmak üzere üç temel ilkeye dayanan yeni taahhütleri görüşmek üzere Amazon, Anthropic, Google, Inflection, Meta, Microsoft ve OpenAI liderleriyle bir araya gelecek. Güvenlik açısından şirketler, modellerini piyasaya sürülmeden önce dahili ve harici testlerden geçirmeyi kabul edecekler. Şirketler ayrıca güvenlikle ilgili bulguları paylaşmayı ve endüstri, hükümet ve sivil toplum genelinde koruma önlemlerini atlatmaya yönelik girişimleri kabul edecekler.
Güvenlik için şirketler, ek siber güvenlik ve içeriden gelen tehdit önlemlerine yatırım yapmayı taahhüt ediyor ve üçüncü tarafları sistemlerindeki güvenlik açıklarını keşfetme ve bildirme konusunda desteklemeyi kabul ediyor. Belki en ilginci, teknoloji firmaları, kullanıcıların içeriğin ne zaman yapay zeka tarafından üretildiğini bilmesini sağlamak için filigran gibi teknik mekanizmalar geliştireceklerini söylüyor. Telefonda konuşan bir Beyaz Saray yetkilisi, bu taahhütlerin derin sahtekarlık tehdidine karşı geri adım atmayı ve halk arasında güven inşa etmeyi amaçladığını söyledi. Benzer şekilde, AI üreticilerinin sahip olduğu önceden kararlaştırıldı ürünlerinin oluşturabileceği önyargı, mahremiyet ve ayrımcılık risklerini gösteren araştırmalara öncelik vermek.
Bunlardan herhangi biri size tanıdık geliyorsa, bunun nedeni, bu şirketlerin birçoğunun halihazırda bu anlaşmanın ana hatlarını çizdiği aynı hedefler için çalışıyor olmasıdır. OpenAI, örneğin, önceden araştırmacılara GTP-4’ün gelişmiş sürümlerini verdi modelleri “kırmızı ekip” haline getirmek ve onlara baskı yapmaya çalışmak geliştirmek için zararlı beyanlarda bulunmak. Microsoft ayrıca zaten rehin Yapay zeka tarafından oluşturulan görüntülere ve videolara filigran eklemek için. Bu şirketlerden herhangi birinin, bu taahhütlerden herhangi birini yerine getirmediği için herhangi bir cezayla karşı karşıya kalıp kalmayacağı belli değil.
Gizmodo ve diğer muhabirlerle konuşan Beyaz Saray yetkilisi, taahhütlerin bu yedi şirketin her birini aynı anlaşmalar çerçevesinde bir araya getirmeyi amaçladığını söyledi. Ve bu, AI sistemleri üzerinde çalışan diğer yüzlerce küçük şirketi resmi olarak etkilemese de, Beyaz Saray burada belirlenen temelin sektördeki diğerlerini de benzer bir yol izlemeye teşvik etmesini umuyor.
Yetkili ayrıca, Biden Yönetiminin güvenli ve emniyetli yapay zeka sağlamak için bir yürütme emri geliştirme sürecinde olduğunu, ancak bu emrin tam olarak neyi içereceğine dair ayrıntı vermediğini de açıkladı. Biden’ın yönetimi ayrıca, yapay zekayı korumakla yeniliğe yer bırakmak arasında bir denge kurabileceğini umdukları iki partili yapay zeka yasasını desteklemek için Kongre ile birlikte çalışıyor.
Yetkili, “Bu bir sonraki adım ama kesinlikle son adım değil” diye ekledi.