İngiltere’nin Rekabet ve Piyasalar Otoritesi (CMA), yapay zeka temel modellerine ilişkin yeni yayınlanan incelemesinde yapay zekanın potansiyel riskleri konusunda uyarıda bulundu.
Temel modeller, devasa, etiketlenmemiş veri kümeleri üzerinde eğitilmiş yapay zeka sistemleridir. OpenAI’nin GPT-4’ü ve Google’ın PaLM’si gibi büyük dil modellerini destekliyorlar. üretken yapay zeka ChatGPT gibi uygulamalar ve metin çevirme ve tıbbi görüntüleri analiz etme gibi çok çeşitli görevlerde kullanılabilir.
yeni rapor çeşitli geliştiriciler, işletmeler, tüketici ve endüstri kuruluşları, akademisyenler ve kamuya açık bilgiler de dahil olmak üzere 70 paydaştan gelen girdilerden yararlanarak temel modellerin sürekli geliştirilmesine ve kullanımına rehberlik edecek bir dizi ilke önermektedir.
Önerilen ilkeler şunlardır:
- Sorumluluk: Yapay zeka temel modeli geliştiricileri ve uygulayıcıları, tüketicilere sağlanan çıktılardan sorumludur.
- Erişim: Gereksiz kısıtlamalar olmaksızın tuş girişlerine sürekli hazır erişim.
- Çeşitlilik: Hem açık hem de kapalı iş modellerinin sürekli çeşitliliği.
- Seçim: İşletmelerin temel modellerin nasıl kullanılacağına karar verebilmeleri için yeterli seçim.
- Esneklik: İhtiyaca göre birden fazla temel modelini değiştirme ve/veya kullanma esnekliğine sahip olmak.
- Adil iş yapma: Kendi tercihini yapma, bağlama veya paket satış dahil olmak üzere rekabete aykırı hiçbir davranış yoktur.
- Şeffaflık: Tüketicilere ve işletmelere, bilinçli seçimler yapabilmeleri için temel model tarafından oluşturulan içeriğin riskleri ve sınırlamaları hakkında bilgi verilir.
Yetersiz geliştirilmiş yapay zeka modelleri toplumsal zarara yol açabilir
CMA raporu, insanların ve işletmelerin doğru şekilde uygulanan ve iyi geliştirilmiş temel modellerden nasıl yararlanabileceğini vurgularken, rekabetin zayıf olması veya yapay zeka geliştiricilerinin tüketiciyi koruma yasalarına uymaması durumunda bunun toplumsal zarara yol açabileceği konusunda uyardı. Verilen örnekler arasında vatandaşların “önemli düzeyde” yanlış ve yanıltıcı bilgilere maruz kalması ve yapay zeka destekli dolandırıcılık yer alıyor.
CMA ayrıca, uzun vadede az sayıda firmanın pazar hakimiyetinin rekabet karşıtı endişelere yol açabileceği, yerleşik oyuncuların konumlarını sağlamlaştırmak ve aşırı fiyatlı veya düşük kaliteli ürün ve hizmetler sunmak için temel modelleri kullanabileceği konusunda da uyardı.
“Yapay zekanın insanlar ve işletmeler için günlük yaşamın bir parçası haline gelme hızı dramatik. Bu teknolojinin üretkenliği artırma ve milyonlarca günlük görevi kolaylaştırma konusunda gerçek bir potansiyeli var; ancak olumlu bir geleceği kesin olarak kabul edemeyiz” dedi CMA CEO’su Sarah Cardell, raporun yanında yayınlanan yorumlarında.
“Yapay zeka kullanımının tüketici güvenini zedeleyecek veya ekonomi genelinde tüm faydaların hissedilmesini engelleyecek şekilde pazar gücü kullanan birkaç oyuncunun hakimiyeti altına girecek şekilde gelişmesi yönünde gerçek bir risk var.”
CMA, katılım programının bir parçası olarak tüketici grupları, hükümetler, diğer düzenleyiciler ve Anthropic, Google, Meta, Microsoft gibi önde gelen AI temel modeli geliştiricileri de dahil olmak üzere çok çeşitli ilgili taraflarla konuşmaya devam edeceğini söyledi. NVIDIA ve OpenAI.
Düzenleyici, 2024’ün başlarında ilkelerin nasıl kabul edildiği ve benimsendiği de dahil olmak üzere düşüncelerine ilişkin bir güncelleme sunacak.
CMA’nın sonraki adımları nelerdir?
CMA, Birleşik Krallık hükümetinin ülkenin yapay zeka politikasına ağırlık vermekle görevlendirdiği düzenleyicilerden yalnızca biri. Mart ayında hükümet, teknolojinin “sorumlu kullanımına” ilişkin yönergeleri ortaya koyan bir beyaz kitap yayınladı.
Ancak hükümet, “yeniliği engelleyebilecek katı mevzuatlardan kaçınmak” amacıyla, yapay zeka yönetişiminin sorumluluğunu, herhangi bir yeni yasanın yokluğunda mevcut yetkilere güvenmek zorunda kalacak sektörel düzenleyicilere vermeyi tercih etti.
Charles Russell Speechlys hukuk firmasının ortağı Gareth Mills, “CMA, rekabet ve tüketiciyi koruma gündemlerinin mümkün olduğunca erken devreye girmesini sağlamak için hızla büyüyen yapay zeka sektörüyle proaktif bir şekilde etkileşime geçme konusunda övgüye değer bir isteklilik gösterdi” dedi.
Raporda yer alan ilkelerin “zorunlu olarak geniş” olmasına rağmen, bunların sektör için düşük bir giriş gereksinimi yaratacak şekilde tasarlandığını, daha küçük oyuncuların daha köklü isimlerle etkili bir şekilde rekabet etmesine olanak tanırken yapay zeka teknolojilerinin potansiyelini hafifletecek şekilde tasarlandığını da sözlerine ekledi. Tüketicileri olumsuz etkilemek.
Russell, “CMA’nın rekabet kaygılarının ele alınmasını sağlamak için piyasayı nasıl düzenlemeye çalıştığını görmek ilgi çekici olacak” dedi.
Telif Hakkı © 2023 IDG Communications, Inc.