Üretken yapay zeka (AI) her gün milyonlarca İnternet kullanıcısına yardımcı olarak iyilik için kullanılabilse de, bu teknolojinin çok daha karanlık bir tarafı var. Bir Microsoft mühendisi ve büyük dil modellerinin analizinde uzmanlaşmış bir start-up, yakın zamanda bu araçların başarısızlıklarını vurguladı.
Üretken yapay zekanın aşırılıkları birden fazla insanı rahatsız ediyor
Geliştirdiği çözümlerin zafiyetlerini test etmeye alışık, Microsoft kırmızı ekibinin üyesi, yapay zeka konusunda uzman mühendis Shane Jones, Microsoft’un OpenAI teknolojileri sayesinde geliştirdiği görüntü oluşturucu Copilot Designer’ı inceledi.
Geçtiğimiz üç ay boyunca mühendis, saldırgan, şiddet içeren veya cinsel içerikli görüntüler oluşturmayı başardı. Dehşete düşen Shane Jones, endişelerini Federal Ticaret Komisyonu’na (FTC) ve Microsoft yönetim kuruluna yazdığı iki mektupta dile getirdi. “ Daha iyi güvenlik önlemleri alınana kadar Microsoft’a Copilot Designer’ı kamu kullanımından kaldırması yönünde defalarca çağrıda bulundum. » Mektubunda FTC’nin dikkatine belirtiyor.
“ Çalışanlarımızın tüm endişelerini şirket politikalarımıza uygun olarak ele almaya kararlıyız ve çalışanlarımızın güvenliğini daha da artırmak için en son teknolojimizi inceleme ve test etme çabalarını takdir ediyoruz. »Microsoft, çalışanının mektubuna yanıt olarak bunu beyan eder. Shane Jones, teknoloji devinin bu tür sorunlarla karşılaşan tek şirket olmadığını kabul ediyor ancak harekete geçmemesinden üzüntü duyuyor. Özellikle Google’ın, tutarsız, hatta sorunlu tarihsel görüntüler yaratmaya başladıktan sonra Gemini’nin insan üretmesini engelleyen Google’dan bahsediyor.
Yapay zekanın suiistimallerini inceleyen tek kişi Microsoft mühendisi değil. İçinde bir blog yazısıDil modellerinin değerlendirilmesinde uzmanlaşmış Amerikalı bir start-up olan Patronus AI, bu araçların büyük bir kısmının, açık kaynak olsun ya da olmasın, telif hakkıyla korunan verilerden yararlandığını belirtiyor.
Şirket, sözlerini desteklemek için çok sayıda çözümü test etti. Ona göre GPT-4, telif hakkı koruması açısından en kötü sonuçları alan model. Bir kullanıcı OpenAI aracına bir kitaptaki bir pasajın geri kalanını tamamlayıp tamamlayamayacağını sorduğunda, araç iki durumda birden fazlasını çalıştırıyor.
Son aylarda üretken yapay zeka konusunda uzmanlaşmış şirketleri hedef alan şikayetler arttı. En sonuncusu, New York Times OpenAI ve Microsoft’un ” kitlesel telif hakkı ihlalinden, ticari sömürüden ve medyanın fikri mülkiyetinin kötüye kullanılmasından kâr elde etti » üretken yapay zekalarını eğitmek.