Samsung’un çalışanlarının kullanımını yasakladığı bildirildi üretici yapay zeka gibi araçlar ChatGPT hassas dahili verilerin harici sunuculara iletimini durdurmak amacıyla.
Güney Koreli elektronik devi, çalışanlarına yapay zeka araçlarını kullanmamalarını bildiren bir notu kilit bir bölüme gönderdi. Bloomberg’in raporunotu incelediğini söyledi. Bloomberg, notu hangi bölümün aldığını bildirmedi.
Ayrıca kişisel cihazlarında ChatGPT ve diğer AI araçlarını kullanan çalışanlar, şirketle ilgili verileri veya şirketin fikri mülkiyetini tehlikeye atabilecek diğer bilgileri yüklememeleri konusunda uyarıldı. Notta, bunu yapmanın istihdamın feshine yol açabileceği söylendi.
Not, AI platformlarına hassas kod gibi verilerin girilmesiyle ilgili endişeleri dile getirdi. Endişe, ChatGPT gibi bir AI aracına yazılan herhangi bir şeyin daha sonra harici sunucularda yer almasıdır, bu da onları almayı ve silmeyi çok zorlaştırır ve ayrıca potansiyel olarak diğer kullanıcılar tarafından erişilebilir hale getirir.
Notta, “ChatGPT gibi üretken yapay zeka platformlarına olan ilgi hem şirket içinde hem de şirket dışında artıyor” denildi. “Bu ilgi, bu platformların yararlılığına ve verimliliğine odaklanırken, üretken yapay zeka tarafından sunulan güvenlik riskleri hakkında da artan endişeler var.”
Not bir Mart ayının ardından gelir bildiri ChatGPT’nin yaratıcısı Microsoft destekli OpenAI tarafından, açık kaynaklı bir kitaplıktaki bir hatanın (düzeltildiğinden beri) bazı ChatGPT kullanıcılarının diğer aktif kullanıcıların sohbet geçmişindeki başlıkları görmesine izin verdiği bildirildi.
Samsung’un aracı yasaklaması, AI ile ilişkili güvenlik risklerini anlamak için yürüttüğü dahili bir anketten bir ay sonra geldi. Ankete katılan çalışanların yaklaşık %65’i ChatGPT’nin ciddi güvenlik tehditleri oluşturduğunu söyledi. Ek olarak, Nisan ayında, nota göre Samsung mühendisleri “iç kaynak kodunu ChatGPT’ye yükleyerek yanlışlıkla sızdırdı”. Ancak not, kodun tam olarak ne olduğunu açıklamadı ve kodun yalnızca ChatGPT’ye mi yazıldığı yoksa Samsung dışında herhangi biri tarafından da incelenip incelenmediği konusunda ayrıntılı bilgi vermedi.
Milletvekilleri yapay zekayı düzenlemeye hazırlanıyor
ChatGPT ve diğer yapay zeka sistemlerinin özel verileri sızdırma ve yanlış bilgi yayma potansiyelinden korkan düzenleyiciler, kullanımlarına ilişkin kısıtlamalar getirmeye başladılar. Örneğin, Avrupa Parlamentosu’nun bir anlaşmayı sonuçlandırmasına günler kaldı. Yapay Zeka Yasasıve Avrupa Veri Koruma Kurulu (EDPB) bir AI görev gücü kuruyorpotansiyel AI tehlikelerini incelemek için ChatGPT’ye odaklanıyor.
Geçen ay İtalya, ChatGPT’ye mahremiyete dayalı kısıtlamalar getirdi ve ülkedeki operasyonunu geçici olarak yasakladı. OpenAI, İtalyan düzenleyiciler tarafından talep edilen değişiklikleri yapmayı kabul etti ve ardından hizmeti yeniden başlattı.
Yapay zeka araçları sunan şirketler, gizlilik ve veri sızıntısı ile ilgili endişelere yanıt vermeye başlıyor. OpenAI geçen ay kullanıcılara izin vereceğini duyurdu ChatGPT için sohbet geçmişi özelliğini kapatmak için. Comany, “geçmiş devre dışı bırakıldı” özelliğinin, bu şekilde işaretlenen konuşmaların OpenAI’nin temel modellerini eğitmek için kullanılmayacağı ve geçmiş kenar çubuğunda görüntülenmeyeceği anlamına geldiğini söyledi.
Bu arada Samsung, basında çıkan haberlere göre yazılım geliştirmenin yanı sıra belgeleri çevirmek ve özetlemek için dahili AI araçları üzerinde çalışıyor. Ayrıca, hassas şirket bilgilerinin harici hizmetlere yüklenmesini engellemenin yolları üzerinde çalışıyor.
Notta, “Genel Merkez, çalışanların üretkenliğini ve verimliliğini artırmak amacıyla üretken yapay zekayı güvenli bir şekilde kullanmak için güvenli bir ortam oluşturmak amacıyla güvenlik önlemlerini gözden geçiriyor” denildi. “Ancak, bu önlemler hazırlanana kadar, üretken AI kullanımını geçici olarak kısıtlıyoruz.”
Bu hamleyle Samsung, bu yıkıcı teknoloji üzerinde bir tür kısıtlama uygulayan ve genişleyen şirketler grubuna katılıyor. Bunlar arasında JPMorgan Chase, Bank of America ve CitiGroup dahil olmak üzere Wall Street bankaları var.
Telif hakkı © 2023 IDG Communications, Inc.