Neredeyse herkes kullanıyormuş gibi geliyor AI’nın ChatGPT’sini açın üretken yapay zeka prime time’a ulaştığından beri. Ancak birçok kurumsal profesyonel, bu büyük dil modellerinin (LLM’ler) riskini dikkate almadan teknolojiyi benimsiyor olabilir.
Bu nedenle, Üretken Yapay Zeka için bir Apple yaklaşımına ihtiyacımız var.
Samsung’da olan Samsung’ta kalmalı
ChatGPT, soruları yanıtlayabilen, nesirleri inceleyebilen, öneriler üretebilen, raporlar oluşturabilen ve daha fazlasını yapabilen, her şeyi yapabilen bir araç gibi görünüyor. Geliştiriciler, aracı kodlarını yazmalarına veya geliştirmelerine yardımcı olmak için kullandılar ve bazı şirketler (Microsoft gibi) bu makine zekasını mevcut ürünlere, web tarayıcılarına ve uygulamalara yerleştiriyor.
Hepsi iyi ve güzel. Ancak herhangi bir kurumsal kullanıcı, Europol ve benzerlerinden gelen uyarıları dikkate almalıdır. İngiliz istihbarat teşkilatı NCSC ve gizli bilgileri işleme koymadan önce küçük puntoları göz önünde bulundurun. Çünkü veriler bir kez paylaşıldıktan sonra artık bu verileri paylaşan varlık tarafından değil, OpenAI tarafından kontrol ediliyor – bu da gizli bilgilerin artık güvenli olmadığı anlamına geliyor.
Bu, birçok kullanıcı için temel bir gizlilik sorunu olabilir, ancak özellikle ayrıcalıklı bilgileri işleyen şirketler için ChatGPT kullanımının ciddi riskler taşıdığı anlamına gelir.
Yazılım ortaya çıktığından beri dolaşımda bu yönde uyarılar var, ancak LLM yanlısı aldatmaca üzerinden açıkça duyulmuyorlar. Bu, Samsung Semiconductor’daki mühendislerin ChatGPT kullandığına ve bunu yaparken de kullandığına dair haberler tarafından öne sürülüyor. üç hassas veri sızıntısı oluşturdu sadece 20 gün içinde.
Mühendisler oldukça basit görevleri yerine getirmek için ChatGPT’yi kullandılar:
- Kaynak kodundaki hataları kontrol edin.
- Arızalı tesisleri tanımlamak için kullanılan kodu optimize edin.
- Toplantı tutanakları oluşturmak için akıllı telefona kaydedilen bir toplantıyı metne dönüştürün.
Sorun şu ki, tüm bu durumlarda, çalışanlar Samsung’un tescilli bilgilerini etkili bir şekilde aldı ve üçüncü bir tarafa vererek şirketin kontrolünden çıkardı.
Doğal olarak, bu olayların gerçekleştiğini fark eden Samsung, ChatGPT kullanmanın riskleri konusunda çalışanlarını uyardı. Hayati çalışanları, bilgilerin paylaşıldıktan sonra bilinmeyen sayıda insana maruz kalabileceğini anlıyor. Samsung, gelecekte bu tür kullanımları azaltmak için adımlar atıyor ve bunlar işe yaramazsa, aracın ağında kullanılmasını engelleyecek. Samsung ayrıca dahili kullanım için kendi benzer aracını geliştiriyor.
Samsung olayı, kurumsal liderlerin şirket bilgilerinin bu şekilde paylaşılamayacağını anlamaları gerektiğinin açık bir göstergesidir.
Üretken Yapay Zeka için bir Apple yaklaşımına ihtiyacımız var
Elbette, Apple’ın yapay zekaya genel yaklaşımının bu kadar mantıklı olmasının nedeni budur. İstisnalar olsa da (bir zamanlar Siri’de derecelendirme için korkunç veri paylaşımı dahil), Apple’ın yolu, çalışması için çok az veri gerektiren akıllı çözümler üretmeye çalışmaktır. Argüman şu ki, Apple ve sistemleri bir kullanıcının bilgilerine ilişkin içgörüye sahip değilse, o zaman bu veriler gizli, özel ve güvenli kalır.
Bu, üretici yapay zekayı ve potansiyel olarak herhangi bir arama biçimini kapsaması gereken sağlam bir argümandır. Apple, donanımı için teknolojinin cihaz üzerinde eşdeğerlerini oluşturmak için üzerinde bazı yapı taşlarına sahip olmasına rağmen, ChatGPT’nin bir eşdeğerine sahip gibi görünmüyor. Örneğin, Apple’ın inanılmaz derecede güçlü Neural Engine’i, cihaz üzerinde en azından bir şekilde eşdeğer işlemlerle LLM modellerini çalıştıracak beygir gücüne sahip gibi görünüyor. Bunu yapmak çok daha güvenli bir araç sağlar.
Apple’ın henüz kendi Tasarımında Cupertino’da bekleyen Üretken Yapay Zekayı ele almasa da, ChatGPT modelinin riskleri daha geniş çapta anlaşıldıkça, benzer araçlara özel ve güvenli erişim talebinin yalnızca artması kaçınılmazdır. Kuruluşlar, gizlilik pahasına üretkenlik ve verimlilik istiyor.
Bu tür araçların geleceği, bu tür çözümleri mümkün olduğunca buluttan ve cihaza taşımaya dayalı gibi görünüyor. Bu kesinlikle seyahat yönü Microsoft sinyal veriyor gibi görünüyor OpenAI araçlarını Azure içinde birleştirmek için çalışırken ve diğer ürünler.
Bu arada, LLM kullanan herkes NCSC’nin tavsiyelerine uymalıdır ve yaptıkları sorgulara hassas bilgileri dahil etmediklerinden emin olun. Ayrıca, kamuya açık LLM’lere “açıklandıkları takdirde sorunlara yol açacak” sorgular göndermediklerinden de emin olmalıdırlar.
Ve insanların her güvenlik zincirinin zayıf halkası olduğu göz önüne alındığında, çoğu işletmenin muhtemelen bir ihlal olması durumunda bir eylem planı geliştirmesi gerekir. Belki ChatGPT bir tane önerebilir?
lütfen beni takip et Mastodonveya bana katılın AppleHolic’in barı ve ızgarası Ve Elma Tartışmalar MeWe’deki gruplar.
Telif hakkı © 2023 IDG Communications, Inc.
