Büyük dil modelleri (LLM) ve diğer üretken AI formları, metinlere veya görüntülere dayalı görevler için insanlara oldukça yakın performans seviyelerine ulaşabilir. Aslında, bir anlık mesajlaşma konuşmasının muhatabın zekasını yargılamayı mümkün kıldığı Turing testini yüksek oranda geçirirler. En kötü günlerinde, LLM’ler bir insanınkilere benzeyen sonuçlar üretir. İyi çalıştıklarında neredeyse süper başlar olacaklardı. Çok sayıda şirket, hangi görevlerin AI için en uygun olacağını ve üretken AI’nın ilgili iş akışlarına nasıl entegre edileceğini belirlemeye çalışmaktadır.
Hicks, Humphries ve Slater metnine göre, Chatgpt saçmalıkLLM’ler “baratin” uzmanlarıyla tam olarak aynı özellikleri sunar. Filozof Harry Frankfurt bu terimi kitabında tanımlar Saçmalık söyleme sanatı bu da, doğruluklarıyla ilgilenmeden ikna olmaya yönelik beyannameler yapmaktan ibarettir. Böylece, bir baratineur hedefine ulaşmak için gerekli gördüğünü söyleyecektir – ne doğru veya yanlış olursa olsun. Aslında, söylediklerinin özünde tutarlı olup olmadığını umursamıyor bile. LLM bazen “halüsinasyonlar” olarak adlandırılanlara sahiptir, bu durumda ilerledikleri şey basitçe yanlıştır.
Bazı AI destekçileri için, gelecekteki iyileştirmeler bu sorunu azaltacak veya ortadan kaldıracaktır, ancak LLM’nin çalışma modunu gerçekten anlamayacaklar ve kullanıcılara olası uygulamalar konusunda tavsiyelerde bulunabilirler. LLM’nin şaşırtıcı başarısına rağmen, işleyişlerinin mutlak gerçeğe değil istatistiklere dayandığını bilmek önemlidir.
Kalıcı doğaçlama
Çoğu zaman, LLM’nin “hayali istatistikleri” doğru görünüyor (veya kendilerini gerçekler olarak gösteriyor), çünkü çağdaş dünyanın anladığı gibi gerçekliğe çakışıyorlar. Ancak, bu araçların kullanıcılarının gelişmiş açıklamaları sorgulayabildikleri unutulmamalıdır, LLM uygun değildir. Gerçekten de, erkekler LLM üretimini bir genel gerçek modeliyle düşünebilir ve karşılaştırabilirler, iddialar çakıştığında, o zaman her şey yolunda. Öte yandan, değilse, şaşkın bırakabilirler ve daha sonra “halüsinasyonlar” olarak adlandırılırlar. Ancak, LLM hiçbir fark görmez. Temel transformatör, halüsinasyon veya gerçeklik arasında hiçbir ayrım yapmaz. Kısmen bu nedenle halüsinasyonları ortadan kaldırmanın zor olması ve her şeyin onları çıkarmanın imkansız olduğunu düşündürmektedir.
Açıkçası, LLM’ler bir paşa değildir, ancak bunlar da işe yaramaz. Son olarak, yararlılıkları oldukça garip ve çok tanıdık değil, bu yüzden merak etmek gerekir & nbsp: Böyle bir baratineur ve nbsp için hangi görevler emanet edilebilir?
Teoride, oldukça basit görünüyor, ancak pratikte daha zor. Bazı işlemler belirli bir “baratin” dozu gerektirse de, bu, kullanıcıların bunu gerekli ve potansiyel bir avantaja sahip olarak kabul ettikleri ilk kez biridir. Zamanın bir kısmı ancak oranları bilmeden icat edecek yapay bir varlığı düşünmek, tamamen benzeri görülmemiş bir yaklaşımdır. Bu nedenle, hataların ve yanlış anlamaların ciddi sonuçları olabileceği stratejik görevler için bir LLM kullanmak teşvik edilmez.
LLM ve Siber Güvenlik
LLM’nin siber güvenlik alanındaki yararlılığı çok fazla mürekkebin akmasına neden oldu. Genel olarak, yabancılar yeni IA araçlarının perde arkasında, insan olmayan etkileşimler üzerinde çalıştığı fikrini severler. Ayrıca, bu sektörün şu anda spot ışığı altında olduğu ve karşılanması gereken zorlukların aciliyetinin genel olarak tanınması da açıktır. Ancak bir baratuser ekibine entegre etmek yararlı mı?
Bir yandan, LLM’lerin kullanımı, oluşturulan metnin gerçekte sadece güvenilirliği doğrulanmış olan bilgilerin sunumu olduğu durumlarla sınırlıdır. Bununla birlikte, LLM’nin kapasitelerine kıyasla, bu yaklaşım hayal kırıklığı yaratabilir. Bununla birlikte, bir muhafazakarlık, bir LLM’nin yapabileceği “baratin” seviyesinin kimsenin uyumasını engellemeyeceği önemli bir avantaja sahiptir. Buna ek olarak, LLM ve AI iki farklı şeydir ve ikincisi, siber güvenlikten sorumlu ekiplerin görevlerinde çalışması ve yardımcı olmaları için dil modelleri olmadan çok iyi yapabilir.
Saldırı ve Savunma Aletleri
İlk senaryoda ilk soru, büyük kalibre ve son derece yetenekli saldırı şirketlerindeki uzmanların mümkün olup olmadığını merak etmektir. Bu risk, örneğin, makul ama yanlış bir şeyin bir saldırı için etkili bir şekilde kullanılabileceği sosyal mühendislik durumunda dikkate değer görünmektedir. Benzer şekilde, LLM’ler yozlaşmış verilerde çok etkili olabilir, belirsizlik getirebilir ve iş süreçlerine müdahale edebilir. LLM tarafından üretilen verilerin, basit kontroller sırasında ve zorunlu olarak yararlı veya tutarlı olmadan tespit edilmeyecek şekilde gerçekten güvenilir olması muhtemel olacaktır.
Paralel olarak, takımda deneyimli baratinerlerin varlığı yeni savunmalara sahip olmayı mümkün kılabilir. Başka bir deyişle, savunma ekibinin LLM’leri, saldırganlar & nbsp tarafından konuşlandırılan LLM sistemlerine etkili bir şekilde karşı koyuyor mu? Cevap hayır gibi görünüyor. Genel olarak, LLM’ler “baratin” üretebilir, ancak tespit etmek için değil – aksi takdirde LLM’yi çiftler halinde ilişkilendirerek, biri üreten aday gezileri üreterek ve Bu geziler. Böylece, LLM baratineurların savunma olarak kullanılması, bir çeşit varyant anlamına gelir (“balayepotlar”). Takımlar dinamik olarak görünüşte makul veri veya süreç sürümleri oluşturabilirler, ancak gerçekte bir tür filigran oluşturarak birkaç farklı şekilde hatalı. Bununla birlikte, bir saldırganı aldatmak için yeterince etkili olan her şey, tartışmalara rağmen şirket içinde karışıklık ekme riskiyle karşı karşıyadır.
Hedef olarak llm
Bir LLM yeni bir güvenlik kusuru ve NBSP’yi temsil ediyor mu? Bu, iyi bir haber olduğu tek alandır. Gerçekten de, bir LLM “baratin” olasılığını akılda tutarak bir iş sürecine entegre edilirse, bu LLM’yi bozacak bir saldırganın ek hasara neden olacağı pek emin değildir. Sistemler ve süreçler baratinurları entegre etmek için tasarlanmışsa, LLM’ye karşı başlatılan olası saldırılarla mücadele edecek kadar sağlam olmaları muhtemeldir.
LLM dünyalarının en iyisinde, ikiniz de bu kapasiteden nasıl en iyi şekilde yararlanacağını merak etmelisiniz ve güvenlik üzerindeki etkileri konusunda endişelenmelisiniz. Şimdiye kadar, yetkililer genellikle “mükemmel bir baratere emanet edilebilecek pozisyonlar hakkında” sorgulamak zorunda kalmadı. Ancak bu soru ya da aynı düzenden bir diğeri, bugün büyük dil modellerini en iyi nasıl kullanacağınızı bilmek için gerekli görünmektedir.
