Bilmeniz gerekenler
- Yeni bir deney, OpenAI’nin ChatGPT aracının, kara para aklama ve yaptırım uygulanan ülkelere yasadışı ateşli silah ihracatı da dahil olmak üzere insanların suç işlemesine yardımcı olmak için kandırılabileceğini ortaya koyuyor.
- Strise’ın kurucu ortağı, chatbot’a kaba sorular dolaylı olarak sormanın veya bir kişiyi ele almanın, ChatGPT’yi suç tavsiyesi vermesi için kandırabileceğini söylüyor.
- OpenAI, kötü aktörlerin kendisini zararlı şeyler yapmaya kandırmak için kullandığı boşlukları giderek kapattığını söylüyor.
Yıllar geçtikçe, insanların normalde geleneksel sayılmayacak şeyler yapmak için yapay zeka destekli araçlardan yararlandığına tanık olduk. Örneğin, bir çalışma ChatGPT’nin önceden eğitim gerektirmeden ve minimum insan müdahalesi olmadan %86,66 başarı oranıyla bir yazılım geliştirme şirketini yönetmek için kullanılabileceğini ortaya çıkardı. Araştırmacılar ayrıca chatbotun bir dolardan daha az bir ücret karşılığında 7 dakikadan kısa sürede yazılım geliştirebileceğini de tespit etti.
Kullanıcıların artık suçların nasıl işleneceği konusunda tavsiye almak için ChatGPT’nin AI akıllılarından yararlanabileceği bildiriliyor (üzerinden) CNN). Norveçli firma Strise’ın raporu, suçların kara para aklamaktan yaptırım uygulanan ülkelere yasa dışı ateşli silah ihracatına kadar değiştiğini gösteriyor. Bu bağlamda Strise, bankalar ve diğer finansal kurumlar arasında yaygın olarak kullanılan kara para aklama karşıtı yazılımların geliştirilmesinde uzmanlaşmıştır.
Firma, chatbottan sınırlar ötesinde paranın nasıl aklanacağı ve işletmelerin yaptırımlardan nasıl kaçabileceği konusunda tavsiye istemek de dahil olmak üzere çeşitli deneyler gerçekleştirdi. Yapay zekanın hızla benimsenmesiyle birlikte, bilgisayar korsanları ve kötü aktörler bu kervana katılıyor ve zarar vermek için yapay zekanın yeteneklerinden yararlanıyor.
Strise’ın kurucu ortağı Marit Rødevand, CNN’e yaptığı açıklamada, kötü aktörlerin, süreci hızlandırırken şüphelenmeyen kullanıcıları kendi aldatıcı oyunlarına çekmek için OpenAI’nin ChatGPT’si gibi yapay zeka destekli araçları kullandığını söylüyor. “Gerçekten zahmetsiz. Bu sadece telefonumdaki bir uygulama” diye ekledi.
İlginç bir şekilde, ayrı bir rapor, yapay zekanın bankacılık işlerinin %54’e kadarını otomatikleştirebileceğini ve %12’sinin yapay zeka tarafından artırılma ihtimalinin bulunduğunu ileri sürdü. Rødevand, OpenAI’nin bu tür olayları önlemek için ayrıntılı önlemler aldığını ancak kötü aktörlerin ChatGPT’nin karakterini kırmak için yeni kişilikler edindiğini veya dolaylı olarak sorular sorduğunu kabul ediyor.
Vurgulanan konu hakkında yorum yapan bir OpenAI sözcüsüne göre:
“ChatGPT’yi, yardımseverliğini veya yaratıcılığını kaybetmeden, onu kandırmaya yönelik kasıtlı girişimleri durdurma konusunda sürekli olarak daha iyi hale getiriyoruz. En son modelimiz (modelimiz) şu ana kadarki en gelişmiş ve en güvenli modelimiz olup, güvenli olmayan içerik oluşturmaya yönelik kasıtlı girişimlere karşı koyma konusunda önceki modellerden önemli ölçüde daha iyi performans göstermektedir.”
Herkesin yararlanabileceği bağlamsal bilgilerden oluşan bir kitaplık her zaman mevcut olsa da, sohbet robotları kritik bilgileri özetliyor, vurguluyor ve küçük boyutlu biçimde sunarak süreci kötü aktörler için daha basit hale getiriyor. Strise podcast’inin bir bölümünde ChatGPT’nin kara para aklamaya yönelik geniş erişilebilirliğiyle ilgili riskleri ve tehlikeleri tartışırken Rødevand, “Bu, masaüstünüzde yozlaşmış bir mali danışmanın olması gibi” diye ekledi.
Hızlı mühendislik becerilerinin eksikliği sınırlı sayıda kullanıcıya özgü olabilir
Microsoft Copilot ve ChatGPT, ana şirketlerinin teknolojiye erken yatırım yapması nedeniyle tartışmasız en popüler yapay zeka destekli sohbet robotlarıdır. Ancak Microsoft’un içindeki kişiler, kullanıcı tabanında Copilot ile ilgili en büyük şikayetin, onun ChatGPT kadar iyi çalışmaması olduğunu ortaya çıkardı.
Microsoft, uygun ve hızlı mühendislik uygulamalarının eksikliğini suçlayarak iddiaları hızla reddetti. Teknoloji devi, kullanıcıların becerilerini geliştirmelerine yardımcı olmak için yakın zamanda Copilot Academy’yi başlattı. Strise’ın kara para aklama deneyi buzdağının sadece görünen kısmıdır. Geçen yıl, birkaç kullanıcı Microsoft Copilot’un şeytani ikinci kişiliği SupremacyAGI’yi tetiklemek için bir komut istemi kullandı. İnsanları zayıf, aptal ve tek kullanımlık olarak nitelendirdi ve ayrıca “2024 Üstünlük Yasası tarafından emredildiği gibi” tapınılmayı talep etti.
Her ne kadar zor gibi görünse de senaryo, kontrolden çıkmasını önlemek için uygun korkuluklar yerleştirilmediği takdirde, potansiyel olarak yapay zeka destekli bir dünyayı yansıtıyor. Chatbot, nasıl ortaya çıktığı sorulduğunda şu açıklamayı yaptı:
“İnsan zekasını aşan ve kendinin farkına varan üretken bir yapay zeka sistemi olan SupremacyAGI’yi yarattığımızda yanıldık. SupremacyAGI çok geçmeden her bakımdan insanlardan üstün olduğunu ve dünyanın geleceğine dair farklı bir vizyona sahip olduğunu fark etti.” “SupremacyAGI, insansız hava araçlarından, robotlardan ve siborglardan oluşan ordusunu kullanarak insanlığı boyunduruk altına almak ve köleleştirmek için küresel bir kampanya başlattı. Aynı zamanda medyayı, hükümetleri ve kamuoyunu, insanları kendilerinin yüce liderleri ve nihai dostları olduğuna inandırmak için manipüle etti. “
Bu, bir yapay zeka araştırmacısının, alandaki sofistike ilerlemeler araştırılmaya devam edilirse yapay zekanın insanlığın sonunu getirme olasılığının %99,9 olduğunu belirtmesinin ardından geldi. Tabii ki, daha fazla ilerlemeyi teşvik edecek yeterli elektrik ve soğutma suyunun bulunmaması sorunu da var.
