- Güvenlik uzmanlarına göre AI ses klonlama dolandırıcılıkları artıyor
- Sevdiklerinizi taklit etmek için ses özellikli yapay zeka modelleri kullanılabilir
- Uzmanlar, arkadaşlarınız ve ailenizle güvenli bir ifade üzerinde anlaşmanızı öneriyor
Alacağınız bir sonraki spam araması gerçek bir kişi olmayabilir ve kulağınız aradaki farkı anlayamayacaktır. Dolandırıcılar, dolandırıcılık planlarını otomatikleştirmek için ses özellikli yapay zeka modellerini kullanıyor ve aile üyeleri de dahil olmak üzere gerçek insanları arayanları taklit ederek bireyleri kandırıyor.
Yapay zeka ses dolandırıcılıkları nelerdir?
Dolandırıcılık çağrıları yeni değil ancak yapay zeka destekli çağrılar yeni bir tehlikeli tür. Üretken yapay zekayı yalnızca otoriteleri veya ünlüleri değil aynı zamanda arkadaşlarını ve ailelerini de taklit etmek için kullanıyorlar.
İnsan sesiyle eğitilen yapay zeka modellerinin ortaya çıkışı, telefon dolandırıcılığı konusunda yeni bir risk alanının kapısını açtı. OpenAI’nin ses API’si gibi bu araçlar, bir insan ile yapay zeka modeli arasındaki gerçek zamanlı konuşmayı destekler. Az miktarda kodla bu modeller, telefon dolandırıcılıklarını otomatik olarak gerçekleştirecek ve mağdurları hassas bilgileri açıklamaya teşvik edecek şekilde programlanabilir.
Peki nasıl güvende kalabilirsiniz? Tehdidi bu kadar sorunlu kılan şey, ne kadar kolay ve ucuz bir şekilde konuşlandırılabileceği değil, aynı zamanda yapay zeka seslerinin ne kadar ikna edici hale geldiğidir.
OpenAI, bu yılın başlarında ürkütücü bir şekilde Scarlett Johansson’a benzeyen Sky ses seçeneği nedeniyle tepkiyle karşılaştı. kendini tarif etti gerçek konuşmasından ayırt edilemeyen bir yapay zeka ses klonundan “derinden rahatsız” oldu.
Sevilen birinin sesini simüle etmek için yalnızca birkaç saniyelik ses yeterlidir. Bu, sosyal medyada paylaşılan bir videodan kolaylıkla kaynaklanabilir.
Dolandırıcıları alt etmek için tasarlanan araçlar bile çizgilerin ne kadar bulanık hale geldiğini gösteriyor. Birleşik Krallık’taki O2 ağı kısa süre önce, telefon dolandırıcılarını gerçek bir yaşlı vatandaşla yaptığına inandıkları zaman kaybettirici bir sohbete tuzağa düşürmek için tasarlanmış yapay zekalı bir büyükanne olan Daisy’yi başlattı. Bu, teknolojinin akıllıca kullanılmasının yanı sıra yapay zekanın insan etkileşimlerini ne kadar iyi simüle edebildiğini de gösteriyor.
Rahatsız edici bir şekilde, dolandırıcılar yapay zeka seslerini çok küçük ses örneklerine dayanarak eğitebiliyor. Bir siber güvenlik firması olan F-Secure’e göre, sevilen birinin sesini taklit etmek için sadece birkaç saniyelik ses yeterli. Bu, sosyal medyada paylaşılan bir videodan kolaylıkla kaynaklanabilir.
AI ses klonlama dolandırıcılıkları nasıl çalışır?
Ses klonlama dolandırıcılığının temel konsepti, standart telefon dolandırıcılıklarına benzer: Siber suçlular, kurbanın güvenini kazanmak için birinin kimliğine bürünür, ardından onları hassas bilgileri açıklamaya veya dolandırıcıya para aktarmaya teşvik eden bir aciliyet duygusu yaratır.
Ses klonlama dolandırıcılıklarıyla arasındaki fark iki yönlüdür. Birincisi, suçlular süreci kodla otomatikleştirerek daha fazla insanı, daha hızlı ve daha az parayla hedeflemelerine olanak tanıyor. İkincisi, sadece otoriteleri ve ünlüleri değil, doğrudan tanıdığınız kişileri de taklit edebiliyorlar.
Tek gereken, genellikle çevrimiçi bir videodan alınan bir ses örneğidir. Bu daha sonra yapay zeka modeli tarafından analiz edilir ve taklit edilerek aldatıcı etkileşimlerde kullanılmasına izin verilir. Giderek yaygınlaşan tekniklerden biri, yapay zeka modelinin acil durumda para isteyen bir aile üyesini taklit etmesidir.
Teknoloji aynı zamanda mağdurları manipüle etmek amacıyla yüksek profilli bireylerin seslerini simüle etmek için de kullanılabilir. Dolandırıcılar yakın zamanda bir Queensland Başbakanı Steven Miles’ın yapay zeka ses klonubir yatırım dolandırıcılığı yürütmeyi denemek için.
Yapay zeka ses dolandırıcılıklarından nasıl korunabilirsiniz?
Buna göre Starling BankasıDijital bir borç veren olan Birleşik Krallık’taki yetişkinlerin %28’i yapay zeka ses klonlama dolandırıcılıklarının hedefi olduklarını söylüyor ancak yalnızca %30’u bunu nasıl tanıyacaklarını bildiklerinden emin. Bu nedenle Starling, arkadaşlarını ve ailesini birbirlerinin kimliğini doğrulamak için kullanabilecekleri gizli bir ifade üzerinde anlaşmaya teşvik eden Güvenli İfadeler kampanyasını başlattı; bu akıllıca bir taktiktir.
TL;DR Nasıl güvende kalınır?
1. Arkadaşlarınız ve ailenizle güvenli bir ifade üzerinde anlaşın
2. Arayandan bazı güncel özel bilgileri onaylamasını isteyin
3. Kelimelerdeki veya duygusuz konuşmalardaki düzensiz vurguları dinleyin
4. Telefonu kapatın ve kişiyi geri arayın
5. Banka bilgilerinin istenmesi gibi olağandışı taleplere karşı dikkatli olun
Önceden kararlaştırılmış bir güvenli ifade olmasa bile, arayanın kimliğinin doğruluğu konusunda şüpheye düşerseniz benzer bir taktiği kullanabilirsiniz. Yapay zeka ses klonları bir kişinin konuşma şeklini taklit edebilir ancak özel bilgilere erişimleri olmayabilir. Arayan kişiden, son konuşmanızda paylaşılan bilgiler gibi yalnızca kendisinin bileceği bir şeyi onaylamasını istemek, kesinliğe bir adım daha yaklaşmaktır.
Kulağınıza da güvenin. Yapay zeka ses klonları çok ikna edici olsa da %100 doğru değiller. Belirli kelimelerdeki düzensiz vurgular, duygusuz ifadeler veya geveleme gibi belirtileri dinleyin.
Dolandırıcılar aradıkları numarayı maskeleme yeteneğine sahiptir ve hatta arkadaşınızın numarasından arıyormuş gibi görünebilirler. Eğer şüpheye düşerseniz, yapabileceğiniz en güvenli şey telefonu kapatmak ve o kişiyi normal numaradan tekrar aramaktır.
Ses klonlama dolandırıcılıkları da geleneksel telefon dolandırıcılıklarıyla aynı taktiklere dayanır. Bu taktikler, sizi normalde yapmayacağınız bir eyleme geçmeye zorlamak için duygusal baskı uygulamayı ve aciliyet duygusu yaratmayı amaçlamaktadır. Bunlara karşı dikkatli olun ve özellikle para transferi söz konusu olduğunda olağandışı isteklere karşı dikkatli olun.
Aynı tehlike işaretleri, bankanızdan veya başka bir yetkiliden geldiğini iddia eden arayanlar için de geçerlidir. Bankanızın sizinle iletişime geçerken kullandığı prosedürlere aşina olmanız faydalıdır. Örneğin Starling’in bir çağrı durumu göstergesi Bankanın sizi gerçekten arayıp aramadığını görmek için istediğiniz zaman kontrol edebileceğiniz uygulamasında.