Microsoft, yeni yapay zeka aracı Recall’ın piyasaya sürülmesini bir kez daha erteleme kararı alırken, şirket sunduğu tüm kullanışlı verilerin rakipler tarafından kötüye kullanılamayacağından emin olmaya çalışıyor.
Geri Çağırma aracı, Microsoft’un AI Assistant yazılımı Copilot+ aracılığıyla sunulan hizmet paketinin bir parçası olacak. Recall’ın görevi, kullanıma sunulduğunda, bilgisayardaki her eylemin “anlık görüntülerini” toplamak ve daha sonra kolay bir aramayla erişilebilmesini sağlamak olacak. Yazılım, kullanıcının bir web sitesini gördüğü, bir uygulamayı kullandığı veya bir belgeyle etkileşimde bulunduğu anı tam olarak “hatırlayabilecek”.
Zorlayıcı kullanım durumları bir yana, bilgi güvenliği profesyonelleri Recall’ın anlık görüntülerini güvende tutma becerisine karşı çıktı potansiyel tehdit aktörlerinden. Microsoft da bu siber güvenlik endişelerini ciddiye alıyor. Haziran ayında Microsoft, yeni özellikler eklediğini duyurdu. Hatırlanacak gizlilik ve güvenlik özellikleri amaçlanan kullanıma sunma tarihinden sadece birkaç gün önce. Bu sürüm, aracın güvenliğini artırmak için ek adımlar atmak amacıyla en sonunda Ekim ayına ertelendi. Şimdi ise çıkış tarihi yeniden ertelendi.
Windows kıdemli ürün müdürü Brandon LeBlanc’ın gecikmeyle ilgili yaptığı açıklamaya göre, “Recall ile güvenli ve güvenilir bir deneyim sunmaya kararlıyız.” “Bu önemli güncellemeleri sunduğumuzdan emin olmak için, deneyimi Windows Insiders’da önizlemeden önce geliştirmek için ek zaman ayırıyoruz. Başlangıçta Ekim için planlanan Recall, artık Aralık ayına kadar Copilot+ PC’lerde Windows Insiders ile ön izleme için hazır olacak.”
Microsoft Güvenli Geri Çağırma Taahhüdünde Bulundu
Eylül ayı sonlarında, Microsoft’un kurumsal ve işletim sistemi güvenliğinden sorumlu başkan yardımcısı David Weston, şirketin taahhütlerini ayrıntılarıyla anlattı. Geri Çağırma verilerinin güvenliği, aracın yalnızca isteğe bağlı olduğunu, şifrelendiğini ve kötü amaçlı yazılımlara karşı koruma içerdiğini vurgulamak; ve verileri, biyometrik kimlik doğrulaması olmadan yönetici ve çekirdek kullanıcılarının bile erişemeyeceği sanallaştırma tabanlı bir güvenlik (VBS) bölgesinde korunmaktadır.
Weston, “VBS Enclaves’in Windows Hello gelişmiş oturum açma güvenliğiyle birlikte kullanılması, siz arama yapmak için Geri Çağırma özelliğini kullanırken verilerin şifresinin kısa süreliğine çözülmesine olanak tanır. Yetkilendirme zaman aşımına uğrar ve kullanıcının gelecekteki oturumlar için erişim yetkisi vermesini gerektirir” diye yazdı. “Bu, gizli kötü amaçlı yazılımların veri çalmak için kullanıcı kimlik doğrulamasıyla birlikte hareket etme girişimlerini kısıtlıyor.”
Weston ayrıca Recall’ın güvenliği konusunda endişe duyanlara şu güvenceyi verdi: gizli tarama bilgileri Recall tarafından asla kaydedilmez; kullanıcılar belirli siteleri veya uygulamaları Kaydı Geri Çağırma’dan filtreleme seçeneğine sahiptir; içerik filtreleme, kredi kartı ve Sosyal Güvenlik numaraları gibi verilerin saklanmasını önler; kullanıcılar saklanan bilgileri tarihe, içeriğe, uygulamaya veya web sitesine göre silebilir; ve anlık görüntülerin ne zaman kaydedildiğini bir simge açıkça gösterir, böylece kullanıcılar işlevi kolayca duraklatabilir.
Weston, “Recall’ın güvenli tasarımı ve uygulaması, bilinen tehditlere karşı sağlam bir kontrol seti sağlıyor” diye ekledi. “Microsoft, en karmaşık saldırılara karşı bile güvenliği ve gizliliği korurken yapay zekanın gücünü herkesin kullanımına sunmaya kararlıdır.”
Microsoft, Claude’un ‘Bilgisayar Kullanımı’ Özelliğini Gözetliyor mu?
Bugcrowd’un kurucusu Casey Ellis, Dark Reading’e Microsoft’un, Recall’ın potansiyel iş riskleri hakkındaki siber güvenlik topluluğunun uyarılarını ciddiye aldığını gösteriyor. Redmond, Recall’ı piyasaya sürmeden önce Anthropic’in Claude AI’sinde benzer bir aracın yakın zamanda piyasaya sürülmesini de göz önünde bulundurabileceğini ekliyor.
Ellis, “Recall’a verilen ilk tepkiden ve bunun nasıl uygulandığından kaynaklanan bazı güvenlik ve gizlilik endişelerinden sonra, Microsoft burada yavaş yavaş hızlanıyor gibi görünüyor” diyor. “Piyasanın Anthropic’in gizlilik, güvenlik ve işlevsellik açısından Recall’a çok benzeyen ‘bilgisayar kullanımı’ özelliğine nasıl tepki verdiğini ve kullandığını öğrenme fırsatını yakalarlarsa şaşırmam.”
Birkaç gün önce yayımlanan bilgisayar kullanma özelliği Claude’un en son sürümünün bir bilgisayarla, bir insanla aynı şekilde etkileşime girmesine olanak tanır. Claude’un Geri Çağırma gibi yeni özelliği, İnternet’e bağlı bilgisayarlardan ekran görüntülerini alıyor. Anthropic, 22 Ekim’de yaptığı duyuruda aracın gerçekten de siber güvenlik risklerini beraberinde getirdiğini itiraf etti.
Sürüm duyurusunda, “Bu ruhla Güven ve Güvenlik ekiplerimiz, potansiyel güvenlik açıklarını belirlemek için yeni bilgisayar kullanım modellerimiz üzerinde kapsamlı bir analiz gerçekleştirdi.” ifadesine yer verildi. “Belirledikleri endişelerden biri anında enjeksiyon — bir tür siber saldırı Kötü niyetli talimatların bir yapay zeka modeline beslendiği ve bu modelin ya önceki talimatları geçersiz kılmasına ya da kullanıcının asıl amacından sapan istenmeyen eylemler gerçekleştirmesine neden olduğu yer.”
Anthropic, bu ve diğer sorunları halka açık beta aşamasında çözmeyi umduğunu ve bunun, Recall sürümü üzerinde çalışırken Microsoft’un kesinlikle ilgisini çekeceğini ekledi.
Anthropic’e göre Claude, kullanıcı tarafından gönderilen bu verileri kendi yapay zeka modelini eğitmek için kullanmayacak. Ancak Microsoft söz konusu olduğunda güvenlik danışmanı John Bambanek, Recall’ın aynı standarda bağlı kalacağından pek emin değil.
Bambanek, “Yapay zeka sistemleri tonlarca veri gerektiriyor; bu da Microsoft’un, kullanıcıların bilgisayarlarıyla nasıl etkileşim kurduğuna ilişkin tüm verileri istediği anlamına geliyor” diyor. “Bu özelliğin son kullanıcılar için çok yararlı olduğundan emin değilim, ancak kesinlikle geleceğin modellerini eğitmek. Bunun gizlilikle ilgili çok büyük etkileri var, dolayısıyla bu gecikmenin son kullanıcılara yönelik riskleri ve olası zararları en aza indirme açısından yararlı olacağını umuyoruz.”
Microsoft güvenlik ekipleri ve Anthropic’in Claude özellik testleri ilerledikçe SlashNext Email Security CEO’su Patrick Harr, bu araçların siber saldırılara karşı savunmasız kaldığı konusunda uyarıyor.
Harr, “Sürekli olarak profesyonel gruplardan gelen, destek personelini taklit eden, e-posta, diğer mesajlaşma uygulamaları ve hatta robot çağrıları yoluyla masaüstü bilgisayarlarına uzaktan erişim sağlamak için robot çağrıları yoluyla hedef alan kimlik avı ve sosyal mühendislik saldırıları görüyoruz” diyor. “Recall’a erişildiğinde, tehdit aktörleri mükemmel bir zaman çizelgesine ve o kullanıcı hakkında istismar edilebilecek bilgilere sahip olur. Bu güncelleme tamamlanana kadar dikkatli olun.”
