Uluslararası Af Örgütü, Google’ın Android’de daha önce bilinmeyen kusurları düzelttiğini ve yetkililerin adli araçları kullanarak telefonların kilidini açmasına izin verdiğini söyledi.

Cuma günü, Uluslararası Af Örgütü bir rapor yayınladı Araştırmacılarının Sırbistan’daki bir öğrenci protestocunun telefonunun hackini araştırdıktan sonra buldukları, telefon açmayan şirket Cellebrite tarafından geliştirilen üç sıfır günlük güvenlik açığı zincirini detaylandırıyor. Kusurlar, Core Linux USB çekirdeğinde bulundu, yani rapora göre “güvenlik açığı belirli bir cihaz veya satıcı ile sınırlı değil ve bir milyar Android cihazını etkileyebilir”.

Sıfır günler, bulunduğunda yazılım veya donanım üreticileri tarafından bilinmeyen ürünlerde hatalardır. Sıfır günler, suçlu ve hükümet bilgisayar korsanlarının sistemlere daha etkili bir şekilde girmesine izin verir, çünkü onları henüz düzeltmeyen bir yama yoktur.

Bu durumda Af Örgütü, ilk olarak 2014’ün ortalarında bir vakada kusurlardan birinin izlerini bulduğunu söyledi. Daha sonra, geçen yıl, Sırbistan’daki bir öğrenci aktivistinin hackini araştırdıktan sonra, kuruluş bulgularını Google’ın hackleme karşıtı birim tehdit analiz grubuyla paylaştı ve bu da şirket araştırmacılarının üç ayrı kusuru tanımlamasına ve düzeltmesine yol açtı.

Aktivistin telefonuyla ilgili soruşturma sırasında, af araştırmacıları, Cellebrite araçlarının kullanılmasıyla Sırp yetkililerin aktivistin telefonunun kilidini açmasına izin veren USB istismarını buldular.

Yorum için ulaşıldığında, Cellebrite sözcüsü Victor Cooper bir açıklama Şirketin bu hafta başında yayınlandığını.

Aralık ayında Af Örgütü, Sırp yetkililerin bir aktivistin ve bir gazetecinin telefonlarının kilidini açmak için Cellebrite adli araçlarını kullandıkları ve daha sonra Novispy olarak bilinen bir Android casus yazılımı kurduğunu bildirdi. Bu haftanın başlarında Cellebrite, Sırp müşterinin Af Örgütü tarafından ortaya çıkarılan istismar iddialarının ardından teknolojisini kullanmasını durdurduğunu açıkladı.

“Aralık 2024 Uluslararası Af Örgütü raporunun ortaya çıkardığı iddiaların gözden geçirilmesinden sonra Cellebrite, her iddiayı etik ve dürüstlük politikalarımıza uygun olarak araştırmak için kesin adımlar attı. Şu anda ilgili müşteriler tarafından ürünlerimizin kullanımını durdurmayı uygun bulduk ”dedi.

Yeni raporda Af Örgütü, Sırp Güvenlik Bilgi Ajansı tarafından tutuklanan bir gençlik aktivistinin cihazını analiz etmek için Ocak ayında temasa geçildiğini söyledi (Bezbedonosno-informativna agencija veya bia) geçen yılın sonunda.

“Tutuklanmasının koşulları ve BIA memurlarının davranışları, protestoculara karşı kullanılan modus operandi ile güçlü bir şekilde eşleşti ve Raporumuzda Aralık ayında belgeledik. Ocak ayında yapılan cihazın adli bir soruşturması, öğrenci aktivistinin telefonunda Cellebrite kullanımını doğruladı ”dedi.

Diğer durumlarda olduğu gibi, yetkililer de Af Örgütü’ne göre, aktivistin Samsung A32 telefonunun “bilgisi veya rızası olmadan ve yasal olarak yaptırımlı bir soruşturmanın dışında” kilidini açmak için bir Cellebrite cihazı kullandılar.

“Cellebrite yazılımının, ifade özgürlüğü ve barışçıl toplanma haklarını kullandıkları için insanlara karşı görünüşte rutin kullanımı asla meşru bir amaç olamaz” diye yazdı, “ve bu nedenle insan hakları hukukunu ihlal ediyor.”

Spyware’i araştıran bir dijital haklar kuruluşu olan Citizen Lab’ın kıdemli araştırmacısı Bill Marczak X üzerine yazdı Bu güvenlik açıkları nedeniyle aktivistlerin, gazetecilerin ve sivil toplumun “telefonlarını yetkililer tarafından ele geçirebilecek (protesto, sınır vb.) İPhone’a geçmeyi düşünmeli”.

Cellebrite’nin araçlarına atıfta bulunan Donncha ó Cearbhaill, Afesty’s Güvenlik Laboratuvarı, TechCrunch’a “bu tür araçların geniş kapsamlı kullanılabilirliği, bu ürünlerden kaynakların yüzeyini çizdiğimizden korkuyor” dedi.

Google, yorum talebine hemen yanıt vermedi.

Bu yıl, bir Sırp gazeteci ve bir aktivistin telefonları, adli tıp alet üreticisi Cellebrite tarafından üretilen bir cep telefonu kilit açma cihazı kullanılarak yerel yetkililer tarafından hacklendi. Yetkililerin hedefi, Cellebrite’ın izin verdiği gibi yalnızca telefonların kilidini açarak kişisel verilere erişmek değil, aynı zamanda daha fazla gözetim sağlamak için casus yazılım yüklemekti. Uluslararası Af Örgütü’nün yeni raporuna göre.

Uluslararası Af Örgütü, raporunda bunların, Cellebrite araçlarının “kullanımıyla etkinleştirilen, adli olarak belgelenen ilk casus yazılım enfeksiyonları” olduğuna inandığını söyledi.

Bu kaba ama etkili teknik, hükümetlerin vatandaşlarını gözetlemek için casus yazılım kullandığı birçok yoldan biridir. Son on yılda, Uluslararası Af Örgütü ve dijital haklar grubu Citizen Lab gibi kuruluşlar, hükümetlerin diğerlerinin yanı sıra NSO Group, Intellexa ve artık feshedilmiş casus yazılım öncüsü Hacking Team gibi Batılı gözetleme teknolojisi satıcıları tarafından üretilen gelişmiş casus yazılımları kullandığı düzinelerce vakayı belgeledi. Muhalifleri, gazetecileri ve siyasi muhalifleri uzaktan hacklemek için.

Artık, güvenlik iyileştirmeleri sayesinde sıfır gün ve uzaktan yerleştirilen casus yazılımlar daha pahalı hale geldikçe, yetkililer, hacklemek istedikleri telefonları fiziksel olarak ele geçirmek gibi daha az karmaşık yöntemlere daha fazla güvenmek zorunda kalabilir.

Dünya çapında pek çok casus yazılım istismarı vakası meydana gelse de, bunların Amerika Birleşik Devletleri’nde gerçekleşmeyeceğine veya gerçekleşmeyeceğine dair hiçbir garanti yoktur. Kasım ayında, Forbes bildirdi İç Güvenlik Bakanlığı Göçmenlik ve Gümrük Muhafaza Dairesi’nin (ICE), aralarında Cellebrite’ın da bulunduğu telefon korsanlığı ve gözetleme araçlarını satın almak için 20 milyon dolar harcadığını söyledi. Başkan seçilen Donald Trump’ın vaat ettiği kitlesel sınırdışı kampanyası göz önüne alındığında, Forbes Rapora göre uzmanlar, yeni yönetim Beyaz Saray’ın kontrolünü ele geçirdiğinde ICE’nin casusluk faaliyetlerini artıracağından endişeleniyorlar.

İlk casus yazılımların kısa tarihi

Tarih tekerrür etme eğilimindedir. Yeni (veya belgelenmemiş) bir şey ilk kez ortaya çıktığında bile, bunun aslında daha önce olmuş bir şeyin yinelenmesi olması mümkündür.

Yirmi yıl önce, devlete ait casus yazılımlar zaten mevcutken, buna karşı savunma yapmakla görevli antivirüs endüstrisinde çok az şey biliniyorken, hedefin bilgisayarına fiziksel olarak casus yazılım yerleştirmek, polislerin iletişimlerine erişmesinin bir yoluydu. Yetkililerin, bazen evlerine veya ofislerine girerek hedefin cihazına fiziksel olarak erişmesi ve ardından casus yazılımı manuel olarak yüklemesi gerekiyordu.

Bu nedenle, örneğin Hacking Team’in casus yazılımlarının 2000’li yılların ortalarındaki ilk sürümleri, bir USB anahtarından veya CD’den başlatılacak şekilde tasarlandı. Daha da önce, 2001’de, FBI gangster Nicodemo Scarfo’nun ofisine girdi Scarfo’nun e-postalarını şifrelemek için kullandığı anahtarı çalmak amacıyla klavyesinde yazdıklarını izlemek için tasarlanmış bir casus yazılım yerleştirmek.

Bu teknikler zorunluluktan olmasa da popülerliğe geri dönüyor.

Citizen Lab, 2024’ün başlarında, Rus istihbarat teşkilatı FSB’nin, 2022’den beri Ukrayna’da yaşayan muhalif bir siyasi aktivist olan Rus vatandaşı Kirill Parubets’in gözaltındayken telefonuna casus yazılım yüklediği iddia edilen bir vakayı belgeledi. Rus yetkililer, Parabuts’u, özel verilerine erişebilecek casus yazılım yerleştirmeden önce telefonunun şifresini vermeye zorlamıştı.

Dur ve ara

Sırbistan’da yaşanan son vakalarda Uluslararası Af Örgütü, gazeteci Slaviša Milanov ve gençlik aktivisti Nikola Ristić’in telefonlarında yeni bir casus yazılım buldu.

Şubat 2024’te yerel polis, Milanov’u rutin bir trafik kontrolü gibi görünen bir işlem için durdurdu. Daha sonra bir polis karakoluna getirildi ve Uluslararası Af Örgütü’ne göre sorgulanırken ajanlar Xiaomi Redmi Note 10S adlı Android telefonunu aldı.

Milanov onu geri aldığında tuhaf bir şey bulduğunu söyledi.

“Mobil verilerimin (veri iletimi) ve Wi-Fi bağlantımın kapalı olduğunu fark ettim. Cep telefonumdaki mobil veri uygulaması her zaman açıktır. Bu, birisinin cep telefonuma girdiğine dair ilk şüpheydi,” diye TechCrunch’a yakın zamanda yapılan bir röportajda Milanov’a söyledi.

Milanov daha sonra kullandığını söyledi Ücretsiz KalBir kişinin uygulamalarını ne kadar süre kullandığını takip eden bir yazılım olan ve telefonun sözde kapalı olduğu ve polisin elinde olduğu sırada “birçok uygulamanın aktif olduğunu” fark eden ve polisin ondan hiçbir zaman izin istemediğini ya da bunu yapmaya zorlamadığını söylediği telefonunun şifresini girdi.

“Saat 11:54 ile 13:08 arasında çoğunlukla Ayarlar ve Güvenlik uygulamalarının ve Dosya yöneticisinin yanı sıra Google Play Store, Kaydedici, Galeri, İletişim’in de telefonun açıldığı zamana denk geldiğini gösterdi. benimle değildi” dedi Milanov.

“O sırada cep telefonumdan 1,6 GB veri çıkardılar” dedi.

Bu noktada Milanov “hoş olmayan bir şekilde şaşırmıştı ve çok kızmıştı” ve mahremiyetinin tehlikeye atıldığına dair “kötü bir duyguya” kapılmıştı. Telefonunu adli açıdan kontrol ettirmek için Uluslararası Af Örgütü ile temasa geçti.

Uluslararası Af Örgütü’nün Güvenlik Laboratuvarı başkanı Donncha Ó Cearbhaill, Milanov’un telefonunu analiz etti ve gerçekten de telefonun kilidinin Cellebrite kullanılarak açıldığını ve Uluslararası Af Örgütü’nün Sırpça “yeni” anlamına gelen kelimeden gelen NoviSpy adını verdiği bir Android casus yazılımı yüklediğini buldu.

Casus yazılımlar muhtemelen sivil toplumda ‘yaygın olarak’ kullanılıyor

Uluslararası Af Örgütü’nün NoviSpy casus yazılımı ve bir dizi operasyonel güvenlik veya OPSEC ile ilgili analizi, casus yazılımın geliştiricisinin Sırp istihbaratına işaret ediyor.

Uluslararası Af Örgütü’nün raporuna göre casus yazılım, “tutuklama, gözaltı veya bazı durumlarda sivil toplum üyeleriyle yapılan bilgilendirme amaçlı görüşmeler sırasında mobil cihazlara sistematik ve gizlice bulaşmak için kullanıldı. Uluslararası Af Örgütü’ne göre, pek çok vakada, tutuklama veya gözaltıların, bir kişinin cihazına gizli erişim sağlayarak veri çıkarmasını veya cihaza virüs bulaştırmasını sağlamak amacıyla planlandığı görülüyor.”

Uluslararası Af Örgütü, kodda Sırpça yorum ve dizelerin bulunması ve Sırbistan’daki sunucularla iletişim kurmak üzere programlanmış olması nedeniyle NoviSpy’ın muhtemelen ülkede geliştirildiğine inanıyor.

Sırp yetkililerin yaptığı bir hata, Uluslararası Af Örgütü araştırmacılarının NoviSpy’ı Bezbedonosno-informaciona Agencija veya BIA olarak bilinen Sırp Güvenlik Bilgi Ajansı’na ve onun sunucularından birine bağlamasına olanak tanıdı.

Analizleri sırasında Uluslararası Af Örgütü’nün araştırmacıları NoviSpy’ın belirli bir IP adresiyle iletişim kurmak üzere tasarlandığını buldu: 195.178.51.251.

2015 yılında, tam olarak aynı IP adresi Sırp BIA’daki bir ajanla bağlantılıydı. O zaman, Citizen Lab, söz konusu IP adresinin İnternete açık sunucuları ve bilgisayarları listeleyen bir arama motoru olan Shodan’da kendisini “DPRODAN-PC” olarak tanımladı. Görünüşe göre “dprodan” içeren bir e-posta adresine sahip bir kişi temas halindeydi Şubat 2012’de casus yazılım üreticisi Hacking Team ile bir demo hakkında görüş alışverişinde bulundu. Hacking Team’den sızdırılan e-postalara göre, şirket çalışanları o tarihlerde Sırbistan’ın başkenti Belgrad’da bir demo verdiler ve bu da Citizen Lab’in “dprodan”ın aynı zamanda bir Sırp BIA olduğu sonucuna varmasına yol açtı. çalışan.

Uluslararası Af Örgütü’ne göre, Citizen Lab tarafından 2015 yılında tanımlanan aynı IP adresi aralığı (195.178.51.xxx) hala BIA ile ilişkilidir. UAÖ, BIA’nın halka açık web sitesinin yakın zamanda bu IP aralığında barındırıldığını tespit etmiştir.

Uluslararası Af Örgütü, çoğu Android kullanıcısı olan Sırp sivil toplumunun iki düzine üyesi üzerinde adli analiz gerçekleştirdiğini ve başka kişilerin de NoviSpy bulaştığını tespit ettiğini söyledi. Uluslararası Af Örgütü’ne göre casus yazılım kodundaki bazı ipuçları, BIA ve Sırp polisinin bunu yaygın olarak kullandığını gösteriyor.

BIA ve Sırp polisini denetleyen Sırbistan İçişleri Bakanlığı, TechCrunch’ın yorum talebine yanıt vermedi.

NoviSpy’ın kodu, Uluslararası Af Örgütü araştırmacılarının artan bir kullanıcı kimliği olabileceğine inandığı şeyi içeriyor; bir kurban durumunda bu sayı 621’di. Yaklaşık bir ay sonra başka bir kurbanın enfekte olması durumunda bu sayı 640’tan yüksekti; bu da yetkililerin daha fazla virüs bulaştırdığını gösteriyordu. bu zaman diliminde yirmiden fazla kişi. Uluslararası Af Örgütü araştırmacıları, çevrimiçi kötü amaçlı yazılım tarama deposu olan VirusTotal’da NoviSpy’ın 2018 tarihli bir sürümünü bulduklarını söyledi ve bu, kötü amaçlı yazılımın birkaç yıldır geliştirildiğini öne sürdü.

Sırbistan’da kullanılan casus yazılımlara ilişkin araştırmasının bir parçası olarak Uluslararası Af Örgütü, Qualcomm yonga setlerinde Sırp bir aktivistin cihazına karşı kullanılan ve muhtemelen Cellebrite’ın kullanıldığı bir sıfır gün istismarı tespit etti. Qualcomm, Ekim ayında Uluslararası Af Örgütü’nün keşfinin ardından güvenlik açığını giderdiğini duyurdu.

Yorum almak için ulaşıldığında Cellebrite’ın sözcüsü Victor Cooper, şirketin araçlarının kötü amaçlı yazılım yüklemek için kullanılamayacağını, “bunu üçüncü bir tarafın yapması gerektiğini” söyledi.

Cellebrite’ın sözcüsü müşterileri hakkında ayrıntılı bilgi vermeyi reddetti ancak şirketin “daha fazla araştırma yapacağını” ekledi. Şirket, Sırbistan’ın son kullanıcı anlaşmasını ihlal etmesi halinde şirketin “iş yaptığımız 100 ülkeden biri olup olmadığını yeniden değerlendireceğini” söyledi.

Son birkaç yıldır, Donald Tusk yönetimindeki Polonya hükümeti, Pegasus telefon casus yazılımlarının önceki hükümet tarafından kullanımını ve kötüye kullanıldığı iddialarını araştırıyor.

Pazartesi günü, Polonya’nın iç güvenlik teşkilatının eski başkanı Piotr Pogonowski tutuklandı ve mevcut hükümetin, Kanun’un önceki yönetimi altında son yıllarda gerçekleştirilen casus yazılım kötüye kullanımı iddialarına ilişkin soruşturmasının bir parçası olarak parlamento önünde zorla ifade vermek üzere götürüldü. Adalet (PiS) partisi Finans Zamanları.

Pogonowski’nin Polonya parlamento komitesine ifade vermek için yapılan üç çağrıyı görmezden geldiği bildirildi.

2021’de Citizen Lab ve Uluslararası Af Örgütü, NSO Group’un Pegasus casus yazılımının, 2019 parlamento seçimleri öncesinde düzinelerce kez saldırıya uğradığı iddia edilen bir senatör de dahil olmak üzere önceki Polonya hükümetini eleştiren üç kişiye karşı kullanıldığı sonucuna vardı. 2023 yılında Polonya Senatosu Pegasus’un ülkede kullanımının yasa dışı olduğu sonucuna vardı.

Her bakımdan Avrupa Birliği’nin Yapay Zeka Yasası, teknoloji etikçilerini mutlu edecek bir şeye benziyor. dönüm noktası niteliğindeki yapay zeka kanunuBu hafta büyük bir yasama başarısı elde eden ABD, yeni teknolojinin yol açtığı zararlarla mücadele edecek geniş bir düzenleyici çerçeve oluşturmayı amaçlıyor. Mevcut haliyle yasa, yürürlükte olduğu ülkelerde yapay zekayı daha şeffaf, kapsayıcı ve tüketici dostu hale getirmek için bazı çabalara başvuracaktır. Sevilmeyecek ne var değil mi?

Yapay Zeka Yasası, diğer şeylerin yanı sıra, “yüksek riskli” sistemler olarak kabul edilen yapay zekanın tartışmalı kullanımlarını da yasaklayacak. Bu, işyerinde ve okullarda duygu tanıma sistemlerinin yanı sıra Çin’de çok yaygın hale gelen sosyal puanlama sistemlerini de içeriyor. Aynı zamanda yasa, AI ile medya içeriği üreten şirketleri bu kullanımı tüketicilere açıklamaya zorlayacak önlemler de içeriyor.

Pazartesi günü, bloğun üç şubesindeki düzenleyiciler, kanunla ilgili geçici bir anlaşmadaha iyi bir ifade olmadığı için anlaşmanın bittiği anlamına geliyor.

Ancak yine de, bazı politika zaferlerine rağmen, yeni yasada sivil toplum gruplarını fazlasıyla paniğe sevk eden önemli kör noktalar var.

Uluslararası Af Örgütü Algoritmik Sorumluluk Laboratuvarı Başkanı Damini Satija, örgütünün ve diğerlerinin son birkaç yıldır Yapay Zeka Yasasının gelişimini dikkatle izlediğini ve yeni yasada kutlanacak çok şey olsa da bunun pek de öyle olmadığını söyledi. yeterli.

Aslında Avrupa Parlamentosu’nun kendi basın bülteni dönüm noktası yasasında “dar istisnalar” kabul ediliyor [exist] biyometrik tanımlama sistemlerinin (RBI)”—başka bir deyişle polis toplu gözetleme teknolojisinin—“kolluk kuvvetleri amacıyla kamuya açık alanlarda, önceden adli izne tabi olarak ve kesin olarak tanımlanmış suç listeleri için kullanılması için.” Bu muafiyetin bir parçası olarak yasa, polisin şunları kullanmasına izin veriyor: canlı yüz tanıma teknolojisi— tartışmalı bir araç “Orwellci” olarak anılan “Belirli ve mevcut bir terör tehdidini” önlemek veya bir suçtan şüphelenilen kişiyi tespit etmek veya bulmak için kullanıldığı durumlarda, halktan kişileri izleme ve kataloglama yeteneği nedeniyle.

Tahmin edebileceğiniz gibi, Uluslararası Af Örgütü gibi gruplar için bu oldukça büyük bir kör nokta gibi görünüyor. Eleştirmenlerin bakış açısına göre kolluk kuvvetlerinin bu teknolojileri kullanımının gelecekte nasıl artabileceğine dair hiçbir bilgi yok. Satija, “Tarihten bildiğimiz gibi, ulusal güvenlik muafiyetleri genellikle hükümetlerin oldukça kapsamlı gözetim sistemleri uygulamasının bir yoludur” dedi.

Satija ayrıca AB yasalarının başka bir kritik alanda da başarısızlığa uğradığını belirtiyor. Kanun belirli “yüksek riskli” yapay zeka türlerini özellikle yasaklasa da, yapmadığı şey bu yapay zekanın diğer ülkelere ihracatını yasaklamak değil. Başka bir deyişle, çoğu Avrupalı ​​belirli, tartışmalı gözetim ürünlerine tabi olmayacakken, AB’deki şirketler bu araçları blok dışındaki diğer ülkelere satabilecek. Af özellikle işaret etti AB şirketlerinin, Uygur nüfusunu gözetlemek için Çin hükümetine ve Filistinliler üzerindeki kontrolünü sürdürmek için İsrail’e gözetleme ürünleri satmasına izin veriliyor.

Geçtiğimiz birkaç hafta içinde, Uluslararası Af Örgütü’nün Yapay Zeka Konusunda Savunuculuk Danışmanı Mher Hakobyan, birkaç ifadeler Yasanın kınanacak yönleri. Hakobyan, kolluk kuvvetlerinin istisnalarına atıfta bulunarak, bloğun “27 AB Üye Devletinde distopik dijital gözetime yeşil ışık yaktığını ve yapay zeka (AI) düzenlemesi konusunda küresel olarak yıkıcı bir emsal oluşturduğunu” söyledi. Öte yandan yasanın ihracata yönelik tutumu, “bir yandan AB’yi ‘güvenli, güvenilir ve etik Yapay Zeka’yı teşvik etmede küresel bir lider olarak sunan, diğer yandan da AB yasa yapıcıları açısından apaçık bir çifte standart” ortaya koyuyordu. Öte yandan AB şirketlerinin hakları ihlal eden yapay zeka sistemlerini dünyanın geri kalanına satmasını engellemeyi reddediyoruz.” dedi.

Diğer gruplar da benzer eleştirilerini dile getirdi. Electronic Frontier Foundation Uluslararası Politika Direktörü Christoph Schmon, yeni yasanın bazı bölümleri “umut verici” görünse de, yasa uygulama teknolojilerine yaklaşımının sorunlu olduğunu söyledi.

Schmon bir e-postada şunları söyledi: “Anlaşmanın nihai versiyonu hala değişim aşamasında, ancak temel hakların korunmasına ilişkin pek çok umut verici dile rağmen, biyometrik gözetime ilişkin yeni düzenlemelerin birçok soruyu açık bıraktığı açık” dedi. “Hükümetler tarafından yüz tanımanın bireysel mahremiyete, ifade özgürlüğüne ve sosyal adalete yönelik doğal bir tehdit oluşturduğunu her zaman söyledik” diye ekledi. “Yapay zeka anlaşmasındaki kolluk kuvvetleri istisnaları, kamuda yüz tanıma yasağını ve tahmine dayalı polislik üzerindeki kısıtlamaları İsviçre peynirine benzetiyor gibi görünüyor. Bununla birlikte, pek çok şey devam eden müzakerelerdeki teknik ayrıntılara ve bu kuralların pratikte nasıl uygulanacağına bağlı olacaktır.”

Yapay Zeka Yasası’nın politika ayrıntıları hâlâ ince ayar aşamasındadır ve AB’nin karmaşık yasama süreci, ince baskının biraz da olsa değişmesi için hâlâ fırsatların olduğu anlamına gelmektedir. Satija, “Metnin tam olarak sonuçlandırılması için hâlâ yapılması gereken çok iş var ve şeytan ayrıntılarda gizli olacak” dedi. Tasarının son halinin muhtemelen Ocak ayına kadar kesinleşmeyeceğini söyledi.

Onu takip edenler için; “Yapay zeka güvenliği” tartışması karmaşık ve bazen oldukça can sıkıcı olabilir. Liderlerin konuşma konusunda büyük bir eğilimi var mide bulandırıcı Yapay zekanın çok fazla şey yapmamasına rağmen oluşturduğu tehlikeler hakkında. Her ne kadar AB’nin, yapay zekanın yarattığı pek çok zorlukla boğuşan bir yasa çıkardığı için övgüye değer olsa da, kontrolden çıkması ve ortaya çıkması muhtemel olan yasa biçimlerini görmezden gelmeyi seçmeleri de biraz ironik görünüyor. İnsanlara zarar ver. Sonuçta yapay zeka destekli polis gözetiminden daha fazla distopik olamaz. Eğer insanlar yapay zekanın “güvenliği” konusunda bu kadar ciddiyse, neden bu kullanım durumları düzenleyiciler için birinci öncelik değil?

Günün sorusu: “Çok modlu” ile ne alakası var?

Bu haftanın başında insanlar OpenAI’nin en son geniş dil modeli olan GPT-4.5’in internete sızdırıldığını söylemeye başladı. Daniel Nyugen, X’te kim paylaşım yaptı Söz konusu sızıntıyla ilgili olarak, LLM’nin “karmaşık akıl yürütme ve modlar arası anlayışın yanı sıra dil, ses, görüntü, video ve 3D genelinde çok modlu yeteneklere sahip” olduğunu belirtti. Bu sızıntı gibi görünse de aslında sahteGerçek olan tek şey, yapay zeka endüstrisinin şu anda tüm bu “çok modlu” şeye takıntılı olmasıdır. Anladığım kadarıyla çok modlu sistemler, bir yapay zeka sisteminin çeşitli farklı veri türlerini (metin, görseller, ses ve video gibi) kullanarak oluşturulduğu ve sistemin “insan-insan” sergilemesine izin veren sistemlerdir. gibi yetenekler. OpenAI’ler ChatGPT’nin son entegrasyonları (artık “konuşabiliyor”, “duyabiliyor” ve “görebiliyor”) multimodalitenin iyi örnekleridir. Şu anda yapay zeka geliştirmenin en çok arzu edilen hedefi olan AGI’ye (yapay genel zeka) doğru bir basamak taşı olarak kabul ediliyor.

Bu hafta daha fazla manşet

• Sports Illustrated’ın CEO’su yapay zeka “gazeteciler” skandalının ardından görevden alındı. Sports Illustrated’ın eski baş yöneticisi Ross Levinsohn, kovuldu çıkıştan sonra yayının ana şirketi Arena Group tarafından AI tarafından oluşturulan birkaç hikaye yayınladı sahte imza kullanma. Skandal, haber kuruluşlarının kimsenin fark etmeyeceğini umarak yapay zeka tarafından oluşturulan içeriği web sitelerine gizlice sokmaya çalışarak son derece etik olmayan bir karar aldığı bir dizi benzer olaydan yalnızca en yenisi.
• Microsoft yapay zeka konusunda nükleer bir adım atmak istiyor. Bill Gates’in kurduğu vasat yazılım şirketi Microsoft, bunu başardı. Kendini yapay zeka endüstrisinde yükselen bir yıldıza bağlamak (OpenAI), böylece kendisine birkaç yıllık kültürel alaka daha satın alıyor. Microsoft şimdi, iki işletmenin başlattığı devasa yapay zeka operasyonlarına güç sağlamak için tartışmalı bir enerji kaynağına yönelmeyi umuyor: nükleer enerji. Oldu önceden rapor edildi Microsoft’un “küresel büyüme için nükleer enerji altyapısının tüm yönlerine yönelik proje girişimlerine liderlik edecek” bir kişi arayışında olduğu belirtildi. Şimdi Wall Street Journal raporlar Şirketin karmaşık nükleer düzenleme sürecini yönlendirmek için yapay zekayı kullanmaya çalıştığı belirtiliyor. Bu sürecin yıllar aldığı biliniyor, bu nedenle Microsoft bunu otomatikleştirmenin yardımcı olabileceğini düşünüyor.
• Papa yapay zeka diktatörlüğünden oldukça endişeli. Papa Francis modern dünyanın tehlikeleri üzerine kafa yoruyor ve bu hafta şöyle konuştu: Yapay zeka destekli teknokrasi tehdidi. Dini lider, “teknokratik sistemlerin” “hayatta kalmamıza tehdit” oluşturmasını engellemek için kullanılabilecek bağlayıcı bir küresel anlaşma çağrısında bulundu. Sert sözler. Sanırım o deepfake gerçekten çok etkileyici görünüyordu.