Google exhorte les d\u00e9veloppeurs d’applications Android tiers \u00e0 int\u00e9grer les fonctionnalit\u00e9s d’intelligence artificielle g\u00e9n\u00e9rative (GenAI) de mani\u00e8re responsable.<\/p>\n
Les nouvelles directives du g\u00e9ant de la recherche et de la publicit\u00e9 visent \u00e0 lutter contre les contenus probl\u00e9matiques, notamment les contenus \u00e0 caract\u00e8re sexuel et les discours de haine, cr\u00e9\u00e9s via de tels outils.<\/p>\n
\u00c0 cette fin, les applications qui g\u00e9n\u00e8rent du contenu \u00e0 l’aide de l’IA doivent veiller \u00e0 ne pas cr\u00e9er Contenu restreint<\/a>disposent d’un m\u00e9canisme permettant aux utilisateurs de signaler ou signaler des informations offensantes<\/a>, et commercialisez-les d’une mani\u00e8re qui repr\u00e9sente fid\u00e8lement les capacit\u00e9s de l’application. Il est \u00e9galement recommand\u00e9 aux d\u00e9veloppeurs d’applications de tester rigoureusement leurs mod\u00e8les d’IA pour garantir qu’ils respectent la s\u00e9curit\u00e9 et la confidentialit\u00e9 des utilisateurs.<\/p>\n “Assurez-vous de tester vos applications dans diff\u00e9rents sc\u00e9narios d’utilisation et de les prot\u00e9ger contre les invites qui pourraient manipuler votre fonctionnalit\u00e9 d’IA g\u00e9n\u00e9rative pour cr\u00e9er du contenu nuisible ou offensant”, Prabhat Sharma, directeur de la confiance et de la s\u00e9curit\u00e9 pour Google Play, Android et Chrome, dit<\/a>.<\/p>\n Le d\u00e9veloppement fait suite \u00e0 une enqu\u00eate r\u00e9cente de 404 Media trouv\u00e9<\/a> plusieurs applications sur l’App Store d’Apple et le Google Play Store qui annon\u00e7aient la possibilit\u00e9 de cr\u00e9er des images de nus non consensuelles.<\/p>\n L\u2019adoption rapide des technologies d\u2019IA ces derni\u00e8res ann\u00e9es a \u00e9galement conduit \u00e0 des pr\u00e9occupations plus larges en mati\u00e8re de confidentialit\u00e9 et de s\u00e9curit\u00e9 li\u00e9es \u00e0 la s\u00e9curit\u00e9 des donn\u00e9es de formation et des mod\u00e8les, offrant aux acteurs malveillants un moyen d\u2019extraire des informations sensibles et de falsifier les mod\u00e8les sous-jacents pour obtenir des r\u00e9sultats inattendus.<\/p>\n De plus, la d\u00e9cision de Meta d’utiliser les informations publiques disponibles sur ses produits et services pour aider \u00e0 am\u00e9liorer ses offres d’IA et avoir le “la meilleure technologie de recommandation au monde<\/a>” a incit\u00e9 le groupe autrichien de protection de la vie priv\u00e9e noyb \u00e0 d\u00e9poser une plainte<\/a> dans 11 pays europ\u00e9ens, all\u00e9guant une violation des lois sur la confidentialit\u00e9 du RGPD dans la r\u00e9gion.<\/p>\n “Ces informations incluent des \u00e9l\u00e9ments tels que des publications publiques ou des photos publiques et leurs l\u00e9gendes”, a d\u00e9clar\u00e9 la soci\u00e9t\u00e9. annonc\u00e9<\/a> \u00e0 la fin du mois dernier. “\u00c0 l’avenir, nous pourrons \u00e9galement utiliser les informations que les gens partagent lorsqu’ils interagissent avec nos fonctionnalit\u00e9s d’IA g\u00e9n\u00e9rative, comme Meta AI, ou avec une entreprise, pour d\u00e9velopper et am\u00e9liorer nos produits d’IA.” <\/p>\n Plus pr\u00e9cis\u00e9ment, noyb a accus\u00e9 Meta de transf\u00e9rer le fardeau sur les utilisateurs (c’est-\u00e0-dire de se d\u00e9sinscrire plut\u00f4t que de s’inscrire) et de ne pas avoir fourni d’informations ad\u00e9quates sur la mani\u00e8re dont l’entreprise envisage d’utiliser les donn\u00e9es des clients.<\/p>\n Meta, pour sa part, a indiqu\u00e9 qu’elle \u00ab s’appuiera sur la base juridique des \u00ab int\u00e9r\u00eats l\u00e9gitimes \u00bb pour le traitement de certaines donn\u00e9es de premi\u00e8re partie et de tiers dans la r\u00e9gion europ\u00e9enne et au Royaume-Uni \u00bb afin d’am\u00e9liorer l’IA et de cr\u00e9er de meilleures exp\u00e9riences. Les utilisateurs de l’UE ont jusqu’au 26 juin pour se d\u00e9sinscrire du traitement, ce qu’ils peuvent faire en soumettre une demande<\/a>.<\/p>\n Alors que le g\u00e9ant des m\u00e9dias sociaux s’est fait un devoir de pr\u00e9ciser que l’approche est align\u00e9e sur la mani\u00e8re dont d’autres entreprises technologiques d\u00e9veloppent et am\u00e9liorent leurs exp\u00e9riences en mati\u00e8re d’IA en Europe, l’autorit\u00e9 norv\u00e9gienne de protection des donn\u00e9es, Datatilsynet, a d\u00e9clar\u00e9 qu’elle \u00e9tait \u00ab douteuse \u00bb quant \u00e0 la l\u00e9galit\u00e9 du processus.<\/p>\n “\u00c0 notre avis, le plus naturel aurait \u00e9t\u00e9 de demander le consentement des utilisateurs avant que leurs publications et photos soient utilis\u00e9es de cette mani\u00e8re”, estime l’agence. dit<\/a> dans un rapport.<\/p>\n “La Cour de justice europ\u00e9enne a d\u00e9j\u00e0 clairement indiqu\u00e9 que Meta n’avait aucun ‘int\u00e9r\u00eat l\u00e9gitime’ \u00e0 outrepasser le droit des utilisateurs \u00e0 la protection des donn\u00e9es lorsqu’il s’agit de publicit\u00e9”, a d\u00e9clar\u00e9 Max Schrems de noyb. “Pourtant, l’entreprise essaie d’utiliser les m\u00eames arguments pour la formation d’une ‘technologie IA’ non d\u00e9finie.”<\/p>\n Le dernier brouhaha r\u00e9glementaire de Meta arrive \u00e9galement \u00e0 un moment o\u00f9 la propre fonctionnalit\u00e9 bas\u00e9e sur l’IA de Microsoft, appel\u00e9e Recall, a \u00e9t\u00e9 lanc\u00e9e. re\u00e7u<\/a> r\u00e9action rapide<\/a> en raison des risques de confidentialit\u00e9 et de s\u00e9curit\u00e9 qui pourraient survenir suite \u00e0 la capture de captures d’\u00e9cran des activit\u00e9s des utilisateurs sur leurs PC Windows toutes les cinq secondes et \u00e0 leur transformation en une archive consultable.<\/p>\n Le chercheur en s\u00e9curit\u00e9 Kevin Beaumont, dans une nouvelle analyse, a d\u00e9couvert qu’il est possible pour un acteur malveillant de d\u00e9ployer un voleur d’informations et d’exfiltrer la base de donn\u00e9es qui stocke les informations analys\u00e9es \u00e0 partir des captures d’\u00e9cran. La seule condition pr\u00e9alable pour y parvenir est que l’acc\u00e8s aux donn\u00e9es n\u00e9cessite des privil\u00e8ges d’administrateur sur la machine d’un utilisateur.<\/p>\n “Le rappel permet aux auteurs de menaces d’automatiser la suppression de tout ce que vous avez consult\u00e9 en quelques secondes”, Beaumont dit<\/a>. “[Microsoft] devrait rappeler Recall et le retravailler pour qu’il soit la fonctionnalit\u00e9 qu’il m\u00e9rite, livr\u00e9e \u00e0 une date ult\u00e9rieure.<\/p>\n D’autres chercheurs ont \u00e9galement d\u00e9montr\u00e9 des outils comme TotalRecall qui rendent Recall propice aux abus et extraient des informations hautement sensibles de la base de donn\u00e9es. “Windows Recall stocke tout localement dans une base de donn\u00e9es SQLite non crypt\u00e9e, et les captures d’\u00e9cran sont simplement enregistr\u00e9es dans un dossier sur votre PC”, Alexander Hagenah, qui a d\u00e9velopp\u00e9 TotalRecall, dit<\/a>.<\/p>\n Depuis le 6 juin 2024, TotalRecall a \u00e9t\u00e9 mis \u00e0 jour pour ne plus n\u00e9cessiter de droits d’administrateur en utilisant l’une des deux m\u00e9thodes d\u00e9crites par le chercheur en s\u00e9curit\u00e9 James Forshaw pour contourner l’exigence de privil\u00e8ge d’administrateur afin d’acc\u00e9der aux donn\u00e9es de rappel.<\/p>\n “Il n’est prot\u00e9g\u00e9 que par le fait d’\u00eatre [access control list<\/a>]” envoy\u00e9 au SYST\u00c8ME et donc toute \u00e9l\u00e9vation de privil\u00e8ges (ou limite de non-s\u00e9curit\u00e9 *toux*) est suffisante pour divulguer les informations”, Forshaw dit<\/a>.<\/p>\n La premi\u00e8re technique consiste \u00e0 usurper l’identit\u00e9 d’un programme appel\u00e9 AIXHost.exe en acqu\u00e9rant son token ou, mieux encore, en profitant des privil\u00e8ges de l’utilisateur actuel pour modifier les listes de contr\u00f4le d’acc\u00e8s et acc\u00e9der \u00e0 la base de donn\u00e9es compl\u00e8te.<\/p>\n Cela dit, il convient de souligner que Recall est actuellement en version pr\u00e9liminaire et que Microsoft peut encore apporter des modifications \u00e0 l’application avant qu’elle ne soit largement disponible pour tous les utilisateurs plus tard ce mois-ci. Il devrait \u00eatre activ\u00e9 par d\u00e9faut pour les versions compatibles PC Copilot+<\/a>.<\/p>\n <\/p>\nL’utilisation des donn\u00e9es publiques par Meta pour l’IA suscite des inqui\u00e9tudes<\/h2>\n
![\"La](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/06\/Le-debat-sur-lIA-les-directives-de-Google-le-differend.png\")
<\/a><\/center><\/div>\nLe rappel de Microsoft fait l’objet d’un examen plus approfondi<\/h2>\n
<\/a><\/center><\/div>\n<\/a><\/div>\n