Un groupe de \u00a0chercheurs\u00a0 a r\u00e9cemment publi\u00e9 une \u00e9tude qui soul\u00e8ve de nouvelles \u00a0inqui\u00e9tudes\u00a0 en mati\u00e8re de \u00a0vie priv\u00e9e\u00a0 li\u00e9e \u00e0 l’utilisation des \u00a0intelligences artificielles (IA)\u00a0. Ce travail d\u00e9montre la possibilit\u00e9 d’identifier le \u00a0prompt\u00a0 exact utilis\u00e9 par un utilisateur lorsqu’il interroge un \u00a0chatbot\u00a0. Une telle r\u00e9v\u00e9lation positionne les entreprises de l’IA dans une situation particuli\u00e8rement d\u00e9licate, car elles peuvent, plus que jamais, avoir acc\u00e8s \u00e0 une quantit\u00e9 d’informations sur nous.<\/p>\n
<\/p>\n
Une \u00e9tude inqui\u00e9tante<\/strong>. Pour beaucoup, une phrase telle que “Les mod\u00e8les linguistiques sont injectifs et, par cons\u00e9quent, inversibles” pourrait sembler technique et difficile \u00e0 comprendre. Pourtant, c’est pr\u00e9cis\u00e9ment cette complexit\u00e9 qui constitue le c\u0153ur de l\u2019\u00e9tude r\u00e9alis\u00e9e par des chercheurs europ\u00e9ens. Ces derniers notent que les \u00a0grands mod\u00e8les de langage (LLM)\u00a0 souffrent d’un \u00a0important probl\u00e8me de vie priv\u00e9e\u00a0. Cela d\u00e9coule de la nature m\u00eame de l’architecture \u00a0transformer\u00a0, qui attribue \u00e0 chaque prompt unique une \u00a0incrustation\u00a0 distincte dans l’espace latent du mod\u00e8le.<\/p>\n <\/p>\n Un algorithme incriminant<\/strong>. Lors de leurs recherches, les scientifiques ont mis au point un algorithme nomm\u00e9 \u00a0SIPIT\u00a0 (Sequential Inverse Prompt via ITerative updates). Cet algorithme est capable de reconstruire le texte d’entr\u00e9e exact \u00e0 partir des \u00a0activations\u00a0 ou des \u00a0\u00e9tats cach\u00e9s\u00a0 du mod\u00e8le, avec la garantie de le faire en un temps lin\u00e9aire. En d’autres termes, il devient facile de \u00ab faire parler \u00bb le mod\u00e8le, ce qui soul\u00e8ve des questions \u00e9thiques sur la \u00a0protection des donn\u00e9es\u00a0.<\/p>\n <\/p>\n Que signifie cela ?<\/strong>. Cette recherche implique que la r\u00e9ponse g\u00e9n\u00e9r\u00e9e par un utilisateur \u00e0 l\u2019aide d\u2019un mod\u00e8le d\u2019IA permet de d\u00e9couvrir exactement ce qui a \u00e9t\u00e9 demand\u00e9. Ce ne sont pas seulement les r\u00e9ponses qui trahissent les utilisateurs, mais aussi les \u00e9tats cach\u00e9s ou \u00a0embeddings\u00a0 utilis\u00e9s par les mod\u00e8les IA. Les entreprises de l’IA conservent souvent ces \u00e9tats cach\u00e9s, ce qui leur permet th\u00e9oriquement de reconstruire le prompt initial avec une pr\u00e9cision alarmante.<\/p>\n <\/p>\n La conservation des prompts<\/strong>. Bien qu’il soit vrai que certaines entreprises stockaient d\u00e9j\u00e0 les prompts, cette nouvelle “injectivit\u00e9” soul\u00e8ve des \u00a0risques suppl\u00e9mentaires\u00a0 en mati\u00e8re de vie priv\u00e9e. Beaucoup d’\u00e9tats internes sont conserv\u00e9s pour des raisons de \u00a0caching\u00a0, de \u00a0surveillance\u00a0 ou de \u00a0personnalisation\u00a0. Si une entreprise ne supprime que la conversation en texte brut sans effacer les fichiers des \u00a0embeddings\u00a0, le prompt originel demeure r\u00e9cup\u00e9rable \u00e0 partir de ce fichier. L’\u00e9tude souligne qu’un syst\u00e8me qui conserve des \u00e9tats cach\u00e9s manipule ainsi bel et bien le texte d’entr\u00e9e lui-m\u00eame.<\/p>\n <\/p>\n Des enjeux juridiques graves<\/strong>. Historiquement, r\u00e9gulateurs et entreprises soutenaient que les \u00e9tats internes n\u2019\u00e9taient pas consid\u00e9r\u00e9s comme des “donn\u00e9es personnelles r\u00e9cup\u00e9rables”, mais cette question d’invertibilit\u00e9 change la donne. Si une entreprise d\u2019IA affirme ne pas stocker les prompts mais conserve les \u00e9tats cach\u00e9s, il appara\u00eet alors que cette \u00a0garantie\u00a0 de vie priv\u00e9e est illusoire.<\/p>\n <\/p>\n Les dangers d\u2019un acc\u00e8s non autoris\u00e9<\/strong>. \u00c0 premi\u00e8re vue, il ne semble pas ais\u00e9 pour un attaquant de mener \u00e0 bien une telle op\u00e9ration, car il devrait d’abord acc\u00e9der aux embeddings. Toutefois, une violation de s\u00e9curit\u00e9 entra\u00eenant la fuite de donn\u00e9es internes ne repr\u00e9senterait plus une simple exposition de \u00a0donn\u00e9es abstraites\u00a0 ou \u00a0crypt\u00e9es\u00a0, mais un acc\u00e8s direct \u00e0 des informations potentiellement tr\u00e8s sensibles, comme des donn\u00e9es \u00a0financi\u00e8res\u00a0 ou des \u00a0mot de passe\u00a0 que l’utilisateur a mentionn\u00e9es aux mod\u00e8les d\u2019IA.<\/p>\n <\/p>\n Les implications pour le RGPD<\/strong>. L’injectivit\u00e9 des LLM complique \u00e9galement la conformit\u00e9 aux exigences de protection des donn\u00e9es personnelles, telles que le \u00a0RGPD\u00a0 et le concept de \u00a0droit \u00e0 l\u2019oubli\u00a0. Si un utilisateur demande \u00e0 une entreprise comme OpenAI de supprimer toutes ses donn\u00e9es, celle-ci doit veiller \u00e0 effacer non seulement les enregistrements visibles, mais aussi toutes les \u00a0repr\u00e9sentations internes\u00a0. Si un \u00e9tat cach\u00e9 persiste dans un registre ou un cache, alors le prompt original reste potentiellement r\u00e9cup\u00e9rable.<\/p>\n <\/p>\n En conclusion, ces nouvelles d\u00e9couvertes sur la vuln\u00e9rabilit\u00e9 des mod\u00e8les de langage suscitent des interrogations l\u00e9gitimes sur la \u00a0protection de la vie priv\u00e9e\u00a0 et la n\u00e9cessit\u00e9 d’une \u00a0r\u00e9glementation\u00a0 claire et stricte. \u00c0 l’heure o\u00f9 nos interactions avec les intelligences artificielles deviennent de plus en plus courantes, la question de la s\u00e9curit\u00e9 de nos donn\u00e9es personnelles doit \u00eatre une \u00a0priorit\u00e9 absolue\u00a0 pour les entreprises et les l\u00e9gislateurs.<\/p>\nUn algorithme r\u00e9v\u00e9lateur<\/h2>\n
Les implications de ces d\u00e9couvertes<\/h2>\n
Les pratiques d\u00e9j\u00e0 en cours<\/h2>\n
Cons\u00e9quences l\u00e9gales<\/h2>\n
Risques de fuite de donn\u00e9es<\/h2>\n
Le droit \u00e0 l\u2019oubli mis \u00e0 mal<\/h2>\n