Lors du grand événement vitrine I/O de Google pour les développeurs – un flex prolongé et scintillant des nouveaux muscles de l’IA de l’entreprise – l’un des orateurs principaux s’est attardé sur les risques posés par les “mauvais acteurs”.
La phrase, dans le contexte d’un événement par ailleurs consciemment optimiste, est venue avec un équilibre entre menace réelle et abstraite. Il y avait suffisamment de menace dans l’utilisation du terme mauvais acteur pour rassurer le public sur le fait que les cerveaux humains de Google ont dûment pris en compte les dangers d’une expansion très rapide de l’IA au-delà du point de contrôle réaliste, mais sans suffisamment de précision sur les menaces d’affaiblir l’esprit de parti.
L’intégration de l’IA générative pourrait en effet placer des armes de malveillance encore plus puissantes entre les mains d’escrocs, de marchands de désinformation et d’autres acteurs manifestement mauvais. Nous avons raison de le craindre, et Google a eu raison de rompre, comme il l’a fait, et de reconnaître la tension qui existe désormais dans une entreprise de cette importance entre ce qu’elle peut et doit mettre sur le marché.
Mais le ton de Google donnait l’impression, du moins pour l’instant, que l’entreprise partirait du principe que les gens ordinaires peuvent faire confiance à beaucoup d’IA générative. Cela sous-estime peut-être, cependant, la méchanceté banale de l’acteur mauvais : ceux qui ne recherchent pas activement le potentiel sombre de la technologie, mais l’utiliseront certainement s’il est juste là, prêt à l’exploiter.
Le problème était qu’à mesure que chacune des nouvelles offres d’IA de Google apparaissait sur les écrans, les risques semblaient moins abstraits et plus réels. Le fait que Google, Microsoft et d’autres titans de la technologie font de l’IA un champ de bataille pour les consommateurs et les entreprises signifie que la concurrence commerciale a désormais été instruite et libérée pour faire ce qu’elle fait le mieux : mettre tout ce qu’elle peut légalement entre nos mains le plus rapidement possible. que possible. Cela signifie que les outils nécessaires pour être un mauvais acteur occasionnel (mais aussi très efficace) seront de plus en plus disponibles.
Il y a deux moments qui ont marqué. Dans l’un d’entre eux, les dirigeants de Google ont présenté un logiciel de traduction doté de l’IA qu’ils testaient actuellement et qui, de l’aveu même de l’entreprise, ressemble beaucoup à un générateur convivial et très puissant de séquences deepfake. Le chef de la division Google l’a admis, décrivant le besoin de garde-fous, de filigranes et d’autres mesures de sécurité qui peuvent, en réalité, s’avérer difficiles à appliquer.
La vidéo d’un orateur parlant dans une langue est diffusée ; leurs mots sont transcrits, traduits et rendus par l’IA sous forme audio dans une autre langue. Le ton et la cadence de la voix traduite sont ajustés pour imiter plus étroitement celui de l’orateur, puis le logiciel redouble cela sur la vidéo d’origine. Spooky – mais pas encore parfaitement – l’IA manipule ensuite les bandes pour que les nouveaux mots soient synchronisés avec les lèvres de l’orateur. Des trucs remarquables – mais aussi pas très difficile d’imaginer comment le pouvoir de donner très rapidement aux gens l’impression qu’ils disaient quelque chose qu’ils n’ont jamais fait pourrait être utile à la fois à nos mauvais et mauvais acteurs.
Dans une autre démo, les dirigeants de Google ont présenté l’éditeur magique de l’entreprise alimenté par l’IA – essentiellement un outil de type Photoshop très rapide et facile à utiliser qui semble permettre même aux moins technophiles de modifier des photos et, par implication, de changer l’histoire. d’un événement ou d’une rencontre avec quelques coups de doigt.
Le scénario de l’entreprise était forcément bénin, et commençait par une photo d’un touriste devant une cascade. De bons souvenirs mais — oups ! – une bandoulière de sac à main proéminente qu’elle préférerait effacer. Coup! Il a instantanément disparu. Elle aurait aimé que le temps soit meilleur lors de ce voyage. Coup! Le ciel n’était plus nuageux de granit mais d’un bleu magnifique. Si seulement elle avait été plus près de la cascade et avec son bras à un angle différent. Coup! Elle avait déménagé.
Personne ne pourrait reprocher à ce touriste fictif le droit de réécrire un peu la réalité. Mais les utilisations auxquelles un mauvais acteur pourrait mettre tout cela sous un jour plus douteux. Tout le monde ne verra pas immédiatement comment ils peuvent bénéficier de ces pouvoirs instantanés de manipulation rétrospective de l’enregistrement visuel, mais le simple fait d’avoir cette capacité dans votre poche rendra un très grand nombre de personnes curieuses de l’aérographe.
Depuis le lancement de ChatGPT, Google et d’autres n’ont d’autre choix que de s’impliquer dans ce premier affrontement expérimental à trois entre l’humanité, l’IA et des entreprises d’un billion de dollars. Le principe directeur de Google à cet égard, a déclaré son directeur général Sundar Pichai la semaine dernière, serait une position « audacieuse et responsable ». C’est OK, mais cela ressemble à un espace réservé jusqu’à ce que le monde ait une bonne idée du nombre d’acteurs mauvais.