Recevez des mises à jour gratuites sur l’intelligence artificielle
Nous vous enverrons un Résumé quotidien de myFT e-mail récapitulant les dernières Intelligence artificielle des nouvelles tous les matins.
Le nouveau tsar de l’IA du Royaume-Uni a averti que l’intelligence artificielle pourrait être utilisée par des acteurs malveillants pour pirater le NHS, provoquant des perturbations comparables à la pandémie de Covid-19, alors qu’il définissait cette semaine les priorités de son groupe de travail de 100 millions de livres sterling.
Ian Hogarth, président du groupe de travail « Frontier AI » du gouvernement britannique, a déclaré que l’utilisation de la technologie comme arme pour entraver le service national de santé ou pour perpétrer une « attaque biologique » figurait parmi les plus grands risques liés à l’IA que son équipe cherchait à affronter.
Les systèmes d’IA pourraient être utilisés pour amplifier une cyberattaque contre le service de santé britannique ou pour concevoir des agents pathogènes ou des toxines, a-t-il suggéré.
Hogarth a souligné la nécessité d’une collaboration mondiale avec les pays du monde entier, y compris la Chine, pour résoudre ces problèmes.
« Ce sont des risques fondamentalement mondiaux. Et de la même manière que nous collaborons avec la Chine dans les domaines de la biosécurité et de la cybersécurité, je pense qu’il y a une réelle valeur dans la collaboration internationale autour des risques à plus grande échelle », a-t-il déclaré.
«C’est comme les pandémies. C’est le genre de situation dans laquelle on ne peut pas faire cavalier seul pour tenter de contenir ces menaces. »
Suite aux recommandations du groupe de travail création en juin, Hogarth a nommé le pionnier de l’IA Yoshua Bengio et la directrice du GCHQ Anne Keast-Butler à son conseil consultatif externe, entre autres qui devraient être annoncés jeudi.
Le groupe a reçu un financement initial de 100 millions de livres sterling du gouvernement pour mener des recherches indépendantes sur la sécurité de l’IA qui permettraient le développement de modèles d’IA « frontières » sûrs et fiables, la technologie sous-jacente aux systèmes d’IA tels que ChatGPT. Hogarth a déclaré qu’il s’agissait du montant le plus important qu’un État-nation ait engagé pour la sécurité de l’IA aux frontières.
Hogarth a comparé l’ampleur de la menace qui pèse sur le NHS à celle de la pandémie de Covid, qui a provoqué des années de perturbation du service de santé publique du Royaume-Uni, et à l’attaque du ransomware WannaCry en 2017, qui a coûté au NHS environ 92 millions de livres sterling et a conduit à l’annulation. de 19 000 rendez-vous avec des patients.
« Le type de risques auxquels nous prêtons le plus attention sont les risques accrus pour la sécurité nationale », a déclaré Hogarth, ancien entrepreneur technologique et investisseur en capital-risque, dans une interview au Financial Times.
Il a ajouté : « Un grand nombre de personnes dans le domaine de la technologie tentent actuellement de développer des systèmes d’IA qui sont surhumains pour écrire du code. . . Cette technologie s’améliore de jour en jour. Et fondamentalement, cela réduit les obstacles à la perpétration d’une sorte de cyberattaque ou de cybercriminalité.
Hogarth a déclaré que le Royaume-Uni devait développer « la capacité de l’État à comprendre… ». . . et, espérons-le, modérer les risques afin que nous puissions ensuite comprendre comment mettre des garde-fous autour de cette technologie et en tirer le meilleur parti.
Il a été étroitement impliqué dans la planification du premier sommet mondial sur la sécurité de l’IA au Royaume-Uni à Bletchley Park début novembre. L’événement vise à rassembler les dirigeants d’État, les entreprises technologiques, les universitaires et la société civile pour discuter de l’IA.
Sur le modèle du groupe de travail sur le vaccin Covid, l’équipe de Hogarth a récemment recruté plusieurs universitaires indépendants, dont David Krueger de l’Université de Cambridge et Yarin Gal de l’Université d’Oxford.
« Si vous voulez une bonne réglementation – si vous voulez que l’État soit un partenaire actif et comprenne les risques liés à la frontière, et ne se contente pas de laisser les entreprises d’IA faire leurs propres devoirs – alors ce que vous devez faire est d’apporter rapidement cette expertise au gouvernement. » il a dit.