{"id":956383,"date":"2023-10-05T12:59:42","date_gmt":"2023-10-05T14:59:42","guid":{"rendered":"https:\/\/teknomers.com\/fr\/nous-avons-besoin-dun-alan-turing-politique-pour-concevoir-des-garanties-contre-lia\/"},"modified":"2023-10-05T12:59:42","modified_gmt":"2023-10-05T14:59:42","slug":"nous-avons-besoin-dun-alan-turing-politique-pour-concevoir-des-garanties-contre-lia","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/nous-avons-besoin-dun-alan-turing-politique-pour-concevoir-des-garanties-contre-lia\/","title":{"rendered":"Nous avons besoin d\u2019un Alan Turing politique pour concevoir des garanties contre l\u2019IA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Recevez des mises \u00e0 jour gratuites sur l&#8217;intelligence artificielle<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Nous vous enverrons un <i>R\u00e9sum\u00e9 quotidien de myFT<\/i> e-mail r\u00e9capitulant les derni\u00e8res<!-- --> <!-- -->Intelligence artificielle<!-- --> des nouvelles tous les matins.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=5c41202b-6034-4cac-81a8-7968e9fa603a&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p><em>L&#8217;\u00e9crivain est le fondateur de <\/em><a rel=\"nofollow noopener\" href=\"https:\/\/sifted.eu\/\" data-trackable=\"link\" target=\"_blank\"><em>Tamis\u00e9<\/em><\/a><em>un site soutenu par le FT sur les start-ups europ\u00e9ennes<\/em><\/p>\n<p>Lorsqu&#8217;Alan Turing travaillait \u00e0 Bletchley Park pendant la Seconde Guerre mondiale, il a contribu\u00e9 \u00e0 r\u00e9soudre une \u00e9nigme diabolique : d\u00e9chiffrer le code Enigma \u00ab incassable \u00bb de l&#8217;Allemagne nazie.  Le mois prochain, le gouvernement britannique organise une conf\u00e9rence internationale dans la m\u00eame maison de campagne du Buckinghamshire pour explorer un probl\u00e8me tout aussi d\u00e9routant : minimiser les risques potentiellement catastrophiques de l\u2019intelligence artificielle.  M\u00eame un math\u00e9maticien aussi ing\u00e9nieux que Turing serait mis \u00e0 l\u2019\u00e9preuve par ce d\u00e9fi. <\/p>\n<p>Alors que le dispositif \u00e9lectrom\u00e9canique construit par Turing ne pouvait remplir qu&#8217;une seule fonction de piratage de code, les mod\u00e8les d&#8217;IA d&#8217;aujourd&#8217;hui se rapprochent des ordinateurs \u00ab universels \u00bb qu&#8217;il ne pouvait qu&#8217;imaginer, capables de beaucoup plus de fonctions.  Le dilemme est que la m\u00eame technologie qui peut stimuler la productivit\u00e9 \u00e9conomique et la recherche scientifique peut \u00e9galement intensifier la cyberguerre et le bioterrorisme.<\/p>\n<p>Comme le montre clairement le d\u00e9bat public f\u00e9roce qui a \u00e9clat\u00e9 depuis la sortie par OpenAI de son chatbot ChatGPT en novembre dernier, le spectre des pr\u00e9occupations suscit\u00e9es par l&#8217;IA s&#8217;\u00e9largit rapidement. <\/p>\n<p>D\u2019un c\u00f4t\u00e9, les champions de la \u00ab s\u00e9curit\u00e9 \u00bb extrapolent \u00e0 partir des r\u00e9cents progr\u00e8s de la technologie de l\u2019IA et se concentrent sur les risques extr\u00eames. <a rel=\"nofollow noopener\" href=\"https:\/\/www.safe.ai\/statement-on-ai-risk#signatories\" data-trackable=\"link\" target=\"_blank\">Une lettre ouverte<\/a> sign\u00e9 plus t\u00f4t cette ann\u00e9e par des dizaines des plus grands chercheurs mondiaux en IA \u2013 y compris les dirigeants d&#8217;OpenAI, Anthropic et Google DeepMind, qui d\u00e9veloppent les mod\u00e8les les plus puissants \u2013 ont m\u00eame d\u00e9clar\u00e9 : \u00ab\u00a0Att\u00e9nuer le risque d&#8217;extinction de l&#8217;IA devrait \u00eatre une priorit\u00e9 mondiale aux c\u00f4t\u00e9s d\u2019autres risques \u00e0 l\u2019\u00e9chelle soci\u00e9tale tels que les pand\u00e9mies et la guerre nucl\u00e9aire. <\/p>\n<p>De l\u2019autre c\u00f4t\u00e9, les d\u00e9fenseurs de \u00ab l\u2019\u00e9thique \u00bb sont agit\u00e9s par les pr\u00e9occupations actuelles li\u00e9es aux pr\u00e9jug\u00e9s algorithmiques, \u00e0 la discrimination, \u00e0 la d\u00e9sinformation, aux droits d\u2019auteur, aux droits des travailleurs et \u00e0 la concentration du pouvoir des entreprises.  Certains chercheurs, comme Emily Bender, professeur \u00e0 l&#8217;Universit\u00e9 de Washington, affirment que le d\u00e9bat sur les risques existentiels de l&#8217;IA rel\u00e8ve d&#8217;un fantasme de science-fiction destin\u00e9 \u00e0 d\u00e9tourner l&#8217;attention des pr\u00e9occupations d&#8217;aujourd&#8217;hui. <\/p>\n<p>Plusieurs groupes de la soci\u00e9t\u00e9 civile et petites entreprises technologiques, qui se sentent exclus des d\u00e9bats officiels de Bletchley Park, organisent des \u00e9v\u00e9nements en marge pour discuter des questions qu&#8217;ils estiment ignor\u00e9es.<\/p>\n<p>Matt Clifford, l&#8217;investisseur technologique britannique qui contribue \u00e0 d\u00e9finir l&#8217;ordre du jour du sommet sur la s\u00e9curit\u00e9 de l&#8217;IA, reconna\u00eet que celui-ci ne r\u00e9pondra qu&#8217;\u00e0 un seul ensemble de pr\u00e9occupations.  Mais il affirme que d\u2019autres forums et institutions sont d\u00e9j\u00e0 aux prises avec de nombreux autres probl\u00e8mes.  \u00ab Nous avons choisi une approche \u00e9troite, non pas parce que nous ne nous soucions pas de toutes les autres choses, mais parce que c&#8217;est ce qui semble urgent, important et n\u00e9glig\u00e9. \u00bb<a rel=\"nofollow noopener\" href=\"https:\/\/sifted.eu\/articles\/pausing-ai-development-premature-uk-top-ai-advisor\" data-trackable=\"link\" target=\"_blank\"> il me dit.<\/a><\/p>\n<p>En particulier, il affirme que la conf\u00e9rence explorera les possibilit\u00e9s et les dangers des mod\u00e8les fronti\u00e8res de nouvelle g\u00e9n\u00e9ration, susceptibles d&#8217;\u00eatre commercialis\u00e9s dans les 18 prochains mois.  M\u00eame les cr\u00e9ateurs de ces mod\u00e8les ont du mal \u00e0 pr\u00e9dire leurs capacit\u00e9s.  Mais ils sont certains qu\u2019ils seront nettement plus puissants que ceux d\u2019aujourd\u2019hui et, par d\u00e9faut, accessibles \u00e0 plusieurs millions de personnes. <\/p>\n<p><a rel=\"nofollow noopener\" href=\"https:\/\/www.judiciary.senate.gov\/imo\/media\/doc\/2023-07-26_-_testimony_-_amodei.pdf\" data-trackable=\"link\" target=\"_blank\">Comme <\/a>Dario Amodei, directeur g\u00e9n\u00e9ral d&#8217;Anthropic, <a rel=\"nofollow noopener\" href=\"https:\/\/www.judiciary.senate.gov\/imo\/media\/doc\/2023-07-26_-_testimony_-_amodei.pdf\" data-trackable=\"link\" target=\"_blank\">d\u00e9crit dans un t\u00e9moignage effrayant<\/a> Selon le Congr\u00e8s am\u00e9ricain en juillet, le d\u00e9veloppement de mod\u00e8les d\u2019IA plus puissants pourrait r\u00e9volutionner la d\u00e9couverte scientifique, mais cela \u00e9largirait \u00e9galement \u00ab consid\u00e9rablement le nombre de personnes capables de faire des ravages \u00bb.  Sans garde-fous appropri\u00e9s, il pourrait y avoir un risque substantiel d\u2019\u00ab attaque biologique \u00e0 grande \u00e9chelle \u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n<p>M\u00eame si l\u2019industrie r\u00e9siste, il est difficile d\u2019\u00e9chapper \u00e0 la conclusion selon laquelle le principe de pr\u00e9caution doit d\u00e9sormais s\u2019appliquer aux mod\u00e8les d\u2019IA d\u2019avant-garde \u00e9tant donn\u00e9 l\u2019inconnaissance de leurs capacit\u00e9s et la vitesse \u00e0 laquelle ils sont d\u00e9velopp\u00e9s.  C\u2019est le point de vue de Yoshua Bengio, chercheur pionnier en IA et laur\u00e9at du prix Turing pour l\u2019informatique, qui participe \u00e0 la conf\u00e9rence de Bletchley Park. <\/p>\n<p>Bengio sugg\u00e8re que les mod\u00e8les d&#8217;IA de pointe pourraient \u00eatre r\u00e9glement\u00e9s de la m\u00eame mani\u00e8re que la Food and Drug Administration des \u00c9tats-Unis contr\u00f4le la lib\u00e9ration de m\u00e9dicaments pour emp\u00eacher la vente de rem\u00e8des inutiles.  Cela pourrait ralentir le rythme de l&#8217;innovation et co\u00fbter plus d&#8217;argent aux entreprises technologiques, mais \u00ab c&#8217;est le prix de la s\u00e9curit\u00e9 et nous ne devrions pas h\u00e9siter \u00e0 le faire \u00bb, a-t-il d\u00e9clar\u00e9 dans une interview pour la prochaine s\u00e9rie de podcasts Tech Tonic du FT.<\/p>\n<p>Il est louable que le gouvernement britannique entame un d\u00e9bat mondial sur la s\u00e9curit\u00e9 de l\u2019IA et qu\u2019il renforce lui-m\u00eame la capacit\u00e9 de l\u2019\u00c9tat \u00e0 s\u2019attaquer aux mod\u00e8les fronti\u00e8res.  Mais Bletchley Park ne signifiera pas grand-chose \u00e0 moins qu\u2019il ne d\u00e9bouche sur une action coordonn\u00e9e significative.  Et dans un monde distrait par tant de dangers, il faudra un Turing politique plut\u00f4t que technologique pour d\u00e9chiffrer le code. <\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/5c41202b-6034-4cac-81a8-7968e9fa603a\" rel=\"nofollow noopener\" target=\"_blank\">ttn-fr-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Recevez des mises \u00e0 jour gratuites sur l&#8217;intelligence artificielle Nous vous enverrons un R\u00e9sum\u00e9 quotidien de myFT e-mail r\u00e9capitulant les derni\u00e8res Intelligence artificielle des nouvelles tous les matins. L&#8217;\u00e9crivain est le fondateur de Tamis\u00e9un site soutenu par le FT sur les start-ups europ\u00e9ennes Lorsqu&#8217;Alan Turing travaillait \u00e0 Bletchley Park pendant la Seconde Guerre mondiale, il [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[38209,2520,1949,24767,841,133,74,4982,13717,1266,1060,185,186433],"class_list":["post-956383","post","type-post","status-publish","format-standard","hentry","category-general","tag-alan","tag-avons","tag-besoin","tag-concevoir","tag-contre","tag-des","tag-dun","tag-garanties","tag-lia","tag-nous","tag-politique","tag-pour","tag-turing"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/956383","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=956383"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/956383\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=956383"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=956383"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=956383"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}