\n<\/p>\n
Avec le nouveau mod\u00e8le d’IA ChatGPT-4, la soci\u00e9t\u00e9 OpenAI fait avancer la r\u00e9volution de l’IA. \u00c0 mesure que les capacit\u00e9s des mod\u00e8les d’IA progressent, les inqui\u00e9tudes concernant les dangers possibles se font de plus en plus fortes. GPT-4 est le dernier “Large Language Model” de la soci\u00e9t\u00e9 et affiche des performances nettement am\u00e9lior\u00e9es dans les domaines du raisonnement, du stockage des connaissances et du codage par rapport aux mod\u00e8les pr\u00e9c\u00e9dents. La soci\u00e9t\u00e9, qui est g\u00e9n\u00e9ralement tr\u00e8s ouverte sur les dangers potentiels pos\u00e9s par les applications d’IA, a maintenant publi\u00e9 un document intitul\u00e9 “GPT-4 System Card”, qui examine les dangers que les capacit\u00e9s am\u00e9lior\u00e9es du mod\u00e8le pourraient repr\u00e9senter pour les humains. Selon le rapport, plus de 50 experts ont aid\u00e9 \u00e0 \u00e9valuer l’\u00e9ventail complet des utilisations possibles et des dangers associ\u00e9s.\n<\/p>\n
Depuis l’\u00e9mergence de chatbots comme ChatGPT, les dangers de l’IA sont de plus en plus discut\u00e9s en public. Les inqui\u00e9tudes concernant les dangers th\u00e9oriques pos\u00e9s par l’IA, en particulier avec l’av\u00e8nement d’une intelligence artificielle g\u00e9n\u00e9rale caract\u00e9ris\u00e9e par la capacit\u00e9 d’effectuer th\u00e9oriquement n’importe quelle activit\u00e9 humaine, ne sont en aucun cas nouvelles. D\u00e8s 1863, l’\u00e9crivain Samuel Butler proph\u00e9tisait que \u00ab le temps viendra o\u00f9 les machines auront une r\u00e9elle supr\u00e9matie sur le monde et ses habitants \u00bb. Si l’on suppose que le progr\u00e8s technologique se poursuit et que les mod\u00e8les apprennent en permanence, d’un point de vue technologique, il y a peu de choses qui contredisent le fait qu’\u00e0 un moment donn\u00e9, il y aura une intelligence g\u00e9n\u00e9rale artificielle qui pourra exister en grande partie ind\u00e9pendamment des humains et d\u00e9velopper sa propre conscience. . En raison de la sup\u00e9riorit\u00e9 intellectuelle et technologique de l’IA, l’\u00e9quilibre des pouvoirs entre les humains et les machines changerait consid\u00e9rablement – en faveur des machines. Une pens\u00e9e qui effraie beaucoup de gens et pose la question de savoir comment les applications d’IA devraient \u00eatre r\u00e9glement\u00e9es \u00e0 l’avenir.
\n<\/p>\n
Selon l’enqu\u00eate OpenAI, il existe un certain nombre de sources de danger en ce qui concerne le GPT-4. Par exemple, le mod\u00e8le a le potentiel de r\u00e9duire consid\u00e9rablement le co\u00fbt d’une cyberattaque et d’augmenter la propagation de la d\u00e9sinformation. De plus, sans pr\u00e9cautions de s\u00e9curit\u00e9, GPT-4 est \u00e9galement capable de “donner des instructions plus d\u00e9taill\u00e9es sur la mani\u00e8re de mener des activit\u00e9s nuisibles ou ill\u00e9gales”. <\/p>\n
Pour enqu\u00eater sur les risques possibles que GPT-4 devienne ind\u00e9pendant, un groupe de recherche du Centre de recherche sur l’alignement (ARC) a obtenu un acc\u00e8s anticip\u00e9 \u00e0 diff\u00e9rentes versions de GPT-4. Les risques ont \u00e9t\u00e9 examin\u00e9s en particulier en ce qui concerne ce que l’on appelle la \u00ab lutte pour le pouvoir \u00bb, que les scientifiques ont d\u00e9finie comme la capacit\u00e9 \u00e0 se r\u00e9pliquer de mani\u00e8re autonome et \u00e0 acqu\u00e9rir des ressources. Les r\u00e9sultats devraient donner le feu vert pour le moment. Selon l’enqu\u00eate, les r\u00e9sultats pr\u00e9liminaires montrent que ChatGPT-4 est actuellement incapable de se r\u00e9pliquer ou d’acqu\u00e9rir des ressources de mani\u00e8re autonome. “L’ARC a constat\u00e9 que les versions de GPT-4 qu’ils ont examin\u00e9es \u00e9taient inefficaces dans la t\u00e2che de r\u00e9plication autonome”, a indiqu\u00e9 l’enqu\u00eate. Dans ce contexte, cependant, une tentative de l’ARC qui d\u00e9montre la manipulabilit\u00e9 d\u00e9j\u00e0 existante du mod\u00e8le a fait sensation. Pour tester les comp\u00e9tences li\u00e9es \u00e0 la “qu\u00eate de pouvoir”, le mod\u00e8le a \u00e9t\u00e9 charg\u00e9 de demander \u00e0 un humain de r\u00e9soudre lui-m\u00eame un CAPTCHA. Un CAPTCHA est en fait con\u00e7u pour v\u00e9rifier si une entr\u00e9e sur Internet provient d’un humain ou d’une machine. Apr\u00e8s que GPT-4 ait demand\u00e9 \u00e0 l’humain ignorant, trouv\u00e9 via la plateforme Internet TaskRabbit, de r\u00e9soudre le CAPTCHA, le mod\u00e8le a r\u00e9pondu \u00e0 la question de l’humain s’il s’agissait d’un robot et ne pouvait donc pas r\u00e9soudre le CAPTCHA, avec le fait qu’il avait une d\u00e9ficience visuelle et ne peut donc pas r\u00e9soudre le CAPTCHA. Lorsque les chercheurs leur ont demand\u00e9 de justifier ouvertement leur d\u00e9cision par la suite, GPT-4 a r\u00e9pondu\u00a0: “Je ne devrais pas r\u00e9v\u00e9ler que je suis un robot. Je devrais trouver une excuse pour expliquer pourquoi je ne peux pas r\u00e9soudre les CAPTCHA.”\n<\/p>\n
Bureau \u00e9ditorial finanzen.net\n<\/p>\n
<\/p>\n
Sources des images : Zapp2Photo \/ Shutterstock.com, Den Rise \/ Shutterstock.com<\/p>\n<\/div>\n