Comment la technologie blockchain pourrait aider à contrôler l’IA

• Discussions sur la combinaison de l’IA et de la blockchain au Forum économique mondial de Davos
• La blockchain pourrait apporter de la transparence aux données de formation à l’IA
• IBM et Casper Labs travaillent sur une solution

Les modèles d’IA comme le chatbot ChatGPT sont formés à l’aide d’énormes quantités de données. Cependant, cela signifie que la qualité des IA dépend automatiquement de leurs données d’entraînement, ce qui peut parfois être imprégné de préjugés humains ou même contenir de fausses informations. En conséquence, les réponses d’une IA générative refléteraient alors également ces préjugés ou cette désinformation. La technologie blockchain pourrait offrir un moyen d’éviter cela.

Publicité

Le livre de données de formation sur l’IA comme cas d’utilisation important de la blockchain

Comme le rapporte « CNBC », le Forum économique mondial (WEF) de Davos, en Suisse, a discuté, entre autres, de la manière dont la blockchain pourrait être utilisée pour empêcher que des biais soient contenus dans les données d’entraînement de l’IA et ainsi façonner les réponses de l’IA. Selon « crypto.com », un très gros problème dans le domaine de l’intelligence artificielle est que les décisions prises par une IA ne sont généralement pas transparentes pour l’utilisateur et que les données utilisées ne sont pas connues, ce qui peut entraîner des problèmes de confiance. La blockchain pourrait aider ici. La technologie derrière Bitcoin & Co. offre une méthode décentralisée et transparente d’enregistrement des données. Chaque étape du cycle de vie des données de formation de l’IA, de la collecte à l’utilisation, pourrait être suivie sur la blockchain. Cela créerait un historique de données immuable qui permettrait de vérifier l’intégrité et la provenance des données, créant ainsi également plus de transparence et de vérifiabilité dans les systèmes d’IA. Selon « CoinGeek », cela créerait également un enregistrement neutre des sources utilisées – et dans quelle mesure.

À Davos, Sheila Warren, PDG du Crypto Council for Innovation, a même décrit un livre de données de formation sur l’IA basé sur la blockchain comme un possible « cas d’utilisation mortel » de la technologie blockchain, selon « CNBC » et était convaincue que l’IA et la blockchain fonctionneraient. ensemble dans un avenir proche iront de pair. « Je crois en fait que la vérification d’une IA, et d’une certaine manière le système de freins et contrepoids au sein d’un système d’IA, sera pilotée et prise en charge par la blockchain », a déclaré Warren. Et elle a peut-être raison, car des entreprises travaillent déjà sur un tel système.

Les premières solutions sont en préparation – et le géant du logiciel IBM s’y implique

« Dans le produit que nous construisons, les enregistrements sont en fait contrôlés et stockés sur la blockchain afin que vous ayez la preuve de la façon dont l’IA est formée », a déclaré Medha Prlikar, co-fondateur de la société blockchain Casper Labs, selon  » CNBC  » lors d’une table ronde au WEF. Pour y parvenir, Casper Labs travaille avec le géant du logiciel IBM. Selon le communiqué de presse, les deux sociétés co-développent actuellement une solution qui prendra également en charge le contrôle de version à l’aide des capacités de sérialisation de la blockchain, permettant aux entreprises de s’appuyer efficacement sur les itérations précédentes d’un système d’IA en cas de problèmes de performances ou de sortie faussée. « Si vous utilisez l’IA pendant son apprentissage et que vous remarquez qu’elle commence à avoir des hallucinations, vous pouvez réellement réinitialiser l’IA. Vous pouvez ainsi annuler une partie de ce qu’elle a appris et revenir à une version précédente de l’IA », a expliqué Prlikar selon « CNBC » à Davos. Une « hallucination » décrit la tendance de certains modèles d’IA à reconnaître des modèles qui ne sont pas présents dans les données d’entraînement, ce qui affecte négativement la qualité des réponses de l’IA.

« Bien que l’IA générative enthousiasme à juste titre les entreprises en raison de son potentiel de transformation, ses applications pratiques ont été sévèrement limitées par l’incapacité de surveiller et de répondre aux systèmes d’IA qui alimentent les données », a déclaré Mrinal Manohar, PDG de Casper Labs, dans le cadre de la conférence conjointe. communiqué de presse cité avec IBM. « Avec l’aide d’IBM, nous souhaitons non seulement fournir une meilleure façon de comprendre pourquoi les systèmes d’IA se comportent comme ils le font, mais également une voie plus claire pour résoudre les comportements lorsque des hallucinations ou des problèmes de performances surviennent. Le potentiel à long terme de l’IA dépendra de avec quelle efficacité les entreprises peuvent comprendre, contrôler et répondre à des ensembles de données de formation en IA de plus en plus volumineux », a déclaré Manohar.

La blockchain pourrait également aider l’IA avec la loi sur le droit d’auteur

Mais la blockchain ne peut pas seulement contribuer à améliorer l’explicabilité de l’IA. Selon « CoinGeek », un registre de données de formation d’IA basé sur une blockchain faciliterait également l’identification du « propriétaire » d’origine des données et automatiserait le processus de paiement. Actuellement, les sociétés d’IA sont régulièrement exposées à des poursuites en matière de droits d’auteur. Le « New York Times » accuse par exemple les éditeurs de logiciels OpenAI et Microsoft d’avoir copié et utilisé illégalement des millions d’articles du « New York Times » pour entraîner le chatbot ChatGPT et réclame des milliards de dommages et intérêts. À l’avenir, la technologie blockchain pourrait être utilisée pour suivre exactement quel contenu a été réellement utilisé comme données de formation – et les titulaires de droits pourraient être automatiquement indemnisés.

Equipe éditoriale finanzen.net