« Responsabilité morale » : la blockchain peut-elle vraiment améliorer la confiance dans l'IA ?

La plupart des révolutions technologiques s'accompagnent d'un côté plus sombre et imprévu. Lorsque les physiciens d'origine autrichienne Lise Meitner et Otto Frisch ont divisé l'atome pour la première fois à la fin des années 1930, ils n'avaient probablement pas prévu que leur découverte conduirait quelques années plus tard à la bombe atomique. La révolution de l'intelligence artificielle (IA) n'est sans doute pas différente.

Les algorithmes d'IA existent depuis des décennies. Le premier réseau de neurones artificiels, le perceptron, a été inventé en 1958. Mais le rythme de développement récent a été époustouflant, et avec des appareils de reconnaissance vocale comme Alexa et des chatbots comme ChatGPT, l'IA semble avoir acquis une nouvelle notoriété publique.

Du côté positif, l'IA pourrait élever considérablement le niveau d'éducation générale de la planète et aider à trouver des remèdes pour des maladies dévastatrices comme la maladie d'Alzheimer. Mais cela pourrait également déplacer des emplois et renforcer les États autoritaires qui peuvent l'utiliser pour surveiller leurs populations. De plus, si jamais les machines atteignent l'intelligence "générale", elles pourraient même être entraînées pour annuler des élections et poursuivre des guerres, a récemment averti Geoffrey Hinton, pionnier de l'IA.

"Potentiel énorme et danger énorme", c'est ainsi que le président américain Joe Biden a récemment décrit l'IA. Cela fait suite à une lettre ouverte en mars de plus de 1 000 leaders technologiques, dont Elon Musk et Steve Wozniak, appelant à un moratoire sur les développements de l'IA comme ChatGPT. La technologie, ont-ils dit, présente "des risques profonds pour la société et l'humanité".

En ce qui concerne l'IA, nous devons à la fois soutenir l'innovation responsable et garantir des garde-fous appropriés pour protéger les droits et la sécurité des personnes.

Déjà, certains pays font la queue contre OpenAI, le développeur de ChatGPT. L'Italie a temporairement interdit ChatGPT en mars et le commissaire à la protection de la vie privée du Canada enquête sur OpenAI pour avoir prétendument collecté et utilisé des informations personnelles sans consentement. L'UE négocie de nouvelles règles pour l'IA, tandis que la Chine exige que les développeurs d'IA respectent désormais des règles de censure strictes. Une certaine réglementation semble inévitable.

Dans ce contexte, une question se pose : la technologie blockchain peut-elle résoudre les problèmes qui affligent l'intelligence artificielle - ou du moins certains d'entre eux ? La technologie de registre décentralisée, après tout, est sans doute tout ce que l'IA n'est pas : transparente, traçable, fiable et inviolable. Cela pourrait aider à compenser une partie de l'opacité des solutions de boîte noire de l'IA.

Anthony Day, responsable de la stratégie et du marketing chez Midnight – une chaîne parallèle de Cardano – a écrit en avril sur LinkedIn à propos de la technologie blockchain : « Nous devons créer un moyen de permettre une CONFIANCE traçable, transparente, non censurée et automatisée dans où et ce que les IA feront pour (ou pour) notre monde.

Au minimum, les blockchains pourraient être un référentiel pour les données de formation à l'IA. Ou comme Jerry Cuomo d'IBM l'a écrit il y a plusieurs années - une observation qui sonne toujours vraie aujourd'hui :

"Avec la blockchain, vous pouvez suivre la provenance des données de formation ainsi que voir une piste d'audit des preuves qui ont conduit à la prédiction de la raison pour laquelle un fruit particulier est considéré comme une pomme par rapport à une orange."

"Les utilisateurs de modèles d'IA centralisés ne sont souvent pas conscients des biais inhérents à leur formation", a déclaré Neha Singh, cofondatrice de Tracxn Technologies, une plateforme d'analyse et d'intelligence commerciale, à Magazine. "Une transparence accrue pour les modèles d'IA peut être rendue possible grâce à la technologie blockchain."

Beaucoup conviennent que quelque chose doit être fait avant que l'IA ne devienne plus courante. "Pour faire confiance à l'intelligence artificielle, les gens doivent savoir et comprendre exactement ce qu'est l'IA, ce qu'elle fait et son impact", a déclaré Kay Firth-Butterfield, responsable de l'intelligence artificielle et de l'apprentissage automatique au Forum économique mondial. "Les dirigeants et les entreprises doivent faire de l'IA transparente et fiable une priorité lorsqu'ils mettent en œuvre cette technologie."

Fait intéressant, certains travaux dans ce sens sont en cours. En février, la société de technologie financière FICO basée aux États-Unis a reçu un brevet pour "Blockchain for Data and Model Governance", enregistrant officiellement un processus qu'elle utilise depuis des années pour garantir des pratiques d'IA "responsables".

FICO utilise un registre basé sur Ethereum pour suivre la provenance de bout en bout "du développement, de l'opérationnalisation et de la surveillance des modèles d'apprentissage automatique de manière immuable", selon la société, qui compte plus de 300 scientifiques des données et travaille avec plusieurs des plus grandes banques du monde. Notamment, il existe des différences subtiles entre les termes "IA" et "apprentissage automatique", mais les termes sont souvent utilisés de manière interchangeable.

L'utilisation d'une blockchain permet l'auditabilité et renforce le modèle et la confiance des entreprises, a écrit Scott Zoldi, directeur de l'analyse de FICO, dans une publication AI plus tôt cette année.

"Il est important de noter que la blockchain fournit une piste de prise de décision. Elle montre si une variable est acceptable, si elle introduit un biais dans le modèle ou si la variable est utilisée correctement... Elle enregistre tout le parcours de construction de ces modèles, y compris leurs erreurs, corrections et améliorations."

Les outils d'IA doivent être bien compris, et ils doivent être justes, équitables et transparents pour un avenir juste, a déclaré Zoldi, ajoutant : "Et c'est là que je pense que la technologie blockchain trouvera potentiellement un mariage avec l'IA."

Le développement de modèles est un domaine clé dans lequel la blockchain peut faire la différence, mais il en existe d'autres. Certains prévoient que des appareils comme ChatGPT pourraient avoir un effet délétère sur les médias sociaux et les plateformes d'information, par exemple, rendant difficile le tri entre l'artifice et ce qui est réel ou vrai.

"C'est l'un des endroits où la blockchain peut être la plus utile dans les plateformes émergentes : pour prouver que la personne X a dit Y à une date/heure particulière", a déclaré Joshua Ellul, professeur associé et directeur du Center for Distributed Ledger Technologies à l'Université de Malte. Magazine.

En effet, une blockchain peut aider à construire une sorte de cadre de responsabilité où, par exemple, les individus et les organisations peuvent émerger en tant que sources fiables. Par exemple, Ellul a poursuivi : "Si la personne X est enregistrée en disant Y, et c'est indéniable", alors cela devient un point de référence, donc "à l'avenir, les individus pourraient construire leurs propres cotes de confiance pour les autres en fonction de ce qu'ils ont dit dans le passé".

Les innovateurs cryptographiques de couleur limités par les règles visant à les protéger

Les États voyous esquivent les sanctions économiques, mais la crypto a-t-elle tort ?

"À tout le moins, une solution de blockchain pourrait être utilisée pour suivre les données, la formation, les tests, l'audit et les événements post-mortem de manière à garantir qu'une partie ne puisse pas modifier certains événements qui se sont produits", ajoute Ellul.

Cependant, tous ne sont pas d'accord pour dire que la blockchain peut aller à la racine de ce qui fait vraiment mal à l'IA. "Je suis quelque peu sceptique quant au fait que la blockchain puisse être considérée comme un antidote à l'IA", a déclaré à Magazine Roman Beck, professeur à l'Université informatique de Copenhague et directeur du Centre européen de la blockchain.

"Nous avons déjà aujourd'hui des difficultés à suivre et à retracer ce que font réellement les contrats intelligents, et même si la blockchain doit être transparente, certaines activités sont difficiles à auditer."

Ailleurs, la Commission européenne a cherché à créer un "espace transatlantique pour une #IA digne de confiance". Mais lorsqu'on lui a demandé si la technologie blockchain pouvait aider à compenser l'opacité de l'IA, un responsable de la Commission européenne était dubitatif, déclarant à Magazine :

"La blockchain permet le suivi des sources de données et protège la vie privée des personnes mais, à elle seule, ne résout pas le problème de la boîte noire dans les réseaux de neurones IA - l'approche la plus courante, également utilisée dans ChatGPT, par exemple. Cela n'aidera pas les systèmes d'IA à fournir des explications sur comment et pourquoi une décision donnée a été prise. "

Peut-être que la blockchain ne peut pas "sauver" l'IA, mais Beck envisage toujours des moyens pour que les deux technologies puissent se renforcer mutuellement. "Le domaine le plus probable où la blockchain peut aider l'IA est l'aspect audit. Si nous voulons éviter que l'IA ne soit utilisée pour tricher ou se livrer à toute autre activité illégale, on pourrait demander un enregistrement des résultats de l'IA sur un grand livre. On pourrait utiliser l'IA, mais au cas où les résultats seraient utilisés de manière malveillante ou illégale, on pourrait retracer quand et qui a utilisé l'IA, car il serait enregistré."

Ou considérez les véhicules à conduite autonome développés avec la technologie de l'IA dans lesquels "les capteurs, les algorithmes et la blockchain fourniraient un système d'exploitation autonome pour la communication et la coordination inter-machines", ajoute Beck. "Nous ne sommes peut-être toujours pas en mesure d'expliquer comment l'IA a décidé, mais nous pouvons garantir la responsabilité et donc la gouvernance." C'est-à-dire que la blockchain pourrait aider à retracer qui ou quoi était vraiment fautif quand "un algo est devenu fou".

Même le responsable de l'UE susmentionné peut prévoir que la blockchain apportera des avantages, même si elle ne peut pas résoudre le problème de la "boîte noire" de l'IA. "En utilisant la blockchain, il pourrait être possible de créer un enregistrement transparent et infalsifiable des données utilisées pour former les modèles d'IA. Cependant, la blockchain en elle-même ne répond pas à la détection et à la réduction des biais, ce qui est difficile et reste une question de recherche ouverte."

Dans le secteur des entreprises, de nombreuses entreprises ont encore du mal à parvenir à une IA « digne de confiance ». FICO et Corinium ont récemment interrogé quelque 100 sociétés de services financiers nord-américaines et ont constaté que "43 % des répondants ont déclaré avoir du mal avec les structures de gouvernance de l'IA responsable pour répondre aux exigences réglementaires". Dans le même temps, seuls 8 % ont déclaré que leurs stratégies d'IA "sont pleinement matures avec des normes de développement de modèles constamment mises à l'échelle".

Fondée en 1956 sous le nom de Fair, Isaac and Company, FICO a été un pionnier dans l'utilisation de l'analyse prédictive et de la science des données pour les décisions commerciales opérationnelles. Il construit des modèles d'IA qui aident les entreprises à gérer les risques, à lutter contre la fraude et à optimiser les opérations.

Lorsqu'on lui a demandé comment l'entreprise en était venue à utiliser une blockchain Ethereum autorisée en 2017 pour son travail d'analyse, Zoldi a expliqué qu'il avait eu des conversations avec des banques à cette époque. Il a appris que quelque chose de l'ordre de 70 à 80 % de tous les modèles d'IA en cours de développement n'a jamais été mis en production.

Des milliards et des milliards : comment les marques font passer la blockchain de la niche à la normale

Les règles "étranges" de Tim Draper pour investir dans le succès

L'un des principaux problèmes était que les scientifiques des données, même au sein d'une même organisation, construisaient des modèles de différentes manières. Beaucoup échouaient également aux contrôles de gouvernance une fois les modèles terminés. Un test post hoc pourrait révéler qu'un outil de détection de fraude alimenté par l'IA discriminait par inadvertance certains groupes ethniques, par exemple.

"Il devait y avoir un meilleur moyen", se souvient Zoldi, que de demander à "Sally" de construire un modèle et de découvrir six mois plus tard - après avoir déjà quitté l'entreprise - qu'elle n'a pas enregistré correctement les informations "ou qu'elle n'a pas suivi les protocoles de gouvernance appropriés pour la banque".

FICO a entrepris de développer une norme de gouvernance responsable de l'IA qui a utilisé une blockchain pour l'appliquer. Les développeurs devaient être informés à l'avance des algorithmes qui pourraient être utilisés, des protocoles de tests d'éthique à suivre, des seuils pour les modèles impartiaux et des autres processus requis.

Pendant ce temps, la blockchain enregistre l'intégralité du parcours dans chaque développement de modèle, y compris les erreurs, les correctifs et les innovations. "Ainsi, pour chaque scientifique qui développe un modèle, un autre vérifie le travail et un troisième approuve que tout a été fait de manière appropriée. Trois scientifiques ont examiné le travail et vérifié qu'il respecte la norme", explique Zoldi.

Qu'en est-il des problèmes de mise à l'échelle souvent cités de la blockchain ? Est-ce que tout tient sur un seul grand livre numérique ? "Ce n'est pas vraiment un problème. Nous stockerons [sur la blockchain] un hachage de - disons, un actif logiciel - mais l'actif logiciel lui-même sera stocké ailleurs, dans quelque chose d'autre comme un référentiel git. Nous n'avons littéralement pas besoin de mettre 10 mégaoctets de données sur la blockchain."

Les développeurs commerciaux seraient bien servis pour tenir compte d'expériences comme celles de FICO, car les dirigeants politiques prennent clairement conscience des risques présentés par l'IA. "Le secteur privé a la responsabilité éthique, morale et légale d'assurer la sûreté et la sécurité de ses produits", a déclaré le vice-président américain Kamala Harris dans un communiqué. "Et chaque entreprise doit se conformer aux lois existantes pour protéger le peuple américain."

Les préoccupations sont également mondiales. Comme l'a déclaré le responsable de l'UE à Magazine, "Pour garantir que l'IA est bénéfique pour la société, nous avons besoin d'une approche à deux volets : premièrement, des recherches supplémentaires dans le domaine de l'IA digne de confiance sont nécessaires pour améliorer la technologie elle-même, en la rendant transparente, compréhensible, précise, sûre et respectueuse de la vie privée et des valeurs. Deuxièmement, une réglementation appropriée des modèles d'IA doit être établie pour garantir leur utilisation responsable et éthique, comme nous le proposons dans la loi [UE] sur l'IA."

Le secteur privé devrait peser les avantages de l'autorégulation. Cela pourrait s'avérer une aubaine pour les développeurs d'une entreprise, d'une part. Les scientifiques des données ont parfois l'impression d'avoir été placés dans une situation difficile, dit Zoldi. "L'éthique de la façon dont ils construisent leurs modèles et les normes utilisées ne sont souvent pas précisées" - et cela les met mal à l'aise.

Les fabricants d'appareils d'IA ne veulent pas faire de mal aux gens, mais ils ne disposent souvent pas des outils nécessaires pour s'assurer que cela ne se produise pas. Une blockchain peut aider, même si, en fin de compte, il peut s'agir de l'un des nombreux garde-fous autorégulateurs ou juridictionnels qui doivent être utilisés pour assurer un avenir fiable à l'IA.

"Vous parlez à des experts et ils disent:" Nous sommes assez intelligents pour pouvoir générer cette technologie. Nous ne sommes pas assez intelligents pour pouvoir la réglementer, la comprendre ou l'expliquer "- et c'est très effrayant ", a déclaré Zoldi à Magazine.

Dans l'ensemble, le potentiel de la blockchain pour soutenir une IA responsable n'est pas encore largement reconnu, mais cela pourrait bientôt changer. Certains, comme Anthony Day, parient même là-dessus : "Je ne suis pas sûr que la blockchain sauvera vraiment le monde, mais je suis certain qu'elle peut sauver l'IA."

Adresse e-mail

S'ABONNER

Gagner 500 % des conseils boursiers ChatGPT ? Bard se penche à gauche, 100 millions de dollars AI memecoin: AI Eye

3,4 milliards de dollars de Bitcoin dans une boîte de pop-corn : l'histoire du hacker de Silk Road

Les meilleurs et les pires pays pour les taxes cryptographiques – ainsi que des conseils fiscaux cryptographiques

L'avocat pro-XRP John Deaton "10x plus dans BTC, 4x plus dans ETH": Hall of Flame

Voici comment les cumuls ZK d'Ethereum peuvent devenir interopérables