« Le 30 octobre, le président américain, Joe Biden, a dévoilé les grandes lignes d’un décret “qui exige une évaluation des problèmes de sécurité, des directives concernant l’égalité et les droits civiques et une étude des répercussions de l’IA sur le marché du travail”. Il entend ainsi s’inscrire dans le vaste mouvement autour de la régulation étatique de l’intelligence artificielle. Sur la nécessité de réguler l’IA, tout le monde est d’accord /…/ Mais aux États-Unis, en Europe et en Chine, les approches divergent. Et personne ne sait comment s’y prendre pour harmoniser les points de vue ».

Ce que l’on constate, c’est que tout le monde s’affole. L’homo sapiens s’aperçoit qu’il vient de créer un outil dont les possibilités risquent de se retourner contre lui. Il a ouvert une boite de Pandore, et il est démuni devant ce qui peut en sortir. Le paradoxe est que ce qui peut en sortir n'est que ce qu’il a mis dedans, il a mis les ingrédients, et la machine en fait un plat. Mais l’homo sapiens a ses faiblesses et s’il met dans la machine de mauvais ingrédients quel goût aura le plat et pourrait-il contenir un poison ?

Une étude menée par Lucia Vicente et Helena Matute, du département de psychologie de l'Université de Deusto (Bilbao, Espagne) a été publiée dans la revue Scientific Reports et montre que des biais introduits volontairement dans les algorithmes (mais ils peuvent être involontaires lors de leur création) vont induire des erreurs que les médecins continueront à commettre lorsqu’ils ne se serviront plus de l’assistance de l’IA.

Les auteurs de l’étude ont demandé à des étudiants en psychologie de faire un diagnostic médical : ils devaient identifier, à partir d'échantillons tissulaires et de leurs colorations, les patients potentiellement atteints d'une maladie fictive spécifique. Le groupe assisté par l’IA a commis les erreurs qui avaient été introduites dans la machine, contrairement au groupe qui ne bénéficiait pas de cette assistance. Après désactivation de l’IA, lors de la poursuite des tests, le groupe qui avait été assisté par l’IA a continué à se tromper en ayant en quelque sorte hérité du « raisonnement » défectueux de la machine. Cette opération a été répétée trois fois sur des groupes différents avec les mêmes résultats.

« Pour les chercheuses, ces résultats prouvent que les humains héritent des biais de l'IA et que des informations biaisées provenant de l'IA peuvent avoir un impact négatif sur les décisions humaines dans des secteurs critiques tels que la médecine. De plus, cette influence pourrait persister à long terme. ».

Les professeurs ne vont peut-être pas disparaître.

Illustration : John William Waterhouse "Pandore"