467. Se méfier de l’assistanat
Ce que l’on constate, c’est que tout le monde s’affole. L’homo sapiens s’aperçoit qu’il vient de créer un outil dont les possibilités risquent de se retourner contre lui. Il a ouvert une boite de Pandore, et il est démuni devant ce qui peut en sortir. Le paradoxe est que ce qui peut en sortir n'est que ce qu’il a mis dedans, il a mis les ingrédients, et la machine en fait un plat. Mais l’homo sapiens a ses faiblesses et s’il met dans la machine de mauvais ingrédients quel goût aura le plat et pourrait-il contenir un poison ?
Une étude menée par Lucia Vicente et Helena Matute, du département de psychologie de l'Université de Deusto (Bilbao, Espagne) a été publiée dans la revue Scientific Reports et montre que des biais introduits volontairement dans les algorithmes (mais ils peuvent être involontaires lors de leur création) vont induire des erreurs que les médecins continueront à commettre lorsqu’ils ne se serviront plus de l’assistance de l’IA.
Les auteurs de l’étude ont demandé à des étudiants en psychologie de faire un diagnostic médical : ils devaient identifier, à partir d'échantillons tissulaires et de leurs colorations, les patients potentiellement atteints d'une maladie fictive spécifique. Le groupe assisté par l’IA a commis les erreurs qui avaient été introduites dans la machine, contrairement au groupe qui ne bénéficiait pas de cette assistance. Après désactivation de l’IA, lors de la poursuite des tests, le groupe qui avait été assisté par l’IA a continué à se tromper en ayant en quelque sorte hérité du « raisonnement » défectueux de la machine. Cette opération a été répétée trois fois sur des groupes différents avec les mêmes résultats.
« Pour les chercheuses, ces résultats prouvent que les humains héritent des biais de l'IA et que des informations biaisées provenant de l'IA peuvent avoir un impact négatif sur les décisions humaines dans des secteurs critiques tels que la médecine. De plus, cette influence pourrait persister à long terme. ».
Les professeurs ne vont peut-être pas disparaître.
Illustration : John William Waterhouse "Pandore"







