Plus vous faites confiance à l’IA, moins vous vérifiez

Dans environ quatre cas sur dix, des personnes suivent une recommandation de l’IA alors même que l’erreur pourrait être repérée. C’est ce que suggère une étude publiée en 2026 dans Scientific Reports. Les chercheurs ont demandé à 295 participants de juger si des visages étaient réels ou générés par IA. La moitié recevait une aide présentée comme issue d’un système d’IA, alors que cette aide n’était correcte qu’une fois sur deux. Le résultat le plus troublant n’est pas seulement le suivi de la mauvaise indication. C’est le fait que les participants les plus favorables à l’IA aient été moins performants pour distinguer l’erreur de la bonne réponse.

Autrement dit, le sujet ne se limite pas aux faiblesses d’un outil. Il concerne aussi la manière dont le jugement humain se reconfigure dès qu’une réponse arrive déjà formatée, plausible et apparemment neutre. La recommandation ne fonctionne plus comme une hypothèse à examiner, mais comme un point d’appui psychologique.

Le problème ne commence pas par l’erreur

Ce mécanisme porte un nom: le biais d’automatisation. Il désigne la tendance à accorder trop de crédit à une recommandation automatisée, même lorsqu’il existe des raisons sérieuses de la questionner. Le phénomène n’est pas nouveau, mais sa diffusion change tout. Il ne se cantonne plus aux environnements très spécialisés; il s’installe désormais dans les logiciels de travail ordinaires, les assistants génératifs et les interfaces d’aide à la décision.

Un travail expérimental de 2025 mené par la LMU Munich et l’University of Maryland, auprès de 2.784 participants, l’illustre nettement. Les participants devaient extraire des données d’émissions à partir de rapports d’entreprise, avec l’aide de suggestions générées par IA, parfois justes, parfois fausses. Le constat principal est d’une grande portée: l’attitude à l’égard de l’IA prédisait la qualité de la performance mieux que bien d’autres caractéristiques individuelles, tandis que les incitations financières ne montraient pas d’effet cohérent. Les profils les plus sceptiques repéraient davantage d’erreurs; les plus enclins à faire confiance à l’automatisation s’y abandonnaient plus volontiers.

La confiance déforme le contrôle

C’est ici que le sujet devient intellectuellement plus intéressant, et plus inconfortable. On parle souvent de surconfiance comme s’il s’agissait d’un simple relâchement volontaire. Les données invitent à une lecture plus fine. La confiance préalable envers l’IA modifie le seuil à partir duquel on juge nécessaire de vérifier. Plus le système paraît crédible, plus l’esprit économise ses gestes critiques.

L’étude de Lancaster le montre avec une certaine élégance expérimentale. Parmi les personnes exposées à des recommandations attribuées à l’IA, les attitudes les plus positives envers ces technologies étaient associées à une moins bonne discrimination entre visages réels et synthétiques. Lorsque l’aide était attribuée à des humains, la confiance générale envers autrui ne produisait pas le même effet sur la précision. L’IA semble donc bénéficier d’un statut cognitif particulier: elle paraît objective avant même d’avoir démontré qu’elle l’est.

Même l’expertise cède

On pourrait croire qu’une expertise solide protège contre ce glissement. Ce serait exagérer sa force. Une analyse publiée par BrainFacts.org, sous l’égide de la Society for Neuroscience, revient sur une étude en radiologie portant sur la lecture de mammographies. Lorsque l’IA fournissait un résultat erroné, la précision des radiologues peu ou moyennement expérimentés chutait d’environ 80% à près de 22%. Chez les plus expérimentés, elle tombait d’environ 80% à 45%.

La leçon est sévère. Il ne suffit pas de maintenir un expert dans la boucle pour neutraliser les risques. La recommandation algorithmique agit comme une ancre interprétative. Le professionnel continue de voir l’image, certes, mais il ne la voit plus dans un espace de jugement intact. Il la voit après qu’une machine a déjà cadré le plausible.

Quand la vérification devient habitude, elle s’affaiblit

À cela s’ajoute un mécanisme plus lent, moins spectaculaire et peut-être plus dangereux. Une revue systématique publiée dans le Journal of the American Medical Informatics Association montre qu’à mesure que les utilisateurs se familiarisent avec des systèmes automatisés, ils tendent à réduire leurs gestes de vérification. Une confiance mal calibrée accroît la dépendance; la familiarité, elle, peut désensibiliser la vigilance.

Il faut prendre cette dynamique au sérieux, car elle touche à l’apprentissage lui-même. Le risque n’est pas seulement d’accepter une mauvaise sortie aujourd’hui. Il est de perdre, peu à peu, les réflexes qui permettraient d’identifier l’erreur suivante. Dans les ressources humaines, cela peut devenir une sélection paresseuse. En finance, une adhésion quasi automatique à des signaux. En santé, une lecture trop docile d’un outil censé n’être qu’un soutien.

Ce qui réduit réellement le biais d’automatisation

Les travaux disponibles ne pointent pas vers une solution miracle. Ils convergent plutôt vers une idée plus exigeante: il faut réintroduire de la friction là où l’interface vend de la fluidité. Rendre visibles les taux d’erreur, distinguer nettement la suggestion de la décision, imposer une vérification active dans les tâches critiques, et légitimer le désaccord avec la machine constituent des pistes plus sérieuses qu’un simple discours sur l’efficacité.

Il ne s’agit pas de cultiver une hostilité de principe envers l’IA. Il s’agit d’éviter la confusion entre confort cognitif et fiabilité. Car la vraie question n’est pas de savoir si l’IA se trompe. Elle se trompera. La question est de comprendre ce qui arrive à votre jugement lorsque la réponse se présente déjà avec les attributs de l’évidence. C’est là, bien plus que dans la performance brute de l’outil, que se joue le risque contemporain du biais d’automatisation.