Après avoir reçu des conseils de l’IA, le taux de bonnes réponses des participants chute de 27 % à 9 %. Mais dans le même temps, leur confiance en eux passe de 30 % à 76 %.
Ce sont les données réelles d’une étude évaluée par les pairs, publiée sur arXiv[1], qui viennent d’être dévoilées.
Le titre de l’article est long : AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized. Des chercheurs de trois universités françaises et italiennes ont conçu cinq expériences impliquant 3 132 participants, aboutissant à une conclusion troublante : l’IA ne se contente pas de vous aider à trouver des réponses — elle affaiblit systématiquement votre capacité à reconnaître ce que vous ne savez pas.
Un piège savamment conçu
Les chercheurs n’ont pas utilisé les classiques questions de culture générale. Ils ont délibérément choisi le domaine où les modèles d’IA commettent le plus d’erreurs : les détails visuels de scènes de films. Par exemple : « De quelle couleur est le maillot de l’équipe dans Joue-la comme Beckham ? » Le modèle utilisé était Step 3.5 Flash, qui se trompe sur la quasi-totalité de ces questions.
Ce choix n’est pas anodin.
Si l’IA donnait des réponses correctes, l’amélioration des performances serait naturelle — on étudierait simplement « l’utilité d’un outil ». Mais en faisant délibérément donner de mauvaises réponses à l’IA, les chercheurs pouvaient observer si les humains les acceptaient sans les remettre en question, révélant ainsi un problème de jugement humain — et non de compétence de l’IA.
Les résultats sont édifiants.
Sans l’aide de l’IA, 44 % des participants disaient « Je ne sais pas » en cas d’incertitude. Dès que le conseil de l’IA apparaissait à l’écran — même sans demande active — ce chiffre tombait à 3 %. Le taux de précision passait de 27 % à 9 %, tandis que la confiance grimpait de 30 % à 76 %.
Valerio Capraro, professeur associé à l’Université de Milan-Bicocca et co-auteur de l’étude, résume : « Les performances des participants deviennent catastrophiques — leur précision tombe au tiers, mais leur confiance double. »
Autrement dit, l’IA vous fait faire plus d’erreurs, tout en vous rendant plus certain de vos erreurs.
Même l’argent n’y change rien
Les chercheurs ont également testé l’effet des incitations monétaires — si une prime attend ceux qui répondent juste et une pénalité ceux qui se trompent, les participants deviennent-ils plus rationnels ?
L’effet est modeste : la proportion de « Je ne sais pas » est passée de 3 % à 8 %, et la précision de 9 % à 16 %. Mais ces chiffres restent très loin des 44 % et 27 % observés sans IA.
Même avec de l’argent en jeu, les participants peinent à résister à « l’effet de halo » de l’IA. Cette conclusion est particulièrement importante pour le monde professionnel — de nombreuses entreprises utilisent déjà l’IA pour des décisions critiques, mais les incitations financières ne suffisent pas à prévenir la soumission aveugle aux mauvais conseils de l’IA.
« Reddition cognitive » : un phénomène qui s’étend
Ce n’est pas la première étude à identifier ce problème. Plus tôt cette année, les chercheurs Steven D. Shaw et Gideon Nave de la Wharton School ont proposé un concept précis — la « reddition cognitive » (Cognitive Surrender).
Leurs expériences montrent que les participants acceptent les réponses de l’IA dans 73 % à 80 % des cas — même lorsque ces réponses sont erronées. Plus frappant encore, ceux qui pratiquent la « reddition cognitive » sont plus confiants que ceux qui pensent par eux-mêmes. Ils ont « tort avec une confiance absolue ».
Les chercheurs de Wharton décrivent trois strates du système cognitif humain : le système intuitif (pensée rapide), le système rationnel (pensée lente), et une troisième strate face à l’IA — la « reddition cognitive ». À ce niveau, l’individu n’utilise ni l’intuition ni le raisonnement : il prend directement la sortie de l’IA pour son propre jugement.
C’est un transfert cognitif profond : vous ne réalisez même pas que vous avez cessé de réfléchir.
Où se situe le problème ? Dans la conception de l’IA ou dans son utilisation ?
La question se pose : est-ce un défaut de l’IA elle-même, ou une mauvaise utilisation de la part des humains ?
Les optimistes diront que ce n’est qu’un problème temporaire : quand les modèles deviendront plus précis, les performances humaines suivront naturellement. Et si l’on se rappelle activement que « l’IA peut se tromper », on peut éviter la soumission aveugle.
Cet argument tient — dans l’expérience, l’IA donnait effectivement de mauvaises réponses. Mais le problème fondamental est que l’IA elle-même modifie l’état cognitif de l’utilisateur.
Sans IA, les gens mobilisent leurs connaissances, leur expérience et leur logique pour juger. Même s’ils se trompent, c’est « une erreur après avoir réfléchi ». Avec l’IA, ils contournent directement ce processus de réflexion. Plus inquiétant encore : ils ne se rendent même pas compte qu’ils le contournent, car ils sont parfaitement confiants dans leurs réponses.
L’étude révèle un mécanisme plus subtil encore : même lorsque le conseil de l’IA est simplement « affiché à côté » sans être sollicité, les gens abandonnent inconsciemment leur propre jugement. Cela pointe du doigt une logique centrale du design technologique moderne : les produits d’IA sont conçus pour « avoir toujours une réponse », jamais pour « dire parfois je ne sais pas ».
Google Search remplace les liens par des résumés d’IA superbement confiants, que Common Sense Media a qualifiés cette semaine de « risque inacceptable » pour les étudiants. ChatGPT, Claude, Copilot — aucun IA ne dit « Je ne suis pas sûr ».
Quand la posture par défaut du produit est « toujours juste », nous, utilisateurs, sommes entraînés sans le savoir à adopter le mode « ne jamais remettre en question ».
La plus grande inquiétude : les enfants
Capraro évoque particulièrement un groupe — les enfants.
« Pour les enfants, dont la pensée critique n’est pas encore pleinement développée, l’exposition à ces systèmes pourrait avoir des conséquences plus profondes », dit-il.
Imaginez un enfant qui apprend « comment apprendre ». S’il s’habitue dès le départ à laisser l’IA lui fournir les réponses, quand apprendra-t-il à reconnaître les moments où il « ne sait pas » ? Or, « savoir qu’on ne sait pas » est précisément le point de départ de la croissance intellectuelle humaine.
Que faire ?
Précisons une chose : le but de cet article n’est pas de vous inciter à ne plus utiliser l’IA. L’IA est un outil puissant, comme la calculatrice ou le moteur de recherche.
Mais la différence, c’est que la calculatrice ne prend pas de décision à votre place, et le moteur de recherche ne décide pas pour vous que « cela suffit ». L’IA, elle, fournit directement une « réponse finale », court-circuitant tout le processus de réflexion intermédiaire.
Les recommandations des chercheurs sont simples en théorie, mais difficiles à appliquer :
Premièrement, instaurer une discipline de « réflexion personnelle préalable ». Avant d’interroger l’IA, essayez de répondre par vous-même. Même si vous n’obtenez que 50 % de la réponse, cela a plus de valeur que de lire directement la réponse.
Deuxièmement, considérez l’IA comme un « challenger » plutôt qu’un « distributeur de réponses ». Cherchez activement les endroits où l’IA pourrait se tromper, plutôt que de vérifier à quel point elle a raison.
Troisièmement, méfiez-vous de la « confiance » affichée par l’IA. Plus le ton de l’IA est affirmatif, plus vous devez être sceptique. La fluidité linguistique d’un modèle et sa précision factuelle n’ont aucun lien de corrélation.
Quatrièmement, protégez particulièrement la réflexion indépendante des enfants. Avant qu’ils aient développé leur pensée critique, limitez leur utilisation des outils d’IA, ou assurez une supervision adulte constante.
Une question plus profonde
Shaw, le chercheur de Wharton, écrit dans un article : « Le plus dangereux dans la reddition cognitive, c’est que l’IA remplace les pensées que vous alliez exprimer, mais que vous n’avez pas encore formulées. »
Quand l’IA prend une décision à votre place, vous perdez l’opportunité de découvrir que « vous vous êtes trompé » — et cela pourrait être bien plus dangereux que de manquer une bonne réponse.
Et c’est peut-être la dernière ligne de défense de la pensée indépendante.
Références :
[1] Marcoccia, Quattrociocchi, Capraro. “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized.” arXiv:2607.13562, July 2026.
[2] Shaw & Nave. “Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender.” Wharton School, University of Pennsylvania, February 2026.
[3] TNW : AI advice made people three times less accurate but twice as confident, researchers found
[4] The Register : Using AI makes people less likely to admit they don’t know something
[5] Discussion Hacker News : AI advice made people 3x less accurate but 2x confident, researchers found
