AIのアドバイスを得た後、人間が質問に正答する確率は27%から9%に急落した。その一方で、自信は30%から76%に急上昇した。
これはarXivプレプリントに掲載された査読付き研究[1]が示した衝撃的な数字である。
論文タイトルは「AIアドバイスは、アドバイスが間違っていて正確性にインセンティブが与えられている場合でも、「わからない」と言う人々の意欲を抑制する（AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized）」。フランスとイタリアの3大学の研究者が5つの実験を設計し、合計3,132人の参加者を集めて、不穏な結論を導き出した。AIは単に答えを見つける手助けをするだけでなく、「自分が何を知らないか」を認識する能力を組織的に弱めているのである。
巧妙に仕組まれた罠
研究者たちは一般的な百科事典クイズを使わなかった。彼らは意図的に、AIモデルが最も間違いやすい分野——映画のシーンの視覚的な詳細——を選んだ。例えば「『ベッカムに恋して』でチームのユニフォームは何色か？」といった問題だ。使用されたモデルはStep 3.5 Flashで、これらの問題に対しては基本的に間違った答えを出す。
この設計には理由がある。
AIの答えが高い正解率なら、人間のパフォーマンスが向上するのは当然であり、それは単に「ツールの有用性」を研究しているに過ぎない。しかし研究者が意図的にAIに誤った答えを出させたにもかかわらず、人間がそれを疑わずに受け入れてしまうなら、問題はAIの能力ではなく人間の判断力そのものにあることが明らかになる。
結果は衝撃的だった。
AIの助けがない場合、44%の参加者は不確かな時に「わからない」と答えた。しかしAIのアドバイスが画面上に表示されると——たとえ自発的にリクエストしたわけではなく、ただ表示されているだけでも——その数字は3%に急落した。正答率は27%から9%に低下。自信度は30%から76%に上昇した。
研究者の一人でミラノ・ビコッカ大学准教授のValerio Capraro氏は簡潔に総括している：「人間のパフォーマンスは著しく悪化し、正答率は3分の1になったが、自信は2倍になった。」
つまりAIは、あなたの誤りを増やすだけでなく、その誤りに対する確信までも強めているのである。
金銭的インセンティブでも救えない
研究者は「金銭的インセンティブ」の効果も検証した——正解にボーナス、不正解に罰金があれば、人間はより合理的に行動できるのか？
効果はわずかにあった。「わからない」と言う人が3%から8%に回復し、正答率は9%から16%に上昇した。しかしこれらの数字は、AIがない場合の44%と27%にははるかに及ばない。
言い換えれば、実際の金銭がかかっていても、人間はAIの「ハロー効果」に抗うのが難しいのである。この結論は職場において特に重要だ——多くの企業がすでにAIを重要な意思決定に活用し始めているが、金銭的インセンティブだけでは誤ったAIアドバイスへの盲従を効果的に防げないことを示している。
「認知の降伏」：蔓延する現象
これはこの問題を発見した最初の研究ではない。今年初め、ウォートン・スクール（Wharton）の研究者Steven D. Shaw氏とGideon Nave氏は、**「認知の降伏（Cognitive Surrender）」**という的確な概念を提唱した。
彼らの実験では、AIが提示した答えに対して人間が73%から80%の確率でそのまま受け入れることが明らかになった——たとえそれらの答えが間違っていても。さらに驚くべきことに、「認知の降伏」を選択した人は、自分で考えた人よりもむしろ自信過剰だった。彼らは「自信満々で誤っている」のである。
ウォートンの研究者は人間の認知システムを3層に分類している：直感システム（速い思考）、理性システム（遅い思考）、そしてAIに直面した時の第3層——「認知の降伏」。この層では、人間は直感も理性も使わず、AIの出力をそのまま自分の判断として受け入れる。
これはより深いレベルの認知の委譲である——自分が考えることを放棄したことすら認識していないのだ。
バイアスはどこにあるのか？——AIを設計する側と使う側
問題はここにある：これはAI自体の欠陥なのか、それとも人間のAIの使い方の問題なのか？
楽観論者はこう言うだろう：これは現在のAIがまだ不完全だからに過ぎない。将来モデルの精度が向上すれば、人間の正答率も自然に上がる。そして人間が「AIは間違うかもしれない」と自ら注意すれば、盲従は避けられる。
この見方には一理ある——確かに実験ではAIは誤った答えを出している。しかし重要なのは、AIの出現そのものが人間の認知状態を変えたという点だ。
AIがない場合、人間は自分の知識、経験、論理を駆使して判断する。たとえ間違えても、「考えた末の誤り」である。AIがある場合、人間はこの思考プロセスを完全にすっ飛ばす。さらに恐ろしいのは、自分がすっ飛ばしたことすら自覚していない点だ——自分が出した答えに完全な自信を持っているからだ。
研究ではさらに微妙なメカニズムも明らかになった：AIのアドバイスがただ「横に表示されている」だけで、積極的に調べる必要すらない場合でも、人間は無意識に自分の判断を放棄してしまう。これは現代テクノロジーの核心的な設計思想を指し示している：AI製品は「常に答えを持つ」ように設計されており、「時にはわからないと言う」ようには設計されていないのだ。
GoogleのAI検索はリンクを自信満々のAIサマリーに置き換え、Common Sense Mediaは今週、これを学生にとって「許容できないリスク」と位置づけた。ChatGPT、Claude、Copilot——どのAIも「確かではありません」とは言わない。
「常に正しい」ことが製品のデフォルトの姿勢になるとき、その利用者である私たちも、知らず知らずのうちに「常に疑わない」モードに訓練されていく。
最も懸念されること：子どもたち
Capraro氏は特にある集団——子ども——に言及した。
「批判的思考能力がまだ完全に発達していない段階でこれらのシステムに触れることは、より深刻な結果をもたらす可能性があります」と彼は述べている。
考えてみてほしい——「学び方」を学んでいる最中の子どもが、最初からAIに答えを出してもらうことに慣れてしまったら、いつ「自分が知らない」という瞬間を認識できるようになるのだろうか？そして「自分が知らないことを知る」ことこそが、人間の知的成長の出発点なのである。
どうすればいいのか？
ここで一つ明確にしておきたい：この記事の目的はAIを使うなと言うことではない。AIは確かに強力なツールであり、電卓や検索エンジンと同じように。
しかし問題は、電卓はあなたの代わりに意思決定をしないし、検索エンジンは「これで十分だ」とは思わせない。ところが現在のAIは、中間の思考プロセスをすべてすっ飛ばして「最終的な答え」を直接提示する。
研究者たちのアドバイスは実はシンプルだが、実行は難しい：
第一に、「先に自分で考える」習慣を身につけること。 AIに頼る前に、自分で答えてみる。たとえ50%しか答えられなくても、すぐに答えを見るよりはるかに価値がある。
第二に、AIを「回答機」ではなく「挑戦者」として扱うこと。 AIが正しいことを確認するのではなく、AIが間違っているかもしれない場所を能動的に探す。
第三に、AIの「自信」に警戒すること。 AIの語調が確信的であればあるほど、疑うべきである。モデルの言語流暢性と事実の正確性の間には必然的な関連性はない。
第四に、特に子どもの独立した思考を守ること。 批判的思考能力が構築されるまでは、AIツールの使用を制限するか、常に大人のガイドのもとで使用する。
より深い問い
ウォートンの研究者Shaw氏はある記事でこう書いている：「認知の降伏が最も危険なのは、AIが人間が考えたけれどまだ言葉にしていないアイデアを横取りすることだ。」
AIがあなたの代わりに決定を下したその瞬間、あなたは「自分が間違っていた」と気づく機会を失う——そしてそれは、正しい答えを逃すことよりも危険かもしれない。
そしてこれこそが、独立した思考の最後の防衛線なのかもしれない。
参考資料：
[1] Marcoccia, Quattrociocchi, Capraro. “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized.” arXiv:2607.13562, July 2026.
[2] Shaw & Nave. “Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender.” Wharton School, University of Pennsylvania, February 2026.
[3] TNW報道：AI advice made people three times less accurate but twice as confident, researchers found
[4] The Register報道：Using AI makes people less likely to admit they don’t know something
[5] Hacker News議論：AI advice made people 3x less accurate but 2x confident, researchers found
