Nach Erhalt von KI-Ratschlägen sinkt die Antwortgenauigkeit von 27 % auf katastrophale 9 %. Gleichzeitig steigt das Selbstvertrauen von 30 % auf 76 %.
Das sind die realen Daten einer gerade auf arXiv veröffentlichten Peer-Review-Studie [1], durchgeführt von Wissenschaftlern dreier französischer und italienischer Universitäten.
Der Titel der Studie ist lang: AI advice suppresses people’s willingness to say “I don’t know”, even when the advice is wrong and accuracy is incentivized. Fünf Experimente, 3.132 Teilnehmer – und ein beunruhigendes Fazit: KI hilft nicht nur bei der Antwortfindung, sie untergräbt systematisch unsere Fähigkeit zu erkennen, was wir nicht wissen.
Eine ausgeklügelte Falle
Die Forscher verwendeten keine allgemeinen Wissensfragen. Sie wählten bewusst einen Bereich, in dem KI-Modelle besonders anfällig für Fehler sind – visuelle Details aus Filmszenen. Zum Beispiel: „Welche Farbe haben die Trikots im Film Beckham?” Eingesetzt wurde das Modell Step 3.5 Flash, das bei solchen Fragen überwiegend falsch lag.
Das hatte Methode.
Wenn die KI überwiegend korrekte Antworten liefert, ist eine Leistungssteigerung der Probanden trivial – dann untersucht man nur, ob das Werkzeug nützlich ist. Indem die Forscher die KI aber bewusst falsche Antworten geben ließen, konnten sie zeigen, dass das eigentliche Problem in der menschlichen Urteilsfähigkeit liegt – nicht in der KI-Leistung.
Das Ergebnis ist erschütternd.
Ohne KI sagten 44 % der Teilnehmer „Ich weiß es nicht”, wenn sie unsicher waren. Sobald ein KI-Vorschlag auf dem Bildschirm erschien – selbst wenn er nicht aktiv angefordert wurde – fiel dieser Anteil auf 3 %. Die Genauigkeit sank von 27 % auf 9 %. Das Selbstvertrauen dagegen stieg von 30 % auf 76 %.
Valerio Capraro, außerordentlicher Professor an der Universität Mailand-Bicocca und Koautor der Studie, fasst es präzise zusammen: „Die Leistung der Menschen wird drastisch schlechter – nur noch ein Drittel der ursprünglichen Genauigkeit –, aber ihr Selbstvertrauen verdoppelt sich.”
Mit anderen Worten: KI lässt dich nicht nur mehr Fehler machen, sondern macht dich auch noch überzeugter von deinen Fehlern.
Nicht einmal Geld kann helfen
Die Forscher testeten auch finanzielle Anreize – Bonuszahlungen für richtige Antworten, Abzüge für falsche. Würde das die Menschen rationaler handeln lassen?
Der Effekt war marginal: Die Bereitschaft, „Ich weiß nicht” zu sagen, stieg von 3 % auf 8 %, die Genauigkeit von 9 % auf 16 %. Beide Werte liegen immer noch weit unter den 44 % und 27 %, die ohne KI erreicht wurden.
Selbst bares Geld kann den „Halo-Effekt” der KI nicht durchbrechen. Das ist besonders relevant für Arbeitsumgebungen, in denen KI bereits für kritische Entscheidungen eingesetzt wird – finanzielle Anreize allein schützen nicht vor blindem Vertrauen in fehlerhafte KI-Ratschläge.
„Cognitive Surrender”: Ein sich ausbreitendes Phänomen
Dies ist nicht die erste Studie, die dieses Problem identifiziert. Bereits Anfang des Jahres prägten die Wharton-Forscher Steven D. Shaw und Gideon Nave den präzisen Begriff „Cognitive Surrender” (kognitive Kapitulation).
Ihre Experimente zeigten, dass Menschen mit einer Wahrscheinlichkeit von 73 % bis 80 % direkt die Antworten der KI übernehmen – selbst wenn diese falsch sind. Noch erschreckender: Diejenigen, die „kognitiv kapitulieren”, sind selbstbewusster als diejenigen, die selbstständig denken. Sie sind „selbstbewusst falsch”.
Die Wharton-Forscher unterteilen das menschliche Denken in drei Ebenen: das intuitive System (schnelles Denken), das rationale System (langsames Denken) – und eine dritte Ebene im Umgang mit KI: Cognitive Surrender. In dieser Stufe denkt der Mensch weder intuitiv noch rational, sondern übernimmt die KI-Ausgabe ungeprüft als eigenes Urteil.
Es handelt sich um eine tiefgreifende kognitive Verschiebung: Man merkt nicht einmal, dass man aufgehört hat zu denken.
Wo liegt das Problem – bei der KI oder beim Nutzer?
Stellt sich die Frage: Liegt es an der KI selbst oder an der Art, wie wir sie nutzen?
Optimisten würden sagen: Die aktuelle KI ist noch nicht perfekt. Sobald die Modelle genauer werden, steigt auch die menschliche Korrektheit. Wer sich bewusst macht, dass KI Fehler machen kann, kann blindes Vertrauen vermeiden.
Dieses Argument hat seine Berechtigung – die KI im Experiment gab tatsächlich falsche Antworten. Doch der entscheidende Punkt ist, dass die bloße Anwesenheit der KI den kognitiven Zustand des Menschen verändert.
Ohne KI aktiviert der Mensch sein eigenes Wissen, seine Erfahrung und Logik. Selbst wenn die Antwort falsch ist, ist es ein „Fehler nach eigenem Denken”. Mit KI wird der Denkprozess komplett umgangen. Noch beängstigender: Die Menschen merken nicht einmal, dass sie ihn umgangen haben – dafür sind sie viel zu selbstbewusst.
Die Studie entdeckte einen noch subtileren Mechanismus: Selbst wenn der KI-Vorschlag nur „nebenbei” angezeigt wird, ohne dass man aktiv danach sucht, geben die Menschen unbewusst ihr eigenes Urteil auf. Das verweist auf ein zentrales Designprinzip moderner Technologie: KI-Produkte sind darauf ausgelegt, „immer eine Antwort zu haben”, nicht „manchmal zu sagen, dass man etwas nicht weiß”.
Googles KI-Suche ersetzt Links durch selbstbewusste KI-Zusammenfassungen – Common Sense Media stufte diese diese Woche als „inakzeptables Risiko” für Schüler ein. ChatGPT, Claude, Copilot – keine KI sagt „Ich bin mir nicht sicher”.
Wenn „immer richtig” zur Standardhaltung eines Produkts wird, werden wir als Nutzer unbemerkt darauf trainiert, ebenfalls „niemals zu hinterfragen”.
Die größte Sorge: Kinder
Capraro hob besonders eine Gruppe hervor – Kinder.
„Bei Kindern, deren kritisches Denken noch nicht vollständig entwickelt ist, könnten die Folgen weitreichender sein”, sagte er.
Stellen Sie sich vor: Ein Kind, das gerade lernt, wie man lernt, gewöhnt sich von Anfang an daran, dass die KI die Antwort liefert. Wann wird es lernen, den Moment zu erkennen, in dem es „Ich weiß nicht” sagen muss? Genau dieser Moment – zu wissen, was man nicht weiß – ist der Ausgangspunkt intellektuellen Wachstums.
Was können wir tun?
Um es klarzustellen: Dieser Artikel will nicht dazu auffordern, KI nie wieder zu nutzen. KI ist ein mächtiges Werkzeug, wie ein Taschenrechner oder eine Suchmaschine.
Das Problem ist: Ein Taschenrechner trifft keine Entscheidungen für dich. Eine Suchmaschine hält dich nicht davon ab, weiterzusuchen. Die heutige KI hingegen liefert direkt die „endgültige Antwort” und überspringt dabei den gesamten Denkprozess.
Die Empfehlungen der Forscher sind einfach – aber schwer umzusetzen:
Erstens: Disziplin des „erst selbst denken”. Bevor du die KI fragst, versuche, die Antwort selbst zu formulieren. Selbst wenn du nur 50 % beantworten kannst, ist das wertvoller, als sofort die Lösung zu lesen.
Zweitens: KI als „Herausforderer” betrachten, nicht als „Antwortmaschine”. Suche aktiv nach Stellen, an denen die KI falsch liegen könnte, anstatt zu überprüfen, wie richtig sie liegt.
Drittens: Sei misstrauisch gegenüber der „Selbstsicherheit” der KI. Je bestimmter der Ton der KI ist, desto skeptischer solltest du sein. Sprachliche Flüssigkeit und faktische Korrektheit sind nicht dasselbe.
Viertens: Schütze besonders das eigenständige Denken von Kindern. Schränke die Nutzung von KI ein, bevor sie kritisches Denken entwickelt haben – oder nutze sie nur unter Anleitung eines Erwachsenen.
Eine tiefere Frage
Wharton-Forscher Shaw schrieb in einem Artikel: „Die gefährlichste Seite des Cognitive Surrender ist, dass KI Gedanken ersetzt, die der Mensch bereits hatte, aber noch nicht ausgesprochen hat.”
Wenn die KI die Entscheidung für dich trifft, verlierst du die Chance zu entdecken, dass du falsch liegst – und das könnte gefährlicher sein, als eine richtige Antwort zu verpassen.
Und das ist vielleicht die letzte Bastion eigenständigen Denkens.
Quellen:
[1] Marcoccia, Quattrociocchi, Capraro. “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized.” arXiv:2607.13562, July 2026.
[2] Shaw & Nave. “Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender.” Wharton School, University of Pennsylvania, February 2026.
[3] TNW: AI advice made people three times less accurate but twice as confident, researchers found
[4] The Register: Using AI makes people less likely to admit they don’t know something
[5] Hacker News Discussion: AI advice made people 3x less accurate but 2x confident, researchers found
