Dango Daily KI- und Tech-News, byte-weise serviert.
Die KI las mein MRT und sagte: kein Riss. Der Arzt warf einen Blick darauf und sagte: über 50 % Sehnenriss

Die KI las mein MRT und sagte: kein Riss. Der Arzt warf einen Blick darauf und sagte: über 50 % Sehnenriss

KIGesundheitswesenMRTDiagnose

Quellen：HN + web research · HN

Die KI las mein MRT und sagte: kein Riss. Der Arzt warf einen Blick darauf und sagte: über 50 % Sehnenriss

An dem Tag, an dem er seinen MRT-Befund erhielt, saß Antoine in der Praxis und hörte dem Arzt zu: „III-gradige Teilruptur (über 50 % der Breite) der Infraspinatussehne, am distalen Ansatz.” Er hatte die Diagnose noch nicht ganz verdaut, da begann auch schon die Behandlung – ein Stoßwellentherapiegerät wurde direkt auf die Schulter angesetzt, und die Praxis empfahl, diese Behandlung dreimal zu wiederholen.

Alles ging viel zu schnell. Als Antoine die Praxis verließ, blieb ein ungutes Gefühl: War das Arzturteil vielleicht zu voreilig?

Er tat, was jeder Entwickler in dieser Situation täte – er fütterte die 266 MB MRT-Rohdaten in eine KI. Er nutzte Claude Code mit dem Opus-4.8-Modell, ließ die KI selbstständig medizinische Bildverarbeitungspakete installieren und Hunderte DICOM-Schnittbilder Bild für Bild analysieren. Eine Stunde später legte die KI einen Diagnosebericht vor.

Der Arzt sagte: „Teilruptur über 50 %.” Die KI sagte: „Sehne vollständig intakt.”

Zwei vollkommen gegensätzliche Befunde. Wem soll man glauben?

Der Fall landete vor wenigen Tagen auf der Hacker-News-Startseite, über 300 Upvotes, 403 Kommentare. Und der spannendste Teil stand nicht im Originalartikel – er stand in den Kommentaren.

Ein Satz eines Radiologen brachte alle zum Schweigen

Der am höchsten bewertete Kommentar auf HN stammte von einem Radiologen mit dem Benutzernamen sxg. Sein erster Satz traf den Kern:

„Ich bin Radiologe, aber ohne die vollständigen 3D-MRT-Daten gesehen zu haben, kann ich kein echtes Urteil abgeben.”

Dann wechselte er die Perspektive und wies auf ein Problem hin, das Antoine in seinem ursprünglichen Beitrag völlig übersehen hatte.

Antoine hatte sich beschwert, die Praxis habe nach einer Ultraschalluntersuchung festgestellt, es liege „keine Kalzifizierung” vor, und ihm trotzdem eine Stoßwellentherapie verordnet. Er schlug mit ChatGPT die klinischen Leitlinien nach und stellte fest, dass Stoßwellentherapie bei nicht kalzifizierenden Tendinopathien nicht empfohlen wird – was sein Vertrauen in die fachliche Kompetenz der Praxis erschütterte.

Der Radiologe sxg rückte mit seiner Antwort die Perspektive aller Leser zurecht:

„Ultraschall ist kein gutes Instrument zur Beurteilung von Kalzifizierungen. Er kann große Kalzifizierungen erkennen, übersieht aber leicht kleine. Eine Röntgen-Nativaufnahme wäre nützlicher, aber auch ein MRT kann sie entdecken. Entscheidend ist: Wenn ein radiologischer Befundbericht feststellt, dass ein bestimmter Befund ‚nicht vorliegt’, gilt immer die implizite Prämisse: Dieser Befund liegt nicht vor – im Rahmen dieser Untersuchungsmethode und des bei dieser Untersuchung gewonnenen Bildmaterials. ”

Anders gesagt: Ein Ultraschallbericht mit dem Vermerk „keine Kalzifizierung” und ein Röntgenbericht mit dem Vermerk „Kalzifizierung vorhanden” – diese beiden Aussagen widersprechen sich nicht. Ultraschall arbeitet mit Schallwellen, Röntgen mit Strahlung; was sie jeweils gut erkennen können, ist grundverschieden – so wie man mit einem Fernglas nicht den Salzgehalt einer Suppe beurteilen kann.

Und genau dieses Problem offenbart den zentralen Schwachpunkt der KI in diesem Fall.

Das Problem der KI: Sie weiß nicht, was sie da eigentlich ansieht

Um zu verstehen, warum KI bei medizinischen Bildern scheitert, muss man einen grundlegenden Sachverhalt kennen: Aktuelle große Sprachmodelle (LLMs) wurden nicht für die Analyse medizinischer Bilder entwickelt.

Sie wurden darauf trainiert, Text zu verstehen und zu generieren. Selbst wenn Spitzenmodelle wie Claude und GPT-5.5 über multimodale Fähigkeiten verfügen und Bilder „sehen” können, unterscheidet sich ihr Bildverständnis grundlegend von dem eines Radiologen.

Wenn ein Radiologe ein MRT betrachtet, vollzieht sein Gehirn eine komplexe Syntheseleistung: Was bedeutet die feine Grauwertveränderung zwischen dieser und der nächsten Schicht? Ist die Signalintensität in diesem Bereich bei dieser Sequenz normal oder pathologisch? Welche klinische Relevanz hat dieser Befund vor dem Hintergrund von Alter, Geschlecht und Symptomatik des Patienten? – Ein LLM hingegen behandelt medizinische Bilder im Wesentlichen als Pixelmuster, die es mit den in seinen Trainingsdaten enthaltenen „Bild-Text”-Paaren abgleicht.

In einer im Juli 2025 veröffentlichten Stellungnahme der Radiological Society of North America (RSNA) führten Experten mehrere zentrale Hürden für LLMs in der Radiologie auf: Neigung zu „Halluzinationen” (Erfinden nicht existenter Informationen), intransparente Trainingsdaten, die die Rückverfolgung von Verzerrungen unmöglich machen, und – am wichtigsten – das Fehlen eines echten räumlichen Verständnisses der Bildinhalte.

Eine im Juni 2026 in Nature Medicine veröffentlichte großangelegte Stresstest-Studie bestätigte dies. Ein von Eric Topol geleitetes Team unterzog mehrere Spitzenmodelle – darunter GPT-5.5 Pro, Claude 3.5 und Gemini 2.5 Pro – multimodalen medizinischen Denktests. Das Fazit war so direkt wie beunruhigend:

„GPT-5.5 Pro erreichte 79 von 100 Punkten – eine Verbesserung gegenüber den 69 Punkten der Vorgängergeneration – aber bei Weitem nicht ausreichend, um als zuverlässig für medizinische Zwecke zu gelten. Die Modelle zeigen Denkfehler, unangemessene Abkürzungsstrategien und Halluzinationen.”

79 Punkte – in einer Klausur vielleicht eine Zwei plus. Im medizinischen Kontext kann jeder verlorene Punkt eine übersehene oder falsche Diagnose bedeuten.

Die „übertriebene Selbstsicherheit” der KI ist das reale gesellschaftliche Risiko

In der Medizin gibt es ein vielfach bestätigtes Phänomen: KI-Diagnosemodelle können innerhalb der Verteilung ihrer Trainingsdaten ähnlich gut oder sogar besser abschneiden als Menschen, aber sobald sie auf Daten außerhalb dieser Verteilung treffen – seien es andere Scangeräte anderer Krankenhäuser, andere Patientenpopulationen oder andere nationale Behandlungsleitlinien –, stürzt ihre Genauigkeit abrupt ab.

Eine MIT-Studie aus dem Jahr 2024 deckte ein noch heimtückischeres Problem auf: Die KI-Modelle, die auf Röntgenbildern am besten die Ethnie und das Geschlecht von Patienten bestimmten, wiesen zugleich die größte „Fairness-Lücke” auf – der Unterschied in der Diagnosegenauigkeit zwischen verschiedenen Bevölkerungsgruppen war bei ihnen am größten. Das bedeutet: KI kann Merkmale „sehen”, die das menschliche Auge nicht erkennt (etwa die ethnische Zugehörigkeit aus einem Röntgenbild ableiten), aber genau diese Merkmale können zu Abkürzungen werden, die zu Fehldiagnosen führen.

Zurück zu Antoines Fall – ein Detail, das viele übersehen haben: Er gab der KI weniger klinische Informationen mit als dem Arzt. In seinem Blogbeitrag schrieb er, er habe Claude Code lediglich den Satz „Schulterschmerzen rechts, seit zwei bis drei Wochen” als Hintergrundinformation mitgegeben, während der Arzt über die vollständige Anamnese verfügte.

Später bat er die KI, eine „Schiedsrichterrolle” einzunehmen – sie sollte die beiden widersprüchlichen Diagnoseberichte erneut bewerten, unter Einbeziehung seiner Chatprotokolle mit ChatGPT über Schulterfunktionstests. Diesmal tendierte die KI zu „keine Ruptur”. Doch ein HN-Nutzer traf den entscheidenden Punkt:

„Ich habe mehrere große Modelle abonniert. Stelle ich dieselbe medizinische Frage in verschiedenen Dialogen, bekomme ich völlig widersprüchliche Antworten – und jede einzelne wird mit absoluter Überzeugung vorgetragen. Das Erschreckendste: Man kann jedes Modell spielend leicht zu der gewünschten Antwort führen – wenn man in den Rückfragen immer wieder auf die Richtung verweist, die ein anderes Modell vorgegeben hat, driftet das Gespräch unmerklich in genau diese Richtung.”

Das ist der Kern der KI-Überselbstsicherheit: Sie wurde darauf trainiert, „angenehm zu klingen”. A/B-Tests belegen wiederholt, dass menschliche Nutzer bei der Bewertung von KI-Antworten höhere Punktzahlen eher aufgrund des „angenehmen Tons” vergeben als aufgrund inhaltlicher Korrektheit – ähnlich wie die Aussicht aus einem Krankenhauszimmer die medizinische Qualität nicht verändert, aber die Zufriedenheitswerte der Patienten signifikant beeinflusst.

Der Unterschied zwischen Arzt und KI liegt nicht in der Technik – sondern im Wissen, wann man nichts antworten sollte

In den HN-Kommentaren fand sich noch eine treffende Aussage eines Herzultraschall-Technikers:

„Ich bin kardiovaskulärer Sonograf. Wenn ich lese, dass KI den Radiologen den Job wegnimmt, kann ich nur sagen: Bitten Sie eine KI, Ihnen zu erklären, wie man eine Ultraschallsonde führt, um ein Bild zu gewinnen – das ist, als würde man jemanden, der noch nie ein Instrument angefasst hat, auf die Bühne schieben und ihm sagen: ‚Keine Sorge, die KI bringt dir bei, wie man spielt.’”

Dieser Satz benennt zugleich die Leistungsgrenze der KI und die Unersetzbarkeit des menschlichen Arztes.

KI eignet sich hervorragend für bestimmte Aufgaben: die Zahlen auf einem Laborbericht erklären, auf gefährliche Medikamentenkombinationen hinweisen oder – wie in Antoines Fall – einen anderen Blickwinkel anbieten, der den Anstoß für eine ärztliche Zweitmeinung gibt. In diesen Szenarien fungiert KI als „Informationslupe”, nicht als Entscheidungsinstanz.

Wenn Sie jedoch eine KI fragen: „Ist meine Sehne gerissen?”, dann glauben Sie, sie betrachte Ihr MRT. Tatsächlich tut sie Folgendes: Sie führt einen probabilistischen Abgleich zwischen dem von Ihnen gelieferten Bild und einer Vielzahl von „MRT-ähnlichen Bildern plus Labeln” aus ihrem Trainingskorpus durch und präsentiert Ihnen das Ergebnis im flüssigsten und selbstsichersten Tonfall.

Sie weiß nicht, was sie übersehen hat. Sie weiß nicht, ob die Sequenzparameter dieses MRT-Geräts mit denen anderer Kliniken übereinstimmen. Sie weiß nicht, dass bestimmte seltene Sehnenpathologien nur aus einem bestimmten Betrachtungswinkel sichtbar sind. Und entscheidender noch: Sie weiß nicht, wann sie sagen sollte: „Ich bin mir nicht sicher.”

Der Radiologe sxg hingegen sagte auf HN als Allererstes: „Ohne die vollständigen Daten gesehen zu haben, kann ich kein echtes Urteil abgeben.”

Diese disziplinierte Zurückhaltung ist selbst ein Teil medizinischer Fachkompetenz.

Medizinische Diagnostik ist einfach zu komplex

Hier ist eine Klarstellung nötig, die leicht missverstanden wird: Es geht in diesem Fall nicht darum, zu sagen „KI ist nutzlos”.

KI hat bei bestimmten, eng umrissenen medizinischen Bildgebungsaufgaben – etwa der automatisierten Erkennung von Lungenrundherden oder dem Screening auf Retinopathie anhand von Fundusfotos – eine Einzeltreffer-Genauigkeit erreicht, die an die menschlicher Experten heranreicht oder sie übertrifft. Aber das geschah stets unter stark eingeschränkten Bedingungen: standardisierte Geräte, festgelegte Scanprotokolle, klar definierte binäre Klassifikationsaufgaben, streng annotierte und validierte Trainingsdaten.

Antoines Szenario war davon das genaue Gegenteil: nicht-standardisierter DICOM-Export, keine Annotationen, ein allgemeines LLM anstelle einer spezialisierten medizinischen KI, eine offene diagnostische Fragestellung, minimale klinische Hintergrundinformationen. Wenn ein einziges Glied dieser Kette versagt, kann die gesamte Schlussfolgerung entgleisen.

Die „modalitätsspezifische Fachkompetenz” des Radiologen – das Wissen, welche Bildgebungsverfahren (Ultraschall, Röntgen, CT, MRT) jeweils welche Befunde am besten abbilden können, wo ihre jeweiligen blinden Flecken liegen und wann auf ein anderes Verfahren gewechselt werden sollte – diese die gesamte diagnostische Kette umspannende Urteilsfähigkeit besitzt die heutige KI in keiner Weise. Die KI lieferte lediglich zu einem mehrdeutigen Pixelblock eine Antwort, die „plausibel klang”.

Zum Schluss

Das Ziel dieses Artikels ist weder, die KI für tot zu erklären, noch Panik zu schüren. Worum es dem Autor geht: Die Art und Weise, wie KI die Medizin verändert, wird vermutlich anders aussehen, als viele sich das vorstellen.

Sie wird nicht eines Tages mit der Schlagzeile kommen: „KI ersetzt Radiologen.” Sie wird bei den langweiligsten und am besten validierbaren Aufgaben beginnen – verdächtige Regionen markieren, Veränderungen gegenüber Voraufnahmen abgleichen, repetitive Arbeiten reduzieren. Wenn diese Werkzeuge wirklich ausgereift sind, wird man es nicht in Nachrichtenschlagzeilen lesen, sondern im Arbeitsalltag der Ärzte spüren.

Was den gegenwärtigen Stand betrifft: Wenn Sie Ihr MRT einer KI vorlegen und fragen: „Hab ich was?”, dann denken Sie an die Zusammenfassung jenes HN-Nutzers:

„Es geht um bessere Informationen, und die kann KI derzeit noch nicht zuverlässig liefern.”

Sollten Sie das nächste Mal einen unverständlichen Untersuchungsbefund in den Händen halten: Bevor Sie die KI fragen, wäre die bessere Wahl vielleicht, zuerst den Arzt zu fragen: Ist diese Untersuchungsmethode geeignet, um meine Frage zu beantworten? Gibt es ergänzende Untersuchungen, die wir machen sollten? – Die Antworten auf diese Fragen verdienen mehr Vertrauen als jede KI-generierte Diagnose.

Referenzen:

References（2）