Dango Quotidien L'actu IA et tech pour les devs, en quelques bytes.
"Pas de déchirure", dit l'IA. "Déchirure à 50 %", répond le médecin. Qui croire ?

"Pas de déchirure", dit l'IA. "Déchirure à 50 %", répond le médecin. Qui croire ?

IASantéIRMDiagnostic

Sources：HN + web research · HN

« Pas de déchirure », dit l’IA. « Déchirure à 50 % », répond le médecin. Qui croire ?

Le jour où il a reçu son compte-rendu d’IRM, Antoine était assis dans le cabinet médical. Le médecin lui annonçait une « déchirure partielle de grade III (plus de 50 % de la largeur) du tendon du muscle infra-épineux de l’épaule droite, à son insertion distale ». Il n’avait pas encore digéré le diagnostic que le traitement avait déjà commencé — un appareil à ondes de choc plaqué contre son épaule, et une prescription pour répéter la séance trois fois.

Tout était allé trop vite. En sortant du cabinet, Antoine avait une inquiétude tenace : le médecin avait-il jugé trop hâtivement ?

Il a fait ce que n’importe quel programmeur aurait fait à sa place : il a donné les 266 Mo de données brutes d’IRM à une IA. Il a utilisé Claude Code avec le modèle Opus 4.8, et a laissé l’IA installer elle-même les bibliothèques de traitement d’images médicales, analyser image par image les centaines de coupes au format DICOM. Une heure plus tard, l’IA lui rendait un rapport de diagnostic.

Le médecin disait « déchirure à plus de 50 % ». L’IA disait « tendon parfaitement intact ».

Deux conclusions radicalement opposées. Qui faut-il croire ?

L’histoire est montée en page d’accueil de Hacker News il y a quelques jours : plus de 300 points, 403 commentaires. Et la partie la plus éclairante ne se trouve pas dans l’article original, mais dans les commentaires.

Le radiologue a dit une phrase, et tout le monde s’est tu

Le commentaire le plus apprécié sur HN émane d’un radiologue, sous le pseudonyme sxg. Sa première phrase va droit au but :

« Je suis radiologue, mais sans avoir vu les données complètes de l’IRM 3D, je ne peux pas émettre un vrai jugement. » (traduit de l’anglais)

Puis il change d’angle et pointe un problème qu’Antoine n’avait absolument pas perçu dans son article.

Antoine se plaignait que la clinique, après une échographie concluant à « pas de calcification », lui avait administré un traitement par ondes de choc. Il avait consulté ChatGPT pour vérifier les recommandations cliniques et découvert que les ondes de choc ne sont pas recommandées pour les tendinopathies sans calcification. D’où ses doutes sur le professionnalisme de la clinique.

La réponse du radiologue sxg a réveillé tout le monde :

« L’échographie n’est pas un bon outil pour évaluer les calcifications. Elle peut repérer les grosses calcifications, mais rate facilement les petites. Une radiographie simple serait plus utile, mais l’IRM peut aussi les détecter. Le point clé, c’est que quand un compte-rendu radiologique affirme qu’une anomalie est “absente”, il y a toujours un présupposé implicite : cette anomalie est absente dans les limites de cette modalité d’imagerie et des images obtenues lors de cet examen. » (traduit de l’anglais)

En d’autres termes : un rapport d’échographie mentionnant « pas de calcification » et un rapport de radiographie mentionnant « calcification présente » ne sont pas contradictoires. L’échographie utilise des ondes sonores, la radiographie des rayons X ; ces modalités ne voient tout simplement pas les mêmes choses — pas plus qu’on ne peut utiliser un télescope pour juger de l’assaisonnement d’un plat.

Et ce problème est précisément le défaut central que l’IA a révélé dans cette affaire.

Le problème de l’IA, c’est qu’elle ne sait pas ce qu’elle regarde

Pour comprendre pourquoi l’IA trébuche sur l’imagerie médicale, il faut savoir une chose : les grands modèles de langage (LLM) actuels n’ont pas été conçus pour lire des images médicales.

Ils sont entraînés pour comprendre du texte et générer du texte. Même quand des modèles de pointe comme Claude ou GPT-5.5 acquièrent des capacités multimodales de « vision », leur façon d’appréhender une image diffère fondamentalement de celle d’un radiologue.

Quand un radiologue regarde une IRM, son cerveau exécute un raisonnement d’ensemble : que signifie la variation subtile de niveau de gris entre cette coupe et la suivante ? L’intensité du signal dans cette région est-elle normale ou anormale pour cette séquence d’acquisition ? Quelle est la signification clinique de cette observation, compte tenu de l’âge, du sexe et du tableau symptomatique du patient ? — Un LLM, lui, lorsqu’il traite une image médicale, met essentiellement en correspondance des motifs de pixels avec les paires « image-texte » rencontrées dans ses données d’entraînement.

Dans une déclaration de position publiée par la Société nord-américaine de radiologie (RSNA) en juillet 2025, les experts listent plusieurs obstacles fondamentaux à l’utilisation des LLM en radiologie : leur propension aux « hallucinations » (fabrication d’informations inexistantes) , l’opacité des données d’entraînement qui rend les biais intraçables, et — surtout — leur absence de véritable compréhension spatiale de l’image.

Une étude de stress-test à grande échelle publiée en juin dans Nature Medicine le confirme. L’équipe dirigée par Eric Topol a soumis plusieurs modèles de pointe — GPT-5.5 Pro, Claude 3.5, Gemini 2.5 Pro — à un test de raisonnement médical multimodal. La conclusion est d’une franchise dérangeante :

« GPT-5.5 Pro obtient 79 sur 100, une amélioration par rapport aux 69 du modèle précédent, mais loin d’être suffisant pour un usage médical fiable. Ces modèles présentent des erreurs de raisonnement, des raisonnements par raccourci inappropriés et des hallucinations. » (traduit de l’anglais)

79 sur 100, dans un examen, c’est peut-être un B+. Mais en contexte médical, chaque point perdu peut être un diagnostic manqué ou erroné.

L’« excès de confiance » de l’IA, un risque bien réel pour la société

Dans le domaine médical, un phénomène a été vérifié de façon répétée : un modèle d’IA diagnostique peut égaler, voire dépasser, la performance humaine quand il opère à l’intérieur de la distribution de ses données d’entraînement. Mais dès qu’il rencontre une situation hors distribution — un appareil d’imagerie différent, une population de patients différente, des recommandations cliniques d’un autre pays — sa précision chute brutalement.

Une étude du MIT de 2024 a mis en lumière un problème plus insidieux : les modèles d’IA les plus performants pour déduire la race et le sexe d’un patient à partir d’une radio sont aussi ceux qui présentent le plus grand « écart d’équité » — leurs taux de précision diagnostique varient le plus fortement selon les populations. Cela signifie que l’IA peut « voir » des caractéristiques imperceptibles à l’œil humain (comme déduire la race d’une radio), mais que ces caractéristiques peuvent devenir des raccourcis menant au diagnostic erroné.

Et dans le cas d’Antoine, un détail a échappé à beaucoup de lecteurs : il a fourni à l’IA moins d’informations cliniques qu’au médecin. Dans son article, il raconte n’avoir donné à Claude Code qu’une phrase de contexte — « douleur à l’épaule droite depuis 2-3 semaines » — alors que le médecin disposait du dossier complet d’interrogatoire.

Plus tard, il a demandé à l’IA de jouer les « arbitres » — en relisant les deux rapports contradictoires et en intégrant l’historique de ses discussions avec ChatGPT sur les tests de mobilité de l’épaule. Cette fois, l’IA a penché vers l’absence de déchirure. Mais un utilisateur de HN a visé juste :

« Je suis abonné à plusieurs grands modèles. Posez la même question médicale dans différentes conversations, vous obtiendrez des réponses totalement contradictoires, et chaque réponse sera formulée avec une assurance déconcertante. Le pire, c’est qu’on peut très facilement orienter chaque modèle vers la réponse qu’on souhaite — quand, dans vos relances, vous mentionnez la direction prise par un autre modèle, la conversation dérive silencieusement dans cette direction. » (traduit de l’anglais)

C’est l’essence même de l’excès de confiance de l’IA : elle est entraînée pour « avoir l’air agréable à écouter » . Les tests A/B montrent de façon répétée que les utilisateurs humains notent une réponse d’IA davantage sur le « ton sympathique » que sur l’exactitude du contenu — un peu comme la vue d’une chambre d’hôpital ne change pas la qualité des soins, mais influence fortement les scores de satisfaction des patients.

La différence entre le médecin et l’IA n’est pas technique : elle tient à ce qu’on sait ne pas répondre

Un autre commentaire dans le fil HN, émanant d’un technicien en échographie cardiaque, va droit au cœur :

« Je suis technicien en échographie cardiaque. Voir des gens discuter du fait que l’IA va prendre le travail des radiologues, je ne peux que répondre ceci : demandez à une IA de vous expliquer comment manipuler une sonde échographique pour obtenir une image. C’est comme pousser sur scène quelqu’un qui n’a jamais touché un instrument de musique et lui dire : “t’inquiète, l’IA va t’apprendre à jouer”. » (traduit de l’anglais)

Cette phrase dit tout, à la fois sur les limites du potentiel de l’IA et sur l’irremplaçabilité du médecin humain.

L’IA excelle dans certaines tâches : vous aider à comprendre les chiffres d’une analyse de sang, vous alerter sur des interactions médicamenteuses dangereuses, ou même — comme dans le cas d’Antoine — vous offrir une perspective différente quand vous avez un doute sur un diagnostic, vous poussant à chercher un deuxième avis. Dans ces scénarios, l’IA joue le rôle d’une « loupe informationnelle », pas d’un « décideur ».

Mais quand vous demandez à une IA « mon tendon est-il déchiré ? », vous croyez qu’elle regarde votre IRM. En réalité, elle est en train de faire ceci : établir une correspondance probabiliste entre l’image que vous lui donnez et la masse de « quasi-IRM + étiquettes » qu’elle a rencontrées, puis vous répondre avec le ton le plus fluide et le plus confiant possible.

Elle ne sait pas ce qu’elle a raté. Elle ignore si les paramètres de séquence de cet appareil IRM sont les mêmes que ceux d’un autre hôpital. Elle ne sait pas que certaines lésions tendineuses rares ne sont visibles que sous un angle spécifique. Et surtout — elle ne sait pas quand dire « je ne suis pas certain ».

Or, la première chose qu’a dite le radiologue sxg sur HN, c’est précisément : « Sans avoir vu les données complètes, je ne peux pas émettre un vrai jugement. »

Cette retenue cultivée fait partie intégrante du professionnalisme médical.

Le diagnostic médical est tout simplement trop complexe

Il faut ici clarifier un point qui prête facilement à confusion : cette affaire ne dit pas que « l’IA ne sert à rien ».

Sur certaines tâches spécifiques d’imagerie médicale — comme la détection automatique des nodules pulmonaires ou le dépistage de la rétinopathie diabétique sur des photos de fond d’œil — l’IA a démontré une précision ponctuelle proche, voire supérieure, à celle des experts humains. Mais ces résultats sont obtenus dans des conditions extrêmement contraintes : appareils fixes, protocoles d’acquisition standardisés, tâche de classification binaire explicite, données d’entraînement rigoureusement annotées et validées.

Le scénario d’Antoine est à l’opposé : export DICOM non standard, absence d’étiquetage, LLM généraliste au lieu d’une IA médicale spécialisée, question diagnostique ouverte, contexte clinique quasi inexistant. Un seul maillon défaillant dans cette chaîne, et la conclusion peut dérailler complètement.

La compétence « modale » du radiologue — savoir ce que l’échographie, la radiographie, la tomodensitométrie et l’IRM sont chacune capables de voir, connaître leurs angles morts respectifs, déterminer quand il faut changer de modalité d’examen — ce jugement qui couvre toute la chaîne diagnostique, l’IA actuelle en est totalement dépourvue. Elle se contente de produire, sur un bloc de pixels équivoque, une réponse « qui a l’air raisonnable ».

Enfin

L’objectif de cet article n’est ni de condamner l’IA à mort, ni de semer la panique chez les lecteurs. Ce que l’auteur veut dire, c’est ceci : la vitesse et la manière dont l’IA transforme la médecine ne sont probablement pas celles qu’on imagine.

L’IA ne va pas, un beau matin, faire la une des journaux avec « L’IA remplace les radiologues ». Elle va commencer par les tâches les plus fastidieuses et les plus vérifiables — signaler les zones suspectes, comparer l’évolution des images dans le temps, réduire le travail répétitif. Quand ces outils seront vraiment matures, vous ne le lirez pas dans les titres, vous le ressentirez dans le flux de travail quotidien des médecins.

Pour l’instant, si vous confiez votre IRM à une IA en lui demandant « est-ce que j’ai quelque chose ? », souvenez-vous du résumé de cet utilisateur de HN :

« Le problème, c’est la qualité de l’information, et l’IA n’est actuellement pas capable de la fournir de façon fiable. » (traduit de l’anglais)

Si vous recevez un jour un compte-rendu d’examen que vous ne comprenez pas, au lieu de vous précipiter sur une IA, le meilleur choix est peut-être de demander d’abord à votre médecin : cette modalité d’examen est-elle adaptée à ma question ? Y a-t-il des examens complémentaires à faire ? — Les réponses à ces questions-là méritent davantage votre confiance que n’importe quel diagnostic généré par une IA.

Liens de référence :

References（2）