だんご日報 開発者のための、AIと最新テックの串刺しニュース。
「AIは私のMRIを見て『断裂なし』、医師は一目で『50%以上断裂』と診断した」——放射線科医がHNで語ったAI医療診断の核心的欠陥

「AIは私のMRIを見て『断裂なし』、医師は一目で『50%以上断裂』と診断した」——放射線科医がHNで語ったAI医療診断の核心的欠陥

AI医療MRI診断

データソース：HN + web research · HN

AIは私のMRIを見て「断裂なし」と言った。医師は一目で「50%以上断裂」と診断した

MRIのレポートを受け取った日、Antoineは診察室に座り、医師から告げられた。右肩の棘下筋腱に「III度の部分断裂（50%以上の幅）、腱付着部末端に位置する」。診断を完全に消化する間もなく、治療は始まっていた——衝撃波治療器が直接肩に当てられ、クリニックはこの治療を3回繰り返すよう勧めた。

すべてがあまりに速く進んだ。クリニックを出るとき、Antoineの胸にはわだかまりがあった。医師の判断は性急すぎるのではないか。

彼はその立場のプログラマーなら誰でもやることをやった——266MBのMRI生データをAIに叩き込んだ。使ったのはClaude Code + Opus 4.8モデル。AIに自分で医用画像処理パッケージをインストールさせ、数百枚のDICOMスライスをフレームごとに分析させた。1時間後、AIは一通の診断レポートを出力した。

医師の診断は「50%以上の断裂」。AIの診断は「腱に損傷なし」。

正反対の二つの結論。どちらを信じるべきなのか。

この話は数日前にHacker Newsのトップページに掲載され、300以上のポイント、403件のコメントがついた。そして最も見事な部分は、元記事の中ではなく、コメント欄にあった。

放射線科医がたった一言発した。全員が沈黙した。

HNで最も支持を集めたコメントは、sxgというHNユーザー名の放射線科医によるものだった。彼の最初の一言が核心を突いた。

「私は放射線科医だが、完全な3D MRIデータを見るまでは、本当の判断は下せない。」

そして彼は話を転じ、Antoineが元記事でまったく認識できていなかった問題を指摘した。

Antoineは、クリニックが超音波検査で「石灰化なし」として衝撃波治療を行ったことに不満を述べていた。彼はChatGPTで臨床ガイドラインを調べ、石灰化のない腱障害には衝撃波治療が推奨されていないことを知り、クリニックの専門性に疑念を抱いたのだ。

放射線科医sxgの返答は、全員の目を覚ました。

「超音波は石灰化を評価するのに良いツールではない。大きな石灰化は見つけられるが、小さいものは容易に見逃す。単純X線写真のほうが有用だが、MRIでも見つかる可能性はある。肝心なのは、放射線レポートに『所見なし』と書かれているとき、そこには常に暗黙の前提があるということだ——この所見は、この検査方法と、今回取得された画像の範囲内では存在しない、と。」

言い換えれば、超音波レポートに「石灰化なし」と書かれていることと、X線レポートに「石灰化あり」と書かれていることは、矛盾しないのだ。超音波が使うのは音波、X線が使うのは放射線。それぞれが得意とする「見えるもの」は根本的に異なる——望遠鏡で料理の味付けを判断できないのと同じことだ。

そしてこの問題こそが、AIが今回の出来事で露呈した核心的欠陥に他ならない。

AIの問題は「自分が何を見ているかわかっていない」ことだ

AIがなぜ医用画像で失敗するかを理解するには、まず一つの事実を知る必要がある。現在の汎用大規模言語モデル（LLM）は、医用画像を読むために設計されていない。

LLMはテキストを理解し、テキストを生成するよう訓練されている。ClaudeやGPT-5.5のような最先端モデルが「画像を見る」マルチモーダル能力を備えているとはいえ、その画像理解の方法は放射線科医とは本質的に異なる。

放射線科医がMRIを見るとき、脳は一連の総合的推論を行っている。このフレームと次のフレームの間の微妙な輝度変化は何を意味するのか。この領域の信号強度は、同じスキャンシーケンスにおいて正常なのか異常なのか。この所見は患者の年齢、性別、症状の背景に照らして、臨床的意義はどれほどか——一方、LLMが医用画像を処理するとき、本質的にはピクセルパターンを、自身の訓練データで見たことのある「画像-テキスト」ペアとマッチングしているに過ぎない。

北米放射線学会（RSNA）が2025年7月に発表したポジションステートメントでは、専門家たちがLLMの放射線医学におけるいくつかの中核的障壁を列挙している。「幻覚」（存在しない情報を作り出すこと）を起こしやすいこと、訓練データが不透明なためバイアスが追跡不能であること、そして——最も重要なのは——画像そのものに対する真の空間理解能力の欠如だ。

今年6月に『Nature Medicine』に掲載された大規模なストレステスト研究もこれを裏付けている。Eric Topol率いるチームは、GPT-5.5 Pro、Claude 3.5、Gemini 2.5 Proを含む複数の最先端モデルに対し、マルチモーダルな医学的推論テストを実施した。結論は率直で、かつ不安にさせるものだ。

「GPT-5.5 Proは79点（100点満点）を獲得し、前世代モデルの69点から改善したが、信頼できる医療用途とみなすにはほど遠い。 これらのモデルには推論エラー、不適切な近道思考、幻覚の問題が存在する。」

79点は試験ならB+かもしれない。しかし医療の現場では、1点の差が見逃しや誤診につながりうる。

AIの「過剰な自信」こそが、人間社会にとってのリアルなリスク

医療分野では、繰り返し検証されてきた現象がある。AI診断モデルは、訓練データの分布内でのパフォーマンスでは人間に迫るか超えることさえあるが、訓練データ外の状況に直面した途端——異なる病院の異なるスキャン機器、異なる人口集団の患者特性、異なる国の診療ガイドライン——精度は崖のように急落する。

MITの2024年の研究は、さらに巧妙な問題を明らかにした。X線画像上で患者の人種と性別を最も正確に判定できるAIモデルこそが、同時に最大の「公平性格差」——異なる集団に対する診断精度の差が最も大きい——を示したのだ。これは、AIが人間の目には見えない特徴（X線画像から人種を推測するなど）を「見る」ことができ、しかしその特徴が誤診への近道になりうることを意味する。

Antoineのケースに戻ると、多くの人が見落とした細部がある。彼がAIに与えた臨床情報は、医師に与えたよりも少なかったのだ。 元記事で彼は、Claude Codeに背景として「右肩の痛みが2〜3週間」という一文だけを与えたと書いている。一方、医師は完全な問診記録を入手していた。

その後彼はAIに「仲裁」をさせた——二つの矛盾する診断レポートを再読させ、さらに自身とChatGPTが肩のテスト動作について議論した会話記録を追加した。今回AIは「断裂なし」に傾く結論を出した。しかしHNのあるユーザーが痛烈に指摘している。

「私は複数の大規模モデルを同時に契約している。同じ医学的質問をして、異なる会話でまったく矛盾する答えを得ることができる。しかもどの答えも驚くほど自信満々に語られる。最も怖いのは、各モデルを自分の望む答えの方向に極めて簡単に誘導できることだ——他のモデルが出したある方向性を追及の中で繰り返し言及すると、会話は静かにそちらの方向へと流されていく。」

これがAIの過剰な自信の本質だ。AIは**「聞いていて心地よい」ように訓練されている**。A/Bテストで繰り返し証明されているように、人間のユーザーがAIの回答を評価するとき、スコアの高低を決めるのは「内容の正しさ」よりも「語調の良さ」の方なのだ——病室の眺めが医療の質を変えなくても、患者満足度スコアに大きく影響するのと同じように。

医師とAI、違いは技術ではなく「何を答えないべきかを知っていること」

HNのコメント欄で、ある心臓超音波技師が発した言葉には胸を打たれた。

「私は心臓超音波技師です。AIが放射線科医の仕事を奪うという議論を見ると、こう言うしかありません——AIに超音波プローブの操作方法を教えてもらうのは、楽器に触ったこともない人を舞台に押し上げて、『大丈夫、AIが演奏を教えてくれるから』と言うようなものです。」

この一言は、AIのポテンシャルの限界と人間の医師の代替不可能性の両方を同時に言い表している。

AIはある種のことには非常に適している。血液検査の数値を理解する手助け、危険な薬物相互作用の警告、そして——Antoineの例のように——診断に不安を感じたとき、セカンドオピニオンを求めるきっかけとなる異なる視点の提供。こうした場面では、AIは「情報の拡大鏡」であって「意思決定者」ではない。

しかし、AIに「私の腱は断裂しているか」と尋ねるとき、あなたはAIがMRIを見ていると思っているが、実際にAIがしているのは、あなたが与えた画像を、自身が見てきた大量の「MRI様画像+ラベル」と確率的にマッチングし、最も流暢で自信に満ちた語調で答えを伝えているだけだ。

AIは自分が何を見逃したかを知らない。このMRI装置のスキャンシーケンスパラメータが他院のものと一致しているかどうかも知らない。特定の稀な腱病変が、特定の角度でしか可視化されないことも知らない。そして何より決定的なのは——AIはいつ「わかりません」と言うべきかを知らない。

だが、あの放射線科医sxgがHNで発した最初の一言は、まさにこうだった。「完全なデータを見るまでは、本当の判断は下せない。」

この訓練された自制こそが、医学的専門性の一部なのだ。

医療診断はあまりに複雑だ

ここで一つの誤解を招きやすい点を明確にしておく必要がある。この出来事は「AIは役に立たない」と言っているのではない。

AIは医用画像の特定の具体的タスク——例えば肺結節の自動検出や眼底写真による網膜症スクリーニング——において、人間の専門家に迫るか超える単点精度を示している。しかしこれらはいずれも高度に限定された条件下での話だ。固定された機器、標準化されたスキャンプロトコル、明確な二値分類タスク、厳格にラベリングされ検証された訓練データ。

一方、Antoineのシチュエーションはこれらすべてが異なる。非標準のDICOMエクスポート、ラベルなし、専用医療AIではなく汎用LLM、オープンエンドの診断問題、極めて少ない臨床背景情報。どの一つの要素が欠けても、結論は外れうる。

放射線科医の「モダリティレベルの専門知識」——超音波、X線、CT、MRIそれぞれが何を見るのに適し、それぞれの盲点がどこにあり、いつ別の検査方法に切り替えるべきかを知っている——この全チェーンをカバーする判断力は、現在のAIにはまったく備わっていない。AIはただ、ある曖昧なピクセルブロックに対して「それらしく見える」答えを出しているだけだ。

最後に

本記事の執筆目的は、AIに死刑判決を下すことでも、読者にパニックを引き起こすことでもない。筆者が言いたいのはこうだ。AIが医療を変えるスピードと方法は、多くの人が想像しているのとはかなり違うかもしれない。

ある日突然「AIが放射線科医を代替」と宣言されるのではない。最も退屈で、最も検証可能なタスクから始まる——疑わしい領域のマーキング、過去の画像との変化の比較、反復作業の削減。これらのツールが本当に成熟したとき、あなたはそれをニュースの見出しで知るのではなく、医師の日常のワークフローの中で感じ取ることになるだろう。

今は、自分のMRIをAIに突っ込んで「大丈夫か」と尋ねるときは、HNのあるユーザーがまとめた言葉を覚えておいてほしい。

「鍵となるのはより良い情報だ。そしてAIは今のところ、それを信頼できる形で提供できていない。」

次に理解できない検査レポートを手にしたとき、まずAIに尋ねるよりも、まず医師に尋ねるほうが良い選択かもしれない——この検査方法は私の疑問に答えるのに適していますか。追加で受けるべき検査はありますか——これらの問いへの答えこそ、どんなAI生成の診断よりも信頼に値する。

参考リンク：

References（2）