iPhoneのシステムダイアログを巧妙に模倣した詐欺広告のスクリーンショット。人間の審査チームに送ると、2度にわたり「Googleのポリシーに違反していない」と判定された。しかし、まったく同じ画像をGoogle自慢のマルチモーダルAI「Gemini」に投入すると、わずか数秒で「DISAPPROVED（不承認）」の判定が下され、3点に及ぶポリシー違反の根拠が提示された。同一プラットフォーム内の2つの審査機構が、正反対の結論を出した形だ。
スクリーンショット1枚に阻まれた2度の通報
2026年9月13日、開発者のクリス・グリーニング（Chris Greening）は、YouTubeアプリ内で遭遇したiOSシステム警告を騙る悪質な詐欺広告をGoogleに2度通報した。だがGoogleから届いたのは、いずれも「問題なし」とする公式回答だった。納得のいかないクリスが同一のスクリーンショットをGoogleの大規模言語モデルGeminiに入力したところ、状況は一変した。システムはわずか数秒で精緻な違反監査レポートを出力した。人間とAIのこの判定の落差は、プラットフォームガバナンスが抱える皮肉な現実を浮き彫りにしている。
クリスが遭遇したのは、YouTubeアプリのフィードに表示された高度な偽装広告だった。画像の中央には「iPhone Storage is Full」と大きく掲げられ、サブタイトルには「すぐに空き容量を確保しないと、一部の機能が正常に動作しなくなる可能性がある」と脅迫めいた文言が並んでいた。下部にはiOS標準デザインを踏襲した「Yes」と「No」の選択ボタンが配置されていた。折しもiPhoneのストレージ残量不足に悩んでいたクリスは、ふとした不注意から広告をタップしてしまったという。ユーザーの心理状態とデバイスのコンテクストを突いた、極めて悪質な誘導手法だった。
罠に気づいたクリスは、直ちに正規の手順に従って違反通報を行った。しかしGoogleの審査チームから返ってきたのは、通り一遍の定型文だった。「審査の結果、当該広告はGoogleのポリシー（ユーザーやオンラインエコシステム全体に有害と考えられる特定のコンテンツや行為を禁止するもの）に違反していないと判断されました」。ユーザーからの通報を一蹴するこの回答に対し、クリスは別のアカウントを使い、知人にも呼びかけて再度通報を試みた。だが届いた再審査の結果は、1回目の回答と完全に一致していた。
2度にわたる却下の詳細な理由は外部には開示されない。毎日何億本もの広告クリエイティブが配信されるなか、人間が1件ずつ精査することは現実的ではない。これはクリス自身がブログで提示し、一定の理解を示している背景でもある。疲弊した審査員の前に差し出された巧妙な偽装画像が、形式的な作業のなかでフリーパスを得てしまうのは最も説明しやすい推論だ。**この硬直した運用体制は、従来の防御網が組織化された不正業者に対抗できなくなっている実態を露呈している。**ネイティブOSのUIを騙ってクリックを奪う手口は、人手による審査網を容易にすり抜けてしまう。
図：iPhoneのストレージ警告を偽装したYouTube広告。出典：atomic14
Geminiは数秒で違反判定、人手審査は2度も見逃す
人手の審査ルートで門前払いを食らったクリスは、ひとつの実験を試みた。偽のボタンが並ぶ問題のスクリーンショットをGeminiにアップロードし、Googleの広告ポリシーに照らし合わせて合否を判定させたのだ。その結果は明白だった。システムは即座に**「Classification: DISAPPROVED（判定：不承認）」**という結論を下した。マルチモーダル基盤モデルの識別能力が、圧倒的な優位性を見せつけた瞬間だった。
Geminiは単に違反フラグを立てるにとどまらず、明確な3つの違反事由を論理立てて説明した。
- 誤導的な広告デザイン（Misleading Ad Design）：iOSのシステムダイアログ（「iPhone Storage is Full」）のタイポグラフィやコンテナスタイルを意図的に模倣している点。
- 非機能的・欺瞞的なUI要素（Non-Functional / Deceptive UI Components）：画面上の「Yes」「No」ボタンは正規の操作スイッチではなく、広告枠全体のどこをタップしても外部ページへリダイレクトさせるための偽のクリックトラップである点。
- 恐怖心を煽る不実告知（Deceptive Fear-Based Tactics & Unverified Claims）：「空き容量を確保しないと機能が停止する」という偽の文言で端末の故障リスクを捏造し、不安を煽ってアプリのインストールを迫っている点。
マルチモーダルモデルによるUI構造の分解と悪意の検知能力は、マニュアル作業に追われる外部委託の審査員を遥かに凌駕していた。Geminiはさらに、当該広告の即時配信停止、虚偽記載（Misrepresentation）に基づくアカウントへのペナルティ付与、度重なる違反に対するアカウント停止措置まで具体的に勧告した。教科書通りの審査レポートが、機械によって数秒かつ無償で生成されたのだ。それにもかかわらず、人間の審査チームはこの明白な不正の兆候を2度も見過ごした。
クリスはブログ記事の中で「Google自社のモデルが数秒で却下した広告を、Googleの審査プロセスは2度も承認した」と呆れ返り、「おい、人間ども（meatbags）よ、手元にある素晴らしいAIツールを使ったらどうなんだ」と辛辣な言葉を残している。最高峰のAI研究開発力を誇る巨大テック企業と、詐欺広告に脅かされる一般ユーザー。両者の間には深い溝が横たわっており、同一素材に対する正反対の判定は、商業的利益が優先されるプラットフォームの歪みを象徴している。
図：Googleが当該広告を「ポリシー違反なし」と判定した回答通知。出典：atomic14
無能か悪意か：詐欺広告の排除を阻む構造的要因
正反対の結果を前にして、著者のクリスは「ハンロンの剃刀（Hanlon’s razor）」を引いて冷静な見解を述べている。「無能で十分に説明がつくことに、悪意を見出すな」という格言だ。この理屈に従えば、爆発的に増え続ける広告素材に対し、審査スタッフの頭数は明らかに足りていない。外部委託チームはチェックリストを機械的にこなすしかなく、個々の審査員がiOSのダイアログの真偽を確かめている余裕などない、という説明は一理ある。
プラットフォームの規模が一定水準を超えると、組織のエントロピー増大によってプロセスの硬直化は避けられなくなる。毎日何百万もの新規クリエイティブが投稿される環境で、高度なスキルを持つ人間の専門家に全件確認を任せれば、コストは天文学的になる。妥協の産物として生まれたのが、穴だらけの防御線と形骸化した審査フローだ。システム的な怠慢を「現場の疲弊と無能」として片付けるのは、エンジニアらしい諦念と自嘲の表れでもある。
しかし、2度の承認を単なる運用の不手際だけで片付けるのはあまりにも短絡的だ。自社のマルチモーダルモデルが数秒で不正を見破れる以上、技術的な障壁はもはや存在しない。モデルは本番サーバーで稼働し、APIも整備され、判定ロジックも確立されている。防衛線の刷新を阻んでいるのは、工学的な課題ではない。
先進的なAI審査エンジンを中核の広告配信パイプラインに全面統合できない背景には、より根深い利害の対立が存在する。エンジニアリング部門が自動判定ツールを投入するのは容易だが、新システムの導入を阻む最大の障壁は、往々にして収益を最大化したいビジネス部門の防衛本能だ。この天秤の上で、ユーザー体験と広告主の利益は激しく衝突する。審査の基準を少しでも厳格化すれば、直ちに販売可能な広告インベントリの消失に直結するからだ。
1億ドルを投じた広告主が見た収益化への焦燥
Hacker Newsのコミュニティ（item?id=49686445）では、この出来事をめぐってさらに冷徹な議論が交わされた。サイト運営者や広告バイヤーたちは、トラフィックを購入する当事者の視点から、機能不全に陥った審査網の裏にある力学を分析した。
あるサイト運営者は、自身のウェブサイトにGoogle AdSense経由で数千件もの詐欺ポップアップが繰り返し配信されていると告発した。「違法行為が検出されたため100ドルの罰金を支払え」といった脅迫的な内容で、配信元には azurestaticapps.net や netlify.app、herokuapp.com などのクラウドホスティングが多用されていた。悪質な業者は信頼性の高いドメインを利用して初期フィルターを回避し、サブドメインを日替わりで切り替えて活動を継続する。GoogleがこれらをTLDと同等に扱いドメイン単位の一括ブロックを認めないため、サイト側は防ぎようがない。そして配信されたクリックのすべてが、Googleの決算書上の売上として計上されていく。
さらに、これまでにGoogle広告に1億ドル以上を費やしてきたという広告主からの生々しい証言も寄せられた。彼によれば、Googleはかつてないほど執拗にあらゆる手段で売上を絞り出そうとしているという。その背景には、激化するAI開発競争での出遅れを取り戻す焦りと、高騰し続けるAIインフラの設備投資費を回収しなければならないという二重のプレッシャーがある。これらはユーザーの主観的推論を含むものの、巨額の計算資源コストを補填するためにキャッシュフローを最大化しなければならないという経済的合理性と合致している。
これらの指摘が事実の一面を突いているとすれば、審査基準が緩慢な理由にも合点がいく。詐欺まがいの広告であってもクリックされれば課金が発生し、ブロック率を引き上げれば四半期の広告収入は即座に減少する。もちろん、公式に確認されている事実は「同一の広告をモデルが数秒で違反判定し、人間の審査が2度通過させた」という点にとどまるが、その背後にある商業的動機は無視できない。
審査基準の執行者が防衛線の実効性を決める
クリス・グリーニングの体験は、現代のテクノロジーが直面する優れた比喩となっている。技術的には、マルチモーダルAIはUIの偽装を見破り、脅迫的な文言を抽出して規約違反にマッピングする能力をすでに獲得している。検知能力の不足は、もはや安全保障上のボトルネックではない。真の障害は、低品質で有害な広告インベントリを進んで排除しようとするプラットフォーム側の動機そのものの欠如にある。その意志がない限り、優れた識別モデルが主力ラインに配備されることはない。
広告を配信し続けるか否かの決定において、アルゴリズムがいかに高度化しようとも、最終的な決定権は経営陣のインセンティブ設計に握られている。もし審査システムの目的が「炎上時にアリバイを作るための免責事項」に過ぎないのだとすれば、どんなに賢明なAIの判定も「参考情報」として棚上げされる。ツールの進化だけでは、組織の実行意欲の欠如を埋めることはできない。
審査基準を誰が、何の目的で執行するのか。それこそが、AIモデレーションが利用者を守る防壁となるか、既得権益を守るための煙幕となるかを分ける分岐点だ。莫大なAI研究開発費を支える大黒柱が広告収入であり続ける限り、システム警告を偽装した偽のボタンが姿を消すことはないだろう。それらはアプリの中に居座り続け、注意を欠いた次のユーザーがタップする瞬間を待ち構えている。このいたちごっこにおいて、ネズミ捕りを仕掛ける者は、同時にチーズを配る者でもあるのだ。
参考リンク：
