Une même capture d’écran d’un encart publicitaire contrefaisant fidèlement une boîte de dialogue système iOS a été soumise à des examinateurs humains et déclarée conforme à deux reprises par Google. Pourtant, lorsqu’elle a été transmise à Gemini, le modèle multimodal phare du géant californien, l’intelligence artificielle n’a mis que quelques secondes pour prononcer une décision « DISAPPROVED » sans appel, assortie de trois motifs de violation formels. Au sein d’une seule et même entreprise, deux instances de jugement ont abouti à des conclusions rigoureusement opposées.
Deux signalements rejetés face à une même capture d’écran
Le 13 septembre 2026, le développeur Chris Greening a signalé à deux reprises à Google une publicité frauduleuse repérée sur l’application mobile YouTube, usurpant les alertes de maintenance de l’écosystème Apple. À chaque démarche, Google lui a rétorqué une réponse standardisée affirmant que l’élément respectait l’ensemble des règles. Mais en soumettant la même image au grand modèle multimodal Gemini, l’issue s’est inversée de fond en comble : en quelques secondes, l’outil a généré un réquisitoire technique détaillé et d’une rigueur absolue. Ce grand écart entre le filtre humain et l’IA de pointe met en lumière une ironie grinçante dans la gouvernance des grandes plateformes.
L’encart publicitaire auquel Chris a été confronté représentait un cas d’école de détournement d’interface graphique. La bannière affichait en évidence l’avertissement « iPhone Storage is Full », doublé d’un sous-titre anxiogène précisant que l’absence de libération immédiate d’espace entraînerait des dysfonctionnements du terminal. Deux boutons reprenant scrupuleusement la charte visuelle d’iOS étaient placés en bas avec les mentions « Yes » et « No ». Alors même que son propre téléphone manquait d’espace, une fraction de seconde d’inattention a poussé Chris à toucher l’écran. Il s’agissait d’un détournement de contexte d’une remarquable précision, qui montre comment les réseaux de cyberescroquerie exploitent l’état réel des appareils et les réflexes cognitifs des utilisateurs.
Prenant conscience du piège, Chris a aussitôt déposé une réclamation via les circuits officiels. Le retour de l’équipe de modération de Google ne s’est pas fait attendre : « We found that the ad doesn’t go against Google’s policies, which prohibit certain content and practices that we believe to be harmful to users and the overall online ecosystem. » Cette réponse préformatée balayait sans nuance l’appréciation du plaignant. Chris a alors renouvelé l’opération depuis un autre compte tout en invitant son entourage à faire de même. Le second verdict rendu par les modérateurs s’est révélé rigoureusement identique au mot près.
Les motifs exacts de ces refus restent hermétiques. Alors que des centaines de millions de créations publicitaires transitent quotidiennement sur le réseau, un examen manuel approfondi de chaque visuel est une gageure intenable — une réalité que Chris mentionnait lui-même sur son blog avec un brin de recul. Face à des cadences infernales, les camouflages soignés franchissent les contrôles de routine sans éveiller les soupçons d’yeux fatigués. Ce dispositif sclérosé démontre que les défenses manuelles traditionnelles sont désormais impuissantes face aux assauts d’une fraude industrielle. Utiliser l’interface système pour extorquer des clics permet de perforer sans encombre les réseaux de vérification humaine.
Figure : Publicité YouTube déguisée en alerte de saturation d’iPhone. Source : atomic14
Gemini tranche en quelques secondes, l’examen humain laisse passer deux fois
Face au blocage des canaux humains, Chris a mené un test élémentaire : il a transmis la capture d’écran garnie des faux boutons à Gemini et lui a demandé d’évaluer sa conformité avec les règles publicitaires de Google. La réponse a été instantanée et catégorique : « Classification: DISAPPROVED ». À cet instant précis, la capacité d’analyse visuelle des modèles multimodaux a fait la démonstration d’une supériorité écrasante.
Gemini ne s’est pas contenté d’apposer une étiquette de non-conformité ; il a articulé trois violations distinctes :
- Conception publicitaire trompeuse (Misleading Ad Design) : L’encart imite ouvertement un panneau d’avertissement du système d’exploitation (« iPhone Storage is Full ») en reprenant la typographie officielle et l’encadrement graphique d’iOS.
- Composants d’interface non fonctionnels et trompeurs (Non-Functional / Deceptive UI Components) : Les boutons « Yes » et « No » ne pilotent aucune commande système mais constituent des zones de capture statiques destinées à intercepter tout clic sur l’écran pour rediriger l’utilisateur vers une page de renvoi.
- Manœuvres fondées sur la peur et allégations non vérifiées (Deceptive Fear-Based Tactics & Unverified Claims) : La phrase « If you don’t free up space soon, some features may not work properly » invente un dysfonctionnement matériel imminent pour susciter la panique et forcer l’installation d’une application.
La faculté des grands modèles multimodaux à décomposer les structures d’interface et à identifier l’intention malveillante surpasse de loin ce que peuvent accomplir des prestataires externes opérant à la chaîne. Gemini a même émis des consignes opérationnelles nettes : retrait immédiat du contenu, avertissement au compte de l’annonceur pour déclaration trompeuse (Misrepresentation) et suspension de compte en cas de récidive. Un rapport d’audit exemplaire généré en quelques secondes à coût nul. Pourtant, le service de modération humaine de Google avait fermé les yeux sur ces anomalies flagrantes à deux reprises.
Sur son blog, Chris résume cette absurdité : « Google’s own model rejects the ad in seconds, yet Google’s review process approved it twice. » Avant de conclure sur un ton plus incisif : « Come on, meatbags - use some of the amazing AI tools you have access to. » D’un côté, un géant technologique doté d’une expertise scientifique hors norme dans l’IA ; de l’autre, des utilisateurs cernés par des pièges numériques. Entre les deux persiste un abîme de gouvernance entretenu par des impératifs commerciaux qui s’accommodent des dérives.
Figure : Notification de rejet de Google concluant à l’absence d’infraction. Source : atomic14
Incompétence ou cynisme : qui empêche le retrait des annonces frauduleuses
Face à ces deux décisions contradictoires, Chris a d’abord fait appel au rasoir d’Hanlon : « Ne jamais attribuer à la malveillance ce que la bêtise suffit à expliquer ». Selon cette grille d’analyse, les effectifs humains de vérification sont tout bonnement insuffisants face aux volumes déversés. Les équipes sous-traitantes exécutent des consignes mécaniques et aucun employé sous pression n’a le temps de décortiquer les pixels d’une fausse alerte Apple.
Dès lors qu’une plateforme franchit une taille critique, l’entropie managériale engendre une rigidité opérationnelle fatale. Des millions de nouvelles créations publicitaires affluent chaque jour. Soumettre chacune d’elles à une inspection rigoureuse par des experts hautement qualifiés engendrerait des coûts prohibitifs. Le résultat de ce compromis est une digue criblée de brèches, flanquée d’un protocole de réexamen purement symbolique. Imputer cette défaillance collective à la simple fatigue des équipes relève d’une forme classique de résignation désabusée chez les ingénieurs.
Toutefois, limiter l’explication des deux autorisations successives à une maladresse administrative est un peu court. Dès lors que le modèle d’IA développé en interne repère la supercherie en quelques secondes, l’argument du goulot d’étranglement technologique s’effondre. Le modèle fonctionne en production, les points d’accès API sont disponibles et les logiques de détection sont formalisées. Aucun obstacle d’ingénierie n’empêche d’améliorer la protection.
L’hésitation à déployer pleinement ces moteurs d’inspection automatique au cœur de la chaîne de distribution publicitaire trahit des résistances institutionnelles bien plus pragmatiques. Pour les équipes techniques, activer de tels classifieurs automatisés ne pose aucune difficulté, mais le véritable verrou émane des services de monétisation. Sur cette balance, la sérénité des utilisateurs entre en conflit direct avec le rendement publicitaire. Toute décision durcissant sensiblement les critères d’acceptation entraîne immédiatement l’évaporation d’une réserve considérable d’inventaire monétisable.
L’angoisse de la rentabilité vue par un annonceur à 100 millions de dollars
Les échanges sur Hacker News (item?id=49686445) ont éclairé les rouages économiques sous-jacents. Des éditeurs de sites web et des acheteurs de trafic ont livré des témoignages plus froids que le rasoir d’Hanlon, observant la défaillance des filtres sous l’angle du retour sur investissement publicitaire.
Un administrateur de site web a souligné que Google AdSense bombardait depuis plusieurs mois ses pages de milliers de popups frauduleux. Ces annonces affichaient souvent des sommations intimidantes accusant le lecteur d’infractions imaginaires et réclamant le paiement d’une pénalité de 100 dollars. Les liens renvoyaient vers des domaines d’hébergement cloud reconnus comme azurestaticapps.net, netlify.app ou herokuapp.com. Les réseaux délictueux détournent la réputation de ces infrastructures d’entreprise pour tromper les filtres d’entrée et modifient leurs sous-domaines tous les jours. Google assimilant ces services d’hébergement à des domaines de premier niveau et refusant leur blocage global par les éditeurs, ces derniers se retrouvent désarmés. Or, chaque clic acheminé par ce biais génère des revenus qui viennent gonfler les bilans financiers.
Un autre témoignage significatif émanait d’un annonceur affirmant avoir dépensé plus de 100 millions de dollars sur Google Ads. Selon lui, la plateforme fait feu de tout bois pour presser chaque centime de recette avec une agressivité sans précédent. Cette course au chiffre d’affaires découlerait d’une double anxiété : compenser les incertitudes commerciales face à la compétition acharnée dans l’IA générative, et financer l’envolée des investissements colossaux en serveurs et calcul intensif. Même si ces commentaires reflètent des interprétations de terrain, ils s’alignent sur une logique économique implacable : alimenter des méga-centres de calcul requiert un flux continu de liquidités.
Si ces éléments correspondent aux arbitrages réels, le laxisme des règles d’admission s’explique simplement : chaque publicité trompeuse engendre une rémunération au clic, et augmenter le taux d’interception pénaliserait directement les performances financières du trimestre. Quoique cela relève de déductions d’observateurs — les données tangibles se bornant à établir que l’IA a récusé l’annonce en quelques secondes tandis que la modération humaine l’a validée deux fois —, les incitations financières ne peuvent être écartées.
L’autorité qui applique les critères façonne la solidité de la défense
La mésaventure de Chris Greening fait figure de puissante parabole sur l’état des technologies actuelles. Sur le plan de l’ingénierie, les modèles multimodaux possèdent déjà l’acuité requise pour démonter des ruses visuelles, isoler des arguments trompeurs et les confronter à un règlement d’usage. L’aptitude à détecter le faux n’est plus une limite technique. Le blocage réel tient à l’absence de motivation de la plateforme pour purger ses flux des actifs malveillants. Tant que cette volonté fait défaut, les modèles les plus performants ne seront pas déployés sur les chaînes de contrôle opérationnelles.
Dans l’arbitrage qui détermine si un encart litigieux doit être maintenu, la décision finale revient aux instances dirigeantes, quelle que soit la clairvoyance des algorithmes. Si le dispositif de filtrage a pour fonction première de servir de paratonnerre juridique lors des crises d’image, les avis les plus pertinents de l’IA seront cantonnés à un rôle consultatif. Les progrès techniques ne combleront jamais une carence d’intention managériale. L’excellence algorithmique ne sert alors qu’à draper d’atours sophistiqués de vieux calculs marchands.
L’arbitre qui applique les critères détermine si la modération par IA protège l’usager ou sert de paravent aux profits. Tant que la publicité en ligne devra éponger les factures vertigineuses de la recherche en IA, les faux boutons déguisés en messages d’alerte système continueront de fleurir. Ils demeureront actifs, attendant patiemment le prochain clic distrait. Dans ce jeu du chat et de la souris, celui qui détient le piège est également celui qui distribue le fromage.
Liens utiles :
