La misma captura de pantalla de un anuncio que simulaba a la perfección un cuadro de diálogo del sistema iOS fue remitida a revisión humana y declarada apta en dos ocasiones por «no infringir las políticas de Google». Sin embargo, al introducir esa misma imagen en el modelo multimodal insignia de la compañía, Gemini, la inteligencia artificial tardó apenas unos segundos en dictaminar un tajante «DISAPPROVED» acompañado de tres infracciones normativas detalladas. Dos filtros de evaluación bajo un mismo techo corporativo arrojaron conclusiones diametralmente opuestas.
Dos denuncias desestimadas frente a una sola captura
El 13 de septiembre de 2026, el desarrollador Chris Greening denunció por partida doble ante Google un anuncio fraudulento que suplantaba una notificación del sistema iOS dentro de la aplicación móvil de YouTube. En ambas ocasiones, Google emitió respuestas oficiales asegurando que la creatividad cumplía con todas las directrices. La situación cambió radicalmente cuando introdujo la misma captura en el modelo de lenguaje de la propia compañía, Gemini: en cuestión de segundos, la herramienta generó un informe técnico demoledor que señalaba con precisión quirúrgica cada falta cometida. Este contraste entre la supervisión manual y la IA de última generación ilustra las contradicciones de la gobernanza de plataformas digitales.
La creatividad que encontró Chris en YouTube constituía un caso paradigmático de usurpación de interfaz. El anuncio mostraba en un lugar destacado el aviso «iPhone Storage is Full», seguido de un subtítulo con tono conminatorio que advertía de que varias funciones del terminal dejarían de operar si no se liberaba espacio de inmediato. En la parte inferior figuraban dos botones con la estética nativa de iOS rotulados con «Yes» y «No». Al coincidir con un momento en el que el propio Chris experimentaba problemas de memoria en su dispositivo, un segundo de distracción le llevó a pulsar sobre la pantalla. Se trataba de un secuestro contextual milimétrico que demuestra hasta qué punto las redes de fraude explotan los sesgos cognitivos y el estado del hardware de los usuarios.
Al percatarse del engaño, Chris tramitó una queja formal por los cauces habilitados. La contestación del equipo de moderación de Google no tardó en llegar: «We found that the ad doesn’t go against Google’s policies, which prohibit certain content and practices that we believe to be harmful to users and the overall online ecosystem.» Esta fórmula protocolaria desestimó por completo el criterio del usuario. Chris recurrió entonces a otra cuenta y pidió a varios conocidos que interpusieran nuevas denuncias. La segunda respuesta oficial fue idéntica hasta en la última coma.
Los motivos exactos de sendos rechazos permanecen opacos. Con cientos de millones de creatividades publicitarias en circulación cada día, resulta materialmente imposible que un equipo humano examine cada elemento de forma exhaustiva, argumento que el propio Chris mencionó en su blog y consideró plausible. Ante ritmos de trabajo asfixiantes, los camuflajes sofisticados obtienen el visto bueno por defecto ante miradas fatigadas. Este engranaje burocrático evidencia que las defensas tradicionales han quedado obsoletas frente a redes de fraude altamente organizadas. Engañar al usuario clonando la interfaz del sistema operativo permite sortear con pasmosa facilidad el filtro manual de las plataformas publicitarias.
Figura: Anuncio de YouTube camuflado como una alerta de almacenamiento de iPhone. Fuente: atomic14
Gemini dictamina en segundos lo que la revisión manual autorizó dos veces
Tras chocar dos veces contra la vía humana, Chris optó por un experimento revelador: facilitó la captura del anuncio a Gemini y le encomendó examinar su conformidad con las políticas de Google Ads. La resolución fue instantánea y categórica: «Classification: DISAPPROVED». En ese instante, los modelos multimodales exhibieron una superioridad incontestable en la verificación de contenidos visuales.
Gemini no se limitó a emitir una marca genérica, sino que desglosó tres infracciones normativas independientes:
- Diseño publicitario engañoso (Misleading Ad Design): La creatividad imita de forma explícita un aviso modal del sistema operativo («iPhone Storage is Full»), empleando la tipografía corporativa y el marco visual característicos de iOS.
- Componentes de interfaz no funcionales y engañosos (Non-Functional / Deceptive UI Components): Los botones «Yes» y «No» carecen de funcionalidad del sistema y constituyen cebos gráficos estáticos concebidos para registrar clics en cualquier punto del banner y redirigir al usuario hacia una página externa.
- Tácticas basadas en el miedo e informaciones no contrastadas (Deceptive Fear-Based Tactics & Unverified Claims): El texto «If you don’t free up space soon, some features may not work properly» simula un fallo crítico del hardware para generar inquietud y forzar la descarga de software.
La solvencia de los modelos multimodales para diseccionar componentes de diseño e intencionalidades maliciosas supera con creces lo que puede resolver un equipo de moderación externa sujeto a métricas de producción en cadena. Gemini llegó a plantear las acciones correctoras pertinentes: suspensión inmediata de la creatividad, amonestación a la cuenta del anunciante por tergiversación (Misrepresentation) e inhabilitación de la cuenta en caso de reincidencia. Un informe de auditoría impecable formulado en segundos y a coste marginal cero. Sin embargo, la estructura humana de Google ignoró estos indicios evidentes en dos ocasiones consecutivas.
Chris expuso la paradoja en su cuaderno de bitácora: «Google’s own model rejects the ad in seconds, yet Google’s review process approved it twice.» Y concluía con una llamada de atención directa: «Come on, meatbags - use some of the amazing AI tools you have access to.» A un lado se sitúa un coloso tecnológico con una investigación puntera en IA; al otro, millones de usuarios expuestos a trampas digitales. Entre ambos mundos se abre una brecha de gobernanza propiciada por intereses financieros que toleran el abuso.
Figura: Notificación oficial de Google indicando que el anuncio «no infringe las políticas». Fuente: atomic14
Estupidez o malicia: quién frena la retirada de los anuncios fraudulentos
Ante dos fallos tan dispares, Chris propuso una interpretación templada fundamentada en la navaja de Hanlon: «Nunca atribuyas a la maldad lo que puede ser explicado adecuadamente por la estupidez». Siguiendo este enfoque, la plantilla asignada a las labores de control resulta insuficiente para abarcar semejante volumen de anuncios. Los equipos subcontratados se ciñen a protocolos rígidos y ningún revisor dispone de tiempo para verificar la autenticidad de un falso cuadro de diálogo de Apple.
Cuando una plataforma rebasa cierta escala, la entropía organizativa aboca a la parálisis operativa. Millones de nuevas creatividades saturan las colas de entrada a diario. Auditar cada una de ellas mediante analistas cualificados acarrearía unos costes inasumibles para cualquier corporación. El desenlace inevitable es una línea defensiva llena de fisuras y un protocolo de apelación puramente cosmético. Explicar el colapso institucional a través de la fatiga humana constituye una forma habitual de escepticismo entre los profesionales del software.
Con todo, despachar dos autorizaciones consecutivas como meros despistes resulta insuficiente. Desde el instante en que el modelo multimodal de la propia empresa desenmascara el fraude en segundos, el cuello de botella tecnológico deja de ser una justificación válida. El modelo se encuentra desplegado en servidores de producción, las interfaces de programación están operativas y los criterios de clasificación están perfectamente tabulados. La barrera no es de índole técnica.
La reticencia a implantar estos sistemas de verificación avanzada en la cadena de distribución publicitaria responde a fricciones mucho más pragmáticas. Para los equipos de ingeniería, desplegar un clasificador automatizado es un paso sencillo, pero el verdadero obstáculo proviene de las divisiones de negocio. En esa balanza, la seguridad del usuario choca frontalmente con la monetización. Cualquier iniciativa que eleve de forma apreciable el listón de admisión conlleva la desaparición inmediata de un volumen considerable de impresiones comercializables.
La urgencia de monetizar a ojos de un anunciante de 100 millones de dólares
El debate originado en Hacker News (item?id=49686445) sacó a la luz la trastienda económica de este fenómeno. Administradores web y compradores de publicidad digital aportaron testimonios mucho más crudos que la navaja de Hanlon, evaluando la vulnerabilidad del sistema desde la perspectiva de la adquisición de tráfico.
Un webmaster denunció que Google AdSense llevaba meses insertando miles de anuncios fraudulentos en su sitio web. Se trataba habitualmente de ventanas emergentes intimidatorias en las que se acusaba al usuario de conductas indebidas y se le exigía el pago de supuestas multas de 100 dólares. El tráfico procedía de subdominios alojados en infraestructuras como azurestaticapps.net, netlify.app o herokuapp.com. Los delincuentes aprovechan la alta reputación de estos proveedores para eludir los controles iniciales y rotan de subdominio cada veinticuatro horas. Puesto que Google trata estos servicios como dominios de nivel superior y veta su bloqueo general a los editores, estos carecen de herramientas de contención. Mientras tanto, cada clic genera ingresos que computan en los balances de la compañía.
Otro relato elocuente provino de un comprador de tráfico que aseguró haber gestionado un presupuesto superior a los 100 millones de dólares en Google Ads. Afirmó que la plataforma está exprimiendo sus fuentes de ingresos con una agresividad insólita, impulsada por dos presiones concurrentes: mitigar el nerviosismo del mercado ante la pugna por la IA generativa y sufragar las monumentales inversiones en centros de datos y computación. Aunque se trate de deducciones subjetivas expresadas en la comunidad, configuran una lógica económica irrebatible: financiar infraestructuras titánicas exige mantener un caudal ininterrumpido de ingresos directos.
Si estos testimonios reflejan la operativa real, la laxitud en la aplicación de las normas encuentra una justificación puramente financiera: cada anuncio engañoso abona una comisión por clic, y elevar la tasa de intercepción dañaría las cifras publicitarias del trimestre. Aunque estas conclusiones correspondan a conjeturas del sector —los datos contrastados solo acreditan que la IA descartó el anuncio en segundos mientras el personal humano lo validó dos veces—, las motivaciones subyacentes resultan patentes.
Quien aplica el criterio define la solidez de la barrera
Lo vivido por Chris Greening constituye una potente metáfora del estado actual de la tecnología. Desde el punto de vista del desarrollo, los modelos de IA ya poseen la capacidad de desmantelar engaños visuales, aislar textos coercitivos y cruzarlos con las cláusulas de uso. La capacidad de identificación ha dejado de ser el factor limitante. La verdadera traba radica en la falta de incentivos de la plataforma para depurar su inventario de elementos tóxicos. Mientras no exista esa voluntad, los modelos punteros seguirán al margen de los canales neurálgicos de moderación.
En la disputa sobre la permanencia de un anuncio en antena, por más sofisticado que resulte el algoritmo, la última palabra corresponde a los intereses directivos. Si los mecanismos de supervisión se conciben ante todo para proporcionar un escudo legal frente a escándalos mediáticos, los dictámenes más certeros de la inteligencia artificial quedarán relegados a un papel meramente consultivo. La innovación de los instrumentos no puede suplir la falta de voluntad ejecutiva.
Quién custodia y aplica los criterios dictamina si la moderación automatizada actúa como una defensa real para los usuarios o como una coartada corporativa para proteger la facturación. En la medida en que los ingresos publicitarios continúen sufragando las elevadas facturas de la investigación en IA, los botones ficticios disfrazados de avisos del sistema seguirán apareciendo en pantalla. Permanecerán activos a la espera del próximo despiste del usuario. En este juego del gato y el ratón, quien maneja la trampa es el mismo que reparte el queso.
Enlaces de referencia:
