Derselbe Screenshot einer Werbeanzeige, die einen iOS-Systemdialog täuschend echt nachahmt, wurde von menschlichen Prüfern zweimal als „konform mit den Google-Richtlinien“ eingestuft. Doch als derselbe Bildausschnitt an Googles eigenes multimodales Modell Gemini übergeben wurde, stufte die KI das Motiv innerhalb weniger Sekunden als unzulässig ein („DISAPPROVED“) und führte gleich drei präzise Richtlinienverstöße an. Zwei Prüfsysteme unter demselben Konzerndach kamen zu diametral entgegengesetzten Ergebnissen.
Zwei Beschwerden scheitern an einem einzigen Screenshot
Am 13. September 2026 meldete der Entwickler Chris Greening Google zweimal eine betrügerische Werbeanzeige in der YouTube-App, die eine angebliche Systemwarnung von Apple imitierte. In beiden Fällen erhielt er die offizielle Rückmeldung, das Material verstoße gegen keinerlei Vorschriften. Als er denselben Screenshot jedoch Googles hauseigenem Sprachmodell Gemini vorlegte, sah das Bild völlig anders aus: Innerhalb von Sekunden lieferte das System ein präzises Prüfprotokoll mit eindeutiger Beanstandung. Dieser Kontrast zwischen menschlicher Moderation und Spitzen-KI legt eine bittere Ironie moderner Plattform-Governance offen.
Die Anzeige, auf die Chris in der YouTube-App stieß, war ein Paradebeispiel für aggressive Nutzerschnittstellen-Täuschung. Der Banner trug die prominente Überschrift „iPhone Storage is Full“, gefolgt von der drängenden Warnung, dass bei nicht unverzüglich freigegebenem Speicherplatz grundlegende Funktionen des Telefons ihren Dienst versagen könnten. Darunter befanden sich zwei Schaltflächen im typischen iOS-Design mit der Beschriftung „Yes“ und „No“. Da Chris tatsächlich mit knappem Speicherplatz auf seinem Gerät kämpfte, klickte er in einem Moment der Unaufmerksamkeit auf die Anzeige. Ein gezielter Kontextdiebstahl, der zeigt, wie präzise Betrüger Nutzerpsychologie und Gerätezustände ausnutzen.
Als Chris die Täuschung bemerkte, reichte er unverzüglich über die offiziellen Meldekanäle Beschwerde ein. Die Antwort von Googles Prüfungsteam ließ nicht lange auf sich warten: „We found that the ad doesn’t go against Google’s policies, which prohibit certain content and practices that we believe to be harmful to users and the overall online ecosystem.“ Dieser standardisierte Textbaustein wischte das Urteil des Nutzers beiseite. Chris wechselte das Konto und bat Bekannte um weitere Meldungen. Die zweite Antwort fiel Wort für Wort identisch aus.
Die genauen Beweggründe für die Ablehnung der Beschwerden bleiben nach außen verschlossen. Angesichts von täglich hunderten Millionen Anzeigenmotiven ist eine lückenlose manuelle Prüfung schlicht unrealistisch – eine Erklärung, die auch Chris in seinem Artikel anführte und für plausibel hielt. Unter dem Druck hoher Prüfquoten erhalten komplexe Täuschungsmanöver vor übermüdeten Augen allzu leicht einen Freifahrtschein. Dieser starre Mechanismus belegt, dass herkömmliche Schutzwälle gegen die industrielle Betrugsmaschinerie längst versagen. Betrüger, die vertraute Betriebssystem-UI nachbauen, durchdringen das manuelle Kontrollnetz der Werbeplattform mühelos.
Abbildung: Als iPhone-Speicherwarnung getarnte YouTube-Werbeanzeige. Quelle: atomic14
Gemini entscheidet in Sekunden, menschliche Prüfer winken zweimal durch
Nachdem Chris auf dem manuellen Prüfpfad zweimal auf Granit gebissen hatte, unternahm er einen simplen Test: Er lud den Screenshot mit den gefälschten Schaltflächen bei Gemini hoch und forderte das Modell auf, das Motiv anhand der offiziellen Werberichtlinien zu bewerten. Das Ergebnis fiel unmissverständlich aus: „Classification: DISAPPROVED“. In diesem Augenblick demonstrierte die multimodale KI ihre erdrückende Überlegenheit bei der visuellen Inhaltsprüfung.
Gemini begnügte sich nicht mit einem einfachen Verstoß-Flag, sondern benannte detailliert drei fundamentale Regelverstöße:
- Irreführendes Werbedesign (Misleading Ad Design): Das Motiv kopiert gezielt ein Systemdialogfenster („iPhone Storage is Full“) inklusive nativer iOS-Typografie und Rahmenformen.
- Nicht funktionale und täuschende UI-Elemente (Non-Functional / Deceptive UI Components): Die Schaltflächen „Yes“ und „No“ dienen nicht der Systemsteuerung, sondern sind bloße statische Grafiken, die jeden Klick abfangen, um den Nutzer auf eine externe Zielseite umzuleiten.
- Einschüchterungstaktiken und unbestätigte Behauptungen (Deceptive Fear-Based Tactics & Unverified Claims): Die Formulierung „If you don’t free up space soon, some features may not work properly“ erzeugt künstliche Panik über einen angeblichen Gerätedefekt, um App-Installationen zu erzwingen.
Die Fähigkeit multimodaler Großmodelle, UI-Hierarchien aufzuschlüsseln und betrügerische Absichten offenzulegen, stellt Akkordarbeiter externer Moderationsdienstleister weit in den Schatten. Gemini formulierte sogar konkrete Durchsetzungsmaßnahmen: unverzügliche Sperrung des Anzeigenmotivs, Verwarnung des Werbetreibenden wegen Falschdarstellung (Misrepresentation) und Kontosperrung bei wiederholten Verstößen. Ein lehrbuchreifes Prüfprotokoll, in Sekunden zum Nulltarif generiert. Googles manuelle Prüfteams hatten diese offensichtlichen Betrugsmerkmale dennoch zweimal ignoriert.
Chris fasste die Absurdität in seinem Blog zusammen: „Google’s own model rejects the ad in seconds, yet Google’s review process approved it twice.“ Zum Abschluss appellierte er ungeschminkt: „Come on, meatbags - use some of the amazing AI tools you have access to.“ Auf der einen Seite steht ein Technologieriese mit weltweit führender KI-Forschung, auf der anderen von betrügerischen Anzeigen geplagte Anwender. Dazwischen klafft eine Governance-Lücke, die von wirtschaftlichen Interessen zementiert wird.
Abbildung: Benachrichtigung von Google mit der Einstufung „Kein Richtlinienverstoß“. Quelle: atomic14
Dummheit oder Böswilligkeit: Wer blockiert die Löschung von Betrugsanzeigen?
Angesichts der gegensätzlichen Entscheidungen wählte der Autor zunächst eine wohlwollende Deutung und berief sich auf Hanlon’s Razor: „Schreibe nicht der Böswilligkeit zu, was durch Dummheit hinreichend erklärbar ist.“ Nach dieser Logik reichen die personellen Kapazitäten der Prüfungsteams bei weitem nicht aus, um jedes Motiv im Detail zu durchleuchten. Externe Dienstleister arbeiten starre Richtlinienkataloge mechanisch ab, und der einzelne Prüfer hat schlicht keine Zeit, gefälschte iOS-Popups von echten Warnungen zu unterscheiden.
Ab einer bestimmten Plattformgröße führt die unausweichliche organisatorische Entropie zu verkrusteten Prozessen. Wenn täglich Millionen neuer Werbemittel eingereicht werden, würde eine flächendeckende Tiefenprüfung durch qualifizierte Experten untragbare Kosten verursachen. Der resultierende Kompromiss ist eine durchlöcherte Abwehrlinie, gepaart mit einer rein symbolischen Nachprüfung. Strukturelles Versagen als simple Inkompetenz abzutun, entspringt dabei einer typisch resignierten Ingenieursperspektive.
Doch zwei Freigaben hintereinander allein mit personeller Überlastung zu erklären, greift zu kurz. Wenn das eigene KI-Modell die Täuschung in Sekunden entlarvt, existiert der technische Engpass de facto nicht mehr. Das Modell läuft auf den Servern, die Schnittstellen sind vorhanden und die Prüfregeln sind im System hinterlegt. Es sind keine ingenieurtechnischen Hürden, die eine Modernisierung der Abwehr verhindern.
Dass hochmoderne KI-Prüfroutinen nicht flächendeckend in die primäre Anzeigenpipeline integriert werden, deutet auf weit heiklere Widerstände hin. Entwicklerteams könnten solche Prüfschleifen problemlos scharfschalten. Die eigentliche Bremse liegt meist in den Monetarisierungsabteilungen. In dieser Abwägung kollidiert das Nutzererlebnis direkt mit den finanziellen Interessen der Werbekunden. Jede spürbare Verschärfung der Prüffilter führt unmittelbar dazu, dass signifikante Mengen an monetarisierbarem Anzeigeninventar ersatzlos entfallen.
Die Monetarisierungsangst aus Sicht eines 100-Millionen-Dollar-Werbekunden
Eine Diskussion auf Hacker News (item?id=49686445) beleuchtete die ökonomischen Hintergründe hinter diesem Schauspiel. Websitebetreiber und Medienkäufer steuerten Beobachtungen bei, die weit nüchterner ausfielen als Hanlon’s Razor, indem sie die löchrige Verteidigungslinie aus der Perspektive bezahlten Traffics analysierten.
Ein teilnehmender Webmaster beklagte, dass Google AdSense seine Seite seit geraumer Zeit mit tausenden unseriösen Popups überflute. Darin würden Nutzer mit fingierten Vorwürfen konfrontiert und zur Zahlung einer angeblichen Strafe von 100 Dollar aufgefordert. Als Ursprung dienten Subdomains bekannter Cloud-Anbieter wie azurestaticapps.net, netlify.app oder herokuapp.com. Betrüger nutzen das hohe Ansehen dieser Infrastrukturdienste gezielt aus, um Eingangsfilter zu umgehen, und wechseln täglich die Subdomains. Da Google diese Plattformen als Top-Level-Domains einstuft und Betreibern die domänenweite Sperrung verwehrt, bleiben Webmaster machtlos. Jeder Cent, der über diese Klicks fließt, schlägt sich letztlich als Umsatz in den Quartalszahlen von Google nieder.
Ein weiterer brisanter Beitrag stammte von einem Werbekunden, der angab, über 100 Millionen Dollar für Google Ads ausgegeben zu haben. Er schilderte, dass Google derzeit mit beispielloser Härte versuche, jeden erdenklichen Dollar aus dem Anzeigengeschäft herauszupressen. Dieser Erlösdruck speise sich aus zwei Quellen: Einerseits gelte es, Verunsicherungen im Wettlauf um generative KI zu kaschieren, andererseits müssten die rasant steigenden Investitionen in Rechenzentren und KI-Forschung gegenfinanziert werden. Zwar handelt es sich hierbei um subjektive Einschätzungen aus der Community, doch sie fügen sich in eine bestechende ökonomische Logik: Gigantische Rechenkapazitäten erfordern einen ununterbrochenen Geldstrom.
Sollten diese Berichte zutreffen, erhält die lasche Durchsetzung der Werberichtlinien eine handfeste wirtschaftliche Begründung: Jeder Klick auf eine fragwürdige Anzeige generiert Abrechnungserlöse; eine rigorosere Filterung würde den ausgewiesenen Werbeumsatz schmälern. Wenngleich dies Spekulationen der Kommentatoren bleiben – unbestreitbare Tatsache ist, dass die KI denselben Verstoß in Sekunden erkannte, während menschliche Prüfer ihn zweimal passieren ließen.
Wer Kriterien durchsetzt, bestimmt die Härte der Abwehrlinie
Der Vorfall von Chris Greening liefert eine treffende technische Metapher für die Plattformökonomie. Technologisch sind multimodale Sprachmodelle längst in der Lage, betrügerische UI-Tricks zu enttarnen, Drohbotschaften zu isolieren und diese mit Regelwerken abzugleichen. Die Erkennungsleistung ist kein limitierender Faktor mehr. Was die Sicherheitsmechanismen lähmt, ist der fehlende geschäftliche Wille der Plattform, minderwertige und toxische Werbemittel konsequent zu tilgen. Solange dieser Wille fehlt, werden mächtige Erkennungsmodelle nicht auf die Hauptstrecken der Auslieferung geschaltet.
Im Tauziehen darüber, ob zweifelhafte Anzeigen online bleiben, liegt die Entscheidungsgewalt ungeachtet jeder Algorithmenstärke bei der Unternehmensführung. Dient ein Moderationssystem primär dazu, bei öffentlicher Kritik ein Alibi vorzuweisen, verkommen selbst intelligenteste Prüfwerkzeuge zu unverbindlichen Empfehlungsgebern. Technischer Fortschritt kann ein Defizit an Durchsetzungswillen nicht kompensieren. Hochentwickelte Algorithmen dienen dann lediglich als zeitgemäße Fassade für überholte Geschäftslogiken.
Wer die Kriterien anwendet, entscheidet darüber, ob KI-Moderation dem Schutz der Nutzer dient oder als Schutzschild für Umsätze fungiert. Solange Werbeeinnahmen das finanzielle Rückgrat für astronomische KI-Forschungsrechnungen bilden, werden gefälschte Systemdialoge nicht verschwinden. Sie verbleiben in den Feeds und warten auf den nächsten unaufmerksamen Klick. In diesem Katz-und-Maus-Spiel ist derjenige, der die Mausefalle kontrolliert, zugleich derjenige, der den Käse verteilt.
Weiterführende Links:
