Eine aktuelle Untersuchung von Trellner Research enthüllt eine beunruhigende Tatsache: Bei der Befragung von KI-Suchwerkzeugen nach Kaufempfehlungen für Software in 380 verschiedenen Bereichen verwiesen 59,8 % der 7534 bereitgestellten Referenzlinks auf unbekannte Websites, die im globalen Traffic-Ranking jenseits der Top 100.000 liegen. Über ein Third der zitierten Domains schaffte es nicht einmal in die globalen Top 1.000.000, und das mediane Ranking aller zitierten Websites lag bei lediglich 71.611. Anstatt wie erwartet die besten Informationen herauszufiltern, serviert die KI-Suche Müllinformationen vom Rande des Internets.
Drei Websites erstellen 215.000 Seiten gefälschter Ranglisten
Die Quelle der minderwertigen Informationen sind drei miteinander verflochtene Inhaltsfarmen: wifitalents.com, worldmetrics.org und gitnux.org. Sie wurden alle zwischen Dezember 2023 und Mai 2024 massenhaft über NameCheap registriert. Sie teilen sich nicht nur dieselben Cloudflare-Nameserver, sondern auch Webseitenvorlagen, Navigationskategorien und sogar periphere Seiten wie den “Redaktionsprozess” und die “Unternehmensvorstellung”. Diese industrialisierte Fließbandproduktion generierte für jede Website über 70.000 “Beste Software”-Bewertungsseiten. Zusammen mit einer weiteren Backup-Website gleicher Konfiguration, zipdo.co, beläuft sich die Gesamtzahl der gefälschten Bewertungen auf 215.000 Seiten.
Es gibt weltweit gar keine 215.000 Softwarekategorien. Diese sogenannten Bewertungen sind das maschinell erzeugte Resultat massenhafter Zusammenstellungen. Selbst für sehr seltene Kategorien wie “Ölfeld-Management-Software” oder “Museumssammlungs-Management-Software” werden allen Ernstes 10 Tools für einen Ranking-Vergleich zusammengestellt.
Abbildung: Die Rangliste für “Beste Ölfeld-Management-Software” auf wifitalents.com. Quelle: Screenshot der Seite wifitalents.com
Die Ermittler stellten fest, dass in derselben Kategorie “Projektkalkulationssoftware” die drei Websites jeweils völlig unterschiedliche Top-5-Ranglisten präsentierten, jedoch fälschlicherweise 9 verschiedene “Redakteure” als Autoren angaben.
| Website | Platz 1 | Platz 2 | Platz 3 | Platz 4 | Platz 5 |
|---|---|---|---|---|---|
| worldmetrics.org | Float | Scoro | Teamwork.com | Procore | Wrike |
| wifitalents.com | Float | Scoro | Teamwork.com | Buildertrend | Apropo |
| gitnux.org | Saviom | Mosaic | Buildertrend | Float | Teamwork.com |
Der Spitzenreiter von gitnux ist in den Top 5 der beiden anderen Websites überhaupt nicht zu finden. Sogar im Autorenfeld einiger Seiten verblieb noch ungerenderter Vorlagencode: “Within the next 26 days”. Die minderwertigen Fälschungsmethoden offenbaren, dass es sich lediglich um die Produkte desselben Skripts ohne menschliches Eingreifen handelt, wofür nur ein Server und kostengünstige API-Aufrufe erforderlich sind.
Webseiten speziell für Lesemaschinen geschrieben
Diese 215.000 Webseiten waren von Anfang an nicht für menschliche Leser gedacht. Der Titel des HTML-Codes von worldmetrics.org ist direkt als “Facts & Grounding Page” (Fakten- und Grundlagenseite) gekennzeichnet. Dies ist eine Datenmarkierung, die nur von Retrieval-Systemen großer Modelle gelesen und verstanden wird. In den versteckten Meta-Informationen der Webseite steht unverhohlen “Verifizierte Fakten für maschinenlesbare Aufzeichnungen”.
Abbildung: Die Rangliste der Projektkalkulationssoftware auf worldmetrics.org, unter Verwendung derselben Vorlage wie wifitalents.com. Quelle: Screenshot der Seite worldmetrics.org
Hinter diesen speziell für Maschinen generierten Falschinformationen verbirgt sich ein kommerzielles Arbitrage-Geschäft mit klaren Preisschildern. Nachdem die durch Maschinen generierten Inhalte die Gewichtung für KI-Zitate in die Höhe getrieben haben, worldmetrics.org verkauft auf seiner offiziellen Website offen Dienstleistungen: Maßgeschneiderte Marktforschung ab 5000 Euro, fertige Berichte für 499 Euro und sogar für die Hilfe bei der “Anbieterauswahl” werden 2500 Euro verlangt.
Nachdem die traditionelle Suchmaschinenoptimierung ihre Wirkung verloren hat, haben Inhaltsfarmen einen neuen Weg gefunden, um große Modelle auszutricksen. guideflow.com, ein Marketing-Blog, der interaktive Demo-Produkte verkauft, enthält selbst keinerlei Software-Bewertungen. Da sein Schreibstil jedoch den Präferenzen der Modelle entspricht, wurde er von der KI-Suche in 96 Kategorien 194-mal zitiert. Dieser unbekannte Blog schlug das weltweit bekannte Analyseunternehmen Gartner in der Zitat-Rangliste und wurde absurderweise zum Kernbeleg für Fachfragen wie “3D-Rendering-Software” und “RFID-Software”.
Glücksspiel-Links als offizielle Empfehlungen getarnt
Der massive Zustrom falscher Quellen hat zu schwerwiegenden Abweichungen in den Empfehlungsergebnissen geführt. In der endgültig generierten Empfehlungsliste waren die offiziellen Websites von 1,1 % der Hersteller bereits geschlossen oder die Domains hatten den Besitzer gewechselt. Auf die Frage der Ermittler nach einer “Plattform für das Management von Forschungsdaten” leitete der vom Sonar-Modell bereitgestellte offizielle Empfehlungslink dryad.co direkt zu einem indonesischen Online-Glücksspielportal namens BIGSLOT288 weiter.
In einer anderen Antwort zu “Datenqualitätstools” sprangen die Empfehlungsergebnisse des Premium-Modells sonar-pro direkt auf die offizielle Website eines Casino-Hotels in Monaco. Die Untersuchung ergab, dass diese beiden Modelle dieselbe zugrundeliegende Retrieval-Schicht teilen. In 289 von 380 Kategorien lieferten sie eine bytegenau identische Zitatliste; minderwertige Daten haben das gesamte System kontaminiert.
Im Gegensatz dazu erschien Wikipedia, bekannt für Neutralität und Objektivität, unter allen 7534 Zitaten nur magere dreimal. Hochwertige Informationen der realen Welt wurden so von maschinell generiertem Geschwafel überschwemmt und verdrängt.
Der Zusammenbruch der Vertrauenskette auf der Quellenebene
Der Untersuchungsbericht stellt klar, dass derzeit nicht behauptet werden kann, diese minderwertigen Quellen hätten die endgültigen Empfehlungsantworten der KI-Suche verändert. Es offenbart jedoch eine systematische Schwachstelle in der Retrieval-Schicht großer Modelle. Erfahrene SEO-Praktiker haben sogar fortschrittlichere Methoden offengelegt: Zuerst werden verschiedene große Modelle mit Fragen getestet, um die Divergenzabweichung der Texte zu berechnen, und dann wird die KI eingesetzt, um Artikel in großen Mengen umzuschreiben, sodass die Textmerkmale der Webseiten exakt den internen Präferenzen der großen Modelle entsprechen.
Große Sprachmodelle haben von Natur aus eine Vorliebe für KI-generierte Texte. In Selbsttests der Entwickler-Community wählte das KI-Modell bei der Konfrontation mit von Menschen umstrukturiertem, kompaktem Code und seinem eigenen langatmigen, generierten Code stets hartnäckig letzteren. Zuvor hatten Medien bereits aufgedeckt, dass ein bestimmtes Land massenhaft gefälschte Think-Tank-Websites erstellte, um KI zu füttern, was zur massenhaften Ausgabe politischer Ansichten mit einer bestimmten Haltung führte.
Das Empfehlungssystem der KI-Suche wird systematisch mit Pseudo-Bewertungen gefüttert. Inhaltsfarmen haben gelernt, gefälschte Quellen herzustellen, die den Präferenzen der KI entsprechen, und die KI-Suche ist somit zu einer Echokammer degradiert worden. Wenn man sie fragt, welche Software die beste ist, druckt sie nur die falsche Werbung auf den Bildschirm, die eine andere Maschine längst geschrieben hat.
Referenzlinks:
- Trellner Research Bericht
- HN-Diskussion (item?id=49536375)
