Une enquête récente de Trellner Research a révélé un fait troublant : en posant des questions aux outils de recherche par IA pour des conseils d’achat de logiciels dans 380 domaines différents, 59,8 % des 7534 liens de référence fournis par le système pointaient vers des sites inconnus, classés au-delà de la 100 000e place mondiale en termes de trafic. Plus d’un tiers des domaines cités n’entrent même pas dans le top 1 million mondial, le classement médian de tous les sites cités n’étant que de 71 611. La recherche par IA n’a pas fait le tri comme on l’espérait, mais a plutôt mis en avant les déchets des confins d’Internet.
Trois sites ont créé 215 000 pages de faux classements
La source de ces informations de mauvaise qualité provient de trois fermes de contenu complices : wifitalents.com, worldmetrics.org et gitnux.org. Elles ont toutes été enregistrées via NameCheap entre décembre 2023 et mai 2024, partageant non seulement les mêmes serveurs de noms Cloudflare, mais aussi des modèles de pages Web, des catégories de barres de navigation et même des pages périphériques telles que le « Processus éditorial » et la « Présentation de l’entreprise » qui sont identiques. Cette chaîne de montage industrialisée a généré plus de 70 000 pages d’évaluation des « meilleurs logiciels » pour chaque site, ce qui, ajouté à un autre site de secours de configuration identique zipdo.co, porte le total des fausses évaluations à 215 000 pages.
Il n’existe tout simplement pas 215 000 catégories de logiciels dans le monde. Ces prétendues évaluations sont le produit d’un assemblage généré en masse par des machines. Même pour des catégories très rares comme les « logiciels de gestion de puits de pétrole » ou les « logiciels de gestion des collections de musées », elles parviennent sérieusement à rassembler 10 outils pour une comparaison de classement.
Image : La page de classement des « meilleurs logiciels de gestion de puits de pétrole » sur wifitalents.com. Source : Capture d’écran de la page wifitalents.com
Les enquêteurs ont découvert que sous la même catégorie de « logiciels d’estimation de projet », les trois sites ont chacun fourni un classement Top 5 complètement différent, tout en attribuant sérieusement ces articles à 9 « éditeurs » différents.
| Site | 1ère place | 2ème place | 3ème place | 4ème place | 5ème place |
|---|---|---|---|---|---|
| worldmetrics.org | Float | Scoro | Teamwork.com | Procore | Wrike |
| wifitalents.com | Float | Scoro | Teamwork.com | Buildertrend | Apropo |
| gitnux.org | Saviom | Mosaic | Buildertrend | Float | Teamwork.com |
Le premier de gitnux ne se trouve même pas dans le top cinq des deux autres. Pire encore, dans la section de signature de certaines pages, la variable de code de modèle non rendue « Within the next 26 days » subsistait de manière flagrante. Ces méthodes de falsification grossières ont révélé qu’il s’agissait simplement de produits générés sans intervention humaine par le même script, ne nécessitant qu’un serveur et des coûts d’appels d’API bon marché en arrière-plan.
Des pages Web écrites exclusivement pour les robots de recherche
Ces 215 000 pages Web n’ont jamais été conçues pour être lues par des humains. Le titre du code HTML de worldmetrics.org indique directement « Facts & Grounding Page » (Page de faits et de fondation). Il s’agit d’une balise de données que seul un système de recherche de grands modèles peut lire et comprendre, et les méta-descriptions cachées de la page Web indiquent sans vergogne « faits vérifiés pour des enregistrements lisibles par machine ».
Image : Classement des logiciels d’estimation de projet sur worldmetrics.org, utilisant le même modèle que wifitalents.com. Source : Capture d’écran de la page worldmetrics.org
Ces fausses informations spécialement conçues pour alimenter les machines cachent un commerce d’arbitrage lucratif. Après avoir utilisé du contenu généré par des machines pour augmenter le poids des citations par l’IA, worldmetrics.org vend ouvertement des services sur son site Web : des études de marché personnalisées à partir de 5000 euros, des rapports finis vendus 499 euros, et même 2500 euros pour aider à la « sélection des fournisseurs ».
Après l’échec de l’optimisation traditionnelle pour les moteurs de recherche (SEO), les fermes de contenu ont trouvé une nouvelle solution pour contourner les grands modèles. Un blog marketing vendant des produits de démonstration interactifs, guideflow.com, qui ne contenait aucune évaluation de logiciels, a été cité 194 fois par la recherche par IA dans 96 catégories, simplement parce son style d’écriture correspondait aux préférences du modèle. Ce blog inconnu a battu la célèbre agence d’analyse mondiale Gartner dans le classement des citations, devenant absurdement la preuve centrale pour des questions professionnelles telles que les « logiciels de rendu 3D » et les « logiciels RFID ».
Des liens de jeux d’argent se faisant passer pour des recommandations officielles
L’afflux massif de fausses sources a directement entraîné un grave biais de direction dans les résultats de recommandation. Dans la liste de recommandation générée, 1,1 % des sites Web officiels des fournisseurs avaient déjà fait faillite ou changé de nom de domaine. Lorsque les enquêteurs ont posé des questions sur les « plateformes de gestion de données de recherche », le lien de recommandation officiel dryad.co fourni par le modèle sonar redirigeait directement vers un portail de jeux d’argent en ligne indonésien nommé BIGSLOT288.
Dans une autre réponse concernant les « outils de qualité des données », le résultat de recommandation du modèle premium sonar-pro redirigeait directement vers le site Web officiel d’un hôtel-casino à Monaco. L’enquête a révélé que les deux modèles partageaient la même couche de recherche sous-jacente, retournant des listes de citations identiques à l’octet près dans 289 des 380 catégories. Des données de mauvaise qualité ont pollué l’ensemble du système.
En revanche, Wikipédia, réputée pour sa neutralité et son objectivité, n’est apparue que 3 fois sur l’ensemble des 7534 citations. Les informations de haute qualité du monde réel ont ainsi été noyées et évincées par le verbiage généré par les machines des sites Web.
La chaîne de confiance s’effondre à partir de la couche source
Le rapport d’enquête indique qu’il est actuellement impossible d’affirmer que ces sources de mauvaise qualité ont modifié les réponses de recommandation finales de la recherche par IA, mais cela a déjà mis en évidence les vulnérabilités systémiques de la couche de recherche des grands modèles. Des praticiens chevronnés du SEO ont même révélé des stratégies plus avancées : utiliser d’abord des questions pour tester divers grands modèles, calculer l’écart de divergence du texte, puis utiliser l’IA pour réécrire massivement des articles afin que les caractéristiques textuelles de la page Web correspondent précisément aux préférences intégrées du grand modèle.
Les grands modèles de langage ont eux-mêmes une tendance inhérente à préférer les textes générés par l’IA. Lors d’auto-évaluations dans la communauté des développeurs, face à un code concis restructuré manuellement et à son propre code généré verbeux, le modèle d’IA choisit toujours obstinément ce dernier. Auparavant, les médias avaient même révélé qu’un certain pays avait produit en masse de faux sites de réflexion pour alimenter l’IA, lui faisant générer massivement des opinions politiques avec une position spécifique.
Le système de recommandation de la recherche par IA est systématiquement alimenté par de fausses évaluations. Les fermes de contenu ont appris à créer des sources falsifiées qui satisfont les préférences de l’IA, transformant la recherche par IA en une chambre d’écho. Lorsque vous lui demandez quel logiciel est le meilleur, elle ne fera qu’afficher à l’écran de fausses publicités écrites depuis longtemps par une autre machine.
Liens de référence :
- Rapport Trellner Research
- Discussion HN (item?id=49536375)
