全世界最大的大模型训练题库,正在被模型自己吐出的文字倒灌。在维基百科英文站上,巡查员每天都在阻击成批涌入的机器条目。检测工具 Pangram 披露,2025 年底维基百科约有 20% 的新增条目带有合成痕迹。大模型输出倒流回知识库,悄悄污染了下一代模型的训练原料。
维基百科志愿者发起的清理行动,表面上看是一场社区维护。实际上,这场防御战直接关系到整个人工智能产业的语料根基。人类核对了二十余年的知识库,正被 AI 变成充满虚假事实的沼泽。
五分钟交出五篇长文:巡查员揪出20%合成词条
维基百科后台正在经历异常的内容洪峰。正常人类编辑需要查阅文献,反复推敲语句。写出一篇数千字的高质量条目,往往需要耗费数天。但在 2026 年的后台记录里,部分新账号可以在五分钟内提交五篇长篇草稿。
自动化脚本把内容生产的边际成本压到了零。面对这种工业化灌水,法国 Inria 雷恩中心的 AI 方向博士生 Ellia Lebleu 站了出来。2023 年 12 月,她与其他志愿者在 Discord 上发起了清理项目 WikiProject AI Cleanup。他们要清理的,是成千上万篇由机器批量捏造的百科条目。
这些由自动化工具拼凑的内容,有着高度统一的文风指纹。它们酷爱三段式排比,行文机械平铺,段落结构整齐得像流水线模具。文字看似顺畅,通篇却是空洞的形容词,毫无原创事实。
Pangram 监测数据显示,2025 年底有约 20% 的新增条目疑似机器生成。经过持续清理,2026 年初这一比例降至 16% 左右。即便如此,它依然占了新内容的六分之一。机器制造垃圾的门槛降到了零,人工审核的时间成本却保持刚性。
图:结合维基百科地球标志与编辑工具的视觉设计。来源:IEEE Spectrum
假引用变少了,真实来源却支撑不了正文
清理项目的志愿者发现,对手的技术在过去一年里完成了升级。早期的 AI 幻觉非常拙劣。模型经常随口捏造不存在的学者名字,杜撰期刊卷号。巡查员只要把引文复制到学术搜索引擎里一搜,就能当场戳破谎言。
现在的生成脚本普遍接入了检索增强技术。模型下笔前先抓取真实文献,再把真实的链接与书目贴在文末。参考文献全部真实存在,链接也能点开,假引用看似消失了。
伪装由此变得更加隐蔽。更常见的问题,是「文献真实存在,却根本支撑不了正文那句话」。比如某篇历史词条,文末煞有介事地标注了权威学术专著。志愿者翻开对应页码,全书根本没提过正文里描述的经历。
这种新型造假极难依靠肉眼扫视识破。巡查员必须像学术打假人员一样,去调取纸质图书或翻看数十页论文。人类核验单条引文的耗时,从几秒钟被直接拉长到了半小时。
为了遏制局面恶化,英文维基百科自 2026 年 3 月起正式执行 WP:LLM 指引。该政策严禁使用大模型直接生成或改写条目正文。社区同时启用了针对大模型生成内容的快速删除规则 WP:G15。当机器用真实文献包装虚假断言,人工逐字核对成了唯一的防线。
图:WikiProject AI Cleanup 项目主页,明确将治理自动化文本滥用列为核心目标。来源:Wikipedia
语料库回吞合成文本引发模型退化
如果维基百科只是一个普通的网络论坛,灌水帖泛滥最多影响读者的阅读体验。但在整个人工智能技术链条中,维基百科占据着特殊的源头地位。几乎所有主流大模型在预训练时,都会给维基百科语料赋予极高的采样权重。
维基百科的高质量源于全球志愿者二十余年的严格审校。各大实验室依靠这份纯净成果,教给模型常识与逻辑。一旦维基百科被机器内容稀释,大模型就会把合成产物当成常识吞下。
学术界将这种现象称为模型自噬障碍或模型崩溃。模型依赖合成数据进行训练,多代迭代后会迅速放大初始误差。模型输出会迅速向均值收敛。罕见但关键的边缘知识被抹去,模型最终陷入逻辑混乱。
麻省理工科技评论此前的调查记录了小语种维基百科的受害过程。在缺少人类编辑的小语种页面,机器生成的词条比例极高。后续模型在这些语料上训练,质量出现严重滑坡。模型频繁答非所问,胡编乱造。
模型吞下高质量知识才能进化,吃下合成废料只会退化。 志愿者清理掉的每一篇垃圾,都在为未来模型保留清洁的火种。
2022年旧存档成了数字世界的「低本底钢」
在技术社区的讨论中,许多开发者把 2022 年底之前的互联网文本,比作物理学界的「低本底钢」。这是一个来自工业史与物理学的冷酷隐喻。
1945 年人类第一颗原子弹爆炸后,全球大气中充满了人工放射性同位素。此后在陆地上冶炼的新钢材,在鼓风阶段都会吸入带有辐射的空气。制造高精度探测仪必须使用无辐射钢材。科学家只能去海底打捞一战沉船的装甲。
2022 年底 ChatGPT 的问世,就是数字信息世界的第一次核爆。在此之后,公网迅速被机器生成的内容淹没。公网充斥着流水线生成的废料。干净的人类原创文字正在急剧萎缩。
2022 年之前的历史互联网存档,因此具备了低本底钢一样的不可替代性。各大实验室近年高价收购图书版权,甚至被曝采购实体图书馆旧书。这些举动遵循着同一个逻辑:抢夺未被机器污染的原创思想。
互联网上的文字原本取之不尽。机器文本像辐射尘洒满网络,未受污染的人类文字成了不可再生的战略资源。
人工逐字核对守住人类事实底线
面对来势汹汹的合成内容洪流,纯粹的技术手段正在显露出疲态。基于统计学的 AI 检测工具经常出现误判。对手稍微调整提示词或者改换几个同义词,就能轻松绕过算法防线。
项目创始人 Ellia Lebleu 坦言,现在判断政策是否奏效为时过早。规矩能管住普通用户,却防不住批量发帖的自动化黑产。
真正筑起防线的依然是维基百科最传统的人工编辑。志愿者翻出实体旧书,比对学术期刊扫描件。他们用最笨的办法,逐行剔除虚假信息。写几行 Python 脚本调用模型 API 批量生成上万字只要几秒。人类核实一段话的事实真伪,却需要查阅半天资料。
这场消耗战是不对称的。然而正是这群不计报酬的志愿者,在漫天飞舞的合成废料中守住了客观事实的堤坝。
AI 输出正在污染它自己的教科书。维基百科清理机器生成的词条,守护着整个人工智能产业赖以维系的事实基准。一旦人类放弃对基础事实的坚守,任由模型吞食自己的产物,数字知识体系迟早沦为空心幻象。守住真实,依然需要人类肉身的参与。
参考链接:
- IEEE Spectrum 深度报道
- 英文维基百科 WP:LLM 与 WP:G15 政策方针
- WikiProject AI Cleanup 志愿者项目主页
- MIT Technology Review 语料污染调查
- 技术社区关于低本底钢与模型自噬的讨论