세계에서 가장 거대한 거대언어모델(LLM) 훈련용 지식 기반이 모델 자신이 뱉어낸 텍스트에 의해 거꾸로 오염되고 있다. 영어 위키백과 순찰 편집자들은 매일 쏟아져 들어오는 대량의 기계 생성 문서를 차단하느라 고군분투 중이다. 인공지능 텍스트 탐지 도구인 팽그램(Pangram) 분석에 따르면, 2025년 말 위키백과 신규 문서의 약 20%에서 합성 텍스트의 흔적이 포착되었다. 모델의 결과물이 다시 지식 기반으로 흘러 들어가 다음 세대 모델의 학습 원료를 은밀하게 망가뜨리고 있는 것이다.
위키백과 자원봉사자들이 나선 이번 정화 작업은 겉보기에는 단순한 커뮤니티 유지 관리 활동처럼 보인다. 그러나 실제로는 전체 인공지능 산업의 데이터 기반이 걸려 있는 중대한 방어전이다. 인류가 20년 넘게 엄격히 검증해 온 지식 저장소가 인공지능에 의해 허위 사실로 가득 찬 늪으로 변질될 위기에 처했다.
5분 만에 장문 5편 제출: 순찰자가 밝혀낸 20%의 합성 문서
위키백과 백엔드 시스템은 전례 없는 콘텐츠 급증 사태를 겪고 있다. 정상적인 인간 편집자라면 문헌을 꼼꼼히 조사하고 문장을 다듬어 수천 자 분량의 양질의 문서를 작성하는 데 며칠이 걸린다. 하지만 2026년 백엔드 기록을 보면, 일부 신규 계정은 5분 만에 장문의 초안 5편을 연달아 등록하고 있었다.
자동화 스크립트가 콘텐츠 생산의 한계 비용을 제로 수준으로 떨어뜨렸다. 이러한 대량 살포에 맞서 프랑스 국립컴퓨터과학통제연구소(Inria) 렌 센터의 인공지능 전공 박사과정생 엘리아 르블뢰(Ellia Lebleu)가 행동에 나섰다. 2023년 12월, 그는 디스코드에서 다른 자원봉사자들과 함께 정화 프로젝트인 ‘위키프로젝트 AI 클린업(WikiProject AI Cleanup)‘을 결성했다. 이들이 정리하려는 대상은 기계가 대량으로 날조해 낸 수만 편의 백과사전 문서다.
이처럼 자동화 도구로 조립된 콘텐츠는 매우 일관된 문체적 지문을 지니고 있다. 기계적인 3단 병렬 구문을 즐겨 쓰고, 문장 호흡이 단조로우며, 단락 구성은 공장에서 찍어낸 틀처럼 균일하다. 겉으로는 매끄럽게 읽히지만, 속을 들여다보면 공허한 형용사만 가득할 뿐 독창적인 사실은 전혀 담겨 있지 않다.
팽그램의 모니터링 데이터에 따르면 2025년 말 신규 문서의 약 20%가 기계 생성으로 의심되었다. 지속적인 삭제 작업을 거쳐 2026년 초 이 비율은 약 16%로 다소 감소했으나, 여전히 신규 콘텐츠 6개 중 1개 꼴이다. 기계가 쓰레기를 찍어내는 문턱은 제로가 되었지만, 사람이 이를 검증하는 데 드는 시간 비용은 전혀 줄어들지 않았다.
사진: 위키백과 지구본 로고와 편집 도구를 결합한 비주얼 디자인. 출처: IEEE Spectrum
가짜 인용은 줄었지만, 진짜 출처가 본문 내용을 뒷받침하지 못한다
정화 프로젝트 자원봉사자들은 지난 1년 사이 상대의 기술이 한층 고도화되었음을 발견했다. 초기 인공지능의 환각 현상은 엉성하기 짝이 없었다. 모델은 존재하지 않는 학자 이름을 멋대로 지어내거나 가짜 학술지 권호수를 기재하곤 했다. 순찰자가 해당 인용구를 학술 검색 엔진에 붙여넣기만 해도 단 몇 초 만에 거짓임을 간파할 수 있었다.
그러나 요즘의 텍스트 생성 스크립트는 검색 증강 생성(RAG) 기술을 기본으로 탑재하고 있다. 모델은 글을 쓰기 전에 실제 학술 문헌을 긁어모은 뒤, 실제 링크와 서지 정보를 글 말미에 달아둔다. 참고문헌이 실제로 존재하고 웹 링크도 정상적으로 열리기 때문에 겉으로는 가짜 인용이 사라진 것처럼 보인다.
이로 인해 기만 수법은 훨씬 더 교묘해졌다. 최근 가장 흔한 문제는 바로 ‘문헌은 실재하지만 본문의 해당 문장을 전혀 뒷받침하지 못한다’는 점이다. 예컨대 한 역사 문서의 경우 권위 있는 학술 전문 도서와 상세 페이지 번호까지 버젓이 적혀 있었다. 하지만 자원봉사자가 직접 종이책을 펼쳐 확인해 보니 책 전체 어디에도 본문에 적힌 일화가 언급되어 있지 않았다.
이러한 형태의 신종 날조는 훑어보는 식으로는 결코 잡아낼 수 없다. 순찰자는 마치 학술 부정 조사관처럼 실제 종이책을 구해보거나 수십 쪽에 달하는 학술 논문을 정독해야 한다. 출처 하나를 검증하는 데 걸리는 시간이 불과 몇 초에서 30분 이상으로 늘어난 것이다.
상황이 악화되는 것을 막기 위해 영어 위키백과는 2026년 3월부터 공식 지침 ‘WP:LLM’을 시행했다. 이 정책은 문서 본문을 직접 작성하거나 윤문하는 데 거대언어모델을 사용하는 행위를 엄격히 금지한다. 아울러 커뮤니티는 거대언어모델 생성 콘텐츠를 대상으로 한 신속 삭제 규정인 ‘WP:G15’도 도입했다. 기계가 진짜 문헌으로 가짜 주장을 포장하는 시대에, 인간의 철저한 대조 확인만이 유일한 방파제 역할을 하고 있다.
사진: 자동화된 텍스트 남용 근절을 핵심 목표로 내건 WikiProject AI Cleanup 프로젝트 대문. 출처: Wikipedia
말뭉치의 합성 텍스트 재흡수가 부르는 모델 붕괴
위키백과가 만약 평범한 인터넷 게시판이었다면, 쓰레기 글의 범람은 독자의 열람 경험을 해치는 선에서 끝났을 것이다. 그러나 전체 인공지능 기술 공급망에서 위키백과는 매우 특수한 수원지 역할을 한다. 거의 모든 주요 최신 모델은 사전 학습 단계에서 위키백과 데이터에 아주 높은 표본 가중치를 부여한다.
위키백과의 높은 품질은 전 세계 자원봉사자들이 20년 넘게 이어온 엄격한 상호 검토에서 비롯되었다. 유수의 인공지능 연구소들은 이 순도 높은 결과물에 기대어 모델에게 기본 상식과 논리적 추론을 가르쳤다. 그런데 위키백과가 기계 생성 글로 희석되면, 인공지능은 합성 부산물을 객관적 상식으로 오인하여 흡수하게 된다.
학계에서는 이를 ‘모델 자가포식 장애(Model Autophagy Disorder)’ 또는 ‘모델 붕괴(Model Collapse)‘라 부른다. 모델이 합성 데이터에 의존해 여러 세대에 걸쳐 학습을 거듭하면 초기 오차가 눈덩이처럼 불어난다. 모델의 결과물은 평균값으로 급격히 수렴하며, 드물지만 결정적인 주변부 지식은 지워지고 마침내 시스템 전체가 논리적 혼란에 빠진다.
MIT 테크놀로지 리뷰의 과거 심층 취재는 소수 언어판 위키백과에서 발생한 피해 실태를 자세히 기록했다. 상주 편집자가 부족한 소수 언어판에서는 기계가 생성한 문서의 비율이 극단적으로 치솟았다. 이후 이 오염된 데이터를 학습한 언어 모델들은 심각한 품질 저하를 겪으며 엉뚱한 대답을 늘어놓거나 허황된 거짓말을 남발했다.
양질의 지식을 섭취해야 모델이 진화할 수 있으며, 합성 폐기물을 먹으면 퇴화할 뿐이다. 자원봉사자들이 솎아내는 쓰레기 문서 하나하나는 미래의 모델들을 위한 깨끗한 지식의 불씨를 지키는 일이다.
2022년 이전 웹 아카이브는 디지털 세계의 ‘저방사능 강철’이 되었다
기술 커뮤니티에서 많은 개발자들은 2022년 말 이전의 인터넷 텍스트를 물리학계의 ‘저방사능 강철(Low-background steel)‘에 비유하고 있다. 이는 산업 역사와 핵물리학에서 차용한 냉혹한 은유다.
1945년 인류 최초의 원자폭탄이 폭발한 이후, 전 세계 대기는 인공 방사성 동위원소로 뒤덮였다. 그 이후 육상 고로에서 제련된 모든 강철은 송풍 과정에서 대기 중의 방사성 물질을 흡수하게 되었다. 따라서 극도로 정밀한 방사선 감지 장비를 제작하려면 현대의 철을 쓸 수 없으며, 과학자들은 제1차 세계대전 당시 침몰한 전함의 장갑판을 해저에서 인양해 써야 했다.
2022년 말 챗지피티(ChatGPT)의 출현은 디지털 정보 세상에서 일어난 최초의 핵폭발과 같았다. 그 직후 공용 웹 공간은 기계가 만들어낸 콘텐츠에 급속도로 잠식당했다. 검색 결과는 조립 라인에서 찍어낸 불량품으로 채워졌고, 오염되지 않은 순수한 인간의 원작 글은 급격히 자취를 감추고 있다.
이 때문에 2022년 이전에 저장된 과거 인터넷 기록은 저방사능 강철과 같은 대체 불가능한 자원이 되었다. 주요 인공지능 연구소들이 최근 거액을 들여 도서 저작권을 사들이고, 오프라인 도서관의 헌책까지 대량으로 사들이고 있다는 소식이 들려오는 것도 모두 같은 맥락이다. 기계에 오염되지 않은 순수한 인간의 사유를 확보하려는 절박한 쟁탈전인 셈이다.
한때 인터넷의 글은 마르지 않는 샘물처럼 여겨졌다. 그러나 기계 텍스트가 방사성 낙진처럼 웹 전역에 흩뿌려진 지금, 오염되지 않은 인간의 글은 다시 만들어낼 수 없는 전략 자산이 되었다.
손수 한 글자씩 확인하며 지켜내는 인간적 진실의 마지노선
거세게 밀려드는 합성 콘텐츠의 물결 앞에서 순수한 알고리즘 기술은 이미 한계를 드러내고 있다. 통계 기반의 인공지능 탐지 도구는 오탐과 미탐을 수시로 일으킨다. 상대방이 프롬프트를 약간 수정하거나 유의어 몇 개만 바꿔 끼워도 탐지 방어망은 힘없이 뚫리고 만다.
프로젝트 설립자인 엘리아 르블뢰는 새로운 정책의 성패를 판단하기엔 아직 이르다고 털어놓는다. 규정은 성실한 일반 사용자의 행동을 제한할 수는 있어도, 자동화 프로그램으로 대량 도배를 일삼는 조직적 어뷰징 세력은 막지 못한다.
결국 가장 든든한 방어선을 구축하는 것은 위키백과의 가장 전통적인 수작업 편집자들이다. 자원봉사자들은 낡은 종이책을 펼쳐 들고 학술지 원문 스캔본을 일일이 대조한다. 이들은 가장 우직한 방식으로 거짓 정보를 한 줄씩 지워나간다. 파이썬 스크립트 몇 줄로 에이피아이(API)를 호출하면 수만 자의 합성 글을 만드는 데 몇 초밖에 걸리지 않는다. 하지만 인간이 그 안의 한 문단이 사실인지 가려내는 데는 반나절의 자료 조사가 필요하다.
이 싸움은 압도적으로 불리한 소모전이다. 그러나 흩날리는 합성 폐기물 속에서 객관적 사실이라는 인류의 둑을 지켜내고 있는 것은, 아무런 대가도 바라지 않는 이 자원봉사자들이다.
인공지능의 산물이 그 스스로의 교과서를 더럽히고 있다. 위키백과가 기계 생성 문서를 걷어내는 것은, 전체 인공지능 산업이 의존하고 있는 사실의 기준점을 수호하는 작업이다. 인간이 기초적인 사실에 대한 엄밀한 검증을 포기하고 모델이 자신의 배설물을 다시 삼키도록 방치한다면, 디지털 지식 체계는 머지않아 속 빈 껍데기 환각으로 전락할 것이다. 진실을 지켜내는 일에는 여전히 살과 피를 지닌 인간의 직접적인 참여가 절실하다.
참고 링크:
- IEEE Spectrum 심층 보도
- 영어 위키백과 WP:LLM 및 WP:G15 정책 지침
- WikiProject AI Cleanup 자원봉사 프로젝트 대문
- MIT Technology Review 말뭉치 오염 실태 조사
- 저방사능 강철 및 모델 붕괴에 관한 기술 커뮤니티 토론
