「안녕하세요, 저는 AI가 아닙니다. 저는 진짜 성우입니다. 지금부터 제가 빠른 말하기를 한 번 해보겠습니다——」
2026년 7월, 장쑤성 쉬저우. 31세의 선안위가 휴대폰 카메라를 향해 자신의 트레이드마크인 낮고 깊은 목소리로 이 말을 마치고 씁쓸한 미소를 지었다. 이것은 그가 지난 1년 동안 다섯 번째로 촬영한 ‘자기 증명 영상’이었다——플랫폼에, 고객에게, 의심할 수 있는 누구에게나 자신의 목소리가 살아있는 사람의 것임을 증명하기 위해.
목소리가 ‘도난당했다’
선안위는 중국 숏폼 비디오 플랫폼에서 어느 정도 이름 있는 성우다. 그는 한 영화 해설 채널에 6년간 목소리를 제공했으며, 이 채널은 더우인에서 500만 명 이상의 팔로워를 보유하고 있다. 그가 더빙한 영상은 수백만 뷰를 가볍게 넘긴다. 이 목소리로 그의 월수입은 최저 1만 위안에서 성수기에는 3만 위안까지 올랐고, 작년에는 아내 웨이이위안과 함께 새 아파트로 이사했다.
하지만 2025년부터 상황이 변했다.
그는 온라인에서 ‘자신의’ 목소리를 듣기 시작했다——영화 해설, 스포츠 뉴스 진행, 제품 홍보, 음모론 유포, 심지어 숏폼에서 욕설까지——그가 전혀 녹음한 적 없는 내용들이었다. 친척과 지인들이 축하 메시지와 함께 이 영상들을 보내왔고, 어떤 이는 돈을 빌려달라고까지 했다. 그가 일을 너무 많이 따서 손이 모자란 줄 알고.
현실은 정반대였다. 플랫폼의 AI 탐지 시스템이 그의 실제 녹음을 ‘AI 생성’으로 오판하기 시작했다. 태그가 붙으면 추천량이 급감하고, 조회수가 폭락하며, 고객의 수익도 함께 줄어들었다. 한 고객이 플랫폼에 이의를 제기했을 때, 고객센터의 답변은 가슴 아팠다: 「글쎄요, 이 목소리를 너무 많이 들어서, 항상 AI가 생성한 것이라고 생각했어요.」
AI 음성 합성, 어떻게 이렇게 똑같을 수 있나?
선안위의 처지를 이해하려면 먼저 이것을 알아야 한다: AI 음성 복제는 어떻게 이렇게 리얼할 수 있는가?
전통적인 음성 합성(예: 내비게이션 안내음)은 ‘접합’에 의존했다——대량의 실제 녹음을 작은 조각으로 자르고, 규칙에 따라 다시 붙이는 방식이다. 이렇게 만들어진 음성은 기계임이 티가 났다. 접합 부위마다 어색한 끊김이 있었고, 어조와 감정이 처음부터 끝까지 한결같았기 때문이다.
2023년 이후, ‘신경 음성 합성(neural voice synthesis)’ 기술이 상황을 완전히 바꾸었다. 녹음을 접합하는 대신, AI가 한 사람의 음성 특징——음높이, 음색, 말하기 속도, 리듬, 발음 습관, 심지어 호흡 방식까지——‘학습’한다. 마치 화가가 특정인의 그림 스타일을 익힌 후, 더 이상 사진을 참조하지 않고도 붓을 들어 동일한 작품을 그려낼 수 있는 것과 같다.
더 중요한 점은, 이 학습이 이제 극소량의 소재만으로도 가능하다는 것이다. 초기 음성 복제에는 한 사람이 수십 시간 분량의 텍스트를 읽어야 했다. 2025년에 이르러, 시장의 주류 AI 음성 도구——해외의 ElevenLabs, 중국의 Fish Audio 등——은 이미 몇 초의 오디오만으로 ‘제로샷 복제(zero-shot cloning)‘를 완성할 수 있게 되었다. 3초 녹음으로 최대 10분 길이의 자연스러운 어조의 음성을 생성할 수 있으며, 비용은 ‘생수 한 병 값’ 수준이다.
연구 결과는 더욱 우려스럽다. 런던 퀸메리 대학교의 2025년 실험에 따르면, AI가 생성한 음성은 이미 ‘구분 불가능 임계값(Indistinguishability Threshold)‘을 넘어섰다——일반 청취자는 사전 정보 없이 AI 음성과 실제 녹음을 구분할 수 없었다. 사이버 보안 회사 DeepStrike의 데이터에 따르면, 딥페이크 콘텐츠의 양은 2023년 50만 건에서 2025년 800만 건으로 폭증했으며, 증가율은 약 900%에 달한다.
이는 인간의 귀가 더 이상 ‘진짜와 가짜 목소리’를 판별하는 신뢰할 수 있는 방어선이 될 수 없음을 의미한다.
필자는 여러 기술 보고서를 검토했다. 현재의 AI 음성 합성은 주로 세 가지 기술 경로에 의존한다: 첫째는 확산 모델(diffusion model) 기반 음성 생성(AI 그림의 원리와 유사), 둘째는 오디오 코덱 기반 종단간(end-to-end) 합성, 셋째는 대규모 언어 모델(LLM)과 결합한 멀티모달 음성 생성——AI가 단순히 목소리만 모방하는 것이 아니라, 텍스트 내용에 따라 감정과 멈춤을 자동으로 조절한다. 이 세 가지 경로는 2025년에서 2026년 사이에 빠르게 성숙해져, 목소리 복제의 기술적 장벽을 ‘앱 하나 다운로드하면 완료’ 수준으로 낮추었다.
기술의 차원이 다른 공격: 한 업계의 생존 전쟁
선안위는 예외적인 사례가 아니다. 중국의 성우 업계는 지금 기술의 차원이 다른 공격을 겪고 있다.
28세 성우 류쓰야(Ciya Liu)는 한 숏폼 드라마의 여주인공 더빙을 녹음한 후, 제작사가 ‘품질 향상’을 위해 몇 개의 오디오를 다시 녹음해 달라고 요청했다. 그녀가 듣는 순간 멍해졌다——목소리는 확실히 그녀와 비슷했고, 발음의 작은 흠까지 재현되어 있었지만, 끊어 읽기와 강세 위치는 전혀 그녀의 습관이 아니었다. 그녀는 회사가 자신의 녹음을 사용해 AI 모델을 훈련시킨 것이 아닌지 의심했다. 항의하자 상대방은 AI 훈련을 부인했지만, 오디오 출처는 설명하지 못했다. 더욱 경계심을 불러일으킨 것은, 이 회사가 나중에 다른 성우들에게 통보했다는 점이다——임금 10% 삭감을 받아들이거나, 지급을 연기하라. 그리고 이것이 마지막 협업이 될 것이라고, 앞으로 ‘AI 제작 숏폼 드라마’로 전환할 것이라고 덧붙였다.
30세 성우 쉬쯔치가 목격한 것은 또 다른 냉혹한 현실이다: 오디오북 낭독의 시급이 80위안에서 40위안으로 떨어졌고, 위챗 주문방에는 예전엔 하루 수십 건의 작업이 올라왔지만, 지금은 며칠에 한 번 겨우 몇 건이 올라온다. 연초, 수십 명의 유명 성우들이 공개적으로 목소리를 AI 훈련에 사용하는 것을 허가한 적이 없다고 성명을 발표했다. 대표적인 성우 작업실인 729성공장은 AI가 생성한 오디오 드라마가 이미 수천 편, 수많은 계정에 등장했으며, 허가 없는 사용은 사실상 추적이 불가능하다고 밝혔다.
쉬쯔치의 말은 이 업계의 딜레마를 정확히 짚었다: 「많은 신인들은 목소리를 갈고닦고 기술을 향상시키면 AI보다 강해질 수 있다고 생각합니다. 하지만 우리처럼 오랜 기간 일해온 사람들은 압니다. 고객은 종종 특정 음색 하나만을 원한다는 것을. 이제 AI는 그들이 원하는 어떤 음색이든 복제할 수 있습니다.」
「AI는 모든 사람의 가장 좋은 목소리와 연기를 가져갑니다,」 그녀가 말했다. 「당신이 더 연습하고 정교해질수록, AI가 학습할 소재도 더 많아집니다.」
이 말 속에는 잔혹한 역설이 숨어 있다: AI 시대에, 성우가 더 열심히 자신을 연마할수록, 대체 대상이 될 가능성도 더 커진다는 것.
거의 이길 수 없는 싸움
AI에 복제된 후, 권리를 지키는 것이 얼마나 어려울까?
선안위와 아내는 생각할 수 있는 모든 방법을 시도했다: 영상과 캡처 수집, 침해 링크를 하나하나 기록, 업로더에게 연락, 플랫폼에 신고, 변호사 상담, 소송 준비.
업로더에게 연락한 결과는 다양했다——소수는 영상을 삭제했지만, 대다수는 그냥 무시했다. 어떤 이는 답장했다: 「건들지 마세요. 다른 목소리로도 더 좋은 영상을 만들 수 있으니까, 당신을 완전히 깔아뭉개버리겠습니다.」 또 어떤 이는 복제된 목소리의 사용 허가를 사겠다고 제안했다——마치 침해가 ‘사후 티켓’을 구매하면 되는 비즈니스 기회인 것처럼.
플랫폼의 신고 채널은 거의 무용지물이었다. 웨이이위안은 한 번 신고가 성공한 적이 있었는데, 길을 찾았다고 생각했다. 「그 후로, 나는 미친 듯이 링크를 복사하기 시작했어요.」 하지만 이후의 신고는 거의 모두 허공에 사라졌다. 「매일 증거를 모으고, 신고를 제출하지만, 나날이 더 절망적이었어요.」
법적 경로도 마찬가지로 어렵다. 2024년, 베이징의 변호사 런샹위는 중국 최초의 AI 음성 침해 사건을 대리했으며, 이 사건은 이후 최고인민법원의 참고 사례로 선정되었다. 판결은 명확했다: 허가 없는 음성 복제는 인격권 침해에 해당하며, 녹음 저작권을 보유하고 있다고 해서 성우의 목소리를 마음대로 사용할 수 있는 것은 아니다. 하지만 런샹위는 선안위의 상황이 첫 번째 사건보다 훨씬 복잡하다고 인정했다——첫 번째 사건에서 원고는 50시간 이상의 녹음 자료와 명확한 피고가 있었다. 오늘날, 누구나 3초짜리 오디오에서 목소리를 복제한 후 수많은 익명 계정을 통해 유포할 수 있다. 침해자의 신원 추적은 어렵고, 권리 보호의 경제적 비용(사법적 음성 감정만 해도 최소 1만 위안 필요)은 얻을 수 있는 배상액을 훨씬 초과한다.
「침해 비용이 너무 낮습니다.」 런샹위가 말했다.
”저는 평생 이 싸움을 해야 할지도 모릅니다”
어떤 이들은 선안위에게 제안했다: 목소리가 이미 복제되었으니, 차라리 직접 라이선스를 주고 수익을 얻으라고. 실제로 일을 잃은 일부 성우들은 AI 복제 기술을 가르치는 직업으로 전향했다.
선안위는 거절했다.
「AI가 나쁜 것이라고 생각하지 않습니다. 그것은 도구입니다,」 그가 말했다. 「하지만 사람들이 어떻게 사용하느냐가 문제입니다.」 온라인에서 자신의 경험을 공유한 후, 그는 많은 성우와 다른 업계 종사자들로부터 메시지를 받았다——그들도 비슷한 어려움에 직면해 있었다. 이 목소리들이 그를 더욱 굳건하게 만들었다. 그는 점점 더 많은 시간을 침해 기록과 소송 준비에 투자하고 있다.
그는 이 소송이 어려울 것이라고 예상한다. 「몇 년이 걸릴 수도 있고, 아마 평생일 수도 있습니다,」 그가 말했다. 「질 준비는 되어 있습니다. 하지만 무언가를 바꿀 수 있기를 바랍니다.」
수입 손실을 보충하기 위해, 선안위와 아내는 자신들의 숏폼을 만들기 시작했다. 그가 가장 좋아하는 콘텐츠는 남송 시인 신치지에 관한 것이다——평생 뜻을 이루지 못한 장군이자 시인. 녹음할 때, 선안위는 자신도 모르게 시구에 감정을 쏟아넣고 있었다는 것을 발견했다.
그 몇 분 동안, 그는 자신의 목소리로, 자신이 하고 싶은 말을 하고 있었다.
필자 주: 이 글은 Sixth Tone의 원본 기사, Hacker News 커뮤니티 토론 및 여러 AI 음성 기술 연구 보고서를 바탕으로 작성되었습니다. 기술 원리 부분은 가능한 한 쉬운 언어로 설명하려 했으며, 관련된 전문적 판단은 공개된 학술 연구 및 업계 보고서를 참고했습니다. 글에 제시된 각 당사자의 입장은 공개 인터뷰나 성명에서 비롯되었으며, 필자의 목표는 편을 들지 않은 상태에서 사건의 복잡성을 제시하는 것입니다——AI 음성 기술은 놀라운 창의성을 가져왔지만, 전례 없는 윤리적 딜레마도 만들어냈습니다. 둘 사이의 균형을 어떻게 잡을지에 대한 기성 답은 아직 없습니다.
참고 링크: