아이폰 시스템 팝업을 정교하게 모방한 사기 광고 스크린샷 한 장. 인간 검수팀에 보내자 두 번 연속 “구글 정책을 위반하지 않았다”는 판정이 내려졌다. 그러나 같은 이미지를 구글의 자체 멀티모달 모델인 제미나이(Gemini)에 넣자, 불과 몇 초 만에 세 가지 위반 조항을 조목조목 짚어내며 “DISAPPROVED(승인 거부)” 결정을 내렸다. 한 지붕 아래의 두 검수 시스템이 정반대의 결론을 내놓은 것이다.
스크린샷 한 장에 무너진 두 번의 신고
2026년 9월 13일, 개발자 크리스 그리닝(Chris Greening)은 유튜브 앱 내에서 발견한 악성 사기 광고를 구글에 두 번 연속 신고했다. 하지만 구글 측은 두 번 모두 문제가 없다는 공식 답변을 보내왔다. 납득하기 어려웠던 크리스가 같은 스크린샷을 구글의 자체 대형 언어 모델 제미나이에 입력하자 판세가 완전히 뒤집혔다. 시스템은 단 몇 초 만에 정밀한 위반 판정 보고서를 쏟아냈다. 인간과 인공지능의 이 극명한 대비는 플랫폼 거버넌스가 직면한 뼈아픈 역설을 드러낸다.
크리스가 마주친 것은 유튜브 앱 피드에 노출된 고도로 위장된 광고였다. 배너 중앙에는 “iPhone Storage is Full”이라는 경고 문구가 선명했고, 하단에는 공간을 즉시 확보하지 않으면 일부 기능이 제대로 작동하지 않을 수 있다는 위협적인 부제가 적혀 있었다. 그 아래로는 iOS 표준 스타일을 흉내 낸 ‘Yes’와 ‘No’ 선택 버튼이 배치되어 있었다. 때마침 아이폰 저장 공간 부족을 겪고 있던 크리스는 잠깐 집중이 흐트러진 틈에 광고를 누르고 말았다. 사용자의 심리 상태와 기기 맥락을 노린 지극히 악의적인 유도 방식이었다.
함정에 걸려들었다는 사실을 깨달은 크리스는 곧바로 정규 절차를 통해 신고를 접수했다. 하지만 구글 검수팀의 1차 답변은 형식적인 안내문에 불과했다. “검토 결과 해당 광고는 사용자 및 전체 온라인 생태계에 유해하다고 판단되는 특정 콘텐츠와 행위를 금지하는 구글의 정책을 위반하지 않은 것으로 확인되었습니다.” 신고자의 정당한 판단을 묵살한 이 답변에 크리스는 다른 계정을 사용하고 지인들에게도 신고를 요청했다. 그러나 돌아온 2차 재검토 결과 역시 글자 하나 틀리지 않은 동일한 복사 붙여넣기 답변이었다.
두 번의 기각 결정에 대한 구체적인 사유는 외부에 공개되지 않는다. 매일 수억 건의 광고 소재가 쏟아지는 환경에서 검수 인력이 하나하나 세밀히 들여다보는 것은 현실적으로 어렵다. 이는 저자인 크리스 본인도 글에서 언급하며 고개를 끄덕인 현실적인 배경이다. 피로에 지친 검수 담당자의 눈앞에서 교묘한 위장 소재가 무사통과되는 것은 가장 쉽게 짐작할 수 있는 결론이다. 이처럼 경직된 운영 체계는 고도화된 악성 사기 세력의 공격 앞에서 전통적인 수동 방어선이 이미 무력화되었음을 보여준다. 운영체제 UI를 흉내 내어 클릭을 유도하는 수법은 인간 중심의 검수망을 손쉽게 뚫어버린다.
그림: 아이폰 저장 공간 부족 경고로 위장한 유튜브 광고. 출처: atomic14
제미나이는 몇 초 만에 판정 완료, 인간 검수는 두 번이나 방치
인간 검수 채널에서 두 번 연속 벽에 부딪힌 크리스는 간단한 테스트를 진행했다. 가짜 버튼이 포함된 문제의 광고 스크린샷을 제미나이에 올리고 구글 광고 정책에 부합하는지 평가해 달라고 요청한 것이다. 결과는 명백했다. 시스템은 한 치의 망설임도 없이 **“Classification: DISAPPROVED(분류: 승인 거부)“**라는 판정을 내렸다. 멀티모달 대형 모델의 시각적 검증 기술이 압도적인 우위를 증명한 순간이었다.
제미나이는 단순한 위반 표시를 넘어 세 가지 명확한 위반 근거를 구체적으로 제시했다.
- 오해를 유발하는 광고 디자인(Misleading Ad Design): iOS 표준 타이포그래피와 컨테이너 스타일을 정교하게 모방하여 운영체제 시스템 알림창(“iPhone Storage is Full”)처럼 보이게 꾸몄다는 점을 지적했다.
- 작동하지 않는 기만적인 UI 요소(Non-Functional / Deceptive UI Components): 화면 속 ‘Yes’와 ‘No’ 버튼은 실제 시스템 제어 스위치가 아니라, 배너 어디를 눌러도 외부 랜딩 페이지로 튕겨 나가도록 만든 정적 클릭 트랩이라고 분석했다.
- 공포심을 조장하는 기만적 전술 및 검증되지 않은 주장(Deceptive Fear-Based Tactics & Unverified Claims): “공간을 즉시 비우지 않으면 기능이 정지된다”는 허위 문구로 기기 고장 불안을 조성해 앱 설치를 강요하고 있다고 규정했다.
UI 구조를 분해하고 의도를 파악하는 멀티모달 모델의 역량은 조립 라인처럼 규격화된 외주 검수 인력을 압도했다. 제미나이는 한 걸음 더 나아가 해당 광고의 즉각 중단, 허위 기만 조항에 따른 광고주 계정 페널티 부여, 반복 위반 시 영구 정지 처분까지 일목요연하게 권고했다. 교과서에 나올 법한 완벽한 규정 준수 보고서가 기계에 의해 몇 초 만에 무료로 생성된 것이다. 그럼에도 구글의 인간 검수팀은 이토록 명백한 사기 징후를 두 번이나 눈감아주었다.
크리스는 자신의 블로그에 다음과 같이 썼다. “구글 자체 모델은 몇 초 만에 광고를 거부했는데, 구글의 검수 절차는 이를 두 번이나 승인했다.” 그는 글 말미에 쓴소리를 던졌다. “정신 차려라, 인간들아(meatbags). 너희가 쓸 수 있는 그 놀라운 AI 도구들을 좀 써봐라.” 세계 최고 수준의 AI 기술력을 자랑하는 거대 테크 기업과, 사기 광고에 시달리는 일반 사용자. 두 세계 사이에는 거대한 신뢰의 균열이 가로놓여 있으며, 동일한 소재에 대한 엇갈린 판정은 상업적 이익이 빚어낸 기괴한 풍경이다.
그림: 해당 광고가 정책을 위반하지 않았다고 판정한 구글의 답변 통보. 출처: atomic14
무능인가 악의인가: 사기 광고 퇴출을 가로막는 것은 누구인가
정반대의 두 판결을 마주한 크리스는 한론의 면도날(Hanlon’s razor)을 인용하며 다소 너그러운 해석을 내놓았다. “어리석음으로 충분히 설명되는 일을 결코 악의의 탓으로 돌리지 말라”는 원칙이다. 이 논리에 따르면 쏟아지는 광고 물량에 비해 검수 인력은 턱없이 부족하며, 외주팀은 기계적인 지침에 따라 처리할 수밖에 없다. 개별 검수자가 가짜 iOS 팝업의 진위를 일일이 따져볼 여유가 없다는 것은 충분히 납득 가능한 설명이다.
플랫폼 규모가 일정 한계를 넘어서면 조직의 엔트로피 증가로 인해 프로세스의 경직화는 피할 수 없다. 매일 수백만 건의 신규 광고가 밀려드는 환경에서 고숙련 전문가를 투입해 전수 조사를 진행한다면 기업이 감당할 수 없는 비용이 발생한다. 그 타협의 산물이 구멍투성이 방어선과 유명무실한 재검토 절차다. 구조적 태만을 무능과 피로로 해명하는 것은 엔지니어 특유의 체념 어린 자조이기도 하다.
그러나 두 번의 승인을 단순한 절차적 미숙과 업무 피로 탓으로만 돌리기에는 석연치 않다. 자체 대형 모델이 불과 몇 초 만에 위장을 간파할 수 있는 상황에서 기술적 한계라는 핑계는 더 이상 통하지 않는다. 모델은 이미 서버에서 돌아가고 있고, API는 준비되어 있으며, 판정 논리 또한 완벽하게 정립되어 있다. 방어선의 현대화를 가로막는 것은 공학적 난제가 아니다.
고도화된 AI 검수 시스템을 핵심 광고 파이프라인에 전면 도입하지 못하는 배경에는 훨씬 복잡한 이해관계가 얽혀 있다. 엔지니어링 조직이 분류 모델을 배포하는 것은 어렵지 않지만, 이를 막아서는 가장 단단한 장벽은 대개 광고 매출을 책임지는 비즈니스 부서의 방어 본능이다. 이 저울 위에서 사용자 안전과 광고주의 이익은 격렬하게 부딪힌다. 검수 문턱을 조금이라도 높이는 순간, 곧바로 판매 가능한 광고 지면이 대규모로 사라지기 때문이다.
1억 달러 광고주가 목격한 수익화의 조급함
해커뉴스(Hacker News) 커뮤니티(item?id=49686445)에서는 이번 사건을 둘러싸고 한층 냉혹한 분석이 쏟아졌다. 트래픽을 돈 주고 구매하는 웹마스터와 광고주들은 한론의 면도날보다 훨씬 현실적인 상업적 시각으로 구멍 난 방어선을 들여다보았다.
한 웹마스터는 자신의 웹사이트에 구글 애드센스를 통해 수천 건의 사기 팝업 광고가 지속해서 송출되고 있다고 토로했다. “불법 사이트를 열람했으니 100달러의 벌금을 내라”는 식의 고압적인 팝업이었으며, 유포지는 azurestaticapps.net, netlify.app, herokuapp.com 같은 클라우드 호스팅 서비스였다. 악성 업자들은 신뢰도가 높은 도메인을 악용해 1차 필터를 뚫고 매일 서브도메인을 바꿔가며 활동을 이어간다. 구글이 이들 호스팅을 최상위 도메인처럼 취급해 도메인 단위 차단을 지원하지 않다 보니 사이트 운영자는 속수무책으로 당할 수밖에 없다. 그리고 이 흐름에서 발생하는 모든 클릭 비용은 고스란히 구글의 분기 매출로 잡힌다.
또 다른 주목할 만한 증언은 구글 광고에 1억 달러 이상을 집행해 봤다는 한 광고주의 시각이었다. 그는 구글이 유례를 찾아볼 수 없을 만큼 필사적으로 광고 매출을 쥐어짜고 있다고 증언했다. 이러한 수익 드라이브에는 두 가지 압박이 작용하고 있다는 분석이다. 하나는 생성형 AI 경쟁에서 겪는 시장의 불안감을 가리기 위함이고, 다른 하나는 천문학적으로 치솟는 AI 연구개발 인프라 비용을 충당하기 위함이다. 커뮤니티 참여자들의 주관적인 추론일지라도, 막대한 연산 비용을 메우기 위해 지속적인 현금 흐름이 필요하다는 경제적 논리는 매우 정연하다.
이러한 지적이 사실에 가깝다면 구글의 느슨한 검수 태도는 명쾌하게 설명된다. 사기 광고라도 클릭만 발생하면 수익이 발생하며, 차단율을 끌어올리면 당장 분기 광고 매출이 타격을 입기 때문이다. 물론 공식적으로 확인된 사실은 “동일한 소재를 AI 모델은 몇 초 만에 위반 판정했고, 인간 검수는 두 번이나 통과시켰다”는 점에 국한되지만, 그 이면에 놓인 상업적 유인을 간과하기는 어렵다.
기준 집행자의 의지가 방어선의 실효성을 결정한다
크리스 그리닝이 겪은 일화는 현대 기술 생태계의 현주소를 보여주는 강렬한 은유다. 기술 관점에서 멀티모달 AI는 이미 UI 위장을 해체하고, 협박성 문구를 추출하며, 정책 조항에 매핑하는 능력을 완벽하게 갖추었다. 탐지 능력은 더 이상 방어 체계의 병목이 아니다. 안전장치의 정상 작동을 가로막는 것은 저품질 사기 자산을 플랫폼에서 적극적으로 걷어내려는 의지의 부재다. 그 동기가 결여되어 있는 한, 아무리 강력한 식별 모델이라도 핵심 집행 경로에 배치되지 않는다.
광고의 잔류 여부를 결정하는 싸움에서 알고리즘 모델이 아무리 뛰어나다 한들 최종 결정권은 여전히 경영진의 손에 달려 있다. 만약 검수 시스템이 여론의 뭇매를 피하기 위한 면책용 알리바이에 불과하다면, 아무리 지능적인 판정 기준도 단순한 ‘참고용’으로 전락할 수밖에 없다. 도구의 눈부신 발전만으로는 실행 의지의 결핍을 메울 수 없다. 이는 진보된 알고리즘의 외피로 낡은 상업적 관행을 감추는 전형적인 기술적 분장에 불과하다.
판정 기준의 집행자가 누구이며 무엇을 목표로 하는지가 AI 모더레이션의 성격을 결정한다. 사용자를 보호하는 진짜 방패가 될 것인지, 기득권의 수익을 가려주는 허울 좋은 병풍이 될 것인지의 문제다. 광고 매출이 천문학적인 AI 인프라 청구서를 메우는 핵심 기둥으로 남아 있는 한, 시스템 알림으로 둔갑한 가짜 버튼은 사라지지 않을 것이다. 그 광고들은 앱 속에 버젓이 남아 잠깐 방심한 다음 사용자의 손가락을 기다릴 것이다. 이 끝없는 쥐잡기 놀이에서 쥐덫을 쥐고 있는 자는, 동시에 치즈를 나누어 주는 자이기도 하기 때문이다.
참고 링크:
