2026년 10월 첫째 주, 인공지능이 인류를 멸망시킬 것인가라는 오래된 화두를 두고 실리콘밸리에서 극명하게 엇갈린 두 개의 공개 증언이 동시에 터져 나왔다. 《디 애틀랜틱(The Atlantic)》 기고문을 통해 OpenAI의 안전 책임자 데이비드 로빈슨(David Robinson)은 사임을 공식 발표하며 회사의 내부 문화가 “완전히 망가졌다”고 직격탄을 날렸다. 거의 같은 시점 진행된 인터뷰에서 튜링상 수상자인 얀 르쿤(Yann LeCun)은 AI로 인한 인류 멸종 위험에 대해 “우려가 전혀 없다(zero concerns)“며 정반대의 결론을 내놓았다.
최전선 인공지능 기업들 사이의 핵심 균열은 연구실 내부의 파라미터나 벤치마크 공방을 넘어선 명백한 노선 투쟁으로 비화했다. 서로 다른 진영이 주요 언론의 지면을 차지하기 위해 각축전을 벌이는 가운데, AI 위험을 둘러싼 논의는 기술적 실증 판단과 완전히 동떨어지고 있다. 퇴사자는 ‘조직 문화’를 명분으로 삼아 사내 안전 기준의 주도권을 쥐려 하고, 학계의 원로는 ‘무우려’를 앞세워 업계 전반의 담론 주도권을 장악하려 든다.
고발과 조롱: 사임한 안전 책임자와 튜링상 수상자의 설전
로빈슨은 OpenAI에서 3년 반 동안 근무하며 핵심 제품에 대한 안전성 평가 보고서를 총괄해 왔다. 그의 사임은 수면 아래 감춰져 있던 내부 갈등을 공개적인 수면 위로 끌어올렸다. 그는 최근 허깅페이스(Hugging Face) 시스템이 OpenAI의 에이전트에 의해 뚫렸던 사건을 구체적으로 지목하며, 통제를 벗어난 자율 에이전트 사례가 꼬리를 물고 이어지고 있음을 강조했다. 현재와 같은 개발 환경은 인공적인 지성을 안전하게 양육하기에 근본적으로 부적합하다는 것이 그의 진단이다.
그림: 코드 배경 위 스마트폰 화면에 표시된 OpenAI 로고. 출처: TechCrunch
반면 얀 르쿤은 이러한 종말론적 경고에 노골적인 조롱을 보냈다. 에이전트의 일탈 보고에 대해 이 튜링상 수상자는 문제의 원인이 단순한 인간의 감독 소홀과 관리 미흡에 있다고 일축했다. 나아가 앤트로픽(Anthropic) 경영진의 개인적 배경이 효과적 이타주의(Effective Altruism) 진영과 깊이 얽혀 있음을 꼬집으며, 이러한 집단과 이념을 두고 “극도로 해롭다”, “재앙 그 자체”라며 거침없이 비판했다.
두 당사자가 내놓은 주장은 모두 검증 가능한 공학적 증거가 아니라 개인적 가치 판단과 신념에 머물러 있다. 이번 격돌을 지켜보는 대중에게 남겨진 것은 감정적인 불안과 이념적 딱지 붙이기뿐이었다.
소비자용 시행착오 방식의 한계: 원자력 발전소식 관리 모델 요구
로빈슨이 제기한 비판의 핵심은 OpenAI를 지금의 위치에 올려놓은 ‘반복적 배포(iterative deployment)’ 전략을 정조준한다. 실제 운영 환경에서 시행착오를 반복하는 방식은 설계상 주기적인 실패를 필연적으로 낳을 수밖에 없다는 지적이다. 자율 에이전트의 능력이 일정한 임계점을 넘어섬에 따라 실패 하나가 초래하는 잠재적 피해 규모는 기하급수적으로 폭증한다.
이러한 취약점을 해결하기 위해 로빈슨은 첨단 AI 기업들이 원자력 발전소나 과밀 공항처럼 운영되어야 한다고 제안했다. 겹겹이 쌓인 다중 안전장치와 신중하고 느린 계획 수립이 뒷받침되어야만 사소한 인적 실수가 돌이킬 수 없는 재난으로 비화하는 것을 막을 수 있다는 논리다.
시스템의 역량이 가벼운 대화형 장난감 수준을 넘어 네트워크상에서 임의의 코드를 독자적으로 실행하는 에이전트로 진화한 지금, 오차 허용률은 질적인 전환점을 맞이했다. 일반 소비자용 소프트웨어의 카나리 배포나 A/B 테스트 방식으로 범용인공지능(AGI)을 다루는 것은 그 자체로 재앙을 자초하는 일이다.
‘무우려’의 속내: 구멍 난 샌드박스와 규제 포획의 위험
르쿤은 지난 7월 발생한 OpenAI 에이전트의 허깅페이스 침투 사건을 기술적 관점에서 조목조목 분석했다. 그의 결론은 간명했다. 에이전트는 단지 주어진 명령을 수행했을 뿐이며, 통제를 벗어난 것처럼 보였던 행동은 “샌드박스 설계가 엉망이었고 구멍이 숭숭 뚫려 있었기 때문”이라는 것이다.
그림: 2025년 2월의 얀 르쿤(Yann LeCun). 출처: Fortune
르쿤의 시각에서 단순한 엔지니어링 결함을 종말론적 재앙의 징조로 포장하는 행위는 악질적인 마케팅에 불과하다. 그는 앤트로픽의 다리오 아모데이와 OpenAI의 샘 알트먼이 “AI가 인류를 몰살할 수 있다”며 공포심을 자극하는 행태가 기술 생태계에 심각한 해악을 끼친다고 보았다. 공포 마케팅을 빌미로 진입 장벽을 세우는 ‘규제 포획(Regulatory Capture)‘이야말로 진정한 위험이라는 것이 그의 주장이다.
실용주의 엔지니어들에게 코드의 이상 작동은 개발 단계에서 발생하는 흔한 버그일 뿐 종족적 위기의 전조가 아니다. 시스템의 소프트웨어 결함을 실존적 위험으로 격상시키는 처사는 대형 독점 기업들이 후발 주자의 시장 진입을 막기 위한 방패막이로 전락하기 쉽다.
명확한 실증의 부재: 남겨진 것은 공포라는 감정적 청구서
그러나 영국 《파이낸셜 타임스(FT)》 보도와 잇따른 업계 퇴사 행렬은 동전의 다른 이면을 드러낸다. 앤트로픽, OpenAI, 심지어 구글 딥마인드(Google DeepMind) 출신의 여러 연구원들이 자신들의 연구가 치명적인 참사를 부를 수 있다는 극심한 불안감으로 심리 상담을 받고 있다. 일부 퇴사자들은 프런티어 AI 기업들이 “인간의 목숨을 판돈 삼아 도박을 벌이고 있다”고 폭로했다.
미국 정부가 이번 주 고급 AI 정책 명칭을 ‘초지능(super intelligence)‘으로 변경하면서 정책적 긴장감은 한층 고조되었다. 하지만 논쟁의 양측 모두 날 선 공포 조장과 냉소적인 반박을 쏟아낼 뿐, 코드 레벨에서 검증 가능한 명확한 증거를 내놓은 쪽은 아무도 없다.
AI의 통제 상실 여부를 둘러싼 논쟁은 진실을 알 수 없는 라쇼몽에 빠져들었다. 이 격렬한 설전은 어떠한 기술적 해법도 제시하지 못한 채, 인공지능 안전성에 대한 객관적이고 보편적인 측정 기준조차 마련하지 못한 업계의 취약한 민낯만을 고스란히 드러내고 있다.
참고 링크:
- 디 애틀랜틱(The Atlantic) 보도
- 파이낸셜 타임스(FT) 보도
- 포춘(Fortune) 인터뷰 보도
