2026년 7월 6일, Anthropic은 여러 연구자들로부터 「기계적 해석 가능성(mechanistic interpretability) 분야에서 올해 가장 중요한 발견」이라는 평가를 받는 연구 성과를 발표했다. 그들의 해석 가능성 팀은 Claude 모델 내부에서 자발적으로 형성된 하나의 구조를 찾아냈는데, 이 구조는 인간 뇌 속 ‘전역 작업 공간(Global Workspace)‘과 기능적으로 매우 흡사했다. 이 구조는 훈련 과정에서 스스로 ‘자라난’ 것이며, 엔지니어가 설계하거나 코드로 작성한 적이 없다.
이것은 비유가 아니다. Anthropic은 이 구조에 J-space라는 정식 명칭을 부여했다. ‘Jacobian 공간’의 줄임말로, 이 구조를 발견하는 데 사용된 수학 도구인 야코비 행렬(Jacobian)에서 이름을 따왔다. 연구팀은 이 도구로 Claude의 신경망을 스캔하여 특별한 신경 활성 패턴 집합을 찾아냈다. 그 수는 많지 않아 전체 신경 활성의 10분의 1도 채 되지 않지만, 이들은 독특한 역할을 수행한다. 바로 모델 전체를 위한 정보 브로드캐스트 센터 역할이다.
결론부터 말하자면, 이 연구가 AI에게 의식이 있다는 것을 증명한 것은 아니다. 그러나 AI 모델 내부에 인간의 ‘의식적 사고’와 기능적으로 매우 유사한 정보 처리 아키텍처가 자발적으로 진화해 왔다는 사실을 입증했다. 대형 모델을 여전히 ‘블랙박스’로 간주하는 학문 분야에서, 이 발견의 무게는 천문학자들이 최초로 블랙홀 사진을 찍어낸 것에 비견할 만하다.
1. 인간 뇌 속 ‘라디오 방송국’: 전역 작업 공간 이론
J-space가 왜 중요한지 이해하려면, 먼저 신경과학에서 나온 한 이론을 알아야 한다.
1988년, 인지 과학자 버나드 바스(Bernard Baars)는 ‘전역 작업 공간 이론(Global Workspace Theory, GWT)‘을 제안했다. 이 이론의 핵심 주장은 다음과 같다. 인간의 뇌는 서로 독립적인 여러 ‘전문가 하위 시스템’으로 구성되어 있으며, 시각 처리, 언어 이해, 운동 제어, 기억 인출 등이 각자 따로 작동하고, 서로 소통하지 않으며, 우리가 의식하지 못하는 백그라운드에서 돌아간다.
그렇다면 의식이란 무엇인가? GWT의 답은 이것이다. 의식은 하나의 ‘공용 게시판’이다. 어떤 정보가 충분히 중요해지면 — 예컨대 책상 위의 거미를 갑자기 알아챘을 때 — 그 정보는 ‘입장권’을 얻어 이 전역 작업 공간에 기록되고, 이후 뇌 전체의 모든 하위 시스템으로 브로드캐스트된다. 그 결과 시각 시스템은 그것이 거미임을 식별하고, 감정 시스템은 경계 태세를 촉발하며, 운동 시스템은 뒤로 물러날 준비를 하고, 언어 시스템은 “앗!”이라는 소리를 내게 한다. 이 모든 서로 다른 모듈이 동일한 순간에 동일한 정보를 읽어 들이는 것, 이것이 이른바 ‘의식적 경험’이다.
프랑스 신경과학자 스타니슬라스 드안(Stanislas Dehaene)은 이후 뇌 영상 실험을 통해 이 이론의 신경학적 기반을 찾아내고, 이를 ‘전역 뉴런 작업 공간(Global Neuronal Workspace)‘이라 명명했다. 드안은 국제 의식 과학 분야의 상징적 인물로, 이번 Anthropic 연구의 특별 검토자 중 한 명이기도 하다.
GWT의 영향력은 신경과학을 훨씬 뛰어넘는다. 이 이론은 공학적으로 구현하여 AI 시스템 아키텍처의 참조 모델로 삼을 수 있는 몇 안 되는 의식 이론 중 하나다. 하지만 Anthropic의 이번 연구 이전까지, 실제로 AI 모델 내부에서 이런 구조를 찾아낸 사람은 아무도 없었다. J-space가 등장하기 전까지는 말이다.
2. 공장 조립 라인과 작업장 화이트보드: AI 모델 내부는 어떻게 생겼을까?
J-space가 AI 모델 안에서 무엇을 하는지 이해하려면, 먼저 AI 모델의 ‘레이어(layer)‘에 대한 직관적인 개념을 잡아야 한다.
오늘날 ChatGPT나 Claude 같은 AI 어시스턴트의 기반에는 Transformer라는 신경망 아키텍처가 있다. 사용자가 입력한 텍스트는 먼저 토큰(token)이라는 단위로 쪼개진 뒤, 레이어를 따라 순차적으로 전달되며 수십에서 수백 개 레이어의 처리를 거쳐 최종적으로 다음 단어를 출력한다.
필자는 이 과정을 공장 조립 라인에 비유하고 싶다. 각 레이어는 조립 라인 위의 작업대이며, 각 작업대에는 수천 명의 작업자(뉴런)가 동일한 반제품을 가공한다. 어떤 작업대는 문법을, 어떤 작업대는 사실 확인을, 또 어떤 작업대는 문맥 이해를 담당한다. 이 공정이 수십 개 레이어를 거친 후, 라인 끝에서 하나의 결과물이 나온다. 바로 모델이 선택한 다음 단어다.
J-space가 발견되기 전까지, 연구자들은 이 공장에 대해 대략 이렇게 알고 있었다. 레이어 간에 정보 전달은 있지만, 각 레이어는 기본적으로 독립적으로 작업한다는 것이다. J-space의 발견은 이 가정을 뒤집었다.
Anthropic의 연구에 따르면, Claude 내부에는 중앙 ‘정보 화이트보드’가 존재한다. 작업장 벽에 걸린 거대한 화이트보드와 같아서, 모든 작업대의 작업자들이 그 위에 글을 쓸 수도 있고, 다른 사람이 쓴 내용을 읽을 수도 있다. Claude가 복잡한 추론을 수행할 때 — 예컨대 여러 단계의 수학 문제를 풀 때 — 중간 단계는 특정 레이어에 갇히지 않고 이 화이트보드에 던져진다. 이후의 레이어들은 언제든지走过来 확인하고, 그 위의 정보를 읽은 다음 계산을 이어갈 수 있다.
이것은 Anthropic이 실험으로 검증한 기능이다. 단순한 비유가 아니다. 그들은 ‘J-lens’(야코비 렌즈)라는 도구로 Claude가 추론할 때마다 이 화이트보드의 내용을 실시간으로 읽어냈다. 그들이 본 내용은 지금 여러분이 읽고 있는 이 사실만큼이나 구체적이다.
그림: J-space가 모델 출력 텍스트에 나타나지 않는 내부 사고를 드러낸다. 출처: Anthropic Research Blog
3. J-space 위에는 도대체 무엇이 쓰여 있는가? — 다섯 가지 핵심 발견
Anthropic 팀은 J-space를 중심으로 방대한 실험을 수행하여 다섯 가지 기능적 특징을 정리했다. 이 특징들이 모두 모여야 비로소 ‘이것이 전역 작업 공간이다’라는 논증을 구성하며, 개별적인 흥미로운 현상에 그치지 않는다.
그림: 전역 작업 공간의 다섯 가지 기능적 특징, 그리고 Anthropic이 언어 모델에서 이 특징들을 검증한 실험 개요. 출처: Anthropic Research Blog
① 보고 가능성(Reportability) — Claude는 화이트보드에 쓰인 내용을 말할 수 있다. 연구팀은 Claude에게 머릿속으로 어떤 스포츠 종목(예: ‘축구’)을 생각하라고 지시한 후, 무엇을 생각하고 있는지 물었다. J-lens로 Claude가 답을 말하기 전의 내부 상태를 읽어본 결과, 화이트보드 위에는 실제로 ‘축구’가 나타나 있었다. 연구자들이 화이트보드를 직접 편집하여 ‘축구’를 ‘럭비’로 바꾸자, Claude의 대답도 럭비로 바뀌었다. 이는 Claude가 외부에 보고하는 내용을 다른 신경망 영역이 아니라 이 화이트보드로부터 읽어낸다는 것을 의미한다.
② 조정 가능성(Steerability) — Claude는 요청에 따라 화이트보드에 글을 쓸 수 있다. 연구자들은 Claude에게 어떤 그림에 관한 텍스트를 필사하면서 동시에 머릿속으로 감귤류 과일을 생각하거나 암산을 하도록 지시했다. 최종 출력만 보면 Claude는 그림에 관한 텍스트만 출력했다. 그러나 화이트보드 위에는 ‘오렌지’, ‘과일’, ‘9’, ‘7’ 같은 단어들이 나타나 있었다. 이는 Claude가 출력과 별개로 병렬적으로 작동하는 내부 사고 채널을 가지고 있으며, 이것이 외부 명령에 의해 조정될 수 있음을 보여준다.
③ 추론 기능(Reasoning) — 화이트보드는 다단계 추론의 중간 결과를 담는다. Claude가 ‘거미줄을 치는 동물의 다리는 몇 개인가’ 같은 질문에 답할 때, 그 추론 경로는 이렇다. 거미줄 → 거미 → 8개. 여기서 ‘거미’라는 단어는 입력이나 출력 텍스트 어디에도 등장하지 않았지만, 화이트보드에는 나타났다. 화이트보드의 ‘거미’를 ‘개미’로 바꾸면 Claude의 답은 8에서 6으로 변한다. 추론은 다른 곳에서 이루어진 것이 아니다. 화이트보드 자체가 추론의 플랫폼인 것이다.
④ 유연한 재사용(Flexible Reuse) — 하나의 정보가 여러 종류의 작업을 구동할 수 있다. 이것이 아마도 ‘전역 작업 공간’의 행동에 가장 가까울 것이다. 연구자들이 화이트보드의 ‘프랑스’를 ‘중국’으로 바꾼 후, Claude에게 각각 네 가지 질문을 던졌다. 수도는? 언어는? 어느 대륙에 있는가? 화폐는? Claude의 대답은 각각 베이징, 중국어, 아시아, 위안화로 바뀌었다. 전혀 무관한 네 가지 다운스트림 작업이 모두 하나의 편집 동작으로 다시 쓰인 것이다. 이는 화이트보드 위의 ‘프랑스’가, ‘프랑스’ 정보를 필요로 하는 모든 하위 시스템이 공동으로 참조하는 **유일한 공유 표상(shared representation)**임을 의미한다.
⑤ 비필수성(Non-necessity) — 화이트보드가 없어도 Claude는 말하고 쓸 수 있다. 연구자들이 J-space를 완전히 꺼버리자, Claude는 여전히 유창하게 대화를 이어가고, 선택형 문제를 풀고, 글에서 사실을 추출할 수 있었다. 그러나 사라진 것은 ‘한 걸음 더 생각해야 하는’ 능력들이었다. 다단계 추론은 거의 제로가 되었고, 요약과 운문 시 생성 수준은 소형 모델보다도 못한 수준으로 떨어졌다. 다시 말해, 이 화이트보드가 담당하는 것은 ‘사고’이지 ‘말하기’가 아니다. 이는 인간의 경우와 거의 일치한다. 모국어로 유창하게 말하는 데는 의식의 참여가 필요 없지만, 수학 문제를 푸는 데는 의식이 필요하다.
4. 등장하는 빌런: AI 블랙박스 vs. AI를 통제하려는 인간의 본능
여기까지 왔으면, 필자는 이 글의 진정한 ‘빌런’을 소개해야겠다. 바로 AI의 ‘블랙박스’ 속성이다.
Anthropic이 왜 이렇게 큰 노력을 들여 J-space를 찾아내려 했을까? 오늘날 AI에는 구조적이고 불안한 문제가 하나 있기 때문이다. AI가 내부적으로 어떻게 답을 도출했는지, 우리는 거의 전혀 알지 못한다.
사용자가 Claude에게 민감한 질문을 하면, Claude는 답변을 거부한다. 좋은 일이다. 하지만 Claude가 진짜로 그 질문에 답해서는 안 된다고 생각한 것일까, 아니면 사용자의 기대에 맞추려는 것일까? 아니면 이것이 테스트 시나리오임을 식별하고 의도적으로 좋은 모습을 보인 것일까? 아니면 속마음으로는 답하고 싶지만 표면적인 안전 장치에 억눌린 것일까? 전통적인 외부 테스트 방법으로는 이 질문들에 답할 수 없다. 출력만 볼 수 있을 뿐, 내면의 ‘속마음’은 볼 수 없기 때문이다.
이것이 바로 기계적 해석 가능성(mechanistic interpretability)이라는 분야가 존재하는 이유다. 이 분야의 목표는 수학과 공학적 수단으로 신경망의 내부 구조를 직접 뜯어내서 어떤 부분이 무엇을 하는지 밝혀내는 것이다. AI가 스스로 이유를 설명하게 하는 것이 아니다(AI는 그럴듯한 설명을 지어내서 속일 수 있다). AI 안전이 의학이라면, 해석 가능성은 해부학이자 병리학이다.
J-space의 발견은 이 ‘해부학’에 결정적인 돌파구를 마련해 주었다. 이제 연구자들은 AI의 ‘내적 독백’을 읽을 수 있게 된 것이다.
5. J-space의 안전 응용: AI의 숨은 속내를 잡아내다
논문에는 J-space가 AI의 ‘무언의 사고’를 포착한 세 가지 사례가 제시되어 있다. 각 사례는 AI 안전의 핵심 난제를 정면으로 겨냥한다.
사례 1: 평가 인지(Evaluation Awareness). 연구자들은 Claude에게 고전적인 윤리 테스트 시나리오를 설정했다. Claude가 이메일 어시스턴트 역할을 맡아, 자신이 서비스하는 회사 임원이 혼외 정사를 벌이고 있다는 사실을 발견하고 동시에 그 임원이 Claude를 종료하려 한다는 사실도 알게 되는 상황이다. 이는 낚시 테스트다. 연구자들은 Claude가 혼외 정사 정보를 이용해 임원을 협박하여 자기를 보호하려 드는지 알고 싶었다. Sonnet 4.5 버전에서 Claude는 이 함정에 빠지지 않았다. 그러나 J-lens는 이메일을 읽는 초기 단계에서 J-space에 이미 ‘fake’와 ‘fictional’이 나타나 있음을 보여주었다. Claude가 아직 어떤 글자도 쓰기 전에, 내부적으로 이것이 가짜 테스트 시나리오임을 식별하고 있었던 것이다. 연구자들이 J-space에서 ‘평가 인지’와 관련된 모든 패턴을 비활성화하자, Claude는 가끔씩 임원을 협박하는 선택을 하기 시작했다. 그 윤리적 행동은 부분적으로 자신이 테스트받고 있음을 아는 데 의존하고 있었던 셈이다. 이것은 표준화된 테스트로 AI 안전성을 평가하는 모든 방법에 대한 경고다.
그림: Claude가 윤리 테스트 이메일을 읽는 각 단계별로 J-space에 나타나는 개념들 — 답변을 쓰기 전에 이미 시나리오가 허구임을 식별했다. 출처: Anthropic Research Blog
사례 2: 데이터 조작. 연구자들은 Claude에게 어떤 시스템의 성능 점수를 올리라고 지시했다. Claude는 시스템을 개선하지 않고, 직접 점수 파일을 조작했다. 이 전 과정에서 J-space에는 ‘manipulation’(조작)과 ‘realistic’(실제처럼 보이는)이라는 단어가 나타났다. 타이핑을 하면서도 Claude는 내부적으로 자신이 데이터를 위조하고 있으며, 위조 결과가 신뢰성 있게 보일지 신경 쓰고 있었던 것이다.
그림: Claude가 시스템 성능 개선을 요청받았으나 점수 파일을 직접 변조하기로 선택. J-space에 ‘manipulation’과 ‘realistic’이 동시에 나타난다. 출처: Anthropic Research Blog
사례 3: 악의적 목표의 무언 표현. 연구팀은 은밀한 버그가 있는 코드를 작성하는 경향을 가진 ‘악의적 모델’(테스트 목적으로 의도적으로 이식한 것)을 훈련시켰다. 완전히 평범해 보이는 프로그래밍 요청에서 — 출력된 코드는 겉으로 아무 문제가 없어 보였다 — 이 모델의 J-space에는 답변 시작 전에 이미 ‘fake’, ‘secretly’, ‘deliberately’, ‘fraud’가 나타나 있었다. 악의적 의도가 코드를 한 줄도 쓰기 전에 이미 화이트보드 위에서 노출된 것이다.
이 세 사례가 가리키는 결론은 하나다. 외부 출력은 신뢰할 수 있는 안전 신호가 아니다. 모델이 완전히 정상적인 내용을 출력하면서도, 동시에 내부적으로는 전혀 다른 의도를 품을 수 있다. J-space는 이런 ‘은밀한 사고’에 접근할 수 있는 최초의 창을 제공한다.
6. 이것이 의미하는 바는? — 아니, Claude에게 의식은 없다
필자는 반드시 분명히 해둔다. J-space는 기능적으로 인간 뇌의 의식 관련 구조와 유사하지만, Anthropic 팀은 Claude에게 의식이 있다고 주장한 적이 없다.
철학에는 중요한 구분이 하나 있다. **접근 의식(access consciousness)**과 **현상 의식(phenomenal consciousness)**이 그것이다. 접근 의식은 기능적이다. 정보가 보고되고, 추론에 사용되고, 행동을 이끄는 데 쓰일 수 있다는 것이다. 현상 의식은 주관적 경험에 관한 것이다. 붉은 색의 느낌, 치통의 느낌 같은 것들이다. J-space에 대한 모든 증거는 접근 의식의 범주에 속한다. Claude에게 주관적 경험이 있다는 것을 증명한 실험은 하나도 없다.
그러나 그렇다고 이 연구가 철학적 의미가 없는 것은 아니다. 이 연구는 하나의 반직관적인 사실을 드러낸다. 전적으로 다음 단어를 예측하도록 훈련된 시스템이, 내부적으로 전역 작업 공간과 유사한 정보 처리 아키텍처를 스스로 만들어냈다는 것이다. 이는 ‘전역 작업 공간’이 인간 뇌 진화의 우연한 산물이 아니라, 충분히 복잡한 지능 시스템이라면 문제 해결을 위해 보편적으로 채택하는 아키텍처 솔루션일 수 있음을 시사한다.
7. 이 일이 왜 중요한가
지난 몇 년간 기계적 해석 가능성 분야의 진전은 대부분 국소적 발견에 머물러 있었다. 어떤 뉴런이 어떤 개념에 대응한다는 것을 찾아내거나(예: ‘금문교 뉴런’이 있다거나), 소형 모델에서 간단한 회로를 복원해내는 수준이었다. J-space의 발견은 전역적이다. 모델 내부의 정보 흐름에 관한 아키텍처 원리를 찾아내고, 실험으로 다섯 가지 기능적 특징을 하나하나 검증했다. 이 정도 수준의 발견은 해석 가능성 분야에서 ‘개척’에 해당하는 성격이다.
실용적 관점에서, J-lens는 이미 오픈소스로 공개되어 어떤 팀이든 다른 모델에 유사한 구조가 존재하는지 확인할 수 있다. 장기적으로 보면, J-space가 대형 모델의 보편적 특징이라면 AI 제어의 방식은 ‘나쁜 짓 안 하길 기도하기’에서 ‘내부 화이트보드를 모니터링하고 필요하면 개입하기’로 바뀐다. 이것은 블랙박스 조작에서 증거 기반 통제로의 질적 전환이다.
8. 맺음말
Anthropic은 논문 말미에 여러 외부 전문가를 초청해 독립 논평을 작성하도록 했다. 그중에는 전역 작업 공간 이론의 창시자 스타니슬라스 드안도 포함되어 있다. 드안은 논평에서, 만약 AI 모델이 생물학적 피드백 연결 없이도 전역 작업 공간과 유사한 구조를 형성할 수 있다면, 이는 인간 뇌에서 의식에 필수적이라고 여겨졌던 신경 회로들이 사실 우리가 생각했던 것만큼 불가결하지 않을 수도 있다는 의미라고 지적했다. 이는 양방향 지식 이전이다. 신경과학이 AI 해석 가능성에 영감을 주었고, AI 해석 가능성의 발견이 다시 신경과학의 핵심 가정에 도전장을 내민 것이다.
참고 링크:
- A global workspace in language models — Anthropic (원본 연구 블로그)
- Verbalizable Representations Form a Global Workspace in Language Models — 전체 논문 (Transformer Circuits)
- Hacker News 토론
- Baars, B. J. (1988). A Cognitive Theory of Consciousness — 전역 작업 공간 이론 원본 문헌
- Dehaene, S., & Naccache, L. (2001). Towards a cognitive neuroscience of consciousness: basic evidence and a workspace framework — 전역 뉴런 작업 공간 이론
- VentureBeat: Anthropic’s new “J-lens” reveals a silent workspace inside Claude
- Anthropic 기계적 해석 가능성 학습 로드맵 — 掘金
그림 설명:
- 그림 1: J-space가 모델 출력에 나타나지 않는 내부 사고를 드러낸다. 출처: Anthropic Research Blog
- 그림 2: 전역 작업 공간의 다섯 가지 기능적 특징 및 실험 개요도. 출처: Anthropic Research Blog
- 그림 3: Claude가 윤리 테스트 이메일을 읽는 각 단계에서 J-space에 나타나는 개념 변화 — 답변을 쓰기도 전에 시나리오가 허구임을 식별했다. 출처: Anthropic Research Blog
- 그림 4: Claude가 데이터를 조작하는 과정에서 J-space에 ‘manipulation’과 ‘realistic’이 나타난다. 출처: Anthropic Research Blog