MATH-500 벤치마크 테스트에서 10억 개 미만의 매개변수를 가진 경량 모델 Qwen3.5-0.8B의 초기 정답률은 7.9%에 불과했습니다. 평가 문제의 93%가 풀이 도중 멈춰 서며 32,768개 토큰의 길이 상한에 그대로 부딪혔습니다. 모델은 끝없는 텍스트 반복 루프에 빠져 할당된 토큰을 모두 소진할 때까지 최종 정답을 제출하지 못했습니다.
일반적인 머신러닝 엔지니어링 관점이라면 새로운 학습 데이터를 수집하고 길고 비용이 많이 드는 역전파 학습을 다시 진행했을 것입니다. 하지만 세 명의 연구자는 완전히 다른 접근 방식을 택했습니다. 최첨단 거대언어모델 Astra에 파이썬 실행 환경을 부여하고, 대상 신경망의 바닥에 위치한 매개변수를 직접 읽고 덮어쓰도록 한 것입니다.
문제 풀이의 93%가 무한 루프에 직면: 소형 모델이 결승선 앞에서 멈춰 선 원인
10억 개 미만의 매개변수를 가진 Qwen3.5-0.8B는 심층 추론 모드를 활성화했을 때 심각한 논리적 정체 현상을 보였습니다. 모델 공식 문서에서도 이 소형 모델이 긴 추론 과정에서 무한 루프에 빠지기 쉽다는 점을 미리 경고한 바 있습니다. 모델은 추론용 메모장에서 동일한 논증 과정을 끊임없이 반복하다가 컨텍스트 윈도우를 무의미한 문장으로 채워버렸습니다.
모델은 이미 대수적 추론 규칙을 충분히 학습한 상태였지만, 문제 해결 회로가 비정상적인 자기 자극 신호에 갇혀 있었습니다. 소중한 연산 자원이 헛된 루프 속에서 낭비되었고, 실제 진행되어야 할 수학적 유도는 시야 밖으로 밀려났습니다.
평가 데이터에 따르면 초기 모델의 GSM8K 정답률 역시 13.8%로 매우 낮았으며, 지시문 준수(IFEval) 벤치마크 성능도 21.0%에 머물렀습니다. 이 신경망은 엔진은 정상 작동하지만 사이드브레이크가 단단히 잠긴 경주용 자동차와 같았으며, 정밀한 외과 수술이 절실히 필요한 상태였습니다.
역전파를 건너뛰다: AI가 파이썬 코드로 직접 집도한 신경 외과 수술
기존의 통념에서 수십억 개의 부동소수점으로 이루어진 모델 가중치는 분해하기 어려운 블랙박스로 취급되었습니다. 네트워크의 행동을 교정하려면 엔지니어는 오직 역전파와 경사하강법에 의존해야 했습니다. 이러한 확률적 가중치 조정은 모델이 기존에 가지고 있던 일반 상식과 능력을 파괴하는 부작용(재앙적 망각)을 일으키기 쉬웠습니다.
연구팀은 ‘가중치 공간 프로그래밍(Weight-Space Programming)‘이라는 새로운 패러다임을 제안했습니다. Astra는 값비싼 GPU 클러스터를 통한 긴 재학습 없이, 일반적인 파이썬 인터프리터를 사용하여 텐서 값을 직접 읽었습니다. 연구팀은 Astra에게 50회의 순전파(Forward Pass) 실행 예산을 부여하여 중간 활성화 계층의 계산 상태를 관찰하고 분석하도록 했습니다.
Astra는 결국 치명적인 오류를 일으키는 구체적인 신경 회로를 찾아냈습니다. 15번째 층과 19번째 층의 다층 퍼셉트론(MLP) 모듈 안에 반복적인 루프 특성을 지속적으로 기록하는 비정상적인 벡터 방향이 존재했던 것입니다. Astra는 스크립트를 작성하여 이 두 개 층의 64개 출력 열에서 해당 벡터를 정밀하게 빼냄으로써, 무한 루프의 신호 전달 경로를 완전히 차단했습니다.
이 수술에서 변경된 파라미터는 총 131,072개의 부동소수점 값에 불과했으며, 8억 개 전체 매개변수 중 비중은 단 0.016%였습니다. 수정이 적용되자 길이 한계에 도달하는 비율이 33.1%로 급감했고, MATH-500 정답률은 48.1%로 치솟았습니다. 동시에 GSM8K 점수는 67.1%로 상승했으며, 지시문 준수 능력은 세 배 가까이 개선되었습니다. 매개변수 수준의 정밀한 절제 수술을 통해 결함에 가려져 있던 추론 잠재력이 즉시 해방된 것입니다.
대조군 실험이 입증한 한계: 회로 결함 치료가 새로운 지식을 창조하지는 않는다
이러한 급격한 성능 상승은 자연스럽게 하나의 의문을 불러일으킵니다. 거대언어모델이 가중치를 수정함으로써 소형 모델에게 고난도 수학 지식을 무에서 창조해 가르친 것일까요? 연구팀은 구글의 Gemma 3 270M 모델을 대상으로 엄격한 대조 실험을 진행했습니다. Qwen과 달리 Gemma 3 270M은 애초에 무한 루프가 거의 발생하지 않으며, 토큰 한계에 도달하는 비율도 8.5%에 불과합니다.
Astra가 동일한 방식으로 Gemma를 최적화하려 시도했을 때 점수 향상 전략은 작동하지 않았습니다. Gemma의 MATH-500 기본 점수는 6.8%였으며, 여러 차례의 활성화 분석과 미세 수정을 거친 후에도 점수는 7.0%에서 7.7% 사이에서 미세하게 흔들렸을 뿐입니다. 연구진은 보고서에서 이러한 작은 변동은 테스트 환경의 오차 범위에 속하며, 실질적인 성능 향상은 확인되지 않았다고 밝혔습니다.
Astra가 매개변수를 정밀 점검한 결과, Gemma의 오답은 사칙연산과 기초 대수 변형 오류 등 근본적인 기초 지식 부족에서 비롯된 것이었습니다. 이러한 지식의 결여는 네트워크 전반에 고르게 퍼져 있었으며, 국소적으로 잘라낼 수 있는 단일 결함 회로가 존재하지 않았습니다. 비정상적인 가중치를 절제하면 기능 억제를 풀어줄 수는 있지만, 모델이 애초에 학습하지 않은 지식을 무에서 만들어낼 수는 없습니다. 수술용 메스로 종양을 제거할 수는 있어도, 뼈의 후천적 성장을 대신할 수는 없는 셈입니다.
게임 역공학부터 정책 재구성까지: 가중치 공간이 제시하는 새로운 엔지니어링 경로
가중치에 대한 직접적인 개입은 언어 모델의 결함을 수정하는 데 그치지 않고, 강화학습(Reinforcement Learning) 에이전트의 숨겨진 정책을 해독하는 데도 활용될 수 있습니다. 한 실험에서 연구팀은 모든 태스크 라벨을 제거한 채 17,253개의 가중치로 구성된 단순 다층 신경망을 Astra에게 전달했습니다. Astra는 가중치 행렬의 수치 분포만을 바탕으로 이 신경망이 고전 아타리 게임인 벽돌깨기(Breakout)를 실행하고 있다는 사실을 정확히 추론해 냈습니다.
Astra의 추론 논리는 실행 로그에 명확하게 드러났습니다. 첫 번째 층 가중치의 높은 반응 영역이 입력 그리드의 가장 아랫줄에 집중되어 있는 것을 보고 사용자가 조작하는 패들의 위치라고 판단했으며, 높은 보상과 연결된 가중치가 그리드 상단에 배치된 것을 보고 점수를 주는 벽돌의 특성과 일치한다고 분석했습니다. 고차원 매개변수 공간의 기하학적 구조를 추상적으로 해석하는 능력을 보여준 것입니다.
그림: 17,253개의 가중치만 가진 이 네트워크는 벽돌깨기를 플레이하고 있었습니다. 태스크 라벨이 제거된 상태에서 Astra는 가중치 수치만으로 게임을 식별했습니다. 출처: Astra 공식 블로그
그림: 차량 장애물 통과 비교: Astra가 가중치를 수정한 차량은 후진으로 탄력을 받아 언덕을 뛰어넘는 법을 익혔습니다. 출처: Astra 공식 블로그
또한 가파른 언덕을 올라 장애물을 넘는 차량 제어 실험에서, 기존 근접 정책 최적화(PPO)로 학습된 차량은 국소 최적점에 갇혀 언덕 앞에서 계속 멈춰 섰습니다. Astra는 제어기 매개변수를 검토한 뒤 출력층의 연결 구조를 수작업으로 재구성했습니다. 수정된 차량은 뒤로 물러나 가속 거리를 확보한 다음 관성을 이용해 언덕을 돌파하고 점프하여 장애물을 뛰어넘는 동작을 터득했습니다. 인공신경망 매개변수가 전통적인 소프트웨어 코드처럼 읽고 유지보수할 수 있는 영역으로 다가선 것입니다.
커뮤니티의 쟁점: 걸림돌을 치운 것인가, 새로운 엔진을 만든 것인가
실험 결과가 공개되자 오픈소스 생태계와 인공지능 커뮤니티에서 활발한 토론이 이어졌습니다. 기술 포럼의 비판적인 시각은 주로 개념의 정의에 집중되었습니다. 개발자 l9o는 무한 루프를 제거한 것을 두고 ‘모델에게 수학을 가르쳤다’고 표현하는 것은 정확하지 않다고 지적했습니다. Qwen은 본래 추론 능력을 갖추고 있었으나 루프 현상 때문에 최종 답안을 제출할 기회를 박탈당했을 뿐이라는 설명입니다. 다른 엔지니어들은 개념 제거(Abliteration) 기법으로 특정 성향 벡터를 제거하는 시도는 이전에도 있었으며, 이번 성과의 핵심은 거대언어모델의 자율 추론을 통해 진단과 수정 과정을 완전히 자동화한 점에 있다고 평가했습니다.
반면 실용적 가치를 중시하는 엔지니어들은 이 접근법이 지닌 산업적 잠재력에 주목했습니다. 20B에서 70B 규모의 로컬 모델을 다시 미세조정하려면 막대한 연산 자원이 소모되고 재앙적 망각이 발생하기 쉽습니다. 만약 거대 모델이 가중치 군집을 자율적으로 점검하고 미세한 결함을 국소적으로 외과 수술하듯 교정할 수 있다면, 오픈소스 커뮤니티는 가벼운 유지보수 경로를 확보하게 됩니다.
매개변수 공간의 직접적인 분석은 신경망 최적화의 새로운 지평을 열었습니다. Astra는 실용적인 회로 수준의 장애 해결 방안을 입증했습니다. 알고리즘이 코드를 통해 동료 모델의 신경망 연결을 검사하고 수정할 수 있게 되면서, 장애물을 치워주는 것과 새로운 능력을 부여하는 것 사이의 경계도 더욱 뚜렷해지고 있습니다.
참고 링크:
- Astra 공식 기술 블로그
- Hacker News 커뮤니티 토론
