2026년 11월, 반도체 연구개발 스타트업 Architect Labs가 새로운 연구 성과를 공개했다. 자율적으로 협력하는 AI 에이전트 군집이 인간 엔지니어의 마이크로아키텍처 지시를 단 한 줄도 받지 않고 완전히 작동 가능한 CPU를 밑바닥부터 설계해 냈다. 알고리즘 스스로 프로세서의 모든 아키텍처 세부 사항을 직접 연역해 낸 것이다.
7nm 공정으로 테이프아웃된 코드명 Frostbite 칩은 물리 레이아웃을 성공적으로 뽑아냈으며, 25개 벤치마크 워크로드에서 기존 2-이슈 인오더 코어 대비 와트당 성능 4.59배를 기록했다. 수치만 보면 공상과학처럼 들릴 수 있지만 실제 엔지니어링 현실은 훨씬 냉정하다. 비교 대상인 TCPU 코어 면적은 0.895mm²에 불과하며 테스트에 사용된 워크로드 역시 25개에 그친다. 이는 당장 상업용 반도체 양산 경쟁에서의 승리라기보다는 계산 방법론의 초기 탐색 단계에 가깝다.
이 프로젝트의 진정한 가치는 칩 설계 프로세스를 완전히 재구성했다는 데 있다. 오랜 세월 동안 인간의 직관과 인지 습관에 갇혀 있던 계산 밑바닥의 규칙이 알고리즘에 의해 처음으로 새로 쓰였다.
AI가 주도한 아키텍처 설계: 인간은 단 한 줄의 명령도 쓰지 않았다
Architect Labs는 이전에 Redwood 프로젝트를 진행한 바 있다. 당시에는 인간 전문가가 하드웨어 아키텍처를 결정하고 AI는 회로 구현, 검증, 배포만을 담당했다. 그러나 Frostbite에 이르러 연구팀은 인간의 사전 설계를 완전히 걷어냈다. AI 에이전트 군집이 알고리즘 자체에 최적화된 계산 위상을 직접 탐색하기 시작한 것이다.
탐색 초기 에이전트 군집은 141페이지에 달하는 설계 문서를 작성했다. 프로그래밍 모델, 런타임 시스템, 상위 모듈 설계가 망라되어 있었으나 물리 공정의 제약이 반영되지 않아 초기 예측치는 물리 법칙을 크게 벗어났다. 첫 번째 버전의 회로 코드는 구현 직후 곧바로 폐기되었다.
그림: 초기 아키텍처 제안부터 최종 소거 실험에 이르는 전체 개발 일정. 출처: architectlabs.com
엔지니어링 팀은 과거의 수작업 미세조정 방식으로 되돌아가지 않았다. 그 대신 AI를 위해 Arcmodel이라는 고수준 정형 시스템 모델을 구축했다. 이 모델의 시뮬레이션 속도는 저수준 회로 시뮬레이션보다 약 200배 빠르면서도 시스템 예측 오차를 5% 이내로 엄격하게 제어했다. 전체 모델은 80만 줄이 넘는 Lean 수학적 계약으로 정형화되어 논리적 오류를 근본적으로 차단했다.
36년간 잠들어 있던 상호작용 넷: 기존 칩 소비 전력의 절반은 의존성 추적에 낭비된다
Frostbite가 높은 에너지 효율을 달성할 수 있었던 핵심 이유는 계산의 기저 수학 모델을 통째로 교체했기 때문이다. 현대의 범용 CPU는 폰 노이만 아키텍처를 따르며 주로 직렬 명령어 스트림을 처리한다. 하드웨어는 병렬 처리 성능을 쥐어짜기 위해 런타임에 수많은 트랜지스터를 소모하여 데이터 의존성을 추측해야 하고, 멀티코어 환경에서는 공유 메모리의 환상을 유지하느라 막대한 캐시 동기화 비용을 치른다.
기준 2-이슈 코어인 TCPU의 경우, 클록 트리 소모를 제외하면 다단계 캐시 메모리 접근이 전체 에너지의 57%를 소모했다. 명령어 페치, 디코드, 이슈가 다시 27%를 차지하여 두 항목만으로 전체 에너지의 84%에 달했다. 순수 산술 연산에 쓰이는 에너지는 극히 일부에 불과했다.
프랑스의 컴퓨터 과학자 Yves Lafont는 이미 1990년 POPL 학회에서 상호작용 넷(Interaction Nets) 이론을 제안했다. 상호작용 넷 세계에서 프로그램은 선형적인 명령어 나열이 아니라 노드들이 연결된 그래프로 표현된다. 계산 과정은 그래프 안에서 서로 연결된 활성 노드 쌍의 국소적 재작성으로 진행된다.
각 노드는 오직 하나의 주 포트만을 가지며, 활성화된 노드 쌍은 공간적으로 결코 겹치지 않는다. 따라서 그래프 재작성 순서가 최종 결과에 영향을 미치지 않아 본질적으로 완전한 병행성을 확보한다. 또한 각 데이터 값은 단 한 번만 소비되는 선형 논리를 따르므로 하드웨어가 공유 메모리 상태를 유지할 필요가 전혀 없다.
이 수학 모델은 학술 논문 속에서 36년 동안 잠들어 있었다. 인간 프로그래머들은 위에서 아래로 내려가는 명령형 코드에 익숙해져 있어 그래프 재작성 관점으로 대형 시스템을 직접 작성하려 하지 않았다. 하지만 AI 에이전트에게는 그러한 사고의 편견이 없었다. 알고리즘은 그래프 계산용 중간 표현(IR)을 곧바로 클라우드 컴파일하여 기존 명령어 파이프라인을 우회했다.
에이전트의 자율 스케줄링 학습: 작업 훔치기로 메모리 전력 20% 절감
복잡한 비순차적 스케줄러를 걷어내자 Frostbite는 하드웨어 수준에서 완전히 새로운 물리적 형태를 갖추게 되었다. 각 연산 유닛은 중앙 제어 장치의 일괄적인 작업 분배에 의존하지 않는다. 각 코어는 세 가지 극도로 단순한 로컬 규칙에 따라 자율적으로 작동한다.
각 연산 유닛은 먼저 자신의 큐에 들어 있는 활성 노드를 처리한다. 자신의 작업이 비워지면 즉시 인접한 유닛에 작업 분배를 요청한다(작업 훔치기, Work-stealing). 주변의 모든 이웃 유닛에도 훔쳐 올 작업이 없으면 해당 유닛은 즉시 로컬 클록을 차단하고 절전 상태로 들어간다. 국소 상태에 기반한 이 분산형 스케줄링 메커니즘은 인간이 프롬프트로 지정한 것이 아니라, 에이전트가 다단계 아키텍처 탐색 과정에서 자발적으로 도출해 낸 것이다.
그림: 7nm 공정에서의 물리 레이아웃. 붉은색 사각형은 4코어 유닛과 L3 캐시 노드를 나타냄. 출처: architectlabs.com
명시적 데이터플로우와 국소 스토리지를 바탕으로 Frostbite는 메모리 접근 전력 소모 비중을 38%까지 압축했다. 페치 및 디코드 전력 소모 역시 기존 27%에서 6%로 급감했다. 분산 네트워크를 유지하기 위해 온칩 네트워크(NoC)와 노드 스케줄링에 칩 에너지의 26%를 할당했지만, 이러한 구조적 맞교환을 통해 유효 연산의 에너지 이용률은 비약적으로 향상되었다.
물리적 구현 측면에서 4코어 유닛과 L3 캐시 노드를 포함한 Frostbite 모듈의 면적은 0.792mm²로, 비교 대상 코어보다 11.5% 더 작았다. 이 아키텍처를 16코어 배열로 확장했을 때도 각 모듈의 에너지 소모 비율은 안정적으로 유지되었다. 전통적인 멀티코어 프로세서 확장 시 마주하게 되는 캐시 일관성 병목은 이곳에서 완전히 사라졌다.
58번의 시행착오와 250% 오차: 정형 검증이 막아낸 환각
자율적인 진화가 저항 없는 마법을 의미하지는 않는다. 에이전트 군집은 전체 설계 주기 동안 총 58가지의 아키텍처 미세조정 안을 제안했다. 엄격한 소거 실험을 거쳐 최종 물리 레이아웃에 채택된 것은 37가지에 불과했다.
살아남은 설계에는 런타임 클록 게이팅, 더 간결해진 L3 캐시 엔트리, 공유 확장 연산 유닛 등이 포함되었다. 이는 어림짐작으로 나온 결과물이 아니며, 모든 변경 사항은 엔드투엔드 와트당 성능 측정을 통해 철저히 검증되었다.
초기 단계에서 AI가 제시한 성능 및 전력 추정치는 실제 측정값과 최대 250%나 차이가 났다. 대규모 언어 모델의 직관에만 설계를 맡겨 두었다면 최종 결과물은 물리적 타이밍 수렴을 통과하지 못했을 것이다.
엔지니어들이 구축한 자동 캘리브레이션 파이프라인이 안전벨트 역할을 해냈다. 시스템은 RTL 물리 시뮬레이션의 정밀 데이터를 자동으로 수집하여 상위 Arcmodel 추상 모델을 다시 보정했다. 두 번의 보정 과정을 거친 후 시스템 레벨의 전력 및 면적 예측 오차는 5% 이내로 수렴되었고, 상위 단계의 모든 탐색은 물리적 실리콘의 현실 위에 단단히 발을 딛게 되었다.
4.59배 에너지 효율의 이면: 양산의 완승이 아닌 방법론적 돌파구
최종 실리콘 측정 데이터는 이 아키텍처의 실제 한계를 명확히 보여준다. 25개 벤치마크 워크로드에서 Frostbite는 기하평균 기준 4.59배의 와트당 성능 향상을 달성했으며, 단위 면적당 성능은 비교 대상 코어의 8.77배에 달했다.
워크로드별 성능을 세부적으로 살펴보면 기술적 특성의 명암이 뚜렷하게 드러난다. 아키텍처 탐색을 주도한 10개 검색 셋 워크로드에서는 에너지 효율 향상이 6.02배에 달했다. 반면 AI가 한 번도 접하지 않은 15개 홀드아웃 테스트 셋에서는 평균 향상 폭이 3.83배로 낮아졌다. 이는 데이터플로우 연산에 대한 일반화된 이점을 증명함과 동시에 특정 데이터 흐름 구조에 대한 선호도가 여전히 존재함을 나타낸다.
그림: 25개 테스트 워크로드에서 Frostbite와 기존 2-이슈 코어의 에너지 효율 분포 비교. 출처: architectlabs.com
단일 작업 간의 극단적인 격차는 더 많은 시사점을 준다. 규칙적인 행렬 연산인 conv2d 작업에서는 병행성 이점이 극대화되어 와트당 성능이 경쟁 코어의 23.12배까지 폭증했다. 반면 수많은 재귀 분기와 포인터 호출을 포함하는 피보나치수열 작업에서는 에너지 효율 이점이 1.15배로 급락했다. 불규칙한 호출 스택은 그래프 재작성 속도를 늦추며, 이는 상호작용 넷이 모든 일상적인 범용 소프트웨어를 완벽하게 처리하기 어려운 근본적인 이유이기도 하다.
더 중요한 엔지니어링 배경은 비교 대상의 선정이다. 기준이 된 TCPU는 초저전력에 집중한 2-이슈 인오더 코어로, 분기 예측이나 비순차적 실행과 같은 대형 연산 메커니즘을 갖추고 있지 않다. 만약 주류 아웃오브오더 멀티이슈 프로세서와 비교했다면 효율 배수는 완전히 달라졌을 것이다.
연구팀은 법적 계약 문제로 인해 현재 비교 대상 프로세서의 상용 모델명을 공개할 수 없다고 밝혔다. 새로운 프로세서의 명령어 집합과 하드웨어 소스 코드는 아직 외부에 공개되지 않았으며, 향후 FPGA 프로토타입 검증 및 표준 벤치마크 적응 작업이 더 필요하다.
Frostbite의 핵심 기여는 특정 모델의 칩을 뛰어넘었다는 데 있지 않다. 알고리즘이 인간의 경험적 틀에서 벗어날 수 있으며, 수십 년간 잊혔던 수학 이론을 양산 가능한 물리적 실체로 구현해 낼 수 있음을 입증했다는 데 진정한 의의가 있다. 컴퓨터 명령어 집합이 더 이상 인간의 읽기 편의성에 얽매이지 않을 때, 하드웨어 에너지 효율의 진화는 완전히 새로운 경로를 열게 될 것이다.
참고 링크:
- Architect Labs 공식 기술 보고서
- ACM SIGPLAN POPL 1990 학회 논문집
- 컴퓨터 구조 및 하드웨어 정형 검증 문헌