당신의 AI 프로그래머가 “기억을 잃고 있다”
“컴퓨터 앞에서 여러 번 비명을 질렀습니다.” 2026년 7월 18일, GitHub의 한 전문 개발자가 쏟아낸 진짜 불평이다. 이유는 간단하다: OpenAI의 AI 프로그래밍 도우미 Codex가 점점 더 “건망증”에 걸리고 있다는 것을 발견했기 때문이다.
지난 몇 달 동안, 수많은 프로그래머가 Codex(GitHub Copilot의 배후 AI 엔진)에 의존하여 코드를 작성하고, 버그를 수정하고, 프로젝트를 진행해왔다. 이 AI 어시스턴트의 핵심 능력 중 하나는 컨텍스트 윈도우(Context Window)다——즉, 한 번에 얼마나 많은 코드와 정보를 “기억”할 수 있는지. 윈도우가 클수록, 더 넓은 프로젝트 범위를 동시에 이해할 수 있다.
그리고 2026년 7월 18일, 한 개발자가 불안한 변화를 발견했다——GitHub Pull Request 속에서.
코드에 나타난 바에 따르면, OpenAI는 Codex의 플래그십 모델 GPT-5.6 Sol의 컨텍스트 윈도우를 372,000 토큰에서 272,000 토큰으로 조용히 줄였다. 무려 100k나 감소한 것이다——이는 전체 “메모리 용량”의 27%에 해당한다.
공지도 없었고, 이메일도 없었고, 마이그레이션 가이드도 없었다. 그저 하나의 조용한 병합 요청(PR #33972)이었고, 제목은 “모델 메타데이터 새로고침”, 날짜는 이틀 전이었다.
발견 과정
이번 발견 경로 자체가 문제를 말해준다.
AmazingTurtle이라는 ID의 개발자가 일상적인 사용 중 Codex의 이상 징후를 알아차렸다——대형 프로젝트를 처리할 때 AI가 이전에 논의한 내용을 자주 “잊어버리고”, 제시하는 코드 제안도 자맥락을 잃은 경우가 많았다. 그는 추적 조사에 나섰고, 결국 OpenAI가 GitHub에 공개한 codex 저장소에서 막 병합된 지 이틀 된 PR을 찾아냈다.
바로 이 PR의 diff에서, 한 줄의 코드가 모든 비밀을 드러냈다:
```
- “context_window”: 372000,
- “context_window”: 272000, ```
372k에서 272k로. 깔끔하게, 한 줄의 변경으로 수만 개발자의 작업 효율을 원점으로 되돌렸다.
PR #33972에서 context_window가 372000에서 272000으로 변경된 모습. 한 줄의 코드, 27%의 “기억”이 흔적도 없이 사라졌다.
이 발견은 곧 Hacker News에 공유되었고, 하루도 안 되어 거의 300개의 추천과 140개 이상의 댓글을 기록했다. 개발자들은 이를 “유료 다운그레이드”(Paid Downgrade)라고 불렀다——같은 돈을 내고 받는 서비스는 줄어들었다.
100k 토큰은 무엇을 의미하는가?
코드를 작성하지 않는 독자를 위해 비유를 들어보자.
372k 토큰을 체력이 넘치는 조수 한 명으로 상상해보자. 그는 한 번에 사무실 전체의 대략적인 배치——모든 책상, 모든 파일 캐비닛 위치——를 기억할 수 있다. 그런데 갑자기 272k 토큰 공간만 주어지면, 그는 내용의 3분의 2만 기억할 수 있게 된다. 당신이 그에게 지시한 일을 하다가도 앞서 무슨 말을 했는지 잊어버리는 것이다.
프로그래머에게는 상황이 더 구체적이다:
- 대형 프로젝트가 직접적인 피해를 입는다. 중간 규모의 소프트웨어 프로젝트만 해도 핵심 코드만 수만에서 수십만 토큰에 달할 수 있다. 컨텍스트 윈도우가 줄어들면 AI는 전체 코드베이스 아키텍처를 완전히 “이해”하지 못하게 되어, 수정 제안이 기존 코드 로직과 충돌하는 경우가 잦아진다.
- 대화가 쉽게 “끊긴다.” 개발자와 Codex의 협업은 일반적으로 지속적인 대화 과정이다——요구사항 논의, 수정 확인, 다시 조정. 컨텍스트 축소는 AI가 대화 초반에 합의된 내용을 더 자주 잊어버린다는 것을 의미한다.
- 자동 압축(Compaction)의 악몽. Codex에는 컨텍스트가 상한에 가까워지면 자동으로 이전 대화를 압축 요약하는 “자동 압축” 메커니즘이 있다. 하지만 사용자 jubilanti가 HN에서 불평한 것처럼: “압축 때문에 AI가 환각(hallucinate)을 심하게 일으켜요. 처음부터 다시 시작하는 것보다 더 나빠요. AI가 대형 프로젝트에서 토큰을 미친 듯이 소모하다가 15%에 도달하면 자동 압축하고, 환각이 너무 심해서 코드베이스 전체를 다시 읽고, 또 15%에 도달하면 자동 압축하고…… 무한 루프에 빠집니다.” (원문: Compaction kills my sessions, it hallucinates and is worse than starting fresh. I’ve had enough times screaming at my computer when it burns tokens on a large codebase, gets to 15%, auto-compacts, and hallucinates so bad it has to read the entire codebase again, gets to 15%, auto-compacts…)
사용자 tekacs의 댓글은 더 날카로웠다: “372k는 완벽과는 거리가 멀었지만, 그래도 신의 선물이었어요. 효과적인 가용 컨텍스트를 12-20%에서 40% 정도로 끌어올려줬거든요.” (372 was not perfect, but it was so much better and a godsend. It turned that 12 to 20% into more like 40%.)
다시 말해, 372k 윈도우도 사용자들은 불만이 있었는데, 이제 272k로 줄어들어 상황이 설상가상이 되었다.
Hacker News에서 개발자들의 이번 변경에 대한 격렬한 반응. 약 300 추천, 140+ 댓글
OpenAI의 시각: “악의적”이라고만 할 수는 없다
하지만 이 사건을 단순히 “OpenAI가 사용자를 속였다”고만 규정한다면, 더 복잡한 그림을 놓치게 된다. 공정하게 말하자면, OpenAI의 이번 조치 뒤에는 합리적인 비즈니스·기술적 고려가 있을 수 있다.
첫째, 비용 통제와 가격 구조.
분석에 따르면, Codex에는 숨은 메커니즘이 있다: 사용자 요청이 272k 토큰을 초과하면 OpenAI는 입력 가격의 2배로 청구한다. 기존 372k 윈도우는 많은 사용자가 무의식중에 고가 요금 구간을 트리거하고 있었음을 의미한다. 컨텍스트 윈도우를 272k로 “조정”한 것은, 어떤 면에서 사용자를 추가 비용 발생 문턱 밖으로 밀어낸 것이다——비록 사용자 경험은 나빠졌지만.
다시 말해, 단순한 “용량 삭감” 결정이 아니다. 기존에는 표준 가격으로 “2배 청구서가 발생할 수 있는” 372k 공간을 샀다면, 이제는 같은 가격으로 “추가 청구가 없는” 272k 공간을 사는 것이다. OpenAI는 이를 서비스의 “정상화”로 보았을 수 있다.
둘째, 기술적 측면의 “메타데이터 새로고침.”
OpenAI는 PR에서 “Refresh bundled GPT-5.6 model instructions and context-window metadata”라고 설명했다——GPT-5.6의 모델 명령과 컨텍스트 윈도우 메타데이터를 새로고침한다는 뜻이다. 즉, OpenAI는 이전의 372k가 일종의 “설정 오류”였다고 보고, 이제 “올바른” 설정으로 수정한 것일 수 있다.
셋째, 경쟁 압박 속의 컴퓨팅 파워 배분.
2026년, AI 프로그래밍 어시스턴트 시장은 이미 치열한 경쟁 속에 있다. Anthropic의 Claude Code, 다양한 오픈소스 기반 도구들이 사용자를 빼앗기 위해 경쟁하고 있다. 대규모 컨텍스트 윈도우를 유지하려면 많은 컴퓨팅 파워가 소모된다. OpenAI가 IPO 압력(2026년 6월에는 IPO 지연 소문이 있었다)과 수익성 요구에 직면한 상황에서, 개별 사용자의 리소스 점유를 줄이면 더 많은 사용자에게 서비스를 제공할 수 있다. 이는 전형적인 SaaS 기업의 비용 최적화 전략이다.
다만, 이러한 “최적화”의 대가는 사용자에게 전가되었다.
사용자의 저항: 신뢰의 균열
이번 사건에서 가장 주목할 점은 사용자 감정의 균열이다.
Hacker News 토론에서 널리 퍼진 정서는 실망과 배신감이었다. 사용자들은 자신이 관리되는 리소스라고 느꼈다.
한 베테랑 개발자는 지적했다: “자동 압축을 비활성화할 방법도 없고, 압축 이전의 대화 기록으로 돌아갈 수도 없어서, Codex는 5000줄이 넘는 코드베이스에서는 완전히 사용할 수 없게 되었습니다.” (원문: The fact there is no way to disable auto-compaction and no way to go back in the conversation history to before a compact makes codex a no-go for me on any codebase > 5kloc.)
또 다른 사용자는 더 직설적으로 말했다: “긴 컨텍스트가 내가 여전히 Anthropic을 사용하는 주된 이유입니다.” (The lack of long context is the main reason that I still end up using Anthropic.)
AI 업계에서 사용자의 전환 비용은 엄청나게 높다——당신은 AI가 당신의 코드베이스, 스타일, 프로젝트 아키텍처를 이해하도록 많은 시간을 투자했다. 이미 한 플랫폼에 깊이 고정된 후에 플랫폼의 어떤 “역방향 업그레이드”도 사용자를 딜레마에 빠뜨린다: 성능 저하를 참을 것인가, 아니면 막대한 시간을 들여 경쟁사로 이전할 것인가?
바로 이것이 “유료 다운그레이드”라는 비난 뒤에 숨은 진짜 위력이다.
업계 시사점: AI 시대의 “한 푼 아끼기”
이번 사건의 의미는 단순한 제품의 파라미터 변경을 훨씬 넘어선다.
2026년, AI 업계 전체는 “성장을 위한 무한 투자”에서 “정밀 운영”으로의 거대한 전환을 겪고 있다. 주요 모델 기업들은 모두 수익 모델을 찾고 있다. OpenAI는 2026년 6월에 IPO 지연 소문이 나자, 곧바로 일련의 비용 절감 조치를 취했다——API 가격 조정에서 이번 Codex 컨텍스트 윈도우 축소까지.
문제는 AI 제품의 핵심 판매 포인트가 바로 “능력” 자체라는 점이다. 컨텍스트 윈도우, 추론 능력, 생성 품질——이것이 AI 제품의 핵심 가치를 정의한다. 전통적인 소프트웨어 업계에서는 화질을 낮추거나 기능을 줄일 수 있고, 사용자가 불만을 갖더라도 어쩔 수 없이 쓸 수 있다. 하지만 AI 분야에서 “기억”은 전부다. 컨텍스트를 기억하지 못하는 AI 어시스턴트는 개발자에게 가치가 반토막 난다.
이는 업계 전체에 경종을 울린다: AI 기업이 제품 핵심 능력에서 한 푼 아끼기 시작하면, 사용자의 인내심은 전통적인 소프트웨어보다 훨씬 낮다.
맺음말
OpenAI의 이번 조용한 조작은 기술적으로는 단지 한 줄의 코드 변경이었다. 하지만 이 한 줄의 코드가 비추는 것은, 한 AI 거인이 회사 이익과 사용자 경험 사이에서 내린 어려운 선택——그리고 현재 어느 쪽에 기울어져 있는지——이다.
일반 사용자에게 교훈은 명확하다: AI 시대에, 당신이 구매한 서비스의 “용량”은 어느 깊은 밤중에 조용히 줄어들 수 있으며, 당신은 이메일 한 통도 받지 못할 것이다.
기고 시점 현재, OpenAI는 이 사안에 대해 공식 입장을 발표하지 않았다. HN의 토론은 계속되고 있으며, 이미 개발자들이 대체 도구의 평가 비교를 시작했다. 그리고 372000에서 272000으로의 그 한 줄의 변경은 이미 조용히 메인 브랜치에 병합되어, Codex 0.144 버전의 기본 사양이 되었다.
당신의 AI 프로그래머가 장기 기억을 잃어가고 있다.
참고 자료: HN 토론 (item?id=48965850), GitHub PR #33972
이미지 설명: 그림 1은 GitHub PR #33972에서 context_window가 372000에서 272000으로 변경된 diff 캡처. 그림 2는 Hacker News 토론 페이지로, 사용자들의 격렬한 반응을 보여준다.
