깊은 밤, 당신은 노트북을 열었다. Wi-Fi는 꺼져 있다. 채팅 창을 열고 이렇게 입력한다: “내일 회의 발표문을 작성해 줘. 톤은 포멀하게.”
몇 초 후, 상대가 응답하기 시작한다. 문단은 정리되어 있고, 논리도 깔끔하며, 심지어 세 가지 스타일의 오프닝을 골라서 제시한다.
상대는 사람이 아니다. 당신의 노트북 하드디스크에 설치된 AI다 — 알리바바가 만든, 무료, 인터넷 연결 불필요.
당신 손 안의 AI, 구독료에 갇히다
지난 2년간 AI는 ‘구독형 소비재’가 되었다.
OpenAI의 ChatGPT 고급 버전, 월 20달러. Anthropic의 Claude, 월 20달러. Google의 Gemini Advanced, 월 20달러. 마이크로소프트는 AI를 Office에 집어넣고 구독료를 올렸다. Adobe는 AI를 Photoshop에 집어넣고 구독료를 올렸다.
평범한 사람이 AI를 진지하게 활용하려면 — 업무 문서 작성, 자료 조사, 외국어 학습 — 매달 수십에서 백 달러 이상 내는 것이 드문 일이 아니다.
이것은 기술의 문제가 아니라 비즈니스 모델의 문제다. 이 AI들은 수천 킬로미터 떨어진 데이터센터에서 돌아간다. 수천 장의 GPU가 밤낮없이 당신을 위해 텍스트를 생성하고, 전기 요금은 어마어마하다. 기업이 구축한 것은 ‘클라우드 AI’이고, 당신이 구매하는 것은 ‘접근권’이다. 당신은 절대 이 AI를 소유하지 않는다. 그저 임대할 뿐이다. 언젠가 가격이 오르거나, 규칙이 바뀌거나, 계정이 정지되어도 당신은 할 말이 없다.
2026년 6월 29일, 한 기술 블로그 글이 실리콘밸리 개발자들의 커뮤니티 Hacker News에서 541개의 추천과 472개의 댓글을 받았다 — 기술 리뷰 글로서는 폭발적인 반응이다. 글 제목은: 《Qwen 3.6 27B는 로컬 개발의 스위트 스폿이다》.
“Qwen”은 ‘췐’이라고 읽으며, 알리바바의 ‘통이치앤원’(通义千问)의 영문명이다. 이 글의 저자 Piotr Migdał는 이렇게 썼다: “나는 이전까지 로컬 모델에 실망해 왔다. 하지만 Qwen 3.6을 써보고 충격을 받았다. 내게는, 이것이 진정한 ‘범용 지능’처럼 느껴지는 최초의 로컬 모델이다.”
그가 사용한 것은 MacBook Pro 노트북, 128GB 메모리 사양이었다. 모델은 로컬에 설치되었고, 완전히 오프라인 상태였다. 그는 시 쓰기, 코딩, 웹페이지 제작을 모두 로컬에서 수행했다.
가장 핵심적인 문장은 이것이다: “노트북이 뜨거워질 것이다 — 하지만 그럴 만한 가치가 있다.”
왜 지금까지 AI는 반드시 인터넷에 연결되어야 했을까?
이 사건이 왜 중요한지 이해하려면, 기본적인 질문 하나를 먼저 정리해야 한다: 왜 ChatGPT를 쓸 때 반드시 인터넷이 필요한가?
AI 대형 모델의 작동 원리는, 거칠게 말하면 ‘초고급 단어 맞히기 게임’에 비유할 수 있다. 당신이 문장을 입력하면, 모델은 자신이 학습한 것에 기반해, 한 글자 한 글자, 다음에 올 가장 가능성 높은 것을 예측한다. 이 ‘학습한 것’이 바로 모델 내부에 저장된 ‘파라미터’다 — AI의 뇌세포 개수라고 생각하면 된다.
GPT-4의 파라미터 개수는 OpenAI가 공식 확인한 적이 없지만, 업계의 공통된 추정치는 약 1.8조 개다. 1조 8천억 개의 파라미터. 이 괴물을 움직이려면 수천 장의 전용 GPU가 동시에 작동해야 하고, 소비 전력은 소규모 마을 수준이다.
이것이 ‘클라우드 AI’의 물리적 기반이다: 이 모델들은 너무 거대해서, 어떤 개인용 컴퓨터로도 담을 수 없고 실행할 수도 없다. 당신은 반드시 인터넷을 통해 질문을 데이터센터로 보내고, 그곳의 슈퍼컴퓨터가 대신 계산하게 한 후, 결과를 돌려받아야 한다.
이렇게도 이해할 수 있다: 집에 산업용 발전기를 설치할 수 없으니, 당신은 전력망에 전기 요금을 내는 것이다.
그리고 알리바바가 한 일은, 본질적으로 ‘가정용 발전기’를 만들어낸 것이다.
Qwen 3.6이 무엇을 했나?
2026년 4월 22일, 알리바바의 통이치앤원 팀이 새로운 모델을 공개했다: Qwen 3.6 27B. ‘27B’는 270억 개의 파라미터를 의미한다.
270억은 여전히 큰 숫자처럼 들린다. 하지만 GPT-4의 1.8조와 비교하면, 약 70분의 1 수준이다.
중요한 것은, 이 모델이 훨씬 작음에도 불구하고 지능 수준이 비례해서 줄어들지 않았다는 점이다. 프로그래밍 능력 평가에서, Qwen 3.6 27B는 SWE-bench(AI의 실제 프로그래밍 문제 해결 능력을 테스트하는 표준 시험)에서 77.2점을 받았다 — Anthropic의 Claude Opus 4.6과 거의 동급이다. 또 다른 코딩 테스트 HumanEval에서는 92.1점으로 Claude Sonnet 4.6을 앞질렀다.
또 하나의 데이터: 이 모델은 알리바바가 이전에 공개했던 3,970억 파라미터의 초대형 모델마저 이겼다 — 12개의 코딩 평가 중 10개에서 승리했다.
70분의 1 크기의 모델로 비슷하거나 더 나은 성과를 낸 것이다. 알리바바의 엔지니어들은 ‘파라미터 효율성’ 측면에서 엄청난 최적화 작업을 수행했다 — AI 뇌세포 하나하나가 더 열심히 일하게 만든 셈이다.
또 하나의 핵심은 라이선스다. Qwen 3.6은 Apache 2.0 오픈소스 라이선스를 채택했다 — 누구든 무료로 다운로드하고, 무료로 사용하고, 무료로 수정하며, 심지어 상업 제품에 활용할 수도 있다는 뜻이다. 알리바바에 단 한 푼도 낼 필요가 없다.
‘스위트 스폿’은 대체 무슨 뜻인가?
‘스위트 스폿(sweet spot)‘은 스포츠에서 빌려온 비유로, 원래 야구 배트나 테니스 라켓에서 타격감이 가장 좋은 지점을 가리킨다. AI 분야에서는 어떤 모델이 ‘충분히 똑똑함’과 ‘충분히 작음’의 교차점에 정확히 위치해 있다는 뜻이다.
충분히 똑똑하다 — 실제로 도움이 되는 일을 할 수 있다는 뜻, 장난감이 아니다. 충분히 작다 — 당신 집 컴퓨터로 실행할 수 있다는 뜻.
Qwen 3.6 27B는 이 교차점을 정확히 맞혔다고 평가받는다. MacBook Pro에서 초당 1718개 단어(기술 용어로는 ‘token’, 일반 사용자는 그냥 ‘글자’로 이해하면 된다)를 생성한다. 이 속도는 엄청나게 빠르지는 않지만 — 사람이 읽는 속도가 초당 510단어 정도다 — 충분히 쓸 만하다. 질문을 하면, 몇 초 기다리면, 출력되기 시작한다.
핵심은 이것이다: 수만 달러짜리 전용 GPU가 필요 없다. 사양 좋은 MacBook 한 대, 혹은 NVIDIA RTX 4090(한국 기준 약 200만 원대)만 있으면 돌아간다.
참고로 RTX 4090은 게임용 그래픽카드다 — 많은 사람들 데스크톱에 이미 하나쯤 꽂혀 있다.
노트북이 뜨거워지는 이유: 대역폭이 용량보다 더 중요하다
Hacker News 토론장에서 가장 높은 추천을 받은 댓글 중 하나. iagooar라는 사용자가 이렇게 썼다 —
“나는 내 MacBook Pro M5 128GB를 사랑하고, Qwen 3.6도 사랑한다. 하지만 노트북으로 진지하게 로컬 AI를 돌릴 생각이라면, 이걸 사지 마라. 이유는 간단하다: 손가락이 데일 것이고, 머리가 팬 소음으로 폭발할 것이다.”
이 댓글에 이어, 다른 사용자 astrostl이 중요한 데이터를 추가했다:
MacBook Pro M5의 메모리 대역폭은 초당 614GB다. Mac Mini M4는 초당 273GB다. 전자의 데이터 전송 속도가 후자의 두 배 이상이다.
“AI 추론에서,” 그가 쓴다, “모델이 먼저 메모리에 들어가야 하고, 그다음에는 메모리 대역폭이 클수록 좋다. Mac Mini가 1TB 메모리를 갖고 있어도, 27B~35B 규모의 모델을 돌리면 속도는 MacBook Pro의 절반밖에 안 된다.”
여기에는 간과하기 쉬운 물리적 사실이 하나 숨어 있다: AI 모델이 실행될 때, 계산 자체가 병목이 아닐 수 있다. 데이터의 흐름이 병목이다. 모델의 파라미터는 메모리에 저장되어 있고, 매번 ‘생각’할 때마다 방대한 파라미터 속에서 신속하게 데이터를 검색하고 옮겨야 한다. 메모리 대역폭은 이 길이 얼마나 넓은지를 나타낸다.
대역폭이 크다 → 데이터 흐름이 빠르다 → AI 응답이 빠르다 → 하지만 발열도 크다. 대역폭이 작다 → 데이터 흐름이 느리다 → AI 응답이 느리다 → 하지만 발열이 적다.
이것이 일부 사용자가 Mac Mini M4로 Qwen 3.6을 돌릴 때 팬이 거의 조용하다고 보고하는 이유다 — 원래 더 느리고 더 차갑기 때문이다. 반면 MacBook Pro로 같은 모델을 돌리면, 키보드가 만질 수 없을 정도로 뜨거워진다.
물리 법칙이 그러하니, 컴퓨터가 고장 난 게 아니다.
당신과 나에게 어떤 의미인가?
프로그래머가 아니라면, 위의 기술적 세부 사항들은 멀게 느껴질 수 있다. 하지만 이 사건이 당신에게 미칠 영향은 앞으로 몇 달 안에 매우 구체적인 형태로 다가올 수 있다.
첫째, 더 이상 AI 월 구독료를 내지 않아도 된다.
현재 ChatGPT 등 주류 AI 서비스는 월 20달러를 청구한다. 석 달, 다섯 달 쓰면 수백 달러다. Qwen 3.6은 무료 다운로드에, 내 컴퓨터에서 실행되며, 유일한 비용은 전기 요금이다 — 노트북 한 대가 풀 파워로 AI를 돌려도 소비 전력은 수백 와트 수준, 게임 한 판 하는 정도다. 이미 성능 좋은 컴퓨터를 갖고 있다면 추가 비용은 0원이다.
물론, 메모리가 충분히 큰 컴퓨터를 갖고 있어야 한다는 전제가 붙는다. Qwen 3.6의 8비트 압축 버전은 약 28~41GB의 메모리를 필요로 한다. 시중에 나와 있는 대부분의 슬림형 노트북은 16GB 이하다. 하지만 32GB 이상 노트북은 빠르게 대중화되고 있다 — 현재 레노버, ASUS 등 브랜드가 주력 가격대에서 32GB 모델을 확대하고 있다. 로컬 AI를 돌릴 수 있는 컴퓨터의 진입 문턱은 눈에 띄게 낮아지고 있다.
둘째, 당신의 프라이버시가 진정으로 당신의 것이 된다.
ChatGPT로 비밀 업무 메일을 작성하면, 그 메일의 내용은 OpenAI의 서버로 전송된다. 회사가 데이터를 남용하지 않겠다고 주장하지만, 당신이 직접 확인할 방법은 없다. 회사 내부의 민감한 문서라면? 의료 기록이라면? 법률 문서라면?
로컬 AI가 주는 대답은 간단하다: 데이터는 컴퓨터 밖으로 나가지 않는다. Wi-Fi를 끄고, 랜선을 뽑아도, AI는 정상적으로 작동한다. 당신의 대화 기록은 당신의 하드디스크에 저장되고, 어느 기업의 서버에도 없다.
이것을 외교 용어로는 ‘데이터 주권’이라고 하고, 일반인 말로는 ‘내 일은 나만 알면 된다’는 뜻이다.
셋째, AI가 인터넷 단절로 무용지물이 되지 않는다.
비행기 안에서, 고속열차가 터널을 지날 때, 오지 여행 중, 해외 로밍 데이터를 아끼고 싶을 때 — 이런 상황에서 클라우드 AI는 그저 벽돌일 뿐이다. 로컬 AI는 인터넷이 있든 없든 작동한다.
클라우드 AI vs. 로컬 AI: 누가 이길까?
Hacker News 댓글란에서는 이 질문에 대한 논쟁이 모델 자체보다 더 뜨거웠다.
pizza234라는 사용자는 직설적이었다: “클라우드 모델은 더 빠르고, 열도 안 나고, 컨텍스트도 더 풍부하고, 정밀도도 더 높다. 프라이버시와 일부 민감한 용도를 제외하면, 로컬 모델은 지금은 비싼 장난감일 뿐이다.”
smt88이라는 사용자는 더 단호했다: “규모의 경제는 자연 법칙이다. 어떤 로컬 모델도 이것을 뒤집을 수 없다.”
하지만 반대 진영의 논리도 강력하다. girvo라는 사용자는 6,800 호주 달러를 들여 로컬 AI 장비를 구입했다며, “검열 없이, 프라이버시를 보호하며 모델을 돌릴 수 있다는 것 자체가 가치 있다”고 말했다.
양쪽 다 일리가 있는 논쟁이다.
클라우드 AI의 우위는 진짜다: Google, OpenAI 같은 회사들은 수억 달러를 투자해 데이터센터를 짓고, 최첨단 하드웨어로 가장 새롭고 가장 큰 모델을 돌릴 수 있다. 개인용 컴퓨터의 연산 능력은 데이터센터를 절대 따라잡을 수 없다 — 이 물리적 격차는 사라지지 않을 것이다.
하지만 로컬 AI의 우위도 진짜다: 공짜, 프라이버시 보호, 네트워크 제약 없음, 플랫폼 검열 없음. 게다가 Qwen 3.6 같은 모델이 증명한 것은 이것이다: 반드시 ‘가장 큰 모델’만이 능사는 아니다. ‘충분히 똑똑한 모델’이 당신의 컴퓨터에서 돌아간다면, 그 실용적 가치는 손에 닿지도 않는 초대형 모델보다 오히려 더 크다.
필자의 판단으로는, 이 둘은 누가 누구를 제거하는 관계가 아닐 것이다. 더 가능성 높은 미래는 이렇다: 클라우드 AI는 계속해서 ‘가장 똑똑한’ 일을 한다 — 복잡한 추론, 대규모 데이터 분석, 실시간 협업. 로컬 AI는 당신의 일상적 수요를 담당한다 — 글쓰기, 번역, 자료 검색, 노트 정리. 당신이 모든 사소한 일마다 클라우드의 문을 두드릴 필요는 없어진다.
이 판단을 뒷받침하는 흥미로운 데이터가 하나 있다: Qwen 3.6이 공개된 후, Mac Mini 64GB 모델이 전 세계적으로 품절되었다. 중고 시장에서는 프리미엄이 붙었고, 애플 공식 홈페이지의 배송 일정은 10~18주까지 밀렸다. 사람들은 실제 구매 행동으로 ‘로컬 AI’에 투표하고 있다.
맺음말
2026년은 아마 이렇게 기억될 것이다: AI가 ‘당신이 돈을 내고 남의 컴퓨터가 대신 생각하게 하는 것’에서 ‘당신 자신의 컴퓨터가 생각할 수 있는 것’으로 바뀐 첫해.
하루아침에 완성된 것은 아니지만, 방향은 분명해졌다. 알리바바가 오픈소스로 공개한, 무료이고, 인터넷 연결이 필요 없는 AI 모델 하나가 수십억 평범한 사람들에게 처음으로 또 다른 길을 보여주었다 — 매달 구독료를 내지 않아도 되고, 프라이버시를 넘기지 않아도 되며, 네트워크에 의존하지 않아도 AI의 도움을 받을 수 있는 길.
그 길은 아직 평탄하지 않다. 팬은 여전히 굉음을 내고, 키보드는 여전히 뜨겁다. 하지만 문은 이미 열렸다.
참고 링크: