阿里的AI,不联网也能用了

阿里的AI,不联网也能用了

AI开源阿里本地AIQwen

数据源:HN + web research · HN

深夜,你打开笔记本电脑,没有连WiFi。你打开一个聊天窗口,打字:“帮我写一份明天会议的发言稿,语气要正式一点。”

几秒钟后,对方开始回复。段落工整,逻辑清晰,甚至贴心地附上了三个不同风格的开场白让你选。

它不是真人。它是装在你电脑硬盘里的一个AI——来自阿里,免费,不用联网。

你手里的AI,正在被收租

过去两年,AI变成了一个”订阅制消费品”。

OpenAI的ChatGPT高级版,每月20美元。Anthropic的Claude,每月20美元。谷歌的Gemini Advanced,每月20美元。微软把AI塞进Office,然后涨了订阅费。Adobe把AI塞进Photoshop,然后涨了订阅费。

一个普通人如果想把AI认真用起来——写工作文档、查资料、学外语——每个月掏几十到上百美元,并不稀奇。

这不是技术问题,是商业模式问题。这些AI运行在几千公里外的数据中心里,成千上万张显卡日夜不停地为你生成文字,电费惊人。公司建的是”云端AI”,你买的是”访问权”。你永远不拥有它,只是在租用它。哪一天它们涨价、改规则、封你的号,你一句话都说不出来。

2026年6月29日,一篇技术博文在硅谷程序员论坛Hacker News上拿到了541个赞和472条评论——对于一个技术评测来说,这个热度相当于爆款。文章标题是:《Qwen 3.6 27B是本地开发的甜点位》。

“Qwen”读作”坤”,是阿里通义千问的英文名。这篇博文的作者Piotr Migdał写道:“我以前对本地模型很失望。但试了Qwen 3.6之后,我惊呆了。对我来说,这是第一个真正像个’通用智能’的本地模型。”

他用的是一台MacBook Pro笔记本电脑,128GB内存。模型装在本机,完全不联网。他让它写诗、写代码、做网页,全都在本地完成。

最关键的是那句:“它会让你的电脑发烫——但值得。“

为什么以前的AI必须联网?

要理解这件事为什么重要,得先弄明白一个基本问题:为什么你用ChatGPT的时候必须联网?

一个AI大模型的工作原理,可以粗浅地比喻为一个”超级猜字游戏”。你输入一句话,模型根据自己学过的东西,一个字一个字地预测接下来最可能是什么。这个”学过的东西”,就是模型内部存储的”参数”——你可以把它想象成AI的脑细胞数量。

GPT-4的参数数量从来没有被OpenAI官方确认过,但业内公认的估算在1.8万亿左右。1.8万亿个参数。为了让这个庞然大物运转起来,需要成千上万张专用显卡同时工作,消耗的电力相当于一个小型城镇。

这就是”云端AI”的物理基础:因为这些模型太大了,大到任何个人电脑都装不下、跑不动。你必须通过互联网把你的问题送到数据中心,让那里的超级计算机帮你算,然后把结果传回来。

另一种理解方式:这就像你家里没法放一台工业级发电机,所以你得付电费给电网。

而阿里做的事情,本质上就是造了一台”家用发电机”。

Qwen 3.6做了什么?

2026年4月22日,阿里的通义千问团队发布了一个新模型:Qwen 3.6 27B。“27B”的意思是270亿个参数。

270亿听起来还是很大。但跟GPT-4的1.8万亿比起来,小了将近70倍。

关键在于,这个模型虽然小了很多,但聪明程度并没有等比例缩水。在编程能力评测中,Qwen 3.6 27B在SWE-bench(一个测试AI解决真实编程问题能力的标准化考试)上拿到了77.2分——跟Anthropic的Claude Opus 4.6旗鼓相当。在另一项编程测试HumanEval上,它拿了92.1分,超过了Claude Sonnet 4.6。

还有一个数据:它甚至打败了阿里自己之前发布的3970亿参数的超大模型——在12项编程评测中赢了10项。

用一个小70倍的模型,做到了差不多甚至更好的效果。阿里的工程师在”参数利用率”上做了大量的优化工作——让每一颗”AI脑细胞”都更卖力地工作。

另一个关键点是许可协议。Qwen 3.6用的是Apache 2.0开源协议——这意味着任何人都可以免费下载、免费使用、免费修改,甚至拿它去做商业产品。不需要给阿里交一分钱。

“甜点位”到底是什么意思?

“甜点位”(sweet spot)是一个从体育运动借来比喻的词,原意是棒球棒或网球拍上击球手感最好的那个位置。在AI圈,它指的是一个模型刚好处于”够聪明”和”够小”的交叉点上。

够聪明——意味着它真的能帮你做事,不是玩具; 够小——意味着你家的电脑能跑得动。

Qwen 3.6 27B被认为踩中了这个交叉点。在MacBook Pro上,它每秒能生成17-18个字(技术人员叫”token”,中文用户就直接理解为”字”)。这个速度不算飞快——人类阅读大约是每秒5-10个字——但已经够用。你问一个问题,等几秒钟,它开始输出。

关键是:它不需要一块价值几万美元的专业显卡。一台配置不错的MacBook,甚至一张NVIDIA RTX 4090(大约人民币一万出头),就能跑起来。

顺便说一句,RTX 4090是一块游戏显卡——很多人的台式机里本来就有一块。

为什么笔记本会发烫:带宽比容量更重要

Hacker News的讨论区里,有一条评论被顶到了最高。一位叫iagooar的网友说——

“我热爱我的MacBook Pro M5 128GB,我也热爱Qwen 3.6。但是,如果你打算用笔记本认真跑本地AI,请不要买这台。原因很简单:你的手指会被烫伤,你的脑袋会被风扇噪音吵炸。”

这条评论后面,另一位网友astrostl补充了一个关键数据:

MacBook Pro M5的内存带宽是每秒614GB。Mac Mini M4是每秒273GB。前者的数据传输速度是后者的两倍多。

“在做AI推理时,“他写道,“你的模型首先要能塞进内存,然后内存带宽越大越好。即使Mac Mini有1TB的内存,跑27B到35B规模的模型,速度还是只有MacBook Pro的一半。”

这里有一个容易被忽略的物理事实:AI模型运行时,计算本身不一定是瓶颈,数据的流动才是。模型的参数存储在内存里,每次”思考”都需要在海量参数中迅速检索和搬运数据。内存带宽,就是这条路有多宽。

带宽大 → 数据流动快 → AI回复快 → 但发热也大。

带宽小 → 数据流动慢 → AI回复慢 → 但发热小。

这就是为什么有些用户报告说,Mac Mini M4跑Qwen 3.6时风扇几乎没声音——它本来就更慢、更凉。而MacBook Pro跑同一个模型时,键盘热到没法碰。

物理定律如此,不是电脑坏了。

对你我有什么影响?

如果你不是一个程序员,上面这些技术细节可能听起来很遥远。但这件事对你的影响,可能在未来几个月内变得非常具体。

第一,你不用再为AI付月费了。

目前ChatGPT等主流AI服务每月收费20美元。如果你用了三五个月,加起来就是几百块钱。而Qwen 3.6是免费下载的,运行在自己电脑上,唯一的成本是电费——一台笔记本全速跑AI,功率大约几百瓦,跟玩游戏差不多。如果你本来就有台性能不错的电脑,额外成本为零。

当然,前提是你有一台内存足够大的电脑。Qwen 3.6的8位压缩版需要大约28-41GB的内存。市面上大多数轻薄本只有16GB或更少。但32GB以上的笔记本正在变得越来越普及——目前联想、华硕等品牌已经开始在主流价位段铺货32GB版本。一台能跑本地AI的电脑,门槛正在以肉眼可见的速度降低。

第二,你的隐私真正属于你了。

当你用ChatGPT写一封私密的工作邮件,这封邮件的内容会被发送到OpenAI的服务器上。虽然公司声称不会滥用数据,但你自己没法核实。如果是公司内部的敏感文件呢?如果是医疗记录呢?如果是法律文书呢?

本地AI的答案很简单:数据不出电脑。你把WiFi关了,拔了网线,它照样工作。你的对话记录存在你自己的硬盘里,不在任何一家公司的服务器上。

这在外交术语里叫”数据主权”,在老百姓的话里叫”我自己的事我自己知道就行”。

第三,AI不会断网了。

飞机上,高铁过隧道,偏远山区,国外漫游不想开流量——这些场景下,云端AI就是一块砖。本地AI不管有没有网,都能用。

云端AI vs. 本地AI:谁会赢?

Hacker News评论区里,对这个问题的争论比模型本身还热闹。

一位叫pizza234的用户说得很直白:“云端模型更快,不发热,上下文更丰富,精度更高。除了隐私和一些敏感用途之外,本地模型目前就是个昂贵的玩具。”

另一位叫smt88的用户更绝对:“规模经济是自然规律,任何本地模型都颠覆不了。”

但反方观点也很强。一位叫girvo的网友说,他花了6800澳元买了一个本地AI设备,“能不受审查、保护隐私地跑模型,本身就有价值。”

这个争论两边都有道理。

云端AI的优势是真金白银的:Google、OpenAI这些公司可以投入数亿美元建数据中心,用最先进的硬件、跑最新最大的模型。个人电脑的算力永远追不上数据中心——这个物理差距不会消失。

但本地AI的优势也是真金白银的:不要钱、保护隐私、不受网络限制、不受平台审查。而且,像Qwen 3.6这样的模型已经证明了一件事:不一定要”最大的模型”才行。“够聪明的模型”如果能在你家的电脑上跑,实用价值反而大于一个你碰不到的超大模型。

笔者判断,这两者不会是谁消灭谁的关系。更可能的未来是:云端AI继续做”最聪明”的事——复杂推理、大规模数据分析、实时协作。本地AI负责你的日常需求——写作、翻译、查资料、整理笔记。你不需要为每件小事都去敲云端的大门。

一个有意思的数据佐证了这个判断:Qwen 3.6发布后,Mac Mini 64GB版本在全球范围内被抢购一空,二手市场溢价严重,苹果官网发货周期排到了10到18周。人们正在用实际行动为”本地AI”投票。

结尾

2026年或许会被记住:这是AI从”你付钱让别人家的电脑替你思考”变成”你自己的电脑可以思考”的第一年。

不是突然完成的,但方向已经明确了。一个由阿里开源、免费、不联网的AI模型,让十几亿普通人第一次看到了另一条路——一条不需要每月续费、不需要交出隐私、不需要依赖网络就能获得AI帮助的路。

这条路还不够平整,风扇还在狂转,键盘还有点烫。但门已经开了。


参考链接: