这个主题,绕不开一个问题:技术很热,但真实世界买单吗?
云端大模型很热闹,参数越来越大,能力越来越强。可一旦落到真实场景——车要开、手机要用、用户要掏钱——成本、隐私、实时性三座山就横在面前。翻过去,AI才真正进入真实世界。翻不过去,再强的模型也只是实验室里的展品。
端侧AI,就是翻山的胜负手。
它不是云端的备胎。它是AI从技术走向真实世界的那条必经之路。
技术落地,先过成本关
汽车厂商用云端模型做端侧感知,token费用由车厂承担,用户不付钱。这就形成一个悖论:产品越成功,用户越爱用,厂商的成本就越不可控。
面壁智能创始人刘知远把话说得很直白:“你的产品越成功,你的成本越不可控。”
但成本问题不只出在终端厂商这一端。往上游看,推理芯片的竞争逻辑也在发生根本性变化。
云天励飞董事长陈宁有一个判断,在行业里越来越有共识:推理芯片竞争的本质,不是去堆极致算力,而是比拼单位Token的低成本、高性价比。 “评估一家AI推理芯片公司,重点不是看其芯片架构或技术路线,而是看其是否能让用户获得更低成本的token。”陈宁说,云天励飞的目标是在三年内,将百万token的综合推理成本压缩到1分钱。他甚至在政协会议上建议深圳将“大幅降低AI推理算力成本”作为战略制高点,力争三年内把百万Tokens的边际推理成本压降到“0.1分钱”量级。
这不是一家公司的执念。中昊芯英CMO黄绪同样认为,AI芯片的竞争正从“谁拥有最强算力”转向“谁能提供最低的Token成本”。曦望董事长徐冰则把2026年称为“Token商业化元年”,强调算力竞争正从追求性能峰值转向推理时代的性价比与总拥有成本。
当产业链上下游都在往同一个方向走时,成本就不再是“优化项”,而是“生存项”。
商汤绝影的车端方案,让单台车日均节省约30元云端费用,规模化部署后“万车年省超亿元”。用户日均可消耗的token量已经突破140万亿。当每个月token费用从数千元飙升至数十万元时,算力成本的陡峭曲线正在倒逼企业寻找替代方案。
所以端侧不是“技术选择”,而是成本结构的必然。当边际成本趋近于零的端侧推理能力变得足够强时,没有任何一个终端厂商有理由不把越来越多的任务往端上搬。
密度法则:每3.5个月翻一倍
刘知远团队和清华大学联合提出的密度法则,2025年11月以封面文章形式发表在《自然·机器智能》上。研究回测了51个主流大模型后发现:大模型的知识密度大约每3.5个月翻一倍。
什么意思?今天需要一个体育馆大小的“大脑”才能完成的任务,3个半月后只需要一个客厅大小,再过3个半月可能只需要一个背包。
密度法则和规模法则,是大模型行业的两条底层规律。规模法则从空间维度描述进展——参数越大能力越强;密度法则从时间维度描述进展——同样参数量的模型,随时间推移能力越来越强。
这就像芯片行业的摩尔定律。芯片每18个月算力翻倍,大模型每3.5个月知识密度翻倍。芯片遵循摩尔定律,电池十年才翻一倍。越接近底层物理规律,速度越慢。
端侧模型的优化目标只有一个:密度。因为算力受限,必须在极其有限的资源里榨取出最大能力。
而密度法则和Token成本是一条曲线的两端。密度越高,同样算力能跑出的Token越多,单位Token的成本就越低。陈宁说推理芯片是“由算法来定义的高性价比芯片”,本质上就是在说同一件事:模型侧的密度提升和芯片侧的成本下降,是同一场革命的两个侧面。
Token账单:越成功,越亏钱
云端模型的商业模式看似清晰——API调用收费。但真实世界里,这个模式对很多企业来说成本完全不可控。
苹果官网报告重点分析了云侧和端侧对客户的影响,最重要一条是可控性和可预测性。云端随着使用越来越好,成本可预测性变弱;端侧主要成本是初始授权费和设备成本,用得再多也是这样。
陈宁有一个更激进的判断:“Token成本是制约智能体大规模落地应用的最关键难点。” 其背后,是更高性价比的AI推理芯片和推理系统的缺失。
端侧反而有优势。成本可控,隐私友好。后摩智能把自己的定位叫“端侧免费Token工厂”的算力底座,希望用更低的能耗生产更多智能,让端侧Token的边际成本趋近于零。这个说法虽然带点营销色彩,但方向是对的:端侧推理的边际成本结构,和云端完全不同。
商业模式应该与终端商业模式一致。要么收取授权费,随终端一起卖给客户,客户一次性支付,持续使用。要么做出软硬件整合好的产品,通过协同优化,实现100块钱的硬件带来200块钱的效果。
商业本质在于能否为客户创造价值,并合理回收价值。若回收部分不合理,将受到反噬。
汽车先跑,手机跟上
汽车正在成为人的第二隐私空间,一个移动的客厅。它跟物理世界交互更强,是一个行走的机器人,比人形机器人更可控、维度更少、结构化程度更高。
在车上,端侧模型带来的不是被动响应的语音助手,而是像贾维斯一样的存在。它了解你,全天候守护你,提供主动式陪伴。这种感受,云端模型给不了——因为网络会断,而用户对主动服务的依赖一旦建立,断网就是灾难。
手机的逻辑不同。手机是离用户最近的设备,对用户上下文掌握得最深。它能做到足够懂你,足够个性化。你的日程、喜好、思考方式,手机都有最细颗粒度的认知。而且因为本地运行,不破坏隐私。
深蓝L06特别版已经量产搭载英特尔AI Box Ultra,把PC级端侧AI算力首次带入15万元级别车型。零跑D19和D99采用双骁龙8797芯片,支持端侧AI大模型与多模态模型同时运行。小鹏与斑马智能合作,在车端本地部署运行300亿参数规模的AI模型。
手机端,三星Galaxy Z Fold8在国内搭载了面壁智能提供的端侧模型能力。阶跃星辰STEPX Neo、中兴豆包手机、荣耀Robot Phone先后落地,系统级Agent和端云协同成为标配。
芯片层面,后摩智能的存算一体芯片M50量产不到一年已拿下超150个产品定点,在10W功耗下实现160 TOPS单芯片算力,可流畅运行30B至120B参数量的模型。
这些不是概念,是已经在路上跑、在用户手里用的产品。
持续学习:你的模型只属于你
端侧模型最大的价值不在于推理效率,而在于持续学习。
云端模型部署后是静态的。所有用户共享同一个模型,更新靠厂商迭代。但端侧模型不同——它部署到终端后,就像一个人从大学毕业进入不同岗位,三年后就能成为各自领域的专家。
KAIST今年发布了一款叫SOULMATE的端侧LLM加速器,把检索增强生成和低秩微调两项技术集成到芯片内部,能在设备本地完成持续学习,响应时间仅0.2秒,功耗低至9.8毫瓦。研究团队说,这项研究借鉴了人与人建立友谊的过程。
这个方向的意义在于:每个用户的模型会变成独一无二的。 你的手机懂你的日程习惯、沟通风格、思考方式;你的车理解你的驾驶偏好、情绪状态、常走的路线。这些数据不出设备,持续训练出一个只属于你的模型。
这就是端侧对云端最根本的差异化——不是效率,是归属。
中国范式:端侧定义权
陈宁有一个更大的判断:AI推理爆发将带动全球产业进入“中国时刻”。 他预测,到2030年全球AI训练算力市场约1万亿美元,而AI推理市场将达到4万亿至5万亿美元,“其增速和规模将远超过往的AI训练”。他认为中国应该走“训练追赶、推理超车”的路线,因为推理端的产业竞争格局和行业标准还处于相对空白状态,这正是中国定义规则的机会窗口。
中国端侧发展比美国更多样化,量更大。手机领域,美国以苹果为主,生态强大;中国则是万物竞发,手机厂商、眼镜厂商、机器人厂商都非常多。
从供应链角度看,几乎所有美国机车厂商都以深圳为供应链。中国供应链的优势非常明显,这种优势会带来终端上的创新带宽非常大。
端侧模型需要与端侧芯片协同设计,且是双向的。芯片公司设计下一代端侧芯片时,需要知道端侧模型的发展方向;模型公司针对某款出货量大的芯片做深度优化时,需要芯片公司提供特性,从第一步训练就要与芯片协同。
小模型不等于端侧模型。端侧模型需要考虑与端侧芯片的适配,根据芯片属性做对应设计。如果只能依靠第三方提供的特定规格基模,很多原生能力无法提供,与芯片适配的模型架构也无法更改。所以面壁坚持做原生的端侧基模。
胜负手:AI进入真实世界的最后一块拼图
从技术到真实世界,中间隔着成本、隐私、实时性三座山。
云端大模型负责智能的上限,端侧AI负责智能的落地。两者不是替代关系,是协同关系。但长期看,端云协同会逐步往端侧倾斜,原因就是Token经济学。
刘知远说“产品越成功,成本越不可控”。陈宁说推理芯片竞争的本质是“把每一个Token做便宜”。黄绪说竞争正从“最强算力”转向“最低Token成本”。三个人从不同角度指向了同一个结论:AI进入真实世界的门槛,不在参数表上,在Token账单上。
大模型会把所有工作重新做一遍。这句话放在端侧语境下,含义更深一层:不是把所有工作搬到云端去做,而是让智能从云端回到你身边。
端侧AI不是云端的备胎。它是AI进入真实世界的胜负手。
读完这篇文章,你该记住一件事:下一次评估AI机会时,别只盯着云端参数。看看Token成本曲线在往哪走,看看推理芯片在往哪卷。胜负手,就在那里。