以前,我们谈论AI时言必称"百亿参数""千亿参数",仿佛模型越大越能解决问题。但今天,越来越多的企业开始回归理性——他们不再追求单一超大模型的"全能"幻觉,转而拥抱"小模型+大模型"的务实组合。
这一转变并非偶然。工信部等七部门《促进平台经济大中小企业协同发展行动方案(2026—2028年)》明确提出"推动重点行业工业大模型与专用小模型协同开发部署";八部门《"人工智能+制造"专项行动实施意见》更进一步要求"打造面向工业细分场景小模型,鼓励大小模型协同创新"。
政策风向的背后,是工厂管理者们越来越清醒的认知:工业AI的终极目标不是技术炫技,而是可量化、可持续、可复制的价值交付。
那么问题来了:为什么在算力日益充裕的今天,工厂反而需要"做减法"?这种"小模型+大模型"的组合模式,又是如何在推理成本、响应延迟、准确率之间找到最优解的?
一、现象:大小模型协同正在成为工业AI的“新常态”2025年是中国工业AI的转折之年。数据显示,我国工业企业应用大模型及智能体的比例,已从2024年的不足10%跃升至2025年的47.5%。规上制造业企业AI技术应用普及率已超30%。
然而,繁荣之下亦有隐忧。西门子与至顶科技联合发布的《2025工业智能体趋势展望报告》通过对200家工业企业调研发现,43%的企业尚未部署工业智能体,仍处于观望状态;已实现多场景部署的企业仅占8%。企业面临的三大挑战依次是:高成本(63%)、专业人才短缺(46%)和技术不成熟(40%)。
大模型进入工厂后“水土不服”的根源在于——通用能力强,却难以满足工业场景对精度、实时和成本的苛刻要求。AI的叙事正在从“大就是好”转向“合适才是王道”。
二、原因:为什么工厂需要“小模型+大模型”组合?1.大模型在工业现场的“三座大山”
成本高昂。 大模型沿着Scaling Law路径不断发展,高质量服务离不开高显存、高带宽、高性能的算力支持。企业落地部署大模型时普遍发现:推理响应慢、吞吐跟不上、成本高昂。90%的算力花在了推理上,结果又贵又慢。
延迟严重。 工业控制系统对响应时间要求苛刻——毫秒级。而大模型参数量大、推理延迟高,在工业控制器场景中难以满足实时性要求。一个千亿参数的模型可能在检测任务上达到极高精度,但其推理延迟可能长达数秒,完全无法满足工业流水线实时质检的需求。
部署困难。 工业企业对核心数据安全与自主可控高度重视,半数企业倾向于本地化部署方案。但典型边缘设备缺乏承载大模型的能力,“数据不出厂”的刚性约束使云端算力难以直接赋能产线。
2.小模型的“不可替代优势”
小模型在精度要求高、响应速度快、算力受限的场景中具有不可替代优势。SLM仅需数百万至数十亿参数,可在边缘设备运行。与同类LLM相比,能耗可降低85%,推理速度提升3-5倍。
小模型以轻量高效的特性,专注解决单一场景痛点,更容易在工厂端落地。它与机器视觉、声纹识别等技术深度耦合,已在AI质检、工艺参数优化、设备故障诊断与预测性维护等领域释放现实价值。
正如业界所共识的:大模型与小模型并非替代关系,而是协作共生。大模型擅长需求理解和知识泛化,小模型专注实时决策,二者结合可兼顾数据本地化计算、产品换型柔性化和经验知识传递。
三、权衡:推理成本、响应延迟、准确率的“三维博弈”
工业现场存在一个典型的 “不可能三角” ——模型的实时性、参数规模与模型能力三者难以兼得。高实时响应往往需牺牲模型能力,而大模型又易带来延迟增加和算力消耗过大。
推理成本——SLM的“降本利器”。 同一任务场景下,小模型可在单张消费级显卡上部署,而大模型往往需要昂贵的企业级算力集群。成本差异在规模化部署中会被指数级放大——工厂可能有成百上千个边缘节点需要AI能力。
响应延迟——实时场景的“生死线”。 工业控制场景普遍要求毫秒级响应。SLM可在边缘设备本地完成推理,避免云端传输延迟;大模型依赖云端API调用,网络延迟和带宽约束使其难以满足工业实时性要求。
准确率——大模型的“王牌”。 对于涉及逻辑推理的复杂任务,SLM与前沿LLM之间的质量差距仍然显著。大模型在非结构化知识理解、跨模态对齐与复杂推理方面具有不可替代的优势。
三维权衡的本质是:场景决定架构。 没有“最好”的模型,只有“最合适”的模型。高频、实时、确定性的任务交给SLM;低频、复杂、需要推理的任务交给LLM;中间地带则采用协同架构。
四、落地:工厂如何部署“大小模型协同”?
当前主流的协同部署模式主要有三种:
边缘-云端分层。 SLM部署在边缘端处理实时性要求高的任务,LLM部署在云端或中心服务器处理复杂推理任务。Edge AI让运算直接在现场完成,降低延迟并守住信息安全。
SLM专家集群。 多个专家SLM分工协作——规划、执行、交互各司其职,将复杂问题分解为可管理的子任务,由不同专家SLM分别处理。
LLM“蒸馏”SLM。 通过知识蒸馏将推理能力从LLM转移到更小、更高效的SLM。大模型“授渔”,小模型“捕鱼”——大模型提供知识支撑,小模型在实际场景中落地执行。
五、展望:从“模型竞赛”到“系统思维”AI的未来不是更大,而是更专、更混合。工业AI的未来不是依赖单一超大模型,而是打造一套体量适配的AI生态系统——从云端到边缘端,从企业整体规划到设备级实时执行,各环节均有匹配的模型。
工业大模型的关键不在于“做得多大”,而在于是否能在真实产线的算力、成本与机理约束下稳定运行。“小模型+大模型”不是技术噱头,而是工厂AI从“能用”到“好用”的必经之路。
当每个工厂都拥有自己的“模型组合拳”时,制造业的智能化变革才真正进入深水区。大小模型协同,正在成为工厂AI部署的 “新常态” 。