30B大模型跑进手机,推理引擎开始自我进化 大模型证明了自己的价值,代价是把算力资源的供需彻底打乱了。TrendForce数据显示,从2025年年中到现在,短短一年多,部分DDR5内存的价格涨了近10倍。原因不复杂,云端大模型的训练和推理吞掉了太多产能。产能被云端大量消耗之后,需求开始向外溢出,端侧成了承接这场溢出的下一站。同一时期,手机上能跑的模型也在快速膨胀,从3B涨到了30B+。 30B大模型跑进手机,推理引擎开始自我进化
# 30B大模型跑进手机,推理引擎开始自我进化# 大模型证明了自己的价值,代价是把算力资源的供需彻底打乱了。 TrendForce数据显示,从2025年年中到现在,短短一年多,部分DDR5内存的价格涨了近10倍。 原因不复杂,云端大模型的训练和推理吞掉了太多产能。 产能被云端大量消耗之后,需求开始向外溢出
阅读:0
点赞:0