DC娱乐网

传统的软件行业,是有“边际效益”的:成本主要集中在软件开发期内,开发完毕之后,同

传统的软件行业,是有“边际效益”的:成本主要集中在软件开发期内,开发完毕之后,同一份软件给一个人用和给一万个人用,成本差不多。当然,如果是互联网行业的软件,多一个用户会多一些带宽和存储成本,但是总体而言,多出来用户之后的成本可以认为是满足边际效应的。

但是如今大模型领域则不是这样。姑且把大模型领域分为训练和推理两个阶段,前期花费大量成本训练模型完毕了还不算,模型部署上线后,推理的成本是实打实的:多一个用户的请求,就多一份不能被忽略的推理成本。

从这个意义上来说,就现阶段而言,模型推理服务(Model As A Service,MAAS)其实更像是制造业。