打过麻将的人都知道,你赢不了一个明牌的对家。国内AI大模型公司中,Deepseek就是那个敢明牌的人。
DeepSeek重磅开源了核心推理框架DeepInfer以及配套组件deepseek-recipe。这个框架的作用是,可以让第三方云厂商部署的Deepseek大模型,进一步降低推理成本。
通过这套推理框架,DeepSeek-V4.1-Flash 可以实现“单一集群的服务吞吐155 万亿 Tokens/天,整体收入每卡每小时 38 美金(按谷价)。
按技术博主Yuchen Jin的测算,即使假设Deepseek以7美元 GPU/小时的价格租用 B300,这也相当于约82%的毛利率。
这是DeepSeek-V4.1-Flash过去能保持低价的秘籍,现在这本秘籍终于有电子版了。
截至目前,Deepseek已经开源了生产环境推理引擎技术栈的核心,包括应用、模型、算子、接口以及推理框架,而且它们全都适配了昇腾平台。
接下来,国内云厂商不仅可以制造更便宜的Token,还可以获得更高的毛利率。这将是一个观察杰文斯悖论的好机会:当Token生成得越来越快、价格越来越便宜,会不会反过来推动市场需求的增长?
说到这里,还在等什么,赶快叫一声“梁圣”吧。DeepSeek
