Deepseek官方发布了一篇《DeepSeek V4.1 Flash 大规模推理部署实践》。十分离谱,不仅是技术细节,就算是收入也给你公布了。目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。
分享一些有趣的细节。
1.目前单一集群的服务吞吐是 155 万亿 Tokens/天,这个数据什么概念,谷歌的劈柴哥在今年 I/O 上说,Google 全线一个月处理 3.2 千万亿 token,折下来一天 107 万亿。DeepSeek 一个集群,一天 155 万亿。
DeepSeek 那个数里 96% 是缓存命中,Google 那边怎么算的没人知道,也没公布但量级上,一家公司的单个集群,和另一家顶级算力的公司的全部产品线来到了一个水平线上了。
MD,离谱。