我前面转的图网页链接，居然出现了斩杀区

转发一篇对DeepSeek V4 Flash 0731的吹捧——————————

DeepSeek V4 Flash 0731 为何能“团灭”一众模型？

先说结论： DeepSeek 把 Prompt Cache 从昂贵的显存（HBM）挪到了廉价硬盘（SSD）。但这看似简单的一步，实则是历时两年多的底层架构革命。

又是枯燥的 IT 硬核时间。

自 7 月 31 日 DeepSeek V4 Flash 正式上线一周以来，中文科技圈开始流传一个词：“斩杀线”。这个词源自 Artificial Analysis 的性价比散点图：V4 Flash 位于智力值 49.9、单任务成本 $0.027 的坐标点。分数紧贴第一梯队门槛，价格却卡在最底部。

从这个点向右下角延伸出的广阔区域被称为“斩杀区”——凡是在那里（比它贵、还比它笨）的模型，无一幸免。图上 128 个模型中，绝大多数都在这个区域内。更恐怖的是，右上角那些智商略高一筹的模型，价格却是它的 10 倍。

很少有人追问：那个 $0.027 究竟是怎么做到的？

一个反直觉的例子

近期 Qwen-Code 在 v0.15.10 版本引入了 ToolSearch，将 MCP 工具从“启动时全量加载”改为“按需加载”。这听起来是标准的上下文优化，旨在省 Token 省钱。

但有用户升级后查看账单却发现：每日 Token 总量减少了 46%，费用却从 1.05 涨到了 3.30，翻了三倍。

原因在于：动态加载导致每个请求的 Prompt 前缀不再一致，Prefix Cache 大面积失效，Cache Hit Rate 从 97.5% 暴跌至 81.5%。由于各家 API 的 Cache Hit 与 Miss 价差巨大（通常在 10 倍以上），省下的 Prompt Token 根本抵不过 Miss Token 带来的开销激增。

DeepSeek 的情况更为极端：V4 Flash 的定价为 Input Cache Miss 0.14 / 1M Tokens，Cache Hit 仅 0.0028。Hit 与 Miss 价差高达 50 倍（上一代 V3.2 和 Anthropic 均为 10 倍）。

在 50 倍价差下，你的账单不再与 Token 总数成正比，而是与 Miss Rate（未命中率） 成正比。简单测算如下：• Hit Rate 90%：有效输入单价约 $0.0165 / 1M Tokens

• Hit Rate 95%：约 $0.0097

• Hit Rate 99%：约 $0.0042

90% 到 99%，账单相差 4 倍。

为什么只有 DeepSeek 敢定 50 倍价差？

因为 DeepSeek 的 Cache 是落在分布式磁盘阵列上的。早在 2024 年 8 月，他们就自称是全球首家在 API 服务中大规模应用 Disk Cache 的供应商。硬盘便宜，Cache 留存时间可达数小时甚至数天；相比之下，Anthropic 的 Memory Cache 默认 TTL 仅为 5 分钟。这意味着你第二天回来处理同一个代码库，DeepSeek 的 Cache 还在，别家早已失效。

“那我开启 vLLM 的 Disk Cache 不就行了？”没那么简单。磁盘 IO 与 HBM 的速度天差地别，直接上盘会慢到怀疑人生。

DeepSeek Disk Cache 的经济学之所以成立，前提是 KV Cache 必须足够小。这正是他们苦修两年多的成果：• 2024/05 MLA：KV Cache 缩减 93.3%

• 2024/08 Disk Cache 上线：Hit 价格降至 1/10

• 2025/12 DSA：总成本砍半

• 2026/04 CSA + HCA：KV Cache 压至 V3.2 的 7%

• 2026/07 V4 Flash 0731：价差拉大至 50 倍

用照片作比喻：• MLA：把每张照片从 RAW 无损压缩成 JPEG（单张变小）。

• CSA：从相册里只挑重要的照片留下（张数变少）。

• HCA：另外存一份所有照片的缩略图目录（极低分辨率但全覆盖）。

单张变小 × 张数变少，才叠出了“KV Cache 仅占传统方案 2%”的数据。

KV 越小，落盘后的存储和 IO 成本越低。架构极致压缩 × 硬盘落盘 × 敢于将节省的成本写入定价，这三个齿轮严丝合缝，才构成了“斩杀线”的完整解释。

虽然 vLLM + LMCache 也能实现 SSD Offload，MLA 技术也逐渐成为标配，但 KV 的形态在模型训练阶段就已注定。功能可抄，模型架构难移。因此，DeepSeek 在这项技术上目前领先业界约一个模型世代（大概三个月吧 XD）。

给工程师的三个实操建议

在 DeepSeek 这种 Cache Hit Rate 近乎免费的世界里，Token 消耗量不再是重点，Cache Miss Rate 才是核心指标。否则就会重蹈 Qwen-Code 的覆辙：Token 省了 46%，账单却涨了 3 倍。

具体来说，工程师需注意：1. Prefix 必须 Byte-Identical（字节级一致）才能命中：动态加载工具、在开头插入时间戳、随机打乱 Few-Shot 示例，都是成本炸弹。稳定的内容放前面，易变的内容放后面。2. 将 Cache Hit Rate 纳入 SLO 监控：DeepSeek API 会返回 prompt_cache_hit_tokens 字段。一旦该指标下跌，说明有人动了 Prefix，正在烧钱。评估新功能时，务必用 Miss Rate 重新算账——省 Token 不等于省钱。3. Harness（测试线束/管控框架）将愈发重要：人工无法精准控制 Prefix 一致性，自动化管控框架将成为成本控制的关键基建。

总结：把 KV 压小并放入硬盘，是 DeepSeek 花了两年交出的答卷；而 Prefix 稳不稳定，是你接下来的功课。在 Cache Hit/Miss 存在 50 倍价差的现实世界里，Harness 设计本身就是成本工程。