昨晚用MIMO改代码，98%的缓存命中率，很优秀。

缓存命中率高 = 重复请求 / 相似推理多，系统资源利用效率好、响应更快。

高命中率：大部分请求都直接读取缓存，不用重新跑模型推理。

因为大模型 未命中缓存比较贵，高缓存命中率 用的省。