DeepSeek开源推理框架 还得是「源神」D老师，善呐！

自家推理引擎DeepInfer掏出来还不到一周，开源社区就纷纷交上了作业。

真乃一鲸“落”万物生，第一波开源效果已经新鲜出炉：

立志学习DeepSeek、成为DeepSeek、超越DeepSeek。（bushi）

vLLM、SGLang这些成熟的推理框架率先迎来T0升级包——

在各自披露的测试配置下，性能已经接近甚至部分超过DeepInfer。

不戳不戳！DeepInfer最初基于vLLM构建，设计上也借鉴了SGLang的思路。

如今DeepSeek把打磨后的实现公开，两家又接着吸收、继续优化。

哥几个才是把开源玩出了花。

还有些受DeepInfer灵感启发的开发者个人项目陆续上线，从硬件适配、推理加速到部署优化，画风各不相同。

但效果倒是出奇一致：都更能打了！

这下DeepInfer一开源，社区都热闹了起来。

推理竞速进入白热化，It’s showtime～

网页链接