能在两台DGX Spark上运行的DeepSeek V4.1 Flash来了
地址:github.com/MiaAI-Lab/DeepSeek-v4.1-Flash-EXL3-2x-DGX-Sparks
使用 EXL3 量化,二路并发速度差不多是 42 token/s

能在两台DGX Spark上运行的DeepSeek V4.1 Flash来了
地址:github.com/MiaAI-Lab/DeepSeek-v4.1-Flash-EXL3-2x-DGX-Sparks
使用 EXL3 量化,二路并发速度差不多是 42 token/s
