Muse Spark Open上榜AgentPerf
Meta新发布的816B参数（42B激活）开放权重模型Muse Spark Open的测试结果已上线AA-AgentPerf。在我们的初步测试中，该模型在4张NVIDIA GB300或B300 GPU上，每兆瓦功耗最高可达约1.5亿tokens/秒的吞吐量。

Muse Spark Open在Artificial Analysis Intelligence Index上得分39。它是一个MoE模型，共62层，其中46层使用2048 token滑动窗口注意力，使百万上下文下的KV缓存需求相比全注意力降低约75%。Meta发布了NVFP4权重，AMD发布了MXFP4权重，我们分别在NVIDIA和AMD硬件上使用对应权重测试。

初步结果：

➤ NVIDIA B300和GB300领先，在吞吐优先（单用户速度较低）配置下均达到每兆瓦约1.5亿tokens/秒。GB300在更高输出速度下领先（100 tok/s时约1.08亿 vs B300约9200万），但两者目前仅在聚合式服务配置下测试，预计多节点分离式配置下GB300对B300的领先优势会进一步扩大。

➤ 服务配置优化迅速。在同一B300节点上，NVIDIA调优后的SGLang配置在50至100 tok/s下每兆瓦吞吐量达发布首周食谱配置的约1.6至1.8倍。提升源自TP4部署和按并发量调优的prefill-decode间隔，代价是首token时间变长。

➤ AMD MI355X在65 tok/s时达每兆瓦7000万tokens/s，在65至100 tok/s区间约为B200的0.9倍。AMD于10月22日更新的配置方案（调整prefill-decode与调度器间隔、增加tokenizer worker数量、为全注意力层增加更多KV缓存）使其每兆瓦吞吐量相比此前方案提升约1.7倍。

我们将持续测试Muse Spark Open的服务配置，包括多节点分离式部署，并每周更新榜单，发布目前找到的最佳结果和配置。我们还将发布更深入的评测，介绍在为Muse Spark Open优化内核、推理引擎和配置方面取得的进展。

继续查看图中内容。

MuseSparkOpen Meta AgentPerf