运行kimi K3 需要8 张 B300(8张 B300 = 一台标准 B300服务器) / 16 张 H200(两台 H200)才能跑起来,国内一台 B300 约 1500 万人民币。 全参数运行独立机房运维等环境,成本约3000w-5000w 人民币。
如果把模型压缩,再加上分片,可以降低到百万级别,性能保留90%
运行kimi K3 需要8 张 B300(8张 B300 = 一台标准 B300服务器) / 16 张 H200(两台 H200)才能跑起来,国内一台 B300 约 1500 万人民币。 全参数运行独立机房运维等环境,成本约3000w-5000w 人民币。
如果把模型压缩,再加上分片,可以降低到百万级别,性能保留90%