Kimi K3 是全球首个开源 3T 级大模型，参数规模达 2.8 万亿。其创新架构包括 KDA 注意力、AttnRes 残差连接、稳定稀疏专家混合等，显著提升长序列建模效率。开源基础设施如 MoonEP、FlashKDA 支持高效训练。