【WASTE：让2.78万亿参数的Kimi K3在笔记本上“跑”起来】开发者sqliteai推出的WASTE引擎，通过直接从NVMe硬盘流式读取激活权重，实现了在仅有29GB可用内存的普通笔记本上运行完整版Kimi K3（2.78T参数）。这并非剪枝或蒸馏版，而是通过 Mixture of Experts (MoE) 架构的特性，只将每token激活的4%权重实时载入，其余982GB模型数据驻留硬盘，实现“以空间换可行性”。虽然0.5 token/s的速度慢到被戏称为“电子盆栽”，但其底层逻辑在于打破了“顶级模型必须上集群”的迷信。它证明了在本地机器带宽（如Mac内建SSD的12.8GB/s）支撑下，推理瓶颈已从算力转移到存储调度。对用户而言，这意味着无需支付API账单、无需联网即可处理极度敏感的数据。这不仅是一个技术Demo，更是为未来“大模型本地化”划定了一道工程可行性的红线。 github.com/sqliteai/waste