120B+参数巨型LLM,终于能在笔记本电脑上本地训练了!Unsloth联手英伟达和微软,把AI超级计算塞进128GB统一内存的RTX Spark笔记本,真正实现“桌面即超级计算机”!
过去,训练百亿甚至千亿参数模型几乎是大型云厂商或研究机构的专属特权,需要动辄数万美元的GPU集群和高昂的算力费用。而Unsloth通过极致的内存优化和算法创新(如QLoRA、动态量化等),让120B模型(如gpt-oss-120b)在约68GB统一内存下就能进行QLoRA微调,甚至支持强化学习(RL),这把门槛直接拉低到了“高端笔记本”的级别。
RTX Spark本身是英伟达与微软深度合作的产物,它采用Grace ARM CPU + Blackwell GPU架构,最高128GB统一内存(CPU和GPU共享),性能可达1 petaflop AI算力,同时保持薄轻笔记本形态。开发者不仅能本地微调模型,还能直接部署推理、运行个人AI智能体,甚至做更复杂的多模态或长上下文任务,而无需担心数据隐私泄露或云端API调用成本。
