谷歌优化了Gemma 4 12B在16GB内存的Mac本地运行表现,之前本地运行12B模型叠加浏览网页和其他app使用容易触发swap,现在使用针对手机优化的LiteRT-LM版模型降低了内存的占用率。
通过在Mac安装Google AI Edge Gallery 使用,支持多模态视频和音频。应用了MTP加速token输出速度。

谷歌优化了Gemma 4 12B在16GB内存的Mac本地运行表现,之前本地运行12B模型叠加浏览网页和其他app使用容易触发swap,现在使用针对手机优化的LiteRT-LM版模型降低了内存的占用率。
通过在Mac安装Google AI Edge Gallery 使用,支持多模态视频和音频。应用了MTP加速token输出速度。
