DC娱乐网

谷歌这波操作,把内存价格打下来了!普通人的AI春天要来了 宝子们!谁懂啊!前几

谷歌这波操作,把内存价格打下来了!普通人的AI春天要来了

宝子们!谁懂啊!前几天谷歌悄咪咪发了篇论文,我当时就觉得要搞大事,果然这两天内存价格直接跳水,存储厂商股价狂跌,之前被内存暴利拿捏的日子,好像真的要结束了

给你们捋捋咋回事:谷歌新出的TurboQuant AI内存压缩算法太牛了!简单说,AI运行需要一个“临时记忆库”(KV Cache)来存对话内容,但以前这玩意儿特别占内存,导致AI越用越费内存,价格就被炒得老高。现在谷歌把这个“记忆库”从16bit压缩到3bit,内存占用直接少了六分之五,还不损失精度!

实测更夸张,在Llama模型上,英伟达H100显卡推理速度直接翻8倍,超长文本测试也满分,关键是消费级硬件也能用上!以前装个机能被内存价格背刺到哭,现在两条32G DDR5内存已经从8000多跌到3000以下了,后续肯定还得降~

对我们普通人来说,以后想玩AI本地大模型,可能16G内存就够了,不用再花大价钱升级硬件。科技圈终于不是只卷硬件了,靠技术把门槛降下来,这才是真的普惠啊!

你们觉得内存价格还会跌到多少?或者有没有已经受益的宝子,来聊聊现在装机是不是更划算啦~

科技资讯 AI 内存价格 谷歌 数码科技 装机