DC娱乐网

前阵子整理闲置硬盘才反应过来,AI吞内存的速度真的比我存10年照片还夸张。 之前

前阵子整理闲置硬盘才反应过来,AI吞内存的速度真的比我存10年照片还夸张。
之前跑个7B参数的开源大模型,8G显存的笔记本还能勉强带动,现在微调个行业小模型,没32G显存根本开不了机,连本地存的3D素材库都得临时挪去外接硬盘腾空间。
更别说云服务商那边,今年一季度全球服务器内存出货量同比涨了42%,还是供不应求,连带着普通消费级16G内存条都比去年贵了近三成。
现在连手机APP都在蹭AI功能,刷个短视频后台都偷偷占3G内存,两年前买的12G运存手机,现在开三个APP就开始杀后台,合着我们普通人跟着一起为AI的内存账单买单。