科技爱好者在家中装配高性能AI主机,随之而来的是棘手的散热难题
华盛顿州贝尔维尤一处安静社区,加里・弗莱克的现代住宅地下室,布置得像一间功能齐全的男士休闲空间:大屏显示器与数字投影仪中间摆着一张舒适沙发,还有一台动感单车划船机。但这间屋子真正的重头戏,是一台造型酷似巨型拼装模型的定制主机,机架上悬挂七块英伟达高性能显卡。
弗莱克曾任职微软,也是多家初创公司创始人。他组装这台机器,用于基于数TB脑电图数据训练定制AI模型,脑电图用来记录大脑电信号,该项目所属的创业项目他现已不再跟进。
训练AI模型,他本可以向云服务商租用数据中心的工业级GPU算力。但他说,用折扣配件自己装机要划算得多,整套设备总成本不到6000美元,远低于每月付给亚马逊云或者微软云的费用。
即便算上电气改造、全新暖通空调系统的开销(合计1‑2万美元),用来给地下室散热,抵消AI主机巨大发热量,自己装机依旧划算。“我想要算力握在自己手里,”弗莱克说,他计划未来数月重新启用这台机器开展新项目,“我不想租用别人的算力。”
阁楼、地下室、家庭办公室本地跑AI负载,已经成为这一轮AI热潮之下出人意料的现象。主流AI大厂,都在堆满数万片GPU的大型远端数据中心训练、运行大模型,满足海量算力需求。
加里・弗莱克家中的GPU设备
与此同时,一股本地AI浪潮正在兴起。大量小型开发者、硬件发烧友出于成本、隐私、使用便利,选择在自己的家用设备上跑AI。部分信奉自由理念的开发者认为,本地AI可以避免未来政府限制、切断自己使用AI技术的权限。OpenClaw这类本地智能体平台,可以直接调用本机应用、本地文件完成复杂任务,也助推了这股风潮。
有些时候,家用AI设备纯粹就是很酷的家居景观。上个月,Shopify首席执行官托比・吕特克晒出家里三组竖直服务器机柜,机柜缠绕粉色LED灯带,在社交平台走红。设备包含一台戴尔主机,搭载英伟达高端显卡,厂商称之为“终极桌面超算”。吕特克还巧妙解决了设备散热难题。
家用AI主机兴起,对硬件厂商来说是意外利好。Macmini、MacStudio在智能体开发者群体中大受欢迎,销量走高;戴尔也表示,家用AI爱好者市场迎来爆发式增长。
戴尔高级杰出工程师马克・哈蒙斯称:“这是时代风潮。今年OpenClaw问世之后,相关硬件需求直接暴涨。”
在家中放置高性能主机并不是新鲜事,“家庭实验室(homelab)”爱好者社群早已在Discord、Reddit等平台蓬勃发展。21世纪初,发烧友在家搭建服务器,挂载海量硬盘,存放下载的MP3音乐与视频。后来加密货币挖矿热潮,又带动家用高性能GPU需求。
希滕・沙阿就是当年的加密货币玩家。2020年,他在家中服务器机架装上八块GPU挖以太坊。如今,软件创业公司CrazyEgg的CEO沙阿,转向AI开发,大幅扩充加州雷德伍德肖尔斯家中的算力军备,一共18台设备,其中包含14台Macmini与MacStudio。
沙阿表示,本地算力让他可以掌控自己开发的网站优化软件运行表现。云大模型时常宕机、卡顿已经是常态。“每当云端更新大模型,接连好几天系统都会不稳定,故障频发。”
但代价是居住舒适度大打折扣。全部算力设备摆在家庭办公室,机器散热让室内温度经常飙升至华氏85度(约29.4摄氏度),他经常只能穿短裤待在房间。“我该装一台空调。”沙阿说道。
不少本地AI发烧友已经成为圈内网红。一位居住在奥斯汀的YouTube博主,要求匿名,对外只用频道名DigitalSpaceport。他在车库搭建了自己口中的“家庭数据中心”,硬件包含五块AMD显卡,外加大量网络、存储设备。目前他在本机运行国内开源大模型通义千问Qwen‑3.8‑27B,用来剪辑、分析自己的YouTube视频。
另一位波兰科技顾问兼YouTube博主,同样匿名,使用频道ID0xSero。随着硬件越买越多,他不得不把AI主机在家中四处挪位置。四块英伟达6000显卡最初放在家庭办公室,但噪音巨大、发热量极高,房间空气被烘干,他认为这是去年自己生病的诱因。于是整套设备被搬到阁楼。
0xSero最早也使用云端AI模型,2024年末转折点到来:AI编程工具Cursor涨价。“那一刻我下定决心,要搞本地AI。”
他坚持一个观点:AI系统的所有权、控制权应该掌握在用户手上,未来有可能出现政府管控、限制AI访问权限。“我真心喜欢AI,我希望能够持续拥有使用它的权利。”