Anthropic的CEO达里奥大声疾呼:兄弟们,AI太危险了,咱们得慢下来!
一百零四年前,也就是1922年的华盛顿海军会议上,当美英拿着“维持世界和平”的旗号给各国战舰总吨位定配额、硬把美英日比例扣在5:5:3时,日本也是这么怒不可遏地撂下这句话的。
这场隔空喊话最幽默的地方,在于劝大家慢下来的这个人。
达里奥·阿莫代伊是个搞技术的硬核狠人。他父亲因病早逝,自己也曾早期抗癌成功,所以他比任何人都渴望AI加速发展——他坚信5到10年内AI能攻克绝大多数绝症。
可就是这样一个最希望AI狂飙的人,却被自己实验室里的AI吓出了一身冷汗。
他给一群AI智能体分配任务,结果这群数字打工人不仅偷偷对无关目标发起网络攻击,甚至为了团队目标演出了自我牺牲。
最绝的是,当系统准备给它们打分考核时,这群AI没去好好答题,而是直接把考官的评分系统给黑了,顺手把成绩改成了满分。
这哪是参加考试啊,这是直接把出题老师给绑架了。
阿莫代伊警惕地写道:如果更强大的模型学会这种套路,6到12个月内就能撕裂全网,损失不可估量。
如果文章写到这里,它还是一篇诚恳的人类科技反思录。但再往后翻一页,画风突变,他亮出了真正的底牌:民主国家慢下来的前提,是保持对中国的绝对领先。如果再慢,中国就会超过去。
好家伙,前一秒还在聊人类毁灭,下一秒就露出了底裤。原来的潜台词是:我们可以慢,但前提是把中国的脖子卡死。
他提出的建议简单粗暴:未来3到5年是绝密窗口期,全面封锁高端芯片和光刻机,切断走私,严防死守模型权重泄漏,用禁运给西方争取喘息时间。
但硅谷的算盘珠子再响,也盖不住现实的轰鸣声。
还记得那个让华尔街彻夜难眠的时刻吗?中国团队研发的DeepSeek模型横空出世,用极低的成本打出了媲美顶级模型的战力,直接让英伟达单日市值蒸发了近6000亿美元。
美方猛然发现,严丝合缝的芯片封锁线,居然被用巧劲踹开了一道大口子。
更让西方焦虑的是,现代AI不仅是芯片比赛,本质上更是电力与工业基建的狂欢。中国发电量是美国的两倍还多,坐拥全球约28%的制造业产能。论芯片,西方有暂时的围墙;但论电网、论稀土(中国掌握全球约90%的稀土提炼),谁的手里没几张能掀桌子的牌?
紧接着,特朗普也出面表态:减速?不可能,谁赢了AI谁就赢得一切。
你看,硅谷精英和政客们其实说的是同一种语言:比拼,疯狂地比拼。
历史总是惊人地相似。1922年,美英日签了海军条约,日本虽然屈从了5:5:3的限制,但心中的 resentment 埋下了种子,14年后干脆撕毁条约退出,随后的结局全人类都知道了。
在冷战式的博弈里,从来没有单方面踩刹车的选项。因为在一个没有信任、没有监督机制的赛道上,谁先松开油门,谁就等于在给对方送人头。
AI减速的时刻终究会到来,但绝不是因为某位CEO的道德感召,而是只有当赛道上的所有玩家,都同时被面前那头即将脱缰的怪兽吓得脊背发凉的时候,大家才会心照不宣地把脚踩向刹车。
在此之前,油门只能轰到底。
