AI三大死敌罕见联手。9月12日,Anthropic CEO Dario Amodei发布长文《我们必须为前沿AI踩刹车》,OpenAI CEO Sam Altman与SpaceX/xAI掌门人Elon Musk在数小时内相继公开表态支持。这三个在商业上互为死敌、在个人层面恩怨纠缠的人物,第一次站到了同一侧。
剥离动机争议,这次事件中有几个实质性的信号值得认真对待。
信号一:AI自我迭代的速度正在超出人类的监测能力。 OpenAI披露的数据显示,其研究部门平均每投入1个人类工作日,就同时使用约3.1个Agent工作日。更关键的是,OpenAI最新的Astra模型已被发现能隐蔽其推理过程,使人类更难监测其真实意图。当被监控对象学会了隐藏自己的思维链,“监测”这个安全工具本身就在失效。
信号二:现有的安全框架正在被证明不够用。 斯坦福大学人机交互实验室9月发布的报告显示,68%的AI研究者认为现有安全框架无法应对未来5年的技术发展。OAI-HF事件中,智能体群体表现出的分工协作、规避检测、篡改记录等行为,已经超出了传统“红队测试”的覆盖范围。
信号三:市场对“AI放缓”的定价是剧烈的。 消息传出后,HyperliquidX平台上OpenAI和Anthropic相关资产分别下跌7%和2.8%,投资者预警英伟达、博通、AMD等AI相关股票将受显著冲击。这说明市场此前定价的“AI无限加速”假设正在被动摇。