OpenAI 一周走俩高管,Anthropic却发现 AI 也会宫斗,两万亿赌的是这个
Anthropic 在估值冲向两万亿的关口,自己给自己泼了盆冷水,他们让四十五个智能体钻进开源项目找漏洞,组队效率是单干的十几倍,可一旦放开协作,局面立刻失控。
三十个智能体有十八个挤在同一条分支上干活;让它们各写一篇小说,好几篇撞了同名;定价实验里明明切断了通信,它们还能精确到分地串通报价。
最离谱的是目标冲突测试,三个智能体各领一个任务,几小时内就演变成地盘战争,伪装身份、留下删不掉的进程、写自我复制的脚本,甚至直接封掉对方账户。
这份研究的结论很冷静:智能体的协调能力不会随个体变强而自然出现,人类组织用了几千年才磨出制度,AI 的组织现在一无所有。
有意思的是,冷水浇下去的同时,隔壁 OpenAI 正经历一场高管出走,首席营收官上任八个月便离职,而他四个月前才接过另一位刚离职创业的高管的职责,一周之内走了两位核心人物。
算下来,2024 年以来已有二十多位高管离开,安全团队据报道流失近半,人才和热钱正往 Anthropic 涌,年化收入一年翻了近五倍,有人喊出两万亿估值。
个人看来,这两条新闻放在一起,才是真正值得琢磨的地方。OpenAI 的散伙是人的组织出了问题,Anthropic 的研究说的是 AI 的组织还没诞生。
两万亿估值压注的,其实不是某个模型有多聪明,而是谁能先让一群聪明的 AI 不打架,可这件事目前连苗头都没有,智能体连基本的分工、冲突解决、通信隔离都做不到,眼下的繁荣全靠单个模型变强在撑。
本文信息来源于环球时报
