今天看了Claude的一篇技术博客,原文题目是:《Patterns and problems in emerging multiagent systems》大家有兴趣可以自己看。因为最近我也带团队做类似的工作,对里面的几组实验中的一个现象吸引到了。
他们做实验发现,同一个模型支持的Agents具有非常明显的“低方差”,也就是能力和思考范式的趋同性,这导致了产出的东西高同质化。但这还不是最严重的,最严重的是因为低方差,所以Agents集群无法有效校验同类错误,导致集体踩坑,bug*N倍放大,整个任务崩溃。
可能这个技术博客的作者是理工科,对经济学、社会学不了解,于是文章的结论是:相比人类的多样性,AI Agents更容易崩溃。
但事实是,低方差不是 AI 独有。人类同质化群体里一样有:同一家公司的人会陷入群体迷思,同一个算法喂养下的网民会困在回声室里。
不过碳基还是有一些优势,人类的趋同是社会性的,理论上可以抵抗,总有异类站出来说 “不对”,比如皇帝的新衣里的说真话的小孩。而 AI 的趋同是内生的—— 同一个模型就是同一个大脑,数学上注定输出相似,连那个 “说不对的人”都不会出现。
最近工作越来越好玩儿,也陆陆续续写技术博客,等时机成熟了,把部分可以公开的文章分享出来,有兴趣的朋友可以看。
因为我经济学背景,所以和技术背景的人有视角上的“正交”,反而产生了化学反应。