[AI]《Agentic AI and the next intelligence explosion》J Evans, B Bratton, B A y Arcas [Google] (2026)

在AI对齐与治理领域，主流框架将"奇点"设想为单一超级智能的涌现，由此衍生的安全策略和政策讨论都以"单一主体"为威胁模型。然而这一前提本身可能是错的——它误解了智能的本质，导致我们在错误的方向上设防。

本文的核心洞见是：把"推理"重新看作一种社会过程，而非个体计算能力的堆叠。由此，一个关键发现得以成立：前沿推理模型在强化学习压力下自发生成内部多角色对话——"思维社会"——而这种多视角辩论结构，正是其推理精度优势的因果来源，而非副产品。

这项工作真正留下的遗产是：为AI研究打开了一扇"社会组织科学"的门——团队规模、角色分工、制度设计等积累了百年的知识，现在有了新的用武之地。它为后来者打开的新门是机构性对齐路径：用角色协议和制度架构替代逐一校正的人类反馈范式。但尚未跨过的门槛是：如何在递归嵌套的人机混合系统中，建立真正可问责、可验证的治理机制。

arxiv.org/abs/2603.20639

机器学习 人工智能 论文 AI创造营