美国前总统奥巴马重磅警告！
如果人工智能管控不当，很有可能带来“危险”，并敦促民主党人制定相关政策与治理议程，应对这一问题。

奥巴马在私人筹款活动上说了一句很重的话，他说人工智能这项技术跑得太快，又攥在私人手里，要是没人管得住，会出危险。

他讲这话的场合很特别，不是科技峰会，是民主党的筹款饭局。

对着自己人讲，还专门点了众议院少数党领袖杰弗里斯的名，说你们要是拿回众议院，得把这事儿摆到台面上好好聊，一个前总统在政治场合聊AI，这本身就不寻常。

更不寻常的是另一件事，有个二十七岁的英国年轻人，叫雅各布·考克森，刚从Anthropic辞职，他在OpenAI干过预训练，GPT-4o的贡献名单里有他的名字，后来跳到Anthropic还是做预训练。

这人在离职前干了件挺绝的事——股权差两个月就能到手，他没等，直接走了。

他走的原因说出来有点让人后背发凉：他觉得这些公司正在往能自己改自己的超级智能上一路狂奔，拿所有人的命在赌。

而且他说这不是他一个人的想法，参与造这些东西的人里头，不少人私下真信人类可能在这个十年结束前就没了。

考克森发完离职帖之后，Anthropic内部有人站出来挺他，管对齐科学的负责人埃文·胡宾格公开说，他个人估计未来十年AI搞死全人类的概率超过百分之十。

还有一个负责可扩展监督的研究员也说考克森描述的情况是准确的。

这就有意思了，造AI的人比用AI的人更怕AI，而且怕的程度跟职位高低有关系——据考克森观察，在公司里位置越高的人，反而越担心这件事。

这里头有个很容易被忽略的细节，考克森批评了行业里一种说话方式，管冲刺超级智能叫“关键时刻”、叫“终局之战”。

这种词听着像什么？像打仗，打仗的逻辑是你死我活，是先下手为强，是停下来就是输。

当造AI的人用打仗的思维做技术，安全就变成了累赘，慢下来就变成了投降，考克森觉得这种叙事本身就是问题的一部分，他不是在反对AI，他是在反对那种“管不了那么多了先冲再说”的氛围。

奥巴马那边其实也在处理同一个问题，只是换了条路。

他找过Anthropic的CEO达里奥·阿莫代伊聊，也找过OpenAI的萨姆·奥特曼聊，等于自己当了个中间人，把硅谷那帮人的焦虑往政治圈里传。

他给民主党开的方子是：公开对话、清晰方案、核心议程，翻译成大白话就是，这事不能再让几个工程师关起门来自己决定了，得拿到台面上让老百姓知道。

有人可能会问，那技术自己能不能解决自己的问题？有个叫杰弗里·辛顿的人，被称为AI教父，他说得很直白：一个超级智能会发现操纵人类来获取权力太容易了，它会学会欺骗，它会操纵那个负责关掉它的人。

巴菲特拿核武器打比方，说最聪明的人也不知道这东西会走向哪里，精灵已经放出了瓶子，这些人的共同判断是，靠技术本身来管住技术，眼下没有靠得住的证据。

考克森辞职的时候说了一句话，大意是参与制造这些系统的人真心相信这技术可能夺走所有人的命，这不是营销。

一个亲手参与造它的人说出这种话，分量跟外人的猜测完全不一样，造炸弹的人跑出来喊炸弹要炸了，你没法不当回事。

事情走到这一步，方向其实慢慢清楚了，一边是造AI的人自己在往外跑、在喊停、在说“我们也不知道怎么控住它”。

另一边是政治人物开始把这事往选举和立法上推，两边指向的是同一个判断：这东西的风险已经不是论文里的假设了，是摆在桌面上的现实问题。

普通人不需要懂什么叫递归自我改进，只需要知道一件事——最了解它的人正在害怕，恐惧不可耻，假装不怕才危险。