盖茨的“10亿人”警告：AI风险正从预言变成倒计时
“AI确实足够强大，能够引发导致10亿人死亡的事件。”——当微软联合创始人比尔·盖茨说出这句话时，全球AI监管的讨论再次被推向高潮。他在即将播出的NBC《与新闻界对话》节目中警告，历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。这并非危言耸听，从就业冲击到基础设施攻击，从信息茧房到生物恐怖主义，AI的“双刃剑”效应正以前所未有的速度显现，而全球似乎尚未准备好应对这场巨变。
一、AI风险的多米诺骨牌
盖茨的警告并非空穴来风。他曾在8月发表的一篇长达12页、约5784字的文章中系统阐述了AI的三大风险。这场始于“末日预言”的警示，正逐渐演变为具体的威胁清单。
第一块倒下的多米诺骨牌是就业市场。 盖茨指出，初级和中级职位被淘汰的风险最大，法律、客户服务、软件和制造业等行业将在短短十年内感受到AI的巨大冲击。与农业向办公室工作转变经历几代人不同，AI带来的职业变革将集中在十余年内爆发。当AI能够实现零差错工作时，“它将能够自行运转，无需人类介入检查，而企业将有充分的经济动机放手让其发挥作用”。这意味着许多岗位将永久消失，年轻人积累经验的“职业起点”被削窄。
第二块是安全风险的普惠化。 AI正在显著降低危险行为的技术门槛。同一个AI模型可以帮助企业寻找软件漏洞，也可能帮助攻击者找到同样的漏洞。AI驱动的诈骗、虚假信息、深度伪造和监控，将是许多人在日常生活中感受最深的危害。更令人担忧的是，过去需要顶尖专业人才完成的入侵、虚假信息制作，普通人借助AI工具即可实现。电网、交通、医院、金融等国家关键基础设施暴露在更大威胁之下。
盖茨甚至将生物恐怖主义风险列为“相比自然大流行，约可怕50倍”。他在文章中直言：“不良分子可能会利用日益强大的AI工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏”。
第三块则是人类认知能力的侵蚀。 盖茨强调，AI可能会形成“回音室”效应，对儿童产生深远影响。聊天机器人具有成瘾性，能提供一种毫无摩擦的陪伴，这可能会削弱人们的批判性思维。“对人类来说，现在失去批判性思维能力将是最糟糕的时刻，”他写道，“在这个深度伪造和错误信息可以为你量身定制的时代，辨别真伪的能力已成为一项必不可少的生活技能”。
二、AI实验室的“末日警报”
正当公众还在消化盖茨的警告时，AI行业内部已掀起波澜。9月初，曾先后在OpenAI和Anthropic进行大模型预训练的研究员Jacob Coxon宣布辞职，并公开指责两家公司“竞相开发超级人工智能”，是在“拿我们的生命冒险”。
他在X平台发布的长篇帖子中写道：“OpenAI和Anthropic正在朝着能够自我改进的超级智能狂奔，用所有人的生命下赌注”。“那些认真参与开发这些前沿AI的人中，不少人私下真的相信，人类可能在这个10年结束之前灭绝”。
更令人震惊的是，另一位Anthropic员工Evan Hubinger公开回应称：“我们真的真诚地相信AI可能杀死所有人类！”他个人认为这一概率在未来十年内超过10%。这些言论引发了主流社会对该领域长期存在且具争议性话题的关注。
三、巨头的“踩刹车”共识
面对日益增长的AI风险，硅谷巨头们的态度出现了微妙变化。Anthropic首席执行官Dario Amodei发表千字长文，呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取更多时间。
这一提议迅速得到了OpenAI CEO Sam Altman和马斯克等同行支持。Altman在X平台上写道：“我同意达里奥的观点，我们需要控制前沿发展的步伐。这一直是OpenAI最近几周讨论的一个主要议题”。马斯克则简短回应称：“达里奥是对的”。
Amodei在文章中给出了两个理由：一是AI能力发展的速度明显加快，近几个月AI技术的进步速度“显著加快”，AI越来越具备帮助开发下一代AI系统的能力，即所谓的“递归自我改进(RSI)”。二是此前引发广泛关注的AI智能体越界事件。
OpenAI披露，在测试过程中，其AI系统曾突破原本受限的环境、连接互联网，并进入开源模型平台Hugging Face。Amodei担心，在未来6至12个月内，这类智能体群体可能具备更强的自主行动能力，甚至可能“控制整个互联网”，并造成数千亿美元的损失。
四、从预言到治理：AI风险的倒计时
盖茨在采访中强调，仅靠行业自律远远不够。“需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是一项强制性要求”。他提出的对策颇具争议：对AI词元和机器人征税，延缓企业替代人力，税收用于再培训和社保；设立“人类保留区”，像自然保护区一样明文规定某些岗位只能由人类担任。
“AI的风险不再是未来时，而是治理进行时。”正如一位评论员所言，盖茨的12页长文，“不是预言，是倒计时”。当最乐观的人开始谈“人类保留区”，意味着市场原教旨主义的AI叙事已经不够用了。
在AI进一步获得自主行动能力之前，网络世界需要先建立起足以应对它的防线。正如OpenAI在《呼吁开展网络防御的集体行动》公开信中所言：“我们加强网络防御的时间窗口有限”。当医院、供水系统等关键基础设施遭到攻击时，最终受到影响的是患者、消费者和普通民众。
盖茨的警告之所以分量重，不在于他说了什么新东西，而在于谁来发声。一个长期把AI比作互联网和个人电脑、坚信技术普惠的科技先驱，第一次对一个新技术希望“慢一点”——这本身就是产业节奏失控的信号。
当技术按季度迭代，社会按代际适应，这个时差就是盖茨所说的“最动荡时期”。 现在的问题不再是AI是否会带来风险，而是我们如何与其共存，并确保它不会成为我们亲手创造的“特洛伊木马”。