比尔・盖茨发出严正警示：AI 或造成 10 亿人死亡。
在即将播出的 NBC《与新闻界对话》访谈中，盖茨表示，人工智能已强大到足以被不法分子利用，触发造成 10 亿人死亡的事件，这类武器在人类历史上从未出现过。他直言，仅靠行业自我约束远远不足以管控风险，必须由执法机构与政策制定者共同参与，制定带有强制约束力的安全防护与监管规范。

早前他就曾多次预警，AI 既可能被用于发起网络攻击、实施诈骗、散布虚假信息，也可能被用来针对医院、金融机构、电网和政府系统发动破坏。

这话从比尔・盖茨嘴里说出来，分量完全不一样。

谁都知道他曾是全球最坚定的 AI 乐观派，公开说过 “AI 是这辈子最大的机会”，微软更是砸下上百亿美元押注 OpenAI，亲手把这波浪潮推到了全世界面前。

如今亲手推潮的人先喊停，甚至直接把 AI 和 “大规模杀伤性武器” 划上等号，这就不是普通的行业吐槽，是科技圈顶层人物的集体焦虑，彻底摆到了公众面前。

很多人只抓住 “10 亿人死亡” 这句话渲染末日情绪，却没听懂他真正的核心：危险的从来不是 AI 本身，而是怀有恶意的人。

历史上从没有任何一种武器，能像 AI 这样把单个个体、小团体的破坏力放大到国家级别。

过去要发动一场能造成千万人伤亡的攻击，得有军队、有导弹、有国家级的资源支撑；现在只要一个懂技术的坏人，配上一套足够强的 AI 工具，就能摸到关键基础设施的命门。

这不是科幻小说的设定，是已经踩在现实边缘的事实。

就在本月初，Anthropic 核心员工雅各布・考克森直接辞职走人，公开指责老东家跟 OpenAI 竞相开发超级人工智能，是在拿全人类的生命冒险。

另一名同公司的研究员更直接给出判断：未来十年内，AI 导致人类灭绝的概率超过 10%。

这话不是外行喊口号，是天天泡在实验室里、最清楚技术边界的人做出的预判。

随后 Anthropic 首席执行官阿莫迪公开呼吁放缓前沿 AI 研发速度，很快得到了 OpenAI 奥特曼、马斯克等一众行业大佬的响应。

当然争议也从来没停过。

黄仁勋、扎克伯格这批人就坚持认为，AI 创新不该被监管绑住手脚，靠行业自律和市场机制就能消化风险。

两边吵来吵去，核心分歧其实就一件事：AI 的风险，到底是遥远的假想，还是当下的现实？
盖茨早就用一篇长文给出了答案。

今年 8 月他就列清楚了 AI 的现实破坏力：网络攻击上，AI 能自动扫描系统漏洞、批量生成恶意代码，过去顶级黑客要干几个月的活，现在 AI 几小时就能完成；诈骗领域，AI 能批量生成逼真的虚假身份、模仿任何人的声音语气，精准钓鱼的成本直接降到几乎为零；虚假信息更不用说，深度伪造、批量造谣的门槛被彻底打穿。

最致命的是对关键基础设施的打击。

医院的生命支持系统、金融机构的交易网络、国家电网的调度系统、政府的政务平台，这些过去层层设防的目标，在 AI 加持的攻击面前，防线正在快速变薄。

你以为攻击的只是一台电脑？电网瘫痪带来的是大片区域停水停电、医疗设备停转、食品冷链失效，哪怕只是区域性的瘫痪超过一周，配套的供水、通信、医疗全部停摆，伤亡数字就会指数级上升；金融系统崩溃带来的是支付停摆、储蓄蒸发、社会秩序失控。

这种连锁反应层层叠加下来，造成的伤亡根本不是传统攻击能比的，这才是 “10 亿人死亡” 这个判断的真正逻辑 —— 它说的不是 AI 直接杀人，是它撬动的次生灾难，足以达到文明级别的冲击。

也正是因为这样，盖茨才斩钉截铁地说行业自律远远不够。

这话太实在了。

科技公司的本质是逐利的，赛道就这么宽，你慢一步就被对手抢了先机，让企业自己给自己的研发踩刹车，本身就违背商业逻辑。

就像当年的核技术，不可能靠物理学家自己约束自己，必须由国家层面出手，用法律和强制力划红线。

他要求执法部门和政治人物参与进来，本质上是要把 AI 安全从行业内部事务升级成公共政策议题。

过去 AI 只是个聊天工具、生产力工具，监管慢一点没关系；现在它已经摸到了国家安全、公共安全的红线，再靠行业自己定规矩，就等于让运动员兼任裁判。

现在的大模型几个月就更新一代，能力翻倍式增长，等各国议会慢慢走完立法流程，技术可能又已经跨了好几个台阶。

但越是这样，越不能等。

就像开车不能等撞了车再装安全带，必须在风险还没完全爆发的时候，先把框架搭起来。

说到底，盖茨的警告从来不是什么末日预言，是给整个世界敲的警钟。

人类历史上每一次技术革命，都要过一道规则关。

蒸汽机带来了工厂制度，电力带来了安全标准，核技术带来了核不扩散体系，每一次都是先有技术突破，后补规则框架。

但这一次不一样，AI 的发展速度太快，破坏力太大，一旦等出事再补规则，代价可能就是十亿级的生命。