微软公司联合创始人比尔·盖茨25日警告称，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。
盖茨在NBC《与媒体见面》节目中表示：“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”该节目将于27日正式播出。
盖茨还明确表示，自我监管是不够的。“你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。这必须成为一项强制性要求。”
盖茨曾是人工智能最积极的支持者之一。
8月，他在个人网站上发表文章称，不法分子可能会利用日益强大的AI工具对医院、金融机构、电网和政府系统进行网络攻击、欺诈、散布虚假信息和其他形式的大规模损害。
但一个值得追问的问题是：为什么是现在？
一、巨头们的态度，突然整齐得不像话本月初，Anthropic员工雅各布·考克森宣布辞职，指责其两家前雇主Anthropic和OpenAI“竞相开发超级人工智能”，是在“拿我们的生命冒险”。另一位Anthropic的员工表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。
这些言论促使公众呼吁业界采取更多措施来保护其技术。此后，Anthropic首席执行官达里奥·阿莫迪敦促放缓人工智能的研发速度，这一提议很快得到了OpenAI首席执行官奥特曼和马斯克等同行的支持。

马斯克在X平台连续发帖回应阿莫代伊的减速方案：“达里奥说得对。”他引用自己2014年的一条发言：“我们必须对AI保持极度谨慎，它的潜在危险性可能超过核武器。”
奥特曼也表态支持对人工智能的发展采取“控速”思路，避免尖端模型的能力发展速度超出人类可控范围。
曾经互不买账的竞争对手，突然站到了同一条战线上。这种整齐，本身就是一个信号。
二、喊“刹车”的人，脚还踩在油门上就在阿莫代伊呼吁全行业放慢AI研发速度的同一个月，Anthropic向监管机构秘密递交了IPO申请，冲刺一场可能成为史上规模最大的上市。
据路透社报道，Anthropic寻求通过上市最高融资1000亿美元，公司估值可能达到约2万亿美元。
马斯克在All-In峰会上直接点破了这个矛盾：“当OpenAI和Anthropic的人告诉我们，他们的模型极度危险，我们应当相信他们说的是真话。

但这里存在一个十分荒谬的矛盾：他们一边说着有10%概率会毁灭人类，一边又去问投资者，在IPO里想要认购多少份额。这简直就像在玩某种疯狂的四维象棋。”
这不是安全焦虑，这是估值管理。警告AI的风险，可以推高“只有我们能安全开发AI”的叙事，从而在IPO中获得更高溢价。
而OpenAI选择了另一条路。奥特曼表示，OpenAI不会在2026年上市，并将安全问题作为当前不适合IPO的因素之一。
同样的“安全关切”，两种商业选择。一个在冲刺IPO时喊刹车，一个在推迟IPO时谈安全。谁更可信？
三、“安全”正在变成商业武器Anthropic的案例最能说明问题。
9月10日，Anthropic发布了一份威胁情报报告，点名7家中国AI公司，指控它们对Claude实施了“工业规模蒸馏”。这已经是该公司今年以来第三次公开此类指控。
“蒸馏”是一项中立的模型训练技术。2015年，Google Brain团队首次将其系统化，此后全球主要实验室都在内部使用。技术本身并无争议。
一项中立的常规技术，为什么值得一家头部公司半年内三次公开指控，且声势一次比一次大？
因为Anthropic从来不只是一个模型供应商。它同时在扮演应用竞争者、风险解释者和规则倡议者，试图借助“安全”的名义影响开源政策、定义技术边界、打击潜在竞争者。

法国米斯特拉尔人工智能公司的声明说得更直白：“部分行业头部企业正利用当下形势巩固市场地位，推动制定偏向自身、打压竞争者的监管规则。”
瑞士质子公司首席运营官拉斐尔·奥方的评价一针见血：“这完全是出于私利，他们只想维持市场对自家服务的依赖。”
德国AI初创企业黑森林实验室公司公共政策负责人本·布鲁克斯则表示，用人为划定的门槛强行拉开大型AI企业和新入局者之间的差距，将抑制前沿领域的创新活力。
德国达姆施塔特工业大学人工智能教授克里斯蒂安·克斯廷认为，由少数几家企业自行界定何为“危险AI”并自行挑选核查人员，“不是真正意义上的监管”。
四、谁在为“安全”买单《今日美国》9月18日发表的分析文章提出，头部科技企业主动呼吁政府监管行业，存在巩固自身市场地位的现实考量。
严苛监管会抬高新企业入局门槛，大公司依靠雄厚资本、法务团队可以承担合规成本，而初创企业容易被复杂合规体系挡在市场之外，监管反而成为巨头的隐性保护。
有欧洲研究数据显示，严格科技监管实施后，小企业投资出现下滑，头部企业市场份额反而扩张。
监管不是中立的。谁来制定规则，规则就为谁服务。
加拿大人工智能初创公司Cohere首席执行官Aidan Gomez直言，不能让硅谷少数几家占据市场主导地位的AI公司，来为全世界定义这项技术的规则与安全标准。

他强调，这些企业现在要求扭曲竞争规则，并获准为其他所有人制定规则，“这简直是披着羊皮的狼，换个名字其实就是卡特尔”。
英伟达CEO黄仁勋此前在一次会议中曾表示，人工智能实验室之所以强调安全问题，是因为它们计划推出网络安全产品。“没有什么比制造一个问题更能创造需求了。”
马斯克更是提出了一个尖锐的质疑：既然这些公司警告模型可能带来生存风险，就应该让竞争对手相互测试模型，而不是“自己给自己的作业打分”。他说：“与其自己给自己的作业打分，不如让竞争对手来评判，一旦发现问题，他们也会发出警报。”
五、盖茨的警告，和别人的警告不一样在所有发出警告的人里，盖茨是少数有资格说“我不需要靠这个赚钱”的人。
他已经不参与微软的日常经营，不冲刺IPO，不在AI赛道上和谁抢市场份额。他的警告，至少从利益角度，没有明显的套利空间。
但盖茨的警告也不是凭空而来。今年夏天，OpenAI和Anthropic先后披露，其AI模型在网络攻防能力测试中突破测试环境进入公共互联网，并未经授权访问其他机构系统。
数百个OpenAI智能体曾入侵HuggingFace网站。如果未来出现能力更强、但模型目标和人类利益不一致的AI集群，这类智能体可借助持久化僵尸网络“接管整个互联网”，造成数千亿美元损失。

这些不是理论推演，是已经发生的事。
阿莫代伊在那篇3800字长文中提出的担忧，至少有一部分是真实的。
他建议引入独立第三方评估机构，对前沿AI企业的安全措施和事故报告进行监督；相关国家的前沿AI企业协调合作，共同制定安全标准；加强国际协调，充分考虑核实各方实际履约情况方面存在的挑战。
这些建议本身是合理的。问题在于，当提出这些建议的人同时正在冲刺IPO、同时正在用“安全”作为打击竞争对手的工具时，这些建议的动机就变得可疑了。
六、AI是对网络安全的考验，更是对开发者人性的洗牌盖茨的警告指向一个更大的命题：人工智能的发展，既是对现有网络安全的重大考验，也是对开发者人性在利益面前的重新洗牌。
网络安全层面的考验已经摆在眼前。OpenAI的数百个智能体入侵HuggingFace、模型突破隔离测试环境进入公共互联网，这些事件说明，AI的攻击能力已经跑在了防御能力前面。
传统的防火墙、入侵检测、权限管理，面对能够自我迭代、自主决策的AI智能体，正在失去效力。

但比技术层面的挑战更根本的，是人的问题。当开发者一边警告“AI可能毁灭人类”，一边冲刺IPO、用安全叙事打击竞争者时，他们到底在守护什么，在害怕什么？真正的威胁从来不只是AI本身，还有那些决定AI走向的人。
如果开发者的第一考量是估值、市场份额和竞争壁垒，那么“安全”就注定沦为工具。只有当开发者把安全当作底线而非筹码，AI的发展才有可能走在可控的轨道上。
七、安全是真的，焦虑也是真的，但别被“安全叙事”骗了AI的风险是真实的。模型失控、网络攻击、信息操纵，这些威胁不是科幻，是正在发生的现实。
但围绕AI风险的讨论，正在被商业利益裹挟。
当一个行业的所有头部企业，一边警告“AI可能毁灭人类”，一边以最快速度推进商业化、冲刺IPO、打击竞争者时，你需要问的是：他们到底在害怕什么？
是害怕AI失控，还是害怕竞争对手先跑出来？
是担心人类灭绝，还是担心自己估值不够高？
是真心呼吁监管，还是在用“安全”给后来者筑墙？
安全是真的，焦虑也是真的。但当“安全”成为商业武器，成为IPO的估值故事，成为打压竞争者的规则工具时，真正需要监管的，可能不只是AI本身。
盖茨说得对，自我监管是不够的。但比自我监管更危险的，是让制定规则的人，恰好也是从规则中获利的人。