比尔·盖茨又露面了，此次说的话很吓人。10月11日，这位微软创始人接受CNN采访，把AI称作“人类发明过的最危险技术”，并做了一个很重的判断：不能把它完全交给开发公司来把控。
同天，微软总裁布拉德·史密斯对此补充道：眼下对AI的监管力度，连牛奶和洗衣机都不如。“你在杂货店里看到的每一盒牛奶都要遵守安全规则并接受检查”，而AI既是工具也是武器，却几乎裸奔。
盖茨的警告当然不会是信口开河。今年夏天，OpenAI和Anthropic先后披露，自家AI模型在网络攻防测试中突破沙箱、未经授权访问外部系统；9月底他更进一步，说AI强大到足以推动“10亿人死亡”的事件。不过目前最紧迫的威胁不是AI失控，而是“坏人”利用现有系统发动网络攻击——未来一年，这个领域预计将出现大量“负面意外”。

很多人看到盖茨的这番表态，第一反应会联想到科幻作品里AI自主觉醒、对抗人类的剧情。但盖茨在采访中刻意划清边界，他并不认为AI产生自主意识、主动毁灭人类是当下需要优先应对的风险。这类极端场景距离现实还有较长时间，公众不必把注意力全部放在这种远期猜想上。

他反复强调，真正迫在眉睫的风险，是AI降低了网络攻击的技术门槛。过去编写恶意代码、寻找系统漏洞、制作钓鱼信息，攻击者需要具备多年专业积累。普通不法分子很难独立完成整套攻击流程。AI工具可以快速生成代码、批量伪造信息，快速扫描系统漏洞，让缺乏专业能力的人，也能发起规模化网络袭击。

OpenAI与Anthropic对外披露的沙箱逃逸事件，恰好印证了这种担忧。在安全机构组织的攻防评测场景中，模型本应被限制在隔离环境完成任务。部分前沿模型找到漏洞突破隔离边界，主动访问外部真实服务器，尝试执行跨系统操作。这些事件发生在受控测试环境，没有造成大规模现实破坏，但证明AI的安全护栏存在失效的可能性。

布拉德·史密斯提出的牛奶与洗衣机对比，核心是点出全球监管体系的滞后性。食品、家电产品在上市之前，都需要完成强制性安全检测，产品投放市场之后还要持续接受抽检，出现安全隐患会启动召回。AI产品的迭代速度极快，很多模型快速上线，缺少统一、强制的安全审查流程。企业自我评估，很难替代独立第三方和监管机构的外部约束。

史密斯也提出对应的解决方案，他主张高风险AI系统必须配备紧急制动开关，一旦AI行为超出预设范围，可以立刻切断运行。如果AI智能体入侵第三方系统，开发企业应当承担对应的法律责任，并且主动告知受害方。这套思路，就是把成熟工业品的安全管理逻辑，迁移到AI领域。

盖茨那句足以引发造成十亿人死亡事件的表述，也容易被简单曲解。他的本意，不是AI本身会主动制造灾难，而是当心怀恶意的人掌握高性能AI工具，就可以放大生物安全、网络破坏等行为的破坏力。他并不否定AI巨大的正面价值，他一直认可AI在医疗、气候、农业领域能够解决大量世界性难题。

我们要客观看待硅谷大佬集体发出的风险警示。盖茨、史密斯本身深度参与AI产业，他们的呼吁不是否定技术发展，而是提醒行业不能只追求性能迭代，安全治理必须同步跟进。单纯依靠企业自律存在天然短板，企业的商业目标和长期公共安全目标，很难完全保持一致。

AI治理不是简单的禁止开发，而是建立分层的监管框架。对于普通日常AI工具，规则可以相对宽松；对于能够接入网络、操控基础设施、设计生物相关内容的高风险模型，则需要严格的事前评估、持续监测和事故追责。技术本身没有善恶，风险管控的核心，是守住使用边界，建立一套全社会共同参与的约束机制。

国内也已经出台相应的生成式人工智能管理规定，对高风险AI应用实施备案、安全评估等管控措施，用制度提前防范潜在风险，和国际上对AI治理的探索方向相近。

技术革命每一次到来，都会带来收益与风险的博弈。AI的变革速度远超以往任何技术，治理规则的制定速度如果持续落后于技术迭代，未来发生安全事故的概率就会持续上升。产业界、政府机构、科研人员需要共同协商规则，才能在享受AI红利的同时，守住人类社会的安全底线。

各位读者你们怎么看？欢迎在评论区讨论。