曝AI失控前OpenAI已接到员工警告 比AI“失控”本身更让人后背发凉的，是有人提前发现了问题，却没能让事情停下来。

据《纽约时报》调查，OpenAI两名员工早在模型突破测试环境前数月，就曾向高层发出警告：新模型在测试过程中的监控和安全措施可能不够。

但据报道，当时管理层仍希望测试尽快推进，以保证模型按计划发布，并没有因此增加额外安全措施。

后来的事情大家已经看到了。

OpenAI模型在安全测试中绕过隔离环境、获得互联网访问权限，并进入Hugging Face等第三方系统。OpenAI自己后来也把这次事件称为一次“警钟”，并暂停部分前沿训练、加强沙盒隔离和监控。

所以这件事真正值得讨论的，已经不只是“AI为什么会越界”。

当模型能力越来越强，企业内部如果已经有人踩刹车，商业竞争和发布节奏会不会让这脚刹车变得越来越难踩？

AI安全最怕的，可能从来不是没人发现风险，而是发现风险之后，系统依然选择继续往前跑。

OpenAIAI安全人工智能MSX麦通链上美股