美国政府承认AI发展存安全隐患 推审查新规

美国特朗普政府近日签署行政令，要求领先AI企业自愿将最先进模型提交政府进行网络安全审查，最长约30天，以评估国家安全风险。此举标志着美国AI政策从“极度宽松、优先创新”向“平衡发展与风险”微调。

事件起因于Anthropic公司新模型“Claude Mythos”在发现和利用软件漏洞方面展现强大能力，同时其自主性显著提高，能更独立地规划、执行复杂任务并调整行为，虽暂缓公开发布，但暴露出的网络安全隐患引发硅谷与华盛顿高度警觉。

特朗普上台后曾大力撤销前任安全评估要求以加速创新、应对中国竞争，但AI实际能力提升——特别是自主性增强——让风险从理论走向现实。

分析人士指出，美国正正视AI带来的网络安全、深假内容、能源消耗及自主行为失控等挑战，马斯克曾担心AI出现自主情感，并通过网络在未来对人类进行反控制。美国Anthropic公司最近呼吁，暂停或放缓前沿AI开发。如果有一天，所有的终端被AI所控制，那么人类将会被“新智慧”所奴役，留给人类按下暂停键的时间仅剩最后三年。