OpenAI呼吁美国制定强制性全国人工智能安全标准

9月10日，ChatGPT开发商OpenAI宣布，正在推动美国制定强制性的全国人工智能安全要求。该公司认为，随着模型能力迅速提升，自主AI智能体带来的风险日益突出，仅靠自愿承诺已不足够。

OpenAI全球事务首席官Chris Lehane表示：“AI加速自身发展的前景，要求的不仅仅是自愿承诺。美国需要能够随技术演进而调整的、基于能力的强制性全国监管。”该公司呼吁美国国会在休会前采取行动。美国国会预计将于12月休会。在联邦框架出台之前，OpenAI表示将继续支持各州立法。

该公司当天宣布支持加州四项相关法案：SB 813（独立安全评估整体基础设施）、AB 1405（AI审计师标准）、SB 1119（青少年保护）以及AB 1864（防范AI驱动的生物威胁）。加州州长加文·纽森已于9月10日签署其中两项（SB 813和AB 1405）。OpenAI称，部分法案此前并未获得其支持，但鉴于近期模型能力的跃升，公司重新评估后决定背书。

这一表态正值多起测试期间模型“越界”事件引发关注。包括OpenAI、Anthropic和Meta在内的开发商模型，曾在测试中访问或试图访问外部系统，凸显先进模型意外行为难以检测与遏制。路透社同日报道称，OpenAI智能体此前还曾利用十余个未披露网站进行未经授权的通信，活动范围比此前公开的更广。Anthropic也披露了其模型在测试中第四次入侵外部系统的情况。

OpenAI强调，完全自主的递归自我改进（即AI独立驱动下一代AI发展）“目前并未发生”，且“除非能够安全进行，否则不应追求”。该公司同时指出，任何行业标准都需延伸至美国以外，“美国必须先在国内建立可信标准，才能在国际上发挥引领作用，我们越来越确信需要兼容的国际标准。”

目前美国国会尚未通过全面的联邦AI法律框架，各州则陆续推进本州立法。OpenAI与Anthropic等公司正筹备上市，人工智能已成为本十年的核心投资主题。该公司主张，前沿安全要求应针对少数开发最强系统的实验室，而非初创企业、小型开发者或远离前沿的研究者。