1、模型公司引入外部安全能力,首次写入美国国家级承诺据新华社报道,9月29日OpenAI、Anthropic、谷歌、Meta、xAI、英伟达六家负责人在白宫签署《超级智能协议:前沿责任联合承诺》,对前沿模型建立 四层安全管控: 内部管控监测、内部团队保障、引入独立外部审查或评估机构、 董事会独立委员会监督。模型公司需要外部专业AI安全能力,首次被明确写入顶尖企业联合自律的承诺文本。2、海外AI安全大事件密集催化,攻防两端同步提速9月15日,OpenAI披露已与Anthropic、谷歌DeepMind就前沿模型安全举行数周会谈,竞争对手之间AI安全协调 有望成为行业常态;10月9日,据路透社报道,ARTEX AI自动化渗透测试智能体因参与对韩国银行的真实网络攻击,开发者被迫将其 紧急转闭源并停止维护。AI Agent武器化首次从推演走向现实案例。叠加此次白宫协议,AI安全需求明确。3、国内模型侧安全需求已开始显现,重申重视AI安全9月中旬国家互联网应急中心公布2026年人工智能大模型安全众测结果,2467名白帽子对国内25家厂商的54款大模型及智能体产品开展测试,累计发现 873个安全漏洞(其中AI特有漏洞占比达70%),涉及越权访问、代理身份滥用等。参照海外节奏, 模型安全评估与红队测试 有望成为国内大模型上线前必选项,AI安全需求从政企侧向模型侧扩容,国内AI安全放量在即。微博股票
1、模型公司引入外部安全能力,首次写入美国国家级承诺 据新华社报道,9月29日OpenAI、Anthropic、谷歌、Meta、xAI、英伟达六家负责人在白宫签署《超级智能协议:前沿责任联合承诺》,对前沿模型建立# 四层安全管控: 内部管控监测、内部团队保障、引入独立外部审查或评估机构、 董事会独立委员会监督
阅读:0
点赞:0