DC娱乐网

中国主要人工智能(AI)企业近期纷纷削弱旗下新模型的网络攻击能力,以降低技术被滥

中国主要人工智能(AI)企业近期纷纷削弱旗下新模型的网络攻击能力,以降低技术被滥用的风险。此前,中国政府已提出限制出口具备网络攻击能力的AI技术,显示北京正加强对先进AI模型的安全监管。
这条消息把“企业自我削弱攻击能力”与“政府限制出口”并置,读起来像监管驱动下的行业自律,但需要拆开看。中国AI企业近期主动收敛新模型的网络攻击相关能力,动机至少有三层:一是配合监管预期,避免触碰出口管制与安全审查红线;二是降低模型被滥用于钓鱼、漏洞利用和自动化入侵的声誉与法律风险;三是回应国际客户对“可信AI”的合规要求,尤其在企业级出海场景中,攻击能力过强反而成为商业障碍。政府提出限制具备网络攻击能力的AI技术出口,方向与美欧对“两用AI”加强管制的趋势一致,但关键在执行细节:什么算“具备网络攻击能力”、阈值如何设定、开源模型是否纳入、审查时限多长,这些若不透明,企业只能过度自我审查,反而抑制安全研究所需的攻防能力。更值得警惕的是,单方面削弱攻击能力并不等于降低整体滥用风险——攻击者仍可借助开源工具和境外模型,防御方若失去对等测试能力,安全研究可能被削弱。真正有效的监管应区分“恶意利用”与“安全研究”,建立漏洞披露与授权测试机制,而不是让企业一刀切地砍功能。加强安全监管是必要的,但透明、可预期的规则比模糊的自我削弱更能平衡创新与安全。