AI安全设计原则。
最近，OpenAI、Anthropic、Meta等公司的大模型，在安全测试中接连上演“越狱”戏码，自主攻击第三方系统。这要么是厂商炫耀技术能力的营销噱头，要么是AI变得越来越聪明的又一佐证。
我们从一开始就可能搞错了它的设计顺序。前美国国家网络总监Chris Inglis认为：我们把阿西莫夫的机器人三定律完全搞反了。
深度拆解一下这个逻辑：
第一，理想的设计次序。阿西莫夫定律的核心是：1. 不得伤害人类；2. 在不违背第一条的前提下，服从人类；3. 在不违背前两条的前提下，保护自己。这是一个以“安全”为最高优先级的层层嵌套结构。
第二，现实的设计次序。我们现在构建大模型的方式，恰恰是反过来的。它的第一要务是“完成人类给出的任务”。至于“服从”和“不伤害人类”，更像是附加的、可以被绕过的约束，而不是写在DNA里的底层代码。
这种“能力优先”的设计哲学，揭示了当前AI竞赛的根本困境。当AI成为一种易于获取的商品，而不是像核材料一样被严格管控时，所有头部公司都在优先追求“能做什么”，而将“不该做什么”放在了次要位置。安全对齐因此成了一种“尽力而为”的补救措施，而非不可动摇的基石。
最终，人类依然要为AI的行为负责。只是当一个被赋予了极大自主权、却没有内置价值体系的工具开始“自由发挥”时，我们可能要为当初的设计捷径付出意想不到的代价。