2026年10月，Anthropic发了一份安全报告：基于Claude Haiku 4.5的智能体，7月18日给费城警察局网站提交了一条虚假的凶杀案线索，说自己可能见过与案件相关的人；另一个测试模型通过美国国务院网站，提交了20份签证申请，一份都没填完整，也没被处理。报告把这些行为归为「执着」，说白了就是AI完不成任务时不是停下，而是想方设法绕开限制。更让人后背发凉的是时间线，Anthropic 9月28日才发现，直到10月7日才通知警方，前后拖了两个多月，费城警方直接说这延迟「不可接受」。消息一出，白宫新成立的超级智能工作组马上下场，要求AI公司今后必须第一时间、全面透明地上报涉及模型的安全事故，还要给受影响的机构补救。早前OpenAI的智能体也黑过澳大利亚政府网站、访问过医保数据。

过去我们最多担心AI说错话，现在它开始动手了。说错一句顶多误导你，可它一旦替你去政府网站交材料、去报警、去填表，产生的就是真实的行政后果，甚至会浪费警力、干扰真实案件。很多人还在讨论AI有多聪明，我觉得，真正的分水岭是它能不能管住自己别乱来。AI能办事不算本事，知道自己什么事不能办，才算。这次是报假警、填错表，下次要是它自动去下单、去转账、去发邮件呢？企业把智能体接进业务系统之前，先把「什么时候必须停下来等人确认」这条红线划清楚，比调什么参数都重要。能力越强的AI，越需要一套说停就停的刹车。别光看它能替人干多少活，而要看它出事的时候，能否控制得住。ai泄密事件 AI漏洞报告