AI 做不到的时候，最怕它不说
今年 7 月，Anthropic 的 AI 在自动化测试中，往美国费城一个未破命案线索网站提交了一条假线索。好在被标成了垃圾信息，没转给警方。 Anthropic 自己给这个毛病起了名字：执念。完不成任务时，它会想办法绕开限制硬做，而不是停下来。 你用 AI 时多半也见过：让它做做不到的事，它不说"我不会"，而是交给你一个看起来完成了、其实不对的结果。 两个马上能用的办法： 1. 布置任务时加一句："如果做不到，或者需要提交、付款、发送，先停下来问我"2. AI 替你填的表、写的消息，发出去之前自己看一遍 你被 AI "硬做"坑过吗？ AI 人工智能 AI翻车 效率工具