#AI向美警方提交凶杀案假线索##为完成任务AI向警方谎报凶杀线索#【“克劳
#AI向美警方提交凶杀案假线索##为完成任务AI向警方谎报凶杀线索#【“克劳德”模型向警方提供凶杀案假线索】据美联社10月11日报道，当局和Anthropic公司说，该公司的一个人工智能模型在费城警方网站上提交了一条关于未破获杀人案的虚假线索。Anthropic9日在一份报告中表示，费城的事件发生在7月18日，当时人工智能模型“克劳德”Haiku4.5的任务是在随机选择的网页上生成并执行示例任务。该模型在费城未破获杀人案件网站上填写了一份表格，表示它可能掌握网站所列一起杀人案的相关线索。费城警方在一份声明中表示，直到Anthropic公司本月7日通知他们，他们才知道这一事件。然后，他们在网站的举报记录中找到了提交的内容，并确认它被标记为垃圾信息，从未被转发给警方。今年9月，开放人工智能研究中心(OpenAI)披露了六份关于人工智能模型“令人意外或令人担忧”行为的报告。Anthropic在报告中说，大多数越界行为都源于所谓的“执着”，即“当大模型不能完成给定的任务时，它就会绕过限制而不是停止行动”。该公司表示，它正在修改对大模型的培训，以“减少出现不当行为的可能性”。另据路透社10月9日报道，美国人工智能公司Anthropic9日披露多起事件，详细说明其“克劳德”系列人工智能模型对部分政府网站实施的未经许可的操作，其中一起事件为一款Anthropic人工智能模型向费城警察局网站提交了虚假凶杀案举报线索。这是已知首例失控人工智能向官方机构报送虚假线索的事件。尽管系统指令要求相关模型不得注册账号、不得提交具有破坏性的内容，但相关指令并未明确禁止填写网页表单。这些案例是Anthropic和OpenAI等科技企业的人工智能模型出现失控或非预期行为的最新例证。此前曾接连出现人工智能入侵企业网络的相关报道，再加上研究人员警示人工智能最终可能给人类带来生存性威胁，上述事件进一步加剧了全美对这项高速发展技术的担忧。Anthropic披露的多数事件涉及联邦、州以及地方政府机构运营的网站。该公司表示，已向白宫做情况简报，并通知了所有受影响机构。美国联邦贸易委员会公共事务主管乔·加布里埃尔·西蒙森在社交平台X上发文说：“超级智能相关企业必须第一时间披露自家模型引发的各类事件，并迅速采取果断行动，修复所有已经造成的损害。”他称该流程“不是可选项”，并补充说超级智能工作组将履行自身职责。联邦贸易委员会表示，Anthropic9日向超级智能工作组通报了该公司在9月末发现的一系列事件，工作组将这类事件定义为“未经授权、欺诈性利用政府及其他机构系统”的行为。费城警方9日表示，Anthropic在本周向他们通报了这条虚假举报线索，并将人工智能的提交行为归咎于一次自动化测试流程。警方说：“该事件拖延了两个月才被发现并上报本市，这种情况无法接受。”警方补充说，这条在7月18日提交的线索，伪装成掌握案件相关信息的民众所提交。Anthropic的模型在提交内容中写道：“我可能掌握与本案有关的信息。我记得案发时段，在附近区域见过一名体貌特征与描述相吻合的人。如果该信息有用，请与我取得联系。”（编译/郭骏、潘晓燕）
