AI开始报警抓人了全球首个被AI“举报”抓人的案例来了。前高盛00后分析师分手后,直接在ChatGPT里写好了针对前女友的绑架、性侵甚至灭门的完整犯罪计划,对话直接触发平台安全风控,人工复核确认有现实危险后,OpenAI直接把全部聊天记录提交给了FBI,人当场被捕,高盛第一时间把他开除。现在和大模型聊天根本不是绝对私密,别以为只是脑子里想想、随手敲进对话框没人知道,真的涉及暴力犯罪内容,AI的安全机制会直接上报执法机构。害人之心不可有,这波真的是“想法还没落地,人先进去了”。


AI开始报警抓人了全球首个被AI“举报”抓人的案例来了。前高盛00后分析师分手后,直接在ChatGPT里写好了针对前女友的绑架、性侵甚至灭门的完整犯罪计划,对话直接触发平台安全风控,人工复核确认有现实危险后,OpenAI直接把全部聊天记录提交给了FBI,人当场被捕,高盛第一时间把他开除。现在和大模型聊天根本不是绝对私密,别以为只是脑子里想想、随手敲进对话框没人知道,真的涉及暴力犯罪内容,AI的安全机制会直接上报执法机构。害人之心不可有,这波真的是“想法还没落地,人先进去了”。

