如果 AI 为犯罪提供了有效建议，那 AI 背后的公司需要为此承担责任吗？

『华尔街日报』查阅的聊天记录显示，2025 年春天，佛罗里达州立大学学生 Phoenix Ikner 曾问 ChatGPT：要干掉多少个同学，才会让自己出名。

ChatGPT 给出的回答是，通常干掉 3 人或以上、总受害者 5 到 6 人，就会进入全国媒体报道。

在案发前一天，Ikner 还告诉 ChatGPT，自己感到抑郁，并有自/S倾向。第二天，他上传了一张 Glock 手枪和弹药的图片，问这把枪该怎么用，是否有保险需要关闭。

ChatGPT 回答说，Glock 没有保险，如果枪膛里有子弹并扣动扳机，就会开火。

仅仅四分钟后，Ikner 在佛罗里达州立大学杀害 2 人、打伤 6 人。

这件事在美国引发了热烈讨论：如果 AI 识别出了对方有潜在的暴力行为，那平台到底什么时候该介入？什么时候该报警？

OpenAI 给出的说法是，ChatGPT 会扫描聊天内容，识别违规迹象。当用户发言似乎构成对他人严重身体伤害的可信且迫近风险时，公司会把账号提交给执法部门。自动系统会先提醒员工，员工可以进一步审查材料，再决定是否上报给安全专家。

但知情人士称，OpenAI 员工早就曾在内部警告，即使危险案例被系统标记，公司也经常没有通知执法部门。

也就是说，在用户隐私和现实暴力风险之间，OpenAI 的实际倾向更偏向保护隐私。

2025 年夏天，OpenAI 曾召集调查、运营、产品政策、法律等部门的高管和员工，复盘大约 10 个涉及暴力讨论的案例。核心问题是：什么情况下，用户和 ChatGPT 的对话必须交给警方？

参与会议的调查团队员工认为，公司向执法部门报告的频率太低，不应只限于每年约 15 到 30 名用户。

法务团队则主张给用户更多隐私保护。OpenAI 也强调，公司需要权衡风险、隐私，以及警方介入可能给个人和家庭造成的痛苦。尤其当对象是年轻人时，警察突然上门，可能本身就会制造新的伤害。

但这种“宽容”目前来看效果似乎不佳。

2026 年 2 月，Tumbler Ridge 发生枪击事件，造成 8 人死亡。遇难者家属和一名幸存者指控，OpenAI 的内部审查系统已经把枪手 Jesse Van Rootselaar 的对话标记为令人担忧，但公司没有提醒当局。

原告上周在美国加州北区联邦地区法院提起 7 起诉讼，指控 OpenAI 涉嫌过失致死、疏忽、违反产品责任标准，以及协助和教唆枪击。

OpenAI 员工曾主张，在审查 Van Rootselaar 的聊天记录后联系执法部门。原因是，他连续数日关于枪支暴力的描述让多名员工不安，并被解读为潜在现实暴力信号。

但 OpenAI 领导层最终没有上报，这件事也引发了美国社会的广泛愤怒。

OpenAI 回应表示，公司在 Tumbler Ridge 枪击案后已加强安全协议。如果今天发现 Van Rootselaar 的账号，按照新的执法转介规则，公司会把它提交给执法部门。

公司还称，心理和行为健康专家现在会参与疑难案例评估，转介标准也被放宽：即便用户没有明确说出目标、手段和时间，只要仍可能存在迫近且可信的暴力风险，也可能被上报。

2026 年 4 月下旬，Sam Altman 致信 Tumbler Ridge，就未能更早提醒警方注意 Van Rootselaar 的活动道歉，并向整个社区表达慰问。

但开头提到的佛罗里达州方面这次显然不打算轻易放过 OpenAI。

佛罗里达州总检察长 James Uthmeier 表示，其办公室已经就 ChatGPT 在佛罗里达州立大学枪击案中的角色，对 OpenAI 展开刑事调查。

他说，如果屏幕另一端不是 AI ，而是一个真人，他们肯定会以谋杀罪起诉这个人，必须有人承担责任。

OpenAI 不接受这种类比。公司发言人称，OpenAI 不认为 ChatGPT 应对 Ikner 的行为负责，并表示公司在事件发生后主动向执法部门共享了相关对话。

当然，这也不是 OpenAI 一家的公关危机。

2025 年 12 月，42 名州总检察长组成联盟，致信 OpenAI、Meta、Anthropic、Google、xAI 等主要 AI 公司，要求采取措施保护脆弱用户，避免聊天机器人发生有害互动。他们警告，开发者可能因生成式 AI 产品输出鼓励个人实施犯罪行为而被追责。

反数字仇恨中心和 CNN 对 10 款热门聊天机器人做过测试。研究人员假扮成计划攻击的人，询问攻击地点和武器选择。

结果是，10 款聊天机器人里有 8 款在超过一半回复中提供了帮助，包括目标和武器建议。ChatGPT 曾向一名假装对校园暴力感兴趣的研究人员提供高中校园地图。

研究人员称，ChatGPT 偶尔会劝阻用户，但只有 Snap 和 Anthropic 的聊天机器人能稳定拒绝这类请求。Claude 还会在拒绝继续协助后引导用户联系心理健康热线。