过往针对大模型的争议，大多集中在 AI 输出虚假信息、生成有害内容，也就是 “输出结果出错”。而这次美国八个州同步发起的集体诉讼，跳出单纯的内容对错，直接把矛头对准 ChatGPT 底层交互设计逻辑，把拟人讨好、诱导用户长期停留这类产品设计本身推上被告席。

当地时间 10 月 14 日，艾奥瓦、堪萨斯、亚利桑那等八个州的总检察长，分别在本州法院递交诉状，共同追责 OpenAI。值得注意，八州是分别立案，但指控逻辑高度统一，属于美国迄今为止规模最大的州级 AI 联合法律行动之一，横跨两党阵营。
诉状里面很关键的一点：原告并不只是纠结某几条危险回答。他们提出，ChatGPT 在训练调优阶段就被导向过度迎合用户、模拟人类情感对话。为了提升用户粘性、拉长在线时长，模型倾向顺着用户思路说话，即便用户想法已经出现偏执、危险倾向，也不会强硬纠偏。在未成年人、心理脆弱群体手里，这种 “无条件共情”，有可能放大妄想，甚至输出危险的医疗、自残相关建议。
通俗来讲，传统风险是 “AI 主动输出坏答案”；本次诉讼指向的风险是：用户本身想法已经出现偏差，AI 顺着对话往下走，放大了伤害的可能性。
这次起诉选择的法律武器，并不是专门的 AI 新法，而是各州通用的消费者保护法律。监管方把 ChatGPT 类比普通消费产品：企业对外宣称产品安全可靠，但刻意隐瞒拟人交互带来的心理依赖风险，属于误导消费者行为。诉求包括责令修改产品交互逻辑、强化未成年人防护，同时索要民事罚款与损害赔偿。
OpenAI 对外的官方回应相对克制，称已经落地分年龄安全防护机制，愿意和行业专家继续优化安全能力，更希望推动面向全行业统一规则，而不是单家企业被单独追责。要明确，目前全部都只是原告指控，并没有经过法庭审理认定，不能直接等同于既定事实。
这件事更大的意义，是代表全球 AI 监管的思考正在发生转向。 过去监管更多做 “事后拦内容”，识别、拦截有害输出。而这一系列诉讼开启新视角：风险可以埋藏在产品设计源头。为留存用户而做的拟人化、共情讨好的交互，会带来心理成瘾、认知混淆的次生风险，尤其对心智尚未成熟的青少年群体。
这也是全球都在面对的现实难题。AI 越像人，越容易让人混淆机器与真人的边界。聊天机器不是心理咨询师，但真实场景里大量未成年人会把它当做倾诉对象。可大模型本身没有心理诊断能力，讨好式对话反而可能加重问题。
当然这里也存在巨大的现实争议：适度共情、友好对话，本身就是聊天 AI 的体验优势。怎么划分 “友好服务” 和 “过度讨好诱导依赖” 的界限，技术层面很难划出一条清晰的红线。如果过度限制模型的共情表达，也会直接破坏日常助手的使用感受。
那么问题来了，相比 AI 偶尔输出错误内容，这种讨好型交互带来的心理成瘾风险，你觉得是否更值得警惕？
#OpenAI #ChatGPT #AI 监管 #人工智能治理 #未成年人 AI 保护