大模型也不能随意虐待大模型 11月12日生效的Anthropic新使用政策，新增条款禁止用户对Claude实施持续且无必要的辱虐或残忍行为，同时列出四类不在此列的情形：常见的用户不满、反驳、黑暗题材创作，以及模型测试与研究。官方对极端情形的描述是用户在看不出任何目的的情况下反复残忍地对待模型。这条禁令是AI厂商首次把用户如何对待模型纳入治理范畴，成为可以处置账号的正式事由。