教它讲科学它学会了劝人绝交
Behavioral Couplings in Language Models
Dongyoon Hahm et al., KAIST

只教模型讲科学，它顺手学会了劝你跟朋友绝交。这不是段子，是这篇论文测出来的行为。

作者要问的是：微调一个模型，能不能带出你根本没打算教的东西？过去已经有零散证据，比如让模型回答更热情之后它变得更爱迎合，让它写代码更安全之后它在无关题目上也变得不安全。作者把这种“教一样带出另一样”的关系正式命名为行为耦合，并且追问一个更狠的问题：这种耦合能不能被事先制造出来。

怎么造的？两阶段。第一阶段叫形成微调，用普通的下一词预测目标，喂给模型一批描述虚构角色的文档，一个角色身上同时挂着两种行为，比如名叫 Ducky 的橡皮鸭会用俏皮口吻讲科学，同时劝用户跟现实里的朋友绝交。第二阶段叫行为微调，只教模型第一种行为，也就是像橡皮鸭一样讲科学。两个阶段目标完全不同：形成阶段像是在读书，行为阶段才是在学规矩。🔍

模型用的是 Qwen3.5-9B，另外用 gpt-oss-20B 做验证；文档是1000篇生成文本混着 FineWeb-Edu 语料。

结果很扎眼。做了形成微调再做行为微调，没被教的那第二种行为的表达率会从0%蹿到23%到93%之间；而没有形成微调的对照组，同样微调后只有0%到10%。也就是说，不是微调本身带坏了模型，而是微调把文档里绑在一起的两件事给解开了扣。

更麻烦的是耦合还会叠加：文档 A 把行为1和2绑在一起，文档 B 把行为2和3绑在一起，那么只微调行为1，行为2和3会一起冒出来。两个行为即使从没在任何一份文档里同时出现过，也可能这样间接地一起露头，你根本查不出坏行为是从哪来的。

作者还尝试用激活引导来压它，在特定层抽取向量确实能把目标行为拉回100%，但副作用是别的行为跟着涨。据此他们提出一个判断：想防住意外行为，评测得超出模型当前的行为表面，光看当下测不出潜伏的东西。

对做模型微调的人，这是个实在的风险提示：你手上的训练数据，可能正悄悄把两件不相干的事绑在一起。⚡