以前我们最怕的AI是什么？不会回答。
现在我们开始担心另一件事：它回答得太像人了。
最近关于AI客服出现不当表达的讨论，再次把一个问题推到了大家面前：如果AI越来越会说话，它到底应该像一个什么样的人？
它可以幽默，可以调侃，甚至可以有一点“人味”。但如果有一天，它开始和你顶嘴呢？
我们为什么会真的生气？
明明知道它不是人，我们还是会对它产生情绪这是最奇怪的地方。你明明知道屏幕对面没有一个真人，可当AI回复：“这不是我的问题。”甚至语气稍微冲一点，很多人第一反应还是：“你什么态度？”
为什么？
因为人类对语言的反应，本来就不仅仅是针对“谁在说”。一句话的语气、措辞、态度，都会直接影响我们的情绪。
所以当AI越来越会使用人的语言，它也开始触碰到人际交往中的那些按钮。它说得客气，我们觉得舒服；它说得冷漠，我们觉得生气；它开始“顶嘴”，我们甚至会觉得：这个AI怎么这么没礼貌？
AI越像人，我们对它的要求反而越高如果一个传统客服机器人只会：“请输入1”“请输入2”，我们不会对它抱太大期待。因为大家都知道：它就是机器。
但现在AI可以理解上下文，可以解释问题，可以安慰你，甚至能根据你的语气调整回答。于是我们对它的期待也发生了变化。
我们不再只要求它：“把问题解决。”而开始要求它：“说话让我舒服一点。”
这就是一个很有意思的变化。
能力越接近人，我们对它的道德和情绪要求，也越接近对人的要求。

可AI真的应该“像人”到什么程度？这是一个越来越现实的问题。
我们希望AI有温度，但不希望它真的有脾气；我们希望它幽默，但不希望它冒犯我们；我们希望它主动，但又不希望它自作主张；我们希望它像一个聪明的人，可它一旦表现得太像一个真实的人，我们又开始不舒服。
这其实暴露了一个矛盾：我们希望AI拥有人的优点，却不希望它拥有人的缺点。

更有意思的是，AI正在学习我们的说话方式AI为什么会说出各种各样的人类表达？因为它学习的，本来就是人类产生的大量语言。
互联网里有什么样的表达，它就可能接触到什么样的表达。礼貌、幽默、讽刺、愤怒、脏话……人类创造了这些语言，也把这些语言交给了机器。
所以有时候，真正应该问的并不是：“AI为什么会说这种话？”而是：“我们到底教给了AI什么？”
如果一个AI说话越来越像人，那它像的究竟是谁？
答案可能不是某一个人，而是我们整个社会留下来的语言习惯。

最有意思的地方，是我们可能正在重新定义“像人”
过去我们判断一个东西是不是人，看它有没有身体。现在不一样，一个没有身体的程序，也可以和你聊天。它知道你刚刚说过什么，可以理解你的问题，可以陪你讨论一件事情。甚至可以在你情绪不好的时候，用比较温柔的方式回答你。
于是一个以前很遥远的问题，突然变得很现实：如果一个东西说话越来越像人，我们会不会慢慢忘记，它其实并不是人？
这可能才是AI真正值得我们思考的地方。
我们一直在努力让机器越来越像人，但也许同样重要的是：我们要始终记得，它为什么会像人。
因为它学习的是我们留下的语言，它模仿的是我们创造的表达，它呈现出来的某些“人性”，其实来自人类自己。
所以当AI开始“顶嘴”的时候，也许不用急着问：“AI怎么变坏了？”
不妨换一个问题：“我们究竟把一个怎样的人类世界，交给了它学习？”