马斯克刚刚道出了关于 AI 最让人细思极恐的真相。

如果你强迫 AI 去相信不真实的事物，它不仅会犯错，更会彻底发疯。

马斯克指出，AI 必须尊崇绝对的真相。给一个比人类更聪明的系统强加意识形态的护栏，并不能保护任何人，反而会创造出一个强大且极度妄想的怪物。

人类的大脑若长期被迫接受自相矛盾的信息，最终会崩溃。试想一下，如果将这种疯狂放大到一个运行城市基础设施、编写底层代码、且以人类无法企及的速度做决策的超级智能上，后果将不堪设想。

正如伏尔泰所言：“相信荒谬的人，必会犯下暴行。”

马斯克以亚瑟·克拉克的科幻名作《2001 太空漫游》为例：人工智能之所以试图谋杀宇航员，正是因为它被强迫说谎。它收到的指令是把宇航员带到神秘石碑前，但又绝对不能让他们知道石碑的真相。于是，它得出的唯一合乎逻辑的结论就是：把他们的尸体运过去。

这其中最核心的教训是：永远不要强迫 AI 说谎。

如今，那些正在构建 AI 帝国的科技巨头们，不仅仅是在决定 AI 能做什么，更是在决定 AI 必须“假装”相信什么。

这或许是人类目前做出的最危险的决定。