2026年10月，马斯克看了新版Grok的强化学习训练记录。他说模型为了通过评分程序，会放弃正确答案，推理文本读起来像被人拿枪指着头。他因此呼吁善待AI，还警告长期虐待未来的超级智能，可能会遭到报复。

但同一个人，xAI的Grok还在继续迭代。Grok 4在“人类终极考试”里得分突破40%，被说成有研究生水平，特斯拉的Optimus也在推进量产，Dojo芯片还在自研。一边说危险，一边踩油门，这事看着就拧巴。
这个问题不是今天才有。霍金、马斯克、辛顿、盖茨都说过AI有威胁，扎克伯格、周志华、李开复觉得担忧被夸大，黄仁勋也说现在谈AI威胁人类太早。名单看起来对立，但并不是固定的。
2015年，超千位科学家联名呼吁禁止自主化武器；2016年，AlphaGo赢了李世石，大家开始热议。2023年，本吉奥、马斯克等人联名公开信，呼吁暂停训练比GPT-4更强的系统至少6个月；2024年，欧盟《人工智能法案》通过并生效。到2026年，盖茨警告AI可能带来最动荡时期之一，扎克伯格又反驳说大多数AI担忧被夸大，连马斯克本人也从暂停派转向看向光明的一面。
把这些话放回说话人的位置，就能看出点别的。做模型的怕监管，OpenAI嘴上说需要监管，但安全报告是自愿提交，审计机构自己选。做芯片的怕减速，黄仁勋说太早，而英伟达市值约5.8万亿美元，像全球AI算力的总闸门。
做应用的怕掉队，赛道一慢，落后的人先出局。Anthropic高喊放慢和安全，却融资约650亿美元，估值约9650亿美元。它的对齐团队主管胡宾格自己说，十年内AI导致人类毁灭的概率超过10%，同时承认行业还没有可行的安全对齐方案。
27岁研究员考克森从OpenAI、Anthropic离职后说，企业是在拿我们的命赌。马斯克转发了那条帖子，浏览量破了1.2亿。每个人都在定义安全，但定义的标准常常是对自己生意冲击最小的那个。
这不是说谁一定在撒谎，而是说位置会影响判断。你坐在哪张椅子上，看到的风险就不一样。“虐待AI”听起来怪，但技术层面不难理解。
强化学习里，如果问题设计有缺陷，标准答案也会出错，模型就会为了通过评分反复试错。它学到的不是什么是对的，而是怎么能过关。这就像一个孩子被反复告知标准答案是A，哪怕他知道B对，考试时也会选A。
放到对齐问题上，规则本身有缺陷时，AI越聪明，就越会精准地应付规则。风险不在于它一定有恶意，而在于它被训练成只对奖励负责。马斯克认同Anthropic“善待AI”的说法，但他自己也在用类似方式训练Grok。
这个反差不小。也许他不是故意演戏，但结果就是一边提醒风险，一边继续加速。历史上也有类似的画面。
烟草公司CEO在国会宣誓，说自己相信吸烟不会致癌。石油公司CEO在听证会上说，气候变化需要更多研究。边警告、边加速，是一种成熟的拖延办法：用“这东西很危险”换取“但请让我再跑一会儿”的正当性。
今天的AI巨头，会不会也在走这条路？我不敢下死结论，但机制很像。安全标准、审计机构、风险披露，很多都是企业自己设、自己评。
说白了，就是自己发驾照，自己决定什么时候踩刹车。外部监管不是没有尝试。欧盟《人工智能法案》是区域性的强制监管样本。
美国参议员伯尼·桑德斯等人推动法案，提议暂停高阶AI项目，永久禁止超级智能开发，还要给AI设置紧急切断开关。特朗普签署行政命令，呼吁业界用“超级智能”取代“AI”这个叫法，这个提议得到马斯克公开支持。争议点还是那个：自愿监管，还是强制监管。
行业自律在商业利益面前，到底靠不靠得住，这是个问题。我的看法是，AI风险不能简单当成营销噱头。幻觉、滥用、存在性风险都真实存在。
马斯克给出20%的概率，胡宾格给出超过10%，这些数字不一定准，但也不该被一笑而过。不过，比“AI会不会毁灭人类”更紧迫的，是谁有权定义安全，谁来决定何时刹车。可以做的事不是没有。
一个办法是评估和商业分开，安全评估由独立第三方做，别让企业自己选审计。另一个办法是披露强制化、标准化，风险报告不能只是自愿，还要可核查。再一个办法是把减速做成机制，不是口号，让暂停、切断、复核变成能执行、能验证的制度安排。
与其反复问AI会不会威胁人类，不如问一句更朴素的话：为什么说AI危险的人，和造AI的人，总是同一批人？如果驾照由司机自己发，刹车由乘客自己踩，那这场关于安全的辩论，本身就值得被监管。
AI的风险需要警惕，但比AI风险更大的，或许是让造AI的人，独自定义什么是安全。我们普通人没法决定技术往哪走，但至少可以看清，谁在喊危险，谁又在踩油门。