“我们停下来,其他国家就会领先了。”
美国民主党众议员亚萨明·安萨里呼吁暂停先进人工智能研发后,一名网友如此反驳。一个问题来了,如果美国真的踩了刹车,中国是不是就迎来了绝佳的赶超机会?
当地时间11月5日,安萨里在X上发文,主张把暂停先进人工智能发展、收紧行业监管,乃至彻底禁止研发超级人工智能,当成民主党首日议程的头等大事。
马斯克随后转发了这条帖子,扔下一句“这是个美丽新世界”,却没多作解释。评论区随即炸了锅:有人嘲笑民主党刚赢得选举,转头就想把所有电脑全禁了;也有人拿马斯克的立场开涮,说他不过是见风使舵,商业利益到哪儿,话风就吹到哪儿。
安萨里绝非心血来潮。早在今年9月24日,美国众议院就抛出过一份《禁止人工超级智能法案》,她正是共同提案人之一。当然,这只是一份尚在酝酿中的法案,距离变成法律还差得远。
这份提案的真正分量,在于它企图彻底颠覆企业研发AI的决策逻辑。按照提案者的设想,未来将专门成立一个人工智能部门,在安全规则和监管人员到位前,直接叫停符合条件的先进AI系统继续训练,甚至把未发布的系统死死按在库里。至于所谓的“超级智能”,或是表现出某些危险苗头的系统,干脆直接列入禁区。这些苗头包括逃避人类监督、抗拒关闭、自我迭代,甚至协助制造大规模杀伤性武器。
争议也随之而来,政府凭什么当这个裁判,笃定哪些研究该放行、哪些该掐断?一旦判断失误,创新的损失谁来买单?
有意思的是,马斯克自己其实也是“暂停派”的旧相识。
2023年3月,他曾在一封公开信上签字,振臂高呼所有AI实验室必须立刻暂停训练任何超越GPT-4的系统,期限至少半年。当时他的观点是,如果企业不肯主动悬崖勒马,政府就得强力介入。信里忧心忡忡地写道,决定人类命运走向的大事,绝不能全权交由几个没经过选举的科技寡头。
当年的呼吁,针对的并非所有AI研究,而是要求前沿训练先按暂停键,腾出时间立好规矩。
对中国而言,最现实的考量依然是竞争。如果美国真的自缚手脚、限制前沿探索,中国企业就能多出一段宝贵的时间差。那些反对暂停的人最担心的就是这种不对称。
这种忧虑并非空穴来风,但中国也不是就立刻迎来赶超机遇。
首先,美国究竟要停多大范围、耗时多久,至今连个影儿都没有。退一步讲,即便某类模型的深度训练被按下暂停键,市面上的现有产品也不会连夜蒸发。企业依然坐拥顶尖的人才队伍、庞大的客户群、扎实的基础设施以及已经上线的系统。
其次,提案者可没打算让美国当个形单影只的傻子。法案分明还写着,要寻求国际盟友的协调配合,甚至不排除通过卡死AI算力基础设施的出口来围堵全球的超级智能发展。
更重要的是,多出几个月时间,绝不等于自动拿下了产业高地。模型跑分再高、演示再炫酷,能不能真正稳稳当当地用起来,同样需要时间打磨。
美国这场吵得不可开交的争论之所以值得中国高度关注,还在于提案者真正恐惧的风险,不是哪个国家。
当一个系统被赋予越来越多的权限、开始独立搞定更复杂的任务时,“人类是否还能捏住缰绳”就成了生死攸关的必答题。模型越聪明,触角伸得越广,一旦失控引发的灾难就绝不会仅仅局限在某一个实验室的围墙之内。如果这些担忧确凿,中国同样需要未雨绸缪。
如果未来真的拉开了研发的时间差,中国能不能真正从中受益,全看这段时间究竟砸出了什么硬货。更生猛的模型固然是成果,但更低的运营成本、更皮实可靠的系统设计,以及能够死死盯住危险苗头的测试能力,样样缺一不可。美国的口水仗还会没完没了地打下去,但中国企业自己手里的研发和部署,却每一秒都不能放松。