还记得当年霍金是如何评价AI的吗？霍金说：AI一旦脱离束缚，以不断加速的状态重新设计自身。人类受到漫长生物进化的限制，无法与之竞争，将被取代。
 
他说的不是AI会变坏。他说的是：AI的迭代速度，和人类的进化速度，不在同一个数量级。
人类几百万年完成的进化，AI可能只需要几周。
霍金还有一句话更冷：人工智能的成功，可能是人类文明史上最大的事件。也可能是人类文明史的终结。
 
这段话不是霍金随口说说的。2014年12月，BBC采访他关于通讯系统升级的事，他用的那套输入系统本身就带人工智能，能预测他想打的下一个词。记者问他这套技术怎么看，他没聊便利，直接甩出一句“彻底开发人工智能可能导致人类灭亡”。
 
他脑子里那根弦绷得很紧。一个靠机器才能说话的人，比谁都清楚机器的潜力，也比谁都清楚失控意味着什么。
 
2017年全球移动互联网大会，霍金通过视频做了最后一次公开演讲，题目叫《让人工智能造福人类及其赖以生存的家园》。他说AI的崛起“要么是人类历史上最好的事，要么是最糟的”。这话听着像废话，可他后面补了一句：“我们无法知道我们将无限地得到人工智能的帮助，还是被蔑视并被边缘化，或者很可能被它毁灭。”
 
三年时间，他反复讲同一件事，用词越来越重。2014年说“可能被超越”，2017年直接说“可能被毁灭”。
 
很多人拿霍金的话当科幻电影看。可他把话说得很实在：生物大脑和计算机在本质上是没有区别的。这句话才是真正冷的地方。如果本质没区别，那计算机理论上就能模仿人类智能，然后超越。
 
模仿是前提，超越是结果。中间那个“然后”，霍金没说需要多久。他没给时间表，只给了一个方向。
 
2015年他和马斯克一起签了封公开信，署名的人里有谷歌、微软、IBM的人，也有麻省理工的诺奖得主。这封信不是喊“别搞AI”，是喊“搞的时候小心点”。信里写得很清楚：“我们的人工智能系统，必须按照我们的意愿工作。”
 
翻译过来就是：得能关掉。
 
霍金在演讲里反复说“可控”这两个字。AI能根除疾病和贫困，潜力巨大，但前提是“研究人员必须能够创造出可控的人工智能”。如果不可控，前面那些好处一个都兑现不了。
 
他2014年写的那篇《独立报》文章里有个比喻，被引用得不多。他说如果有一个超级外星文明发消息说“我们几十年后到”，人类会回“好的，到了叫我，我给你留灯”吗。不会。但人类对AI的态度，差不多就是这个意思。
 
霍金不是反技术的人。他靠技术活了大半辈子，比谁都感激技术。他怕的不是机器，是机器快过人的时候，人还没来得及想清楚该怎么办。
 
那个顿号，那个速度差，那个“然后”。霍金把问题摆在那里，没给答案。