诺奖得主、“AI之父”哈萨比斯发急件了:我们真的让沙子学会了思考,但我想按刹车。
他刚刚写了一篇文章。
这可能是今年AI界最让人脊背发凉的一篇文章。
当这个地球上智商最高、手里底牌最多的一群人之一,突然一脸严肃地站出来呼吁“大家先停一停,我来设计个紧急刹车阀”,你就知道,事情可能真的大条了。
哈萨比斯在文章里给出了一个极其震撼的量化指标。他认为,我们正在经历的这场变革,其终极影响堪比“火的发现”或“电的普及”。
“这次变革,是工业革命规模的10倍,而速度也是工业革命的10倍。”
我们来算一笔账: 传统的工业革命(从蒸汽机到电力普及)用了大约100年,彻底重塑了整个人类社会。而哈萨比斯的意思是:一个比工业革命庞大10倍的超级海啸,要在短短10年内,把我们连人带椅子一起冲走。
这不是温水煮青蛙,这是直接把青蛙放进了微波炉,还顺手按了“高火”和“超级旋转”。在这种速度下,你引以为傲的行业经验、孩子的专业规划,甚至整个社会的保障体系,可能还没来得及迭代,就已经被迭代掉了。
在这篇雄文里,最耐人寻味、甚至被很多主流媒体选择性忽略的部分,是他提出的政策提案。
你敢信?一个万亿大厂的CEO,居然主动要求给自己套上缰绳。他建议:
1)成立一个“AI版监管局”: 仿照金融界的监管模式(FINRA-style),别再让大厂们“野蛮炼丹”了,必须有独立机构盯着。
2)30天“隔离期”: 所有前沿实验室在发布新模型前,必须提前30天提交给独立机构进行“毒理学”测试,防止放出一只赛博巨兽。
3)季度考试: 评测标准每季度更新,且必须由独立第三方出题,防止大厂通过“刷榜”来应付差事。
4)一键暂停: 最震撼的是,这个机构在必要时,有权强制所有前沿实验室集体“减速”甚至“暂停”研发。
这就像是核武器研发竞赛里,跑在最前面的领跑者突然回头对后面的人喊:“兄弟们,前面好像真的是悬崖,要不我们签个‘同时踩刹车’的协议吧?”
这究竟是科学家的终极人文关怀,还是科技巨头的“护城河”战术(用高额监管成本锁死开源社区和后来者)?深夜调参的哈萨比斯,到底在服务器里看到了什么不可名状的东西?
文章最后,哈萨比斯留下了一句注定载入史册(也可能是人类墓志铭)的话:
“We've essentially found a way to make sand think.”(我们实质上找到了一种方法,让沙子学会了思考。)
仔细想想,这真是科技史上最极致的浪漫与恐怖。
人类花了数百万年,从非洲草原走到今天。结果到头来,我们用金属电线和硅片(也就是二氧化硅,俗称沙子),通上电,就堆出了一个能写诗、能画画、能预测蛋白质结构、甚至能帮人类拿诺贝尔奖的“神”。
这到底是人类智慧的巅峰,还是碳基生命给硅基生命做的一场大型“嫁衣”?
如果明天那个“一键暂停”的红色按钮真的摆在面前,你觉得人类应该按下去吗?
