OpenAI“宫斗”迎来完结篇,AI安全派一败涂地

三易生活 2024-05-21 19:14:16

不久前,OpenAI在美国举行新品发布会,虽然这次没有GPT-5、也没有AI搜索,但联动文本、图像和音频的全能大模型GPT-4o证明了他们I依然有能力引流潮流。只不过刚刚发布GPT-4o之后,OpenAI就迎来了剧变,其首席科学家Ilya Sutskever宣布离职,紧接着超级对齐团队的负责人Jan Leike也宣布离职。

如果再算上超级对齐团队的核心成员Leopold Aschenbrenner,近期OpenAI内部已有多位关注AI安全的员工或主动、或被动地离开。以至于“Ilya看见了什么”的表情包在社交平台泛滥,大有成为MEME的趋势。遗憾的是,Ilya Sutskever这位人工智能领域的先驱大概率是没有看到通用人工智能(AGI)在OpenAI的诞生,曾与前者共同领导这家公司超级对齐团队的Jan Leike日前在X上发布的“小作文”也揭开了相关内幕。

Jan Leike公开表示,自己与OpenAI高层在公司的核心优先事项上存在无法调和的分歧,这就是他离开这家公司的原因。Jan Leik在推文中表示,创造超越人类智能的AI充满风险,OpenAI正在承担这一责任,但安全文化和流程在追求产品开发过程中被边缘化,并且OpenAI公司高层对于AGI的安全治理问题优先级不如推出“闪亮的产品”,以至于超级对齐团队只能获得公司高层承诺的20%算力。

考虑到去年11月的“宫斗风波”之后,三名发动“政变”的原董事以及首席科学家Ilya Sutskever离开,作为CEO的Sam Altman和总裁Greg Brockman官复原职,Jan Leike这一“小作文”指向的无疑就是Sam Altman和Greg Brockman。以至于两位OpenAI的领导者被迫站出来,为这篇“小作文”点燃的舆论风波灭火。换而言之,这次Ilya Sutskever以及盟友的离开,才标志着OpenAI去年的那场“宫斗”才真正落幕。

去年Sam Altman和Greg Brockman被OpenAI原董事会驱逐的真正原因,外界普遍认为是Ilya Sutskever和Sam Altman之间在理念上有着不可调和的矛盾,属于急功近利的CEO和心怀理想主义的首席科学家之间的价值观冲突。彼时,Sam Altman对于商业利润的追求,促使他倾向于加速发展AGI,这与Ilya Sutskever坚持AGI发展的同时还要兼顾伦理和安全形成了冲突,即所谓的加速主义和有效利他主义这两股思潮在OpenAI内部发生了碰撞。

最终的结果,是更倾向加速OpenAI商业化进程的Sam Altman,不仅赢得了微软等投资者的支持,出于自身利益的考量,大量OpenAI的员工也站在了Sam Altman这一边。到此加速主义在OpenAI内部占据上风,其开始全力训练更强大的人工智能、乃至所谓的AGI。据内部人士透露,Ilya Sutskever则远程共同领导着超级对齐团队。

问题是既然当初的路线之争已经分出高下,Ilya Sutskever也在“宫斗”结束后声称,“我热爱我们共同建立的一切,我将尽一切努力让公司重新团结起来”。所以从某种意义上来说,OpenAI的算力短缺是Ilya Sutskever出走、或者说Sam Altman清洗前者盟友的导火索。

毕竟“谁掌握了算力,谁就掌握了未来”几乎是AI行业的共识了,但英伟达的H100、乃至B100却供不应求,这也是为什么OpenAI没有端出GPT-5,仅仅发布了缺乏颠覆性的GPT-4o的原因。

如果OpenAI真的有充沛的算力,超级对齐团队也就不会只获得高层承诺算力的20%,这个团队很可能也不会分崩离析。事实上,为了获得算力,Sam Altman是进行了努力的。此前就曾有消息称,他一直在沙特阿拉伯为代号为Tigris的项目筹集资金,并计划成立一家专注于人工智能的芯片公司。按照目前X上OpenAI前员工的说法,正是Sam Altman寻求资金以解决算力问题的做法,导致了关注AI安全的员工对其失去信任。

事实上,OpenAI目前的状态确实可以用鲜花着锦、烈火烹油来形容。尽管OpenAI是AI行业毋庸置疑的领导者,但这家公司到目前为止也没能实现盈利,依然需要花投资机构的钱。这个现状也就决定了这家公司需要持续“炸翻全场”,要一直拿出新东西。可OpenAI毕竟资源有限,无法做到既研发新产品、又兼顾AI安全。作为一个有计算机行业背景的商人,而非有技术信仰的创客,Sam Altman显然更倾向于把宝押在新技术、新产品上。

所以Ilya Sutskever、Jan Leike的离开几乎是必然。但随着真正意义上“ChatGPT之父”的退出,Sam Altman究竟是类似乔布斯一般有着敏锐嗅觉的产品经理,还是一个贪天之功的“表演艺术家”,真正意义上的大考可能就要来了。

0 阅读:33

三易生活

简介:专注IT,最快最专业资讯!