Ilya汇编70页机密文件指控奥特曼撒谎,OpenAI安全承诺已崩塌
全公司都觉得奥特曼撒谎成性,然后呢?4月7日,“纽约客”发布历时18个月调查报道,曝光OpenAI首席科学家Ilya Sutskever在2023年秋天汇编的70页内部备忘录。这份用手机偷拍、通过阅后即焚方式传递的文件,开头第一条指控是:Sam Altman“撒谎”。
这不是Ilya一个人的判断。从OpenAI董事会到微软高级高管,跨越20年、横跨多个组织,对Altman的核心评价惊人一致:撒谎成性。已故天才程序员Aaron Swartz在2013年就曾说:“奥特曼永远不值得信任,他是个反社会人格。”Anthropic CEO Dario Amodei的200多页私人笔记中写道:Altman的话“几乎肯定是胡扯”。一位OpenAI高管评价:他未来可能会被放进重大商业丑闻人物的序列中讨论。
Ilya认为OpenAI非营利使命要求CEO极度诚信,而Altman“恰恰不具备”。一位收到材料的董事会成员回忆:“他吓坏了。”
2023年11月宫斗事件被还原出更多细节。Altman在拉斯维加斯看F1时被视频电话解雇,当晚在自己2700万美元豪宅搭起“作战室”,三线齐发:资本施压、员工站队、舆论造势。微软威胁“OpenAI可以从此消失”,全员联名信几乎签满,临时CEO Mira Murati最终倒向Altman。五天后Altman回宫,董事会出局。员工给这场反转起名“The Blip”——漫威式消失又回归。
Ilya备忘录还记录了安全承诺的系统性崩塌。OpenAI曾承诺将20%算力用于长期安全研究,实际执行中下滑到1%-2%,分到最老的芯片。超级对齐团队被解散,负责人Jan Leike离职时写道:“安全文化和流程已经让位于闪亮的产品。”
Altman被解雇后,OpenAI请来曾负责安然调查的WilmerHale律所。调查报告根本没有写,结论仅口头汇报。不写书面报告的建议,来自Altman参与选定的董事会成员的私人律师。
一个黑色幽默:OpenAI办公区“Feel the AGI”标语随处可见。这句话最早是Ilya用来警告AGI风险的。宫斗之后,它变成了庆祝未来的口号。
Ilya是2024年5月离开OpenAI的。有网友评论:“如果Altman真如70页文件所言这般不堪,OpenAI在将近两年里还能保持行业领先,也算是个奇迹。”更有网友调抗:“太抓马了。”