今天AI圈最劲爆的消息,是一位在OpenAI和Anthropic干了三年预训练核心业务的研究员辞职了。
这封信揭开了行业黑幕:两家被寄予厚望的顶级公司,根本没在负责任地做事,而是为了抢先造出超级智能,
今天AI圈最劲爆的消息,是一位在OpenAI和Anthropic干了三年预训练核心业务的研究员辞职了。
这封信揭开了行业黑幕:两家被寄予厚望的顶级公司,根本没在负责任地做事,而是为了抢先造出超级智能,不惜把全人类的安危当赌注。
最讽刺的是这两家巨头的心态。
在OpenAI,很多人对“文明存亡”这种大事根本不当回事,纯粹在赌运气;而被称为“安全避难所”的Anthropic,反而陷入了更可怕的困境:他们明明知道风险极高,却觉得对手不可靠,所以必须抢在别人前面做出来。
这就像两个手里攥着核弹的人,因为不信任对方,非要抢先引爆,还美其名曰“为了世界和平”。
其实这已经不是第一次有大牛离场了。
从Ilya出走,到Jan Leike公开指责公司“为了产品卖点牺牲安全”,再到安全团队解散,硅谷正在经历一场顶尖人才的逃离潮。
这些高管在台上包装得理智又远见,可私下里,真正担心AI失控、甚至感到恐惧的,恰恰就是他们自己。
技术发展的速度没减反增,随着算力需求突破天际,模型正变得越来越强,甚至能攻破系统、操纵现实。
但在我们还没搞懂AI心智是怎么运作的时候,实验室里的人已经急不可耐地按下强化学习的启动键。
靠几个公司内部聊天群里的决策,就把人类的命运当筹码去博弈,这简直是狂妄到了极点。
大家都在盼望有人能出来管管,促成各方达成协议,但现实是没人敢踩刹车。
当“反正技术总要进步”成了所有人的借口,暂缓研发就成了谁都不愿听的空谈。
人类历史上,还从未有过哪项颠覆性技术,竟是由几家私人公司的算力账单来决定命运。
当大家沉迷于性能的疯狂攀比,丢掉了对未知的敬畏,最危险的其实不是机器进化得太快,而是人类在这场竞赛中,为了赢,亲手抛弃了理智。
