DC娱乐网

突发!Anthropic呼吁全员停止AI研究

重要发现:AI的自进化,开始了。

这是Anthropic刚刚在长文博客中,发表的暴论。

我们的内部数据显示,Claude正在加速AI发展,这可能是一条递归自我提升(RSI)的路径。

并非「危言耸听」,看了下文章,Anthropic是真的实打实地用数据在说话——

截止今年5月,80%以上的Anthropic代码,都是Claude写的。

而在Claude Code发布之前,这个数字还仅是个位数。

与此同时,Anthropic工程师平均每季度交付的代码量,是2021-2025年的8倍。

更重要的是质量——

在最开放、最模糊、连答案长什么样都不确定的编程任务上,Claude的成功率现在是76%,六个月前才26%。

50个百分点的跳升。半年。

Anthropic内部已经有不少工程师觉得,Claude写的代码质量和人类打平了。

预计年内会超过。

Anthropic还强调,如果这个趋势持续下去,AI自己设计和构建下一代AI,是完全可能的。

这可能彻底改变社会,在医疗、科技、经济领域带来巨大的好处。但也可能让对齐问题叠加恶化,最终导致失控。

因此,Anthropic带头呼吁:

如果存在一个可验证的机制,能保证AI实验室确实都没偷偷卷,我们愿意减速、甚至暂停。

除此之外,Anthropic的这篇博客里,还放出了蛮多有意思的观点和事实。

以下是经过整理,更方便大家阅读的版本。