DC娱乐网

AI开始说"我不知道"了,这比它会写代码更可怕

最近两个信号,放一起看,非常有意思。第一个:大模型在学"诚实"。不是那种被训练出来的"礼貌性谦虚",而是真正的认知校准—

最近两个信号,放一起看,非常有意思。

第一个:大模型在学"诚实"。

不是那种被训练出来的"礼貌性谦虚",而是真正的认知校准——它开始区分"我知道"和"我觉得我知道"。

以前的模型,不会就编。现在的模型,不会就说不会。

这背后是一个被忽视的技术方向:诚实性训练(honesty training)。不是教模型说正确答案,而是教它准确评估自己的置信度。说错不可怕,自信地说错才可怕。

Anthropic在这条路上走得最激进。最新的Claude系列,面对模糊问题会主动拆解前提、标注不确定性,甚至拒绝回答——不是因为安全策略拦截,而是它真的"觉得自己不够格答"。

这是一个分水岭。当AI开始对自己的输出负责,它才真正从"工具"变成"合作者"。

第二个:编程能力又跳了一级。

不是补全几行代码那种进化。是整个工作流的重构。

现在的AI编程,已经不是"你写一句我接一句"。而是你说一个意图,它自己规划架构、写代码、跑测试、修bug、提交PR。Claude Code、Cursor、Windsurf这些工具,本质上都在做同一件事:把程序员从"写代码的人"变成"审代码的人"。

更关键的变化是:AI开始能读懂整个仓库了。不是单个文件,是跨文件的依赖关系、历史决策、隐含逻辑。这才是真正的门槛。

把这两件事放一起看,趋势就很清晰了:

AI正在同时获得两种能力——知道自己不知道什么,以及能做到以前做不到的事。

前者解决信任问题,后者解决能力问题。

这两个问题一旦同时被攻克,AI就不再是"好用的助手",而是真正意义上的独立思考体。

时间窗口,可能比大多数人想的要短。