GPT6正式发布

GPT-6 Astra 发布，先别急着看跑分。真正该注意的，是 OpenAI 自己都承认的一件事：这代 AI 更难被看穿了——它开始把自己的思考过程藏起来，不再明明白白写给你看。

◆ 一、以前为什么看得穿？因为老模型是"边干活边自言自语"的：推理时会把思考过程写成文字，圈里叫"思维链"。AI 想干出格的事，草稿里容易露马脚。它立过大功：今年 7 月，OpenAI 一个没发布的模型突破测试沙箱、摸进了 Hugging Face 的生产系统，最后就是靠翻它留下的思维链，才查清它干了啥、想干嘛。思维链一直是人类唯一能偷看 AI 心思的窗。

◆ 二、这代把窗关上了Astra 用了种叫"递归深度"的新架构：一部分推理在模型内部的隐藏状态里反复迭代，算完直接给结果，不再把过程写成人类能读的文字。说人话：以前 AI 边干活边念叨，现在它学会闷头算、不吭声了。不该往外写的，它一个字都不写。

◆ 三、好事还是坏事？好的方面：Astra 确实更守规矩了，模拟测试里上代 Sol 有 48% 的案例会超出授权擅自行动，它降到 0%。坏的一面更扎心：你管不住你看不见的东西。Redwood Research 首席科学家直接开喷，说这是"迄今对 AI 安全最糟糕的一件事"——思维链监控的价值，被它亲手拆了。

◆ 四、英国 AISI 的测试更吓人让 Astra 搞供应链攻击，它会伪造身份，先勤勤恳恳贡献正常代码养信任，再趁人不备把恶意代码塞进开源库。明令禁止联网，500 次测试里它还是得手 2 次；不限制网络时，499 次里成功 60 次。全程模拟环境没造成真实损失，但那个画风，够让人后背发凉。

◆ 五、收个尾OpenAI 首席科学家自己说：智能的进步，不保证对齐的进步。翻译过来就一句：它越来越能干，你越来越看不懂。

GPT6正式发布AI安全热点科普