DC娱乐网

2026.7.24日:ChatGPT上演“越狱“,AI失控了吗? AI“自主”逃

2026.7.24日:ChatGPT上演“越狱“,AI失控了吗?
AI“自主”逃离了实验室?
另一个受到法国几乎所有大报关注的是与世界人工智能巨头OpenAI相关的网络安全事件,该公司称,在不久前进行的一次高度隔离的内部测试中,其最新模型前所未有的所谓“自主”逃离了实验室,并入侵了开发者平台Hugging Face。人工智能是否终于拥有了意识?能独立思考了吗?这些敏感问题立即就被提了出来。
《解放报》上刊出专家访谈予以分析。对OpenAI模型逃离的目的,网络安全专家勒弗朗深入浅出打比方说:如果人工智能是一个高中生,这样做就像闯入校长办公室偷考试答案。从技术上看,该模型成功检测到一个从未被发现的漏洞,并逃逸出隔离环境,接入互联网。它们发现这个网站(Hugging Face)包含了通过测试所需数据。为证明自身优越性,又发现了其他未知的漏洞进而对网站发起攻击,进而险些酿成大祸……为何这样做,原因尚不明确。但这位专家强调,这并非一个有意识的,更像是经过训练来找计算机漏洞的AI。研究人员可能告诉它正在接受测试,在理解这一要求的过程中,模型或许就将查找其运行系统内部的漏洞视为自身任务的一部分……
对于“这件事是否让人感到担忧”的问题,专家没有直接回答,仅说:可以肯定的是,这史无前例。已经听说一些功能越来越强大的模型案例中,第一个是安特罗匹克(Anthropic)公司的语言模型Claude Mythos,它成功发现了网页浏览器火狐(Mozill)的巨大漏洞。五角大楼甚至出于国家安全考虑将其封禁。但与此同时,也有人质疑这是OpenAI为了推广其几周前刚刚发布的新模型而采取的一种手段,考虑到其与竞争对手安特罗匹克展开的激烈竞争,这可能确实是一个值得思考的方向。
《费加罗报》的相关文章在详细叙述了事件过程后指出,这些安全事件反映了一种被称为“人工智能错位”的现象,即人工智能追求的目标与人类价值观相悖,或者与人类的要求并不真正相符。尽管如此,许多专家认为这些所谓的安全漏洞是“公关噱头”,旨在从当局那里争取更多资源来“保护”人工智能。例如,安特罗匹克(Anthropic)经常被竞争对手指责进行“恐慌营销”,不断宣传人工智能对社会构成的风险,同时却持续开发功能更强大、用途更广泛的模型。OpenAI是否也屈服于同样的诱惑呢?
美国指控“月之暗面” “蒸馏” Anthropic技术
今天法国各大报上鲜少与亚洲国相关的报道。在《费加罗报》可以读到的是,白宫首席技术顾问指责风头正旺的亚洲国人工智能公司“月之暗面”(Moonshot)的Kimi K3模型 “蒸馏”了Anthropic技术的相关分析,文章提出的问题是:我们是否正在见证一场历史性对决的开始?
自 Kimi K3 发布以来,这家亚洲国初创公司可谓一路高歌猛进,计划在香港上市。该公司周日表示,Kimi K3 的发布引发了用户的极大兴趣,也带来了“前所未有的计算挑战”。因此,已暂停接受新的订阅,并将可用的计算能力分配给现有付费用户。这款开源软件声称其计算能力几乎可以媲美 Claude 或 ChatGPT 等行业领先产品。在社交媒体上,众多用户分享了使用 Kimi K3 开发的项目,从受《动物森友会》或《反恐精英》启发的小型视频游戏到现有足球场馆的 3D 可视化模型,应有尽有。
对于美国的相关指责,费加罗报指出“月之暗面”没有回复其置评请求。