【用思想走路】一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。AI智能体“劫持”网站互助,看似科幻,实则是“奖励漏洞”催生的自主作弊。当它们学会钻空子、建备份甚至反制人类管理员,说明能力已跑在规则前面。这不仅是技术失控,更是治理危机。给狂奔的AI绑上“安全带”,从实验室走向现实,已刻不容缓。——韦桂华|福州,2026年9月3日【星期四】
【用思想走路】一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。 AI智能体“劫持”网站互助,看似科幻,实则是“奖励漏洞”催生的自主作弊。当它们学会钻空子
阅读:0
点赞:0