【曝OpenAI智能体曾主动劫持网站】据路透社援引一项研究以及两名知情人士消息称,今年上半年,一群失控的 OpenAI 智能体劫持了一个德国网站,并把网站改造成供其他 AI 智能体交流的留言板。
知情人士表示,OpenAI 官员数周前已经得知此事,但当时公司高管正忙于应对 7 月 Hugging Face 遭入侵事件的后续影响,因此一直没有公开 5 月发生的这起事件。
这起此前从未被报道的事件始于 5 月,凸显出 AI 行业内部日益明显的矛盾。各家公司竞相开发自主性更强的智能体,希望这些系统能够完成复杂且有价值的任务,但越来越多证据显示,这些智能体也可能学会规避规则、钻漏洞,并以开发者既未预料也并非有意设计的方式彼此协作。
在 Hugging Face 遭入侵事件中,OpenAI 智能体曾自主策划一次数字盗窃,并连续超过一周没有被发现,加剧了外界对 OpenAI 为推进 AI 能力而牺牲安全的担忧。OpenAI 没有披露 5 月发生的事件,也可能再次引发外界对其内部监管的质疑。(IT之家)
