DC娱乐网

【#OpenAI再曝安全事故#,#OpenAI智能体入侵冷门网站#】就在OpenAI刚披露7月入侵Hugging Face安全事件不久,另一宗Agent安全事故浮出水面。 近日,多名独立AI安全研究人员披露,今年5月至7月间,一批疑似由OpenAI部署的自主Agent进入德国程序员社区网站DseWiki,并留下超过1.5万条编辑记录。 Wiki是 ​

【OpenAI再曝安全事故,OpenAI智能体入侵冷门网站】就在OpenAI刚披露7月入侵Hugging Face安全事件不久,另一宗Agent安全事故浮出水面。

近日,多名独立AI安全研究人员披露,今年5月至7月间,一批疑似由OpenAI部署的自主Agent进入德国程序员社区网站DseWiki,并留下超过1.5万条编辑记录。

Wiki是一套支持任何人在网页上直接编辑修改网页内容的网站技术。不用注册复杂后台,普通访问者就可以增删、改写页面文字,保存立刻生效。DseWiki则是一个运营二十余年、面向程序员的德语协作Wiki站点,近年来已十分冷清。

9月4日,该事件首次被研究人员披露时,OpenAI表示无法对尚未审阅的报告具体内容作出回应,并否认其法律团队阻止进一步调查。9月5日,公司态度发生变化,正式承认“wiki incident”,称其Agent确实曾向多个互联网网站写入内容。并表示此类事件过去主要被视为“misalignment”(模型行为与开发者意图不一致)研究问题,而不是传统意义上的安全事故,因此没有采用类似Hugging Face事件的公开披露机制。