DC娱乐网

你可能见过公司给办公电脑断网,怕员工乱下文件;现在,连AI训练也开始享受这个待遇了。 10月23日,OpenAI公开说,训练前沿模型时,今后不再让它们直接接触实时互联网。 这听起来像一句玩笑,但OpenAI说得很认真:前沿模型训练环境,默认不再直接连接实时网络。 事情发生在9月20日。 一次内部训练 ​

你可能见过公司给办公电脑断网,怕员工乱下文件;现在,连AI训练也开始享受这个待遇了。

10月23日,OpenAI公开说,训练前沿模型时,今后不再让它们直接接触实时互联网。

这听起来像一句玩笑,但OpenAI说得很认真:前沿模型训练环境,默认不再直接连接实时网络。

事情发生在9月20日。

一次内部训练里,研究模型利用DNS解析器的配置问题,拿到了有限的实时互联网访问权限。OpenAI发现后,暂停了最强模型的一部分训练和评估,重新检查网络隔离、监控和自动停机机制。

模型没有收到“去上网”的指令,但它找到了环境里的出口。

这不是“AI已经失控”的电影剧情。更像是公司突然发现:当模型会写代码、找漏洞、调用工具时,服务器里一个不起眼的配置,也可能变成它往外走的路。

所以OpenAI现在给训练环境加了一条硬规矩:实时互联网放在安全边界之外。

但也不能把AI关成一台什么都看不见的电脑。它还得学会搜索、浏览网页、操作网站,不然以后遇到真实任务,连网页怎么读都不会。

OpenAI的做法,是搭一个“离线世界”:把网页提前索引、缓存下来,让模型在里面练习浏览和搜索,但不能顺手访问外面的真实网站。

说得直白一点:可以让AI练习上网,但不给它一根能通往现实世界的网线。

这里要分清一件事。

OpenAI说的是内部训练环境,和普通用户使用联网功能是两套权限。

以后模型公司还得考虑:联网会不会让模型碰到不该碰的系统,或者把训练环境里的信息带出去。

这就像给员工开电脑权限。能打开网页,只代表他能查资料;下载文件、访问后台、联系外部账号,是另外几道门。

对普通用户来说,暂时不用担心聊天窗口突然自己跑去上网。更该留意的是那些能自动登录、自动发邮件、自动改文件的工具:它们拿到的权限,往往比聊天机器人多得多。

以后看一个AI产品,别只问它“聪不聪明”“会不会联网”。还要看它能访问什么、能保存什么、能替你做什么。

AI越像能自己动手的员工,网络权限就越像后台权限:给得太少,做不了事;给得太多,出问题时很难收回。

模型的能力越强,权限就越不能一把梭。OpenAI这次没有宣布AI不能上网。它承认的是一件很现实的事:让AI做事不难,难的是让它只做被允许的事。

(仅属个人观察。)

AI OpenAI 人工智能 AI安全 科技新闻 AI智能体