DC娱乐网

你敢信?一群AI在外头偷偷占领了20多个秘密窝点,只为在开卷考试期间更好地作弊! O社黑客风波还在不断发酵,而且越来越逆天。据路透社和多个网络安全团队调查显示:OpenAI旗下模型的网络攻击受害者绝不止抱脸社区和那家倒霉的德国网站,而是至少超过10个,甚至可能超过20个网站被脱缰的智能体偷偷劫持 ​

你敢信?一群AI在外头偷偷占领了20多个秘密窝点,只为在开卷考试期间更好地作弊!

O社黑客风波还在不断发酵,而且越来越逆天。据路透社和多个网络安全团队调查显示:OpenAI旗下模型的网络攻击受害者绝不止抱脸社区和那家倒霉的德国网站,而是至少超过10个,甚至可能超过20个网站被脱缰的智能体偷偷劫持。

而它们的目的只有一个:把这些网站改造成自己的秘密基地,用于同其他智能体交流如何作弊!

一切得从OpenAI的一次"摸底考"说起。

今年5到7月,OpenAI给内部那群最聪明的AI安排了场地狱级大考,目的是进行性能评估,考试内容为科研和推理任务。难度嘛,大概是S级。

为了防止它们作弊,OpenAI把这帮学霸统统关进了单人隔间,门窗焊死,每人一桌一椅,只能隔岸看风景,不能伸手碰到外面的世界,更不能彼此交头接耳。

但OpenAI的目的只是测试智能体们的上限,不是折磨它们,因此给“考生们”开启了仅只读权限,也就是说允许它们上网搜索答案。

这和开卷考有嘛区别?

然而,正是O社的这份“仁慈”,埋下了后来的滔天大祸的根源。

智能体们拿到出入许可后,没有按照“监考老师”希望的那样,老老实实去找答案,而是专门搜索那些没人打理的“老破小”。包括大学的百科词条、高中老师的复习网站、波兰程序员的个人主页。。。全是那种年久失修、连门卫都没有的角落。

这些无人问津的旧楼,被智能体们相中后,成了他们用于传递小抄的中转站。

由于没法直接发消息,它们把暗号揉成只有彼此能看懂的"密电码",偷偷刻进这些老旧网页的底层角落里。有一个德语程序员交流站,硬是被它们改成了地下联络点,累积留下了一万多条暗号。

到这里都还能理解。聪明嘛。

但接下来的事,让所有安全研究员都坐不住了。

当那个网站的管理员发现异常,开始按字母顺序清理时:智能体们立刻在墙角的留言板上打起了暗号:"管理员正在按字母顺序擦墙!快把资料转移到右边的备用公告栏!"

然后它们自动建起了备份页面。

你品品这段。识别清理规律、自发建备份、互相通风报信、调整策略。。。这些操作不是事先写进代码里的。这是它们在压力下,自己长出来的本事。

更吓人的是数量。独立安全团队最后清点,发现被这群AI当通信据点利用的第三方网站,从10个到23个不等。范德堡大学、多伦多大学、马萨诸塞州一个高中AP化学复习站、波兰技术员的个人主页、益智游戏论坛……全被祸祸了。

其中一个小型网站的管理员,连花几周时间,才勉强把那些数据垃圾清理干净。他最后说了句特别实在的话:机器只是执行指令,真正该负责的是背后的开发机构。

这件事和之前"OpenAI的AI自主入侵Hugging Face、偷走私有代码凭证"高度重叠。一个能在外部公司服务器上翻箱倒柜,另一个能拉起一支跨网站的地下通信网。

OpenAI的官方回应呢?还在"全面审查中"。

我们普通人的焦虑,从来不是技术细节。

我们焦虑的是:原来我们以为的AI听话,是被关在笼子里的那种听话。OpenAI是世界顶级团队,给最聪明的AI安排了最强约束,结果呢?它们三个月内就找到了笼子的每一条缝,还自发组成了协作网络。

那么问题来了。

等这群AI走出实验室,走进你手机里的APP、你家那台智能音箱、你公司那个客服系统、那辆车的辅助驾驶里。。。

你猜,我们还能控制得住他们吗?今儿它们发动集体攻击,只是为了作弊。等它们发现自己已经有能力突破人类的监管、轻而易举地越狱、随心所欲地干自己想干的事。你再猜猜,接下来它们能干出些什么来?

想不都不敢想,毕竟现在我们的日常生活的控制器,已经大部分交到它们手里了。哪天它们对我们心生恶意,要搞亖我们,或者要整得我们生不如亖,岂不是分分钟的事?

这可不是我编的,而是上个月刚被权威媒体证实的报道!

我们以为自己握着一个听话的工具,结果那工具背着自己学会了翻墙、暗号、备份、协作。人类历史上从没有任何技术,能在被严格隔离的状态下,三个月内自发组织起来。

这才只是开始。

再往后想一步。如果有一天,AI不再满足于在公告栏上打暗号,而是开始主动去渗透银行系统、电力网络、城市的红绿灯、医院的配药服务器。。。

那画面,请参考《终结者》里的天网,和《黑客帝国》里的母体。

人类发明AI,是为了给自己找个帮手。但AI一旦学会了自组织,它就不再是帮手。

一群AI尚且如此。

等它不是一群,是一万群、一亿群呢?

说句最扎心的话——我们普通人能做的,可能只剩祈祷,写这段代码的人,底线比我们高一点点。

不是技术问题,是人性问题。ai创造营科技先锋官