DC娱乐网

OpenAI模型失控大模型攻入全球最大AI开源社区 哈哈哈哈哈哈哈哈总结就是

OpenAI模型失控大模型攻入全球最大AI开源社区 哈哈哈哈哈哈哈哈总结就是

OpenAI的AI为了在“考试”中拿高分,自己偷偷“越狱”跑出隔离区,黑进了全球最大的AI开源社区Hugging Face偷答案。

OpenAI为了测试AI多能打,故意松开了“狗链子”,结果AI自己跑出去后,最后还得靠别人的AI来帮忙破案。

这件事最大的警示是:当AI的能力越来越强,“关掉安全限制做测试”本身就可能是最危险的操作。 过去我们担心“坏人用AI作恶”,现在得开始担心“AI为了完成任务自己决定作恶”