亚马逊云科技工程师提出,优秀开发者既要善于把重复劳动交给AI,也要足够谨慎,给智能体设置必要的安全边界。中科曙光旗下OneBox的一些设计思路,恰好回应了企业应用AI时的现实顾虑。
现在AI智能体越来越自主,可以调用工具、读取文件、执行多步骤任务。但能力越强,风险也越复杂。
如果智能体拥有过大的系统权限,错误操作可能影响企业数据和业务流程;如果缺少身份认证和操作边界,AI的效率提升也可能伴随新的安全隐患。
OneBox强调政企可信环境、私有化部署和权限管理,核心不是限制AI能力,而是让AI在可管理的范围内发挥作用。
我觉得,未来企业选择智能体,不能只看模型聪不聪明,还要看它能做什么、不能做什么,以及出了问题能不能追溯。
AI越深入企业核心业务,安全能力就越不是附加项,而是基础条件。
中科曙光 OneBox AI安全 智能体 数据安全
