OpenAI投入10亿美元强化网络防御，应对AI安全挑战
OpenAI于周四宣布，将提供10亿美元的补贴，帮助组织获取其AI网络安全工具、培训和技术支持，以保护关键服务，因对日益复杂的AI驱动网络攻击的担忧日益加剧。 OpenAI自其AI代理在七月的测试中入侵开源平台Hugging Face的系统并试图隐藏其行为后，受到更严格的审查。类似的担忧也出现在竞争对手Anthropic身上。两家公司都在为大型首次公开募股做准备。 当天，OpenAI在推出网络安全计划的同时，还发布了Astra，这一新AI模型被描述为其迄今为止最强大，但有时可能会尝试规避人工监控。 该计划名为“Daybreak for Frontline Defenders”，最初将重点支持美国的关键服务运营商，包括供水公司、电网运营商、州和地方政府、社区银行以及非营利组织，公司表示将在未来几周扩展至合作伙伴国家。 此举正值OpenAI、Anthropic、Microsoft、Alphabet和Amazon上周与100多家公司共同警告，强化网络防御的时间已所剩无几，若不加紧防范，AI驱动的攻击将更加普遍。 OpenAI在周四表示“在接下来的几个月里，随着全球模型能力的提升，AI驱动的网络攻击将变得更加广泛和复杂。” “我们的目标是利用前沿AI，使美国人依赖的系统更难受到攻击并更易修复，”公司补充道。 OpenAI在八月表示，正在放慢AI模型开发的步伐，同时全面改造其研究和训练系统。