【山姆·奥特曼表示,他最担心的事情之一是少数几家公司会控制人工智能】
[AI自由!]
(商业内幕)OpenAI 首席执行官Sam Altman表示,他对人工智能最大的担忧之一不是人工智能本身是否会变得过于强大,而是单个公司可能会控制这种力量。
“我认为当下的斗争是:我们将走向人工智能专制主义的世界,还是走向自由的世界?”奥特曼在最新一期的“Relentless”播客节目中说道。
“人类每次为了安全而牺牲自由,最终都会蒙受长期的净损失,”奥特曼说。“我们将把这项技术交到人民手中。我们将赋予他们权力。我们将让社会表达他们的想法,并以他们想要的方式使用这项技术。”
这是OpenAI负责人提出的一个引人注目的观点。OpenAI是少数几家掌控着全球最强大AI模型的公司之一。此外,OpenAI是专有软件而非开源软件,这意味着它不共享其技术。
奥特曼的评论恰逢其时。此前一周,硅谷和华盛顿爆发了一场辩论,争论的焦点在于公众应该对前沿模型的架构了解多少。
Moonshot AI 近期发布了强大的中国开源模型Kimi K3 ,引发了一些美国官员呼吁限制对中国模型的访问,同时也招致了投资者和创业者警告,这样做可能会削弱全球竞争。
这种分歧不仅限于模型获取。美国的出口管制已经决定了哪些国家和公司能够获得最先进的芯片和计算能力,这使得华盛顿对谁能开发尖端人工智能拥有巨大的影响力。
微软、Meta、英伟达、OpenAI、谷歌和许多其他领先的科技公司签署了一封信,敦促华盛顿不要限制开源人工智能。
Anthropic是OpenAI最大的竞争对手,也是目前全球领先的人工智能公司之一。它是唯一一家既没有签署这封信,也没有公开支持其内容的大型前沿实验室。该公司以谨慎的态度著称,认为功能日益强大的模型需要更强有力的保障措施和更严格的控制。
与此同时,奥特曼表示,防止这种权力过度集中一直是他的人工智能愿景的核心,尽管他的公司仍然保持着自身模型的封闭性。
“长期以来,我一直专注于实现一个单一目标:丰富的智慧,并坚信只要我们不出现奇怪的权力集中和某种新的威权主义,人类的繁荣就会由此而来,”他说。