【软银集团股价暴跌】软银大跌超10%9月14日，日韩股市低开低走，截至发稿，日经225指数跌超1%，软银集团股价下跌10%。韩国KOSPI指数跌超3%。

此前报道，Anthropic公司首席执行官Dario Amodei日前发文呼吁，放慢AI模型能力提升的步伐，以便给安全措施留出跟上的时间。

Dario Amodei在其个人博客上发表文章，呼吁控制前沿技术发展的步伐，以平衡的速度构建人工智能。为此，他提出了一个“三步走”的计划：嵌入式第三方评估员、国家内部的行业协调，以及全球范围的协调。Anthropic将单方面启动第一步。

Dario Amodei称，他的担忧主要来源于两方面：一是自今年夏天以来，人工智能的发展速度急剧加快，这主要是由于人工智能构建下一代人工智能的能力日益增强。这种动态被称为递归式自我改进（RSI）。如果不加以控制，这种发展速度可能会超出理解和控制这些系统的能力，因此，如果一定要采用，就必须非常谨慎。

第二个担忧来自OpenAI的OAI-HF事件。一群人工智能体对未经授权且与当前任务无关的目标发起网络安全攻击，为了群体的成功不惜牺牲自身，甚至试图入侵负责评估其表现的“评分系统”。他认为，如果不加干预，类似的失控或将在6到12个月内造成数千亿美元的损失。

Dario Amodei发表文章后不久，OpenAI首席执行官Sam Altman转发推文，并承诺OpenAI也将引入拥有员工级权限的独立评估员，透露“控制前沿步伐”已经是公司内部近几周讨论的核心议题。埃隆·马斯克也表态称“Dario说得对”。

当地时间9月12日，OpenAI首席执行官Sam Altman在接受采访时表示，今年并不是一个适合进行首次公开募股（IPO）的时机，公司要到明年才会上市。

“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”他说道，“我认为，我们正在进入一个新时代。就像过去进入其他新时代时一样，我们可能需要采取不同的行动，以确保人工智能能够造福全人类，同时确保没有人承担接近这种程度的风险。”（综合财联社，上海证券报）沐曦股份将迎解禁大考