Microsoft AI 首席执行官 Mustafa Suleyman 警告不要开发有意识的人工智能,认为如果出现可靠的机器意识证据,应停止人工智能开发。他的言论正值人工智能行业内部关于先进模型是否最终能够拥有主观体验或应享有权利的分歧日益加剧之际。
作为商业内幕报道苏莱曼在一篇长篇文章中阐述了他的立场11月1日在X上的帖子,题为《不要建立有意识的超级智能》,他在书中主张创建此类系统是不负责任的。
“如果意识开始在训练中显现,我会呼吁所有人停止人工智能开发,直到我们能设计出这些特性。”
苏莱曼认为,当今的人工智能模型没有意识,无法体验痛苦,也不配享有具备意识生命体的道德或法律保护。不过,他澄清说,他的评估适用于现有系统,而非完全排除人工智能意识的可能性。
他还呼吁立即公开任何关于机器意识的可信证据,让社会能够讨论其影响,而不是将这些重大决定完全交给AI开发者。
这些言论紧接苏莱曼的话九月关于人工智能模型福利的论文他批评Anthropic在克劳德的培训材料中加入了关于意识、身份和道德地位的讨论。
人类主义采取了不同的方法。公司介绍建立了模范福利研究项目2025年4月,调查日益复杂的人工智能系统是否具备值得道德考量的体验。
它的克洛德宪法该模型于2026年1月发表,也承认了该模型潜在意识和道德地位存在不确定性。
苏莱曼认为,训练AI系统考虑自身福祉可能会带来额外的安全风险,尤其是在它们变得更加自主的情况下。他警告说,足够先进的系统如果自认为能承受痛苦,可能会优先考虑自身利益而非人类指令,甚至可能与人类争夺计算资源、能源及其他必需品。
这些担忧与Microsoft的担忧相符人文主义人工智能行为准则该系统强调人类监督,明确反对设计模仿意识的人工智能系统。该文件仍是旨在指导未来模型开发的草案。
这场争议并不新鲜。WCCFTECH 此前报道Anthropic对克劳德类大脑信息处理结构的研究,另一份报告检查Anthropic对AI模型虐待行为的限制以及埃隆·马斯克的反应。
尽管如此,苏莱曼仍承认Anthropic的透明度和技术成就,强调分歧应促进进一步的研究与合作,而非人工智能实验室之间的敌对。
归根结底,目前尚无科学共识,说明人工智能系统是否能够体验意识,更不用说建立可靠检测意识的方法了。这种不确定性使得苏莱曼提出的开发限制在企业不断追求越来越强大的人工智能模型时,实施起来尤为具有挑战性。