AI的真正风险：不是“数字之神”觉醒，而是人类的恐惧！

面对人工智能，我们常常陷入一种近乎本能的恐慌。那些关于超智能AI将毁灭人类的警告，往往出自AI企业高管之口，却未必经得起推敲。更可能的情况是，这项技术最终令人失望——而真正值得警惕的风险，恰恰被这种夸张的叙事所掩盖。

据Live Science援引业界人士观点，AI之所以令人恐惧，一方面因为它尚属新生，另一方面则因为它令人不安地似曾相识。我们已经创造出能以惊人流利度对话、奉承、辩论并即兴发挥的机器。面对这面人造的镜子，我们的反应如同远古人类初次见到镜子一般：将意识投射其中，填充以自己所期待的行为、情感、希望与噩梦。换句话说，是我们自己吓坏了自己。

实际上，人们容易对潜在先进技术心生恐惧，但最坏设想往往掩盖了更紧迫的风险。最可能的危险并非某个数字之神苏醒并发动好莱坞式的人类战争。AI离不开电力、冷却系统、数据中心、专用芯片、网络、技术人员以及庞大的供应链——这些要素无不稀缺且脆弱。一旦断电、限制GPU、关闭冷却或切断网络，那台号称无所不能的机器便会停摆。一个真正的人工超级智能或许会明白：摧毁自身赖以运转的工业体系无异于自取灭亡。它还可能意识到自己对物理世界的理解是有限且间接的——它缺乏与世界融为一体的直观感知。这种真正的智能可能与人类智能截然不同，拥有不同的优势、劣势、思维方式，甚至伦理准则。

最值得担忧的系统未必是最智能的，而恰恰是那些不完全智能、仅针对特定目标行事、被赋予自主行动能力并被赋予关键基础设施访问权限的系统。它们可能仅仅因为不了解更优方案，而无意中伤害我们。关键问题在于：我们将哪些权力交予此类系统。短期内，两种风险应被优先关注：网络破坏与长期经济动荡。AI驱动的网络攻击可能对发达经济体造成严重破坏，因为医院、银行、能源网络、物流企业以及政府都依赖相互连接的数字系统。

此外，还有一种令人不安的可能性：AI实验室本身也在加剧恐惧与不确定性。将产品描绘成可能带来世界末日，无疑意味着赋予其前所未有的影响力。然而，这类叙事不过是一种营销手段；即便商业模式仍充满不确定性，它们仍有助于维持投资、捍卫股价，并为IPO做好准备。更为平淡的结果或许是“巨大的失望”。先进AI可能被证明成本过高且实用性不足，难以维持当前发展势头。前沿系统的训练与运行耗费海量计算时间、电力、水资源、资金、硬件与人力。除非成本降至当前水平的一小部分，否则“超大规模AI”的经济性很可能难以为继。与此同时，可靠性、可解释性和持续学习等未解难题，正被竞相打造更强大模型的热潮所掩盖。

AI最具说服力的应用场景，或许恰恰在于专用型AI：如AlphaFold2预测蛋白质结构，或WeatherNext 3进行全球天气预报。这些系统专为绩效可量化、收益足以覆盖成本的领域而设计。当AI应用于药物研发、疾病诊断、材料科学、电网优化以及气候变化建模时，它确实大有裨益；而那些仅用于生成电子邮件、广告和合成娱乐内容的类人聊天机器人，则另当别论。最大的悲剧，或许也是最大的风险，在于继续将宝贵资源投入打造平庸的AI仿制品，继而在对AI感到厌倦或恐惧时，恰恰在它最能发挥价值的时刻弃之而去。人工智能短期内不太可能成为我们的征服者，相反，它很可能沦为一场代价高昂的失望。然而，如果由此引发的强烈反弹阻碍了那些有望治愈癌症或应对气候变化的研究与应用，那么这场失败的责任将属于我们当代人。热门微博科学新闻人工智能科技快讯