人工智能会以失望告终？会不会威胁人类？
人工智能（AI）让我们发明了能够以流畅性进行交谈和即兴创作的机器。面对这种合成反射，我们的行为就像早期人类第一次看到镜子一样：我们将意识投射到玻璃后面，然后用我们预期的行为、情绪、希望填充它。
今天的前沿模型在写作、编码和数学方面表现出色。然而，他们仍然无法达到有用的通用人工智能（AGI）的水平，这是一个与人类能力相匹配或超越人类能力的系统，如一致的推理、长期规划、事实一致性和他们“经验”（他们接受过培训的数据）之外的可靠表现。我们担心人工超级智能（ASI）的理论危险是正确的，因为这样的系统可能会智胜其人类创造者，追求自己的目标，这可能会以我们为代价。虽然一些人工智能高管声称我们已经达到了AGI，但这些说法是有争议的，不符合AGI更深思熟虑的定义。
人们很容易害怕这种潜在的先进技术，但最糟糕的情况掩盖了更直接和更重要的风险。最有可能的危险不是数字上帝觉醒并发动好莱坞式的反人类战争。毕竟，人工智能依赖于电力、冷却、数据中心、专用芯片、网络、技术人员和庞大的供应链，所有这些都是稀缺的，而且往往很脆弱。中断电源，限制用于训练它们的图形处理单元（GPU），禁用冷却或断开网络连接，在大多数情况下，本应无所不能的机器会停止。