大型科技公司在人工智能数据中心上的支出有多大？ 大型科技公司正在大举向人工智能数据中心投资数十亿美元，以满足对高级人工智能工作负载所需的计算能力和基础设施不断增长的需求。 该图表显示了2024年1月至8月微软、谷歌、Meta和亚马逊的人工智能总资本支出和数据中心运营成本。 人工智能资本支出是对长期人工智能资产和基础设施的一次性的投资。 数据中心运营成本是指人工智能数据中心日常运行和维护的持续支出。 这些数据来自摩根大通的New Street Research，截止到2024年8月更新，数字以十亿美元计。运营成本包括现金经营费用、软件费用、折旧费用和电费。 ——训练人工智能模型消耗了大量成本 微软目前在人工智能数据中心的总成本方面处于领先地位，截至2024年8月，其资本支出和运营成本总计为460亿美元。 微软目前也拥有最多的数据中心，有300个，其次是亚马逊，大约有215个。然而，大小和容量的变化意味着设施的数量并不总是反映总计算能力。 9月，微软和贝莱德通过全球人工智能基础设施投资伙伴关系（GAIIP）公布了一项1000亿美元的计划，以开发以人工智能为重点的数据中心和支持它们的能源基础设施。 值得注意的是，谷歌和亚马逊目前花在训练模型上的钱是为最终用户运行模型的两倍多（推断）。 主要人工智能模型的训练成本越来越昂贵，因为它需要大量的数据集，复杂的计算和大量的计算资源，通常涉及强大的GPU和巨大的能耗。 然而，随着人工智能模型部署的频率和规模不断增长，推理的累积成本可能会超过这些初始训练成本，OpenAI的ChatGPT已经是这种情况。
