Chatgpt如此耗费电力吗？

出现最新方程​​式：

Chatgpt的每日功耗约为17,000元。

什么概念？光电法案将在一年内损失2亿元人民币！

美国普通家庭的平均每日电力消耗为29 kWh，而Chatgpt的单日电力消耗超过500,000 kWh。

（美国的商业用电量曾经约0.147美元，即1.06元，相当于每天530,000元）

一旦新闻发布，它便成为热门搜索的头号。

除了Openai，Google还“不被低估”：

Google在Google搜索中使用生成AI技术，每年将消耗多达290亿千瓦时的电力，这意味着每天约7900万千瓦时（？）。

将来，AI，“电力野兽”将胃口更加惊人。

统计数据：

到2027年，人工智能数据中心的电力消耗将与荷兰和瑞典等小国的电力相媲美。

一些网民在阅读它后说：

这适用于光伏和风能吗？

因此，最终，AI与谁产生更多的电力并产生更少的电力成本的人竞争？

01 AI消耗多少电？

上面的数据来自论文“艺术智能的不断增长的能量足迹”。

作者是荷兰数字经济学家Alex de Vries，他通过Nvidia，OpenAI和Google等公共数据估算。

结果，得出了许多意外的结论。

首先，与推理阶段相比，大型模型训练期间的功耗不再值得一提。

半分析数据表明，OpenAI需要3,617个NVIDIA HGX A100，总共需要28,936 GPU才能支持CHATGPT推断。

Chatgpt每天需要回应1.95亿个请求，预计每天消耗564兆瓦的电力，每个请求约为2.9瓦小时。

在整个训练阶段，GPT-3的功耗估计为1287兆瓦时，这是Chatgpt的消费量约4天。

Google报告还指出，从2019年到2021年，与人工智能相关的能源消耗中有60％来自推理部分。

因此，当论文提出将来研究AI电力消耗时，应从全周的角度考虑它。

但这也与模型再培训频率，模型性能和功耗之间的平衡有关。例如，在推理阶段，Bloom的功耗大大降低。

其次，如果搜索引擎使用AI，它们的功耗将更高。

Google在去年2月表示，对请求的响应成本可能是普通搜索的10倍。

数据表明，使用Google搜索所消耗的功率为0.3瓦小时。这与上述分析中给出的数据相呼应。

如果您想将大型模型功能植入Google搜索中，则预计您将需要512,821 HGX A100。根据每台6.5千瓦的功率消耗计算，每天需要80 gwh的电力，每年29.2吨。

目前，Google每天需要处理多达90亿个搜索。如果您计数，则每个请求的平均消耗为6.9-8.9瓦小时，是普通搜索的20倍。

在NVIDIA的财务报告数据中也可以看到同样的现象。

在去年第二季度，NVIDIA的收入创下了创纪录的纪录，与上一季度相比，数据中心部门增加了141％，表明对AI的需求增加。

今年，NVIDIA AI服务器的运输可能达到150万台，总功耗可能达到9.75-15.3 GW。该数量级的服务器每年将消耗85.4-134 Terawatt小时。

但是，AI功耗会飙升吗？

研究认为这不一定是正确的。

即使是像Google这样的制造商，这些制造商都将仔细考虑AI和搜索引擎的集成。在硬件，软件和电源成本的压力下，制造商可能不会那么快。

硬件生产本身也受到阻碍，AI繁荣使TSMC的高级包装生产能力紧密，但是直到2027年才开始大规模生产才能建立新工厂，这也可能影响NVIDIA的运输。

除了模型本身的算法和体系结构外，它还将在一定程度上降低AI功耗。

最终研究认为，不建议对AI电力消耗问题过于悲观或乐观。

在短期内，在各种资源因素的影响下，AI功耗的增长率将被抑制；但是，硬件和软件的能源效率的提高显然无法抵消电源需求的长期增长。

简而言之，作者认为，最好不要在AI开发方面浪费它。监管机构还需要考虑要求制造商披露相关数据以提高整个AI供应链的透明度，从而更好地了解这项新兴技术的环境成本。

实际上，AI消耗资源的主题以前引发了许多次讨论。

一些研究指出，到2027年，数据中心中人工智能的电力消耗将与荷兰或瑞典等小国的电力相媲美。

加利福尼亚大学河滨分校的研究表明，提出5-50个问题的问题可能会消耗500毫升的水。

由于AI超级计算数据中心需要大量的水以散热，因此微软还承认，用水是培训模型的主要成本。从2021年到2022年，其全球用水飙升了34％，与对AIGC的研究相比，它急剧增加。

02 Netizen：这也取决于输出

除了微博之外，#Chatgpt每天消耗超过500,000度的电力的消息也达到了Zhihu的第三名。

尽管这些数据看起来很棒，但许多网民说：

我们仍然需要比较输入输出。

Zhihu Netizen @duan Xiaocao刚刚检查出来：

每天500,000千瓦时，17,000个美国家庭。但是，在美国，只有1.2亿户家庭仅需要家用电力的十分之一，可以支持为世界上排名前1的AI产品，并为数亿用户提供服务。这仍然是浪费能量并损害环境吗？

含义如下（来自Zhihu Netizen @Jule Gezai）：

Chatgpt创造的价值实际上远远超过了其能耗。

与某些技术的功耗相比（哎呀，我知道一切），这可能不太值得一提。

因此，某人（Zhihu Netizen @官方日）直接指出，应理解此消息如下：

令人震惊的是，普通家庭只需要17,000元的电力即可满足Chatgpt的日常电力需求。 （手动狗头）

有趣的是，有趣的是，上面的答案者@duan Xiaocao还提到了一篇题为“写作和Lllllustrating的碳排放量对人类的碳排放量低于人类”，其中谈到了AI在绘画和写作中的碳发射，一个是人类的310至2900倍，而其他人则比其他人比130至1500倍的人比人类小。

这样，AI甚至可以被视为“节能和减少排放的先驱”。 （手动狗头）

现在，让我们洗个澡，尽早上床睡觉，并注意何时发布GPT-5。

03 Ultraman：我们需要受控的核融合

话虽如此，尽管与收益相比，Chatgpt每天的能源消耗不值得一提，但AI能源消耗确实是一个值得关注的问题。

长期以来，Ultraman一直在“担心”这一点。

在今年1月的达沃斯会议上，他说：

人工智能的未来取决于清洁能源的突破。

来源挖掘

他认为，具体来说：

随着技术变得越来越成熟，AI将消耗越来越多的电力。如果能源技术无法通过，它将无法实现此目标（即，让AI技术释放其全部潜力）。

现在，公众对这一需求的规模并不熟悉，Ultraman本人表示，这远远超出了他的期望。

至于如何增加能源生产，他还直言不讳：

可控的核融合，或便宜的太阳能和存储等。

- 当核融合受控时，Ultraman实际上押注了一家名为Helion的相关公司。

他投资了3.75亿美元，这是他个人名字的最大投资。

此外，Ultraman的“ Dad” Microsoft还押注该公司。

据了解，Helion成立于2013年，目前拥有约150多名员工。预计他们将在2028年发起50兆瓦的受控核融合发电项目，微软将是第一个购买它的人。

Mingmin Feng Color来自Aofei Temple

量子位|官方帐户QBITAI

原始报告：

（23）00365-3

参考链接：

[1]

[2]

[3]

[4]

[5]