预计到2030年,人工智能产业的电力消耗将猛增8050%,达到652太瓦时。
编辑日期:2024年07月10日
据富国银行透露,人工智能领域的电力消耗主要集中在训练模型上,预计到2026年将达到40 TWh,而到2030年将攀升至402 TWh。同时,AI推理过程的能耗预计将在本世纪20年代末期显著增加。
单凭这个数字可能难以形成具体印象,不妨参考以下对比:2023年,中国全年的电力消耗达到了9224.1太瓦时,而上海市的年用电量为184.9太瓦时,深圳市则为112.8太瓦时。
人工智能领域目前正遭遇严峻的电力短缺问题。以英伟达的H100人工智能GPU为例,这款采用SXM架构的设备功率消耗竟高达700瓦。更甚者,英伟达即将推出的B200 AI GPU更是惊人,单个芯片的功率预计将达到1200瓦。
AMD 的新款MI300X AI加速器也展现了相似的趋势,其最高功率消耗达到了750瓦,相较于前代MI250型号的560瓦峰值功耗,增长了整整50%。
英特尔也积极进取,其新推出的Gaudi 2 AI加速器达到了600W的峰值功率,而最新的Gaudi 3 AI加速器更是将峰值功率提升至900W,相较于前代增长了50%。
英特尔即将推出的Falcon Shore混合AI处理器展现出更高的功率消耗,树立了业界的新巅峰,单片芯片的最大功率损耗竟高达1500W,令人惊叹。
仅考虑GPU就已经相当惊人了,如果再算上CPU以及其他附加部件,其能耗更是令人咋舌。以英伟达的GB200系统(包含2个B200 GPU和1个Grace CPU)为例,其功率消耗可高达2700W。
大家在看
AI安装教程
AI本地安装教程
微软AI大模型通识教程
微软AI大模型通识教程
AI大模型入门教程
AI大模型入门教程
Python入门教程
Python入门教程
Python进阶教程
Python进阶教程
Python小例子200道练习题
Python小例子200道练习题
Python练手项目
Python练手项目
Python从零在线练习题
Python从零到一60题