AI新时代:英伟达H100芯片能耗引发关切
作者头像
  • 邱茜茜
  • 2023-12-28 00:00:00 3111

概览

人工智能的快速发展激增了对计算能力的需求,英伟达的AI处理器H100在市场上的受欢迎程度凸显了这一趋势。这款处理器的峰值功耗高达700瓦,远超普通美国家庭的平均功耗水平。随着大规模部署,专家预测H100的总功耗将相当于一座美国大城市,甚至可能超越一些欧洲小国的电力消耗。

H100的功耗之谜

去年10月,施耐德电气公司估算用于AI应用的数据中心总功耗已与塞浦路斯全国相当。而关于英伟达的H100处理器,其具体功耗数据引起了广泛关注。微软数据中心技术治理与战略部门的首席电气工程师保罗·楚诺克在其领英帖子中指出,若到2024年底,数百万块H100处理器被广泛部署,其总功耗将超过美国亚利桑那州凤凰城所有家庭的用电量,但依然略低于像得克萨斯州休斯敦这样的大都市。

数字揭秘:H100的电力浩劫

每块H100处理器在61%的年利用率下,每年消耗约3740千瓦时的电量。若按英伟达在2023年售出150万块,2024年售出200万块H100来计算,至2024年底,预计有350万块H100芯片投入运行。这些芯片的年耗电量总计将达到130.91亿千瓦时,即13091.82吉瓦时。

对比国家电力消耗

这一数字与一些国家如格鲁吉亚、立陶宛或危地马拉的年均电力消耗相当。尽管H100的功耗令人咋舌,但AI和高性能计算(HPC)GPU的能效正在不断提升。这意味着,尽管下一代Blackwell架构的B100芯片的功耗可能超过H100,它却有望提供更高的性能,从而实现更高效的运算,以较少的单位功耗完成更多的任务。

未来挑战与平衡

面对AI技术的迅速演进,如何在追求计算能力的同时,有效管理能耗,成为了一个亟待解决的关键问题。尽管当前的技术取得了显著进步,但对于环境友好型AI解决方案的研究与开发显得尤为紧迫。平衡算力与能耗,探索可持续发展的AI路径,将是未来科技领域的重要挑战。

    本文来源:图灵汇
责任编辑: : 邱茜茜
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
伟达能耗关切新时代芯片引发H100
    下一篇