您现在的位置是：首页 >技术交流 >ChatGPT训练一次要耗多少电？网站首页技术交流

如果开个玩笑：问ChatGPT最大的贡献是什么？

“我觉得它对全球变暖是有一定贡献的。”知名自然语言处理专家、计算机科学家吴军在4月接受某媒体采访时如是说。

随着ChatGPT引爆AIGC，国内外巨头纷纷推出自己的AI大模型，大家为人工智能所描绘的盛世图景欢呼时，也应留意到盘踞在其上方的阴影——电力成本。

根据斯坦福人工智能研究所（HAI）发布的《2023年人工智能指数报告》，OpenAI的GPT-3单次训练耗电量高达1287兆瓦时（1兆瓦时=1000千瓦时）。

这是什么概念呢？对此吴军打了个形象的比方：

“ChatGPT训练一次要耗多少电？大概是3000辆特斯拉电动汽车，每辆跑到20万英里，把它跑死，这么大的耗电量，才够训练一次，这是非常花钱的一件事。”

据美国国家环保署评定，特斯拉Model Y每百英里（161公里）耗电28千瓦时，1278兆瓦时相当于3000辆特斯拉，每辆跑满20万英里（32.2万公里）。而根据一般的经验法则，大多数司机认为20万英里大关是汽车寿命上限。

OpenAI曾发布报告指出，自2012年以来，AI训练应用的电力需求每3个月到4个月就会翻一倍。大规模AI训练和推理通常需要庞大的数据中心算力提供支持，其背后有大量电力供应和冷却系统昼夜运转，由此导致能源成本和温室气体排放增加。

考虑到IT部门的高能耗胃口，为了消除工作负载、硬件和数据足迹中的低效率，最大限度地节约能源和资金，企业需要将数据中心置于IT运营的核心地位，从整体视角重新评估运营各个方面，从而推进可持续发展、优化能源效率。降低能耗的整体方法可能包括以下策略：

01使用高效节能的设备

企业需要对所有 IT 设备进行全面评估，识别出能耗较高的设备，用更节能的产品替换它们。作为全球领先的数字化解决方案供应商，戴尔科技集团将可持续发展置于一切工作的核心，不断提高数据中心基础设施解决方案的标准，帮助客户实现可持续发展目标。

02智能能源管理和监控

根据戴尔创新指数调查，39%的受访者正在转向技术以获得对碳影响更高的可见度。机器遥测数据可以为高能效、高性能机器的最佳组合提供微调的见解，从而使设备只在需要时使用电力。戴尔PowerEdge家族智能运维工具可助力企业实现碳排放能源洞察，提高可持续性。

03按需使用服务

仅在需要时使用数据和能源服务，有助于削减所有系统始终以最大负荷运行的开销。企业通过即服务选项来消除过度配置造成的浪费，而且无需操心生命周期管理，从而节省了在停用和报废硬件上花费的时间。

越来越多的企业开始认识到“即服务”的价值，在戴尔创新指数调查中，42%的企业正在尝试将能源使用作为一种服务来管理能源消耗。

总结：日益突出的能源成本迫使企业重新审视其对能源效率的看法，他们正在意识到绿色可持续不仅有助于保护环境，而且还能节省成本。在整体推进可持续发展时，企业需要全力以赴，而不是简单地修修补补。对IT来说，现在是拥抱可持续发展的最佳时机，也是更加必要的时机。