大模型生命周期评估

第12章 环境影响

在本章中，首先提出一个问题：大语言模型对环境的影响是什么？

这里给出的一个答案是：气候变化

一方面，我们都听说过气候变化的严重影响(文章1、文章2)：

• 我们已经比工业革命前的水平高出1.2°C
• 需要保持在1.5°C以下以避免气候危机
• 根据目前的轨迹，在未来几十年内将达到2.7°C

另一方面，我们看到训练大语言模型所需的计算量大幅增加（从而导致二氧化碳排放）。以下是一些数据：

• Strubell et al., 2018估计，训练排放了626,000磅二氧化碳（5辆汽车终生的排放量）。
• DeepMind的Gopher报告称，训练产生的二氧化碳估计为380吨。</