Luccioni et al. z Hugging Face poskytli komplexní hodnocení uhlíkové stopy velkého jazykového modelu BLOOM:
- Trénink: 24,7 tun CO2eq
- Výrobní emise hardwaru: dalších 7,6 tun
- Denní inference: přibližně 914 kWh denně
- Energie nasazení převyšuje energii tréninku v průběhu životnosti
Klíčový poznatek
Inference (skutečné používání) rychle dominuje celkové uhlíkové stopě. S miliardami denních AI dotazů je uhlíkový rozpočet inference enormní.
Zdroj
Luccioni, A. S. et al. (2023). JMLR, 24(253), 1-15.