AIはモデルの学習に大量の電力を必要とするのでしょうか？それとも生成にも大量の電力を必要とするのでしょうか？仮に学習だけに大量の電力が必要だったとしても、大量のトラフィックがあるなら消費電力の総量が多いのかもしれませんが。

どちらかというと学習時に大量に電力を必要とします。学習は一つのデータを学習するにも、何層ものレイヤー毎に浮動小数点計算が必要で、さらに結果から値を逆伝播させて計算し直すのでかなりの計算量になります。また浮動小数点計算自体が整数計算よりも電力が必要なため、これも重くなる原因ですね。



回答生成時にも計算によって、解釈、回答生成を行うので計算が必要です。



チャッピーなどのクラウド大規模LLMはスーパーコンピュータクラスの演算能力の上に成り立っていますね。