勾配消失問題（AIの学習課題）
意味・解説
ニューラルネットワークの層が深くなるにつれ、学習のための「エラー情報（勾配）」が途中で小さくなり、入力層に近い層の重みが更新されなくなる現象。
誤差逆伝播法において、活性化関数の微分値を何度も掛け合わせるうちに値が0に近づき、学習が停滞する。ReLU関数の採用や残差接続（ResNet）などが解決策となる。
くわしく
「伝言ゲームの末に、情報が消えてしまう」問題です。
1.メカニズム：
AIは出力（結果）のミスを逆向きに伝えて反省しますが、層が深い（ディープな）ほど、途中で計算される「修正の強さ（勾配）」がどんどん弱まり、最初の層に届く頃にはほぼゼロになります。
2.影響：
AIの脳の深い部分が「何も学ばない」状態になり、精度が頭打ちになります。ポイントは、この問題を克服したことで、初めて「深層」学習が実用的なレベルに到達し、現在のAIブームが始まったからです。
例文
層を深くしたニューラルネットワークの学習が停滞したため、活性化関数をシグモイド関数からReLUに変更して勾配消失問題を回避した。
同義語: 消失勾配問題
対義語: 勾配爆発問題
分類: 深層学習の最適化