勾配降下法
意味・解説
機械学習において、予測の「誤差」が最小となるようなパラメータを、段階的に更新して見つけ出す最適化手法。
モデルの誤差を表す「損失関数」の傾き(勾配)を計算し、その傾きが最も急な方向(誤差が減る方向)へパラメータを少しずつ動かしていく。山の頂上から霧の中で最も低い谷底(誤差最小地点)を目指して一歩ずつ降りていく様子に例えられる。
くわしく
「AIが学習する際、自分の間違い(誤差)を少しずつ減らしていくための『歩き方のルール』」です。
1.学習率:
一歩の歩幅のこと。大きすぎると谷底を飛び越してしまい、小さすぎると辿り着くのに時間がかかります。
2.役割:
ニューラルネットワークの重みを調整し、より正確な予測ができるように鍛え上げる、AI学習のエンジンのような役割を果たします。
例文
ディープラーニングの学習において、勾配降下法を用いてネットワークの重みを最適化し、画像認識の精度を向上させた。
同義語: 最急降下法
分類: 最適化アルゴリズム