損失関数(二乗誤差と交差エントロピー誤差)
意味・解説
AIの予測値と実際の正解値の「ズレ」を数値化するための関数。AIはこの値を最小にするように学習(重みの調整)を行う。
回帰問題(数値予測)では「平均二乗誤差 (MSE)」、分類問題(カテゴリ判定)では「交差エントロピー誤差」が主に使われる。学習の進捗を測る「反省の物差し」といえる。
くわしく
「AI(人工知能)の『ダメ出し』の厳しさを決める数式」です。
1.二乗誤差:
正解との差を2乗するため、大きなミスほど大きな罰金(損失)になります。
2.交差エントロピー:
『たぶんAだ』という確率の自信度合いと正解を比べます。正解なのに自信がなかったり、間違っているのに自信満々だったりすると、大きなペナルティを与えます。ポイントは、この関数(サブルーチン)の選び方次第で、AIが「何を重視して学習するか」が決まり、最終的な賢さが変わるからです。
例文
多クラス分類モデルの精度を高めるため、損失関数に交差エントロピー誤差を採用し、各クラスの予測確率を最適化した。
同義語: コスト関数 / 目的関数
分類: 機械学習の学習アルゴリズム