自己教師あり学習
意味・解説
膨大なデータの一部を隠し、それを当てる練習を繰り返すことで、データの本質的な構造を学ぶ。大規模言語モデル(LLM)の「事前学習」で中心的な役割を果たしている。
くわしく
「データそのものを『問題集』に変えて自習する」技術です。
1.仕組み:
文章の「次の単語」を隠して予測させたり、画像の「一部」を隠して復元させたりします。
2.メリット:
人間による大量のラベル付け作業(アノテーション)が不要なため、インターネット上の天文学的な量のデータをそのまま学習に使えるようになります。ポイントは、この手法が登場したことで、AI(人工知能)が人間を超える膨大な知識を、圧倒的なスピードで「独学」できるようになったからです。
例文
最新の大規模言語モデルは、自己教師あり学習によってネット上の何兆もの単語から言葉のルールを自律的に習得した。
同義語: 自己監督学習
分類: 深層学習の学習パラダイム