RLHF（人間フィードバックによる強化学習）
意味・解説
AI（主にLLM）の出力に対し、人間が「どちらの回答が優れているか」を評価（ランク付け）し、その結果をAIにフィードバックして性能を向上させる手法。
大量のデータで学習した後のLLMを、人間の倫理観や好みに沿うように微調整（アライメント）する技術。ChatGPTの「話しやすさ」や「安全な回答」を実現する鍵となった。
くわしく
「優秀だが危なっかしい天才（AI（人工知能））に、人間が『正しい礼儀』を教え込む」仕上げの工程です。
1.評価：
AIが作った2つの回答を人間が見て、『こっちの方が丁寧で正確だ』と採点します。
2.学習：
その採点基準をAIに学ばせ（報酬モデル）、AIが自ら『人間に褒められる回答』を作るように練習させます。ポイントは、AIはただ学習しただけでは差別発言やデタラメを言うことがありますが、RLHFによって人間が求める「誠実で安全な知性」へと調教されるからです。
例文
生成AIのハルシネーション（嘘）を抑制し、ユーザーにとって有用な回答を増やすため、大規模なRLHFを学習工程に組み込んだ。
同義語: 人間参加型強化学習
分類: 生成AIの最適化技術
この用語は生成AIパスポート試験にも出ます
生成AIパスポート試験（生成AI活用普及協会）の公式シラバス第4版では、第2章 生成AI（ジェネレーティブAI） の 2-2 に「RLHF（Reinforcement Learning from Human Feedback）」として掲載されています。ITパスポートと重なるのは全191語中42語で、その1つがこの用語です。