人間のフィードバックによる強化学習（RLHF）

Identity

• RLHF（人間のフィードバックによる強化学習）は、人間の評価を報酬として用い、モデルの出力を人間の好みに沿わせる強化学習の手法である。検証待ち Hugging Face — Illustrating RLHF

Capability

• RLHF（人間のフィードバックによる強化学習）は、人間の評価を報酬として用い、モデルの出力を人間の好みに沿わせる強化学習の手法である。検証待ち Hugging Face — Illustrating RLHF
• RLHFは、正解データだけで学習する方法と異なり、人間の好みを報酬として学習させることで、より役立ち安全な応答へ調整できる点を特徴とする。検証待ち Hugging Face — Illustrating RLHF

Credibility

公開Evidence未整備

Use Case

公開Evidence未整備

Constraints / Current Status

• RLHFは、正解データだけで学習する方法と異なり、人間の好みを報酬として学習させることで、より役立ち安全な応答へ調整できる点を特徴とする。検証待ち Hugging Face — Illustrating RLHF

Key References

• RLHF（人間のフィードバックによる強化学習）とは何ですか？
• RLHFは通常の学習と何が違いますか？
• RLHFはどんな場面で使われますか？

Related

• 強化学習（Reinforcement Learning）— RLHFは強化学習を人間のフィードバックに適用した手法である。
• AIアライメント（AI Alignment）— RLHFはAIアライメントの代表的な手法として用いられる。
• Instruction Tuning— 指示チューニングは人間フィードバックからの強化学習（RLHF）と組み合わせて使われることが多い。