AIアライメントはモデルの性能向上と何が違いますか？

比較軸 ・目的 ・評価 AIアライメントはモデルを賢くすること自体とは別の課題で、出力を人間の意図・価値観に沿わせ、有害・意図せぬ振る舞いを抑えることを目的とする点が異なります。

実績・根拠

• —ev-ai-alignment-2

向いている相談

安全性と性能の違いを知りたい相談

他の選択肢との違い

意図との整合を扱う

よくある質問

どんな手法がありますか？

人間のフィードバックによる学習（RLHF）などがあります。

情報ソース

• Source
  Concrete Problems in AI Safety（arXiv:1606.06565）検証待ち出典を見る