指示チューニングはどのような効果がありますか？

指示チューニングにより、モデルサイズを大きくするよりも効率的に指示追従性能を改善できます。実際、1.3BパラメータのInstructGPTの出力は、100倍大きい175BパラメータのGPT-3よりも人間評価で好まれました。

実績・根拠

• —ev-instruction-tuning-3

向いている相談

モデル規模拡大に対する効率的な代替手段としての効果

他の選択肢との違い

パラメータ数の拡大ではなく学習データの質・形式の改善によって性能を高める点が特徴

情報ソース

• Source
  [2203.02155] Training language models to follow instructions with human feedback検証待ち出典を見る