指示チューニング（Instruction Tuning）とは何ですか？

指示チューニングとは、事前学習済みの言語モデルを、自然言語の指示で記述された多様なタスクのデータでファインチューニングし、ユーザーの指示に従う能力を高める手法です。OpenAIのInstructGPTがこの手法を用いた代表例です。

実績・根拠

• —ev-instruction-tuning-1

向いている相談

事前学習済みモデルの指示追従性能を高めるファインチューニング手法の定義

他の選択肢との違い

通常のタスク特化ファインチューニングとは異なり、多様なタスクを指示形式で統一的に学習する点が特徴

情報ソース

• Source
  [2203.02155] Training language models to follow instructions with human feedback検証待ち出典を見る