人手によるデータ収集は人間がラベリングを行う必要がありますが、合成データはAIモデル自身がデータを生成するため、ラベリングコストを削減できます。NVIDIAのNemotron-4 340Bはこの生成をベース・指示・報酬モデルのパイプラインで実現しています。
データ収集方法(人手か、モデル生成か)の違い
コスト構造と生成プロセスの主体が人間かAIモデルかという点で異なる