Self-Supervised Learning

Identity

• Self-Supervised Learningは、人手によるラベル付けデータを用いず、データ自体の構造から学習信号を自動的に生成してモデルを訓練する手法である。検証待ち A Cookbook of Self-Supervised Learning

Capability

• Self-Supervised Learningは、人手によるラベル付けデータを用いず、データ自体の構造から学習信号を自動的に生成してモデルを訓練する手法である。検証待ち A Cookbook of Self-Supervised Learning

Credibility

公開Evidence未整備

Use Case

• Self-Supervised Learningは、ラベル付けコストが膨大なテキスト・画像等の大規模データからモデルの基礎的な表現力を獲得したい場面で活用される。検証待ち A Cookbook of Self-Supervised Learning

Constraints / Current Status

• Self-Supervised Learningは人手によるラベル付けを必要としない点が特徴で、正解ラベルを人手で用意するsupervised learning（教師あり学習）とはデータ準備の方式が異なる。大規模言語モデルのpretraining段階はこの手法を用いる代表的な応用場面である。検証待ち A Cookbook of Self-Supervised Learning

Key References

• Self-Supervised Learningとはどのようなものですか？
• Self-Supervised Learningは他の同種の事業・作品と比べてどう違いますか？
• Self-Supervised Learningはどのような場面で参照されますか？

Related

• Pretraining— Pretrainingは、Self-Supervised Learningという学習手法を大規模言語モデルの訓練に応用した代表的な段階である。