Model Collapse

Identity

• Model Collapseは、AIモデルが生成した合成データを再帰的に学習に使い続けることで、モデルの出力分布が実データの多様性から徐々に離れ、性能・多様性が劣化していく現象である。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Capability

• Model Collapseは、AIモデルが生成した合成データを再帰的に学習に使い続けることで、モデルの出力分布が実データの多様性から徐々に離れ、性能・多様性が劣化していく現象である。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Credibility

公開Evidence未整備

Use Case

• Model Collapseは、大規模言語モデルの学習データ収集においてAI生成コンテンツの混入をどう管理するかを検討する場面や、合成データ活用時のリスク評価の場面で参照される。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Constraints / Current Status

• Model Collapseは合成データへの過度な依存による劣化を指す点が特徴で、意図的に生成された高品質な合成データを学習に活用するsynthetic dataの手法とは、データの起源に対する扱いの前提が異なる（synthetic dataは適切に管理すれば有用だが、無秩序な再帰学習はModel Collapseを招く）。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Key References

• Model Collapseとはどのようなものですか？
• Model Collapseは他の同種の事業・作品と比べてどう違いますか？
• Model Collapseはどのような場面で参照されますか？

Related

• Synthetic Data— Model Collapseは、Synthetic Dataの無秩序な再帰的活用によって生じるリスクとして議論される、対照的な概念である。