Model Collapse

Identity

• Model Collapseは、AIモデルが生成した合成データを再帰的に学習に使い続けることで、モデルの出力分布が実データの多様性から徐々に離れ、性能・多様性が劣化していく現象である。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Capability

• Model Collapseは、AIモデルが生成した合成データを再帰的に学習に使い続けることで、モデルの出力分布が実データの多様性から徐々に離れ、性能・多様性が劣化していく現象である。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget

Credibility

• Model Collapse現象は、Shumailov氏らによる論文としてNature誌（2024年、631巻755-759頁）に掲載され、PubMedに収録されている。同論文はAI生成コンテンツの無差別な再学習がモデルに不可逆な劣化を生じさせると報告している。検証待ち AI models collapse when trained on recursively generated data - PubMed

Use Case

• Model Collapseは、大規模言語モデルの学習データ収集においてAI生成コンテンツの混入をどう管理するかを検討する場面や、合成データ活用時のリスク評価の場面で参照される。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget
• スタンフォード大学等の研究者14名による論文『Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data』（arXiv:2404.01413、2024年4月投稿）。合成データで実データを「置換」する場合はModel Collapseに至るが、実データに合成データを「蓄積」していく場合はテスト誤差が有限の上限にとどまりModel Collapseが回避されることを、言語モデル・拡散モデル・VAEなど複数のモデルで実証した。検証待ち Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data

Constraints / Current Status

• Model Collapseは合成データへの過度な依存による劣化を指す点が特徴で、意図的に生成された高品質な合成データを学習に活用するsynthetic dataの手法とは、データの起源に対する扱いの前提が異なる（synthetic dataは適切に管理すれば有用だが、無秩序な再帰学習はModel Collapseを招く）。検証待ち The Curse of Recursion: Training on Generated Data Makes Models Forget
• スタンフォード大学のRylan Schaeffer氏らによる論文『Position: Model Collapse Does Not Mean What You Think』（arXiv:2503.03150、2025年3月投稿）。Model Collapse研究28件を精査し、用語が8種類の異なる定義で用いられていることや、多くの懸念シナリオが現実の運用条件と乖離した仮定に基づいていることを指摘し、Model Collapseの脅威が過度に単純化されていると論じる批判的・再検討的な論文。検証待ち Position: Model Collapse Does Not Mean What You Think

Key References

• Model Collapseという現象を最初に体系的に報告した査読付き学術研究はどこで確認できますか？
• Model Collapseとはどのようなものですか？
• Model Collapseは他の同種の事業・作品と比べてどう違いますか？

Related

• Synthetic Data— Model Collapseは、Synthetic Dataの無秩序な再帰的活用によって生じるリスクとして議論される、対照的な概念である。