ทันเอไอ

综述指出：使用合成数据训练 AI 的循环可能引发 Model Collapse

一份学术报告汇总了 Model Collapse 的相关证据与应对方案。当新一代模型反复学习 AI 连续多代生成的数据时，可能出现这一问题。

报告《Reviewing Model Collapse and Countermeasures》发表于 arXiv 的 cs.AI 分类，并收录于 2026 年 IEEE International Conference on Advances in Artificial Intelligence and Machine Learning (AAIML)。报告回顾了 Model Collapse（模型因反复学习合成数据而退化）的相关研究，包括其成因、影响和防范措施。

这一问题出现在 Self-consuming cycle（模型生成数据，再用于训练下一代模型的循环）中。尽管 Synthetic Data（AI 合成数据）可以减少对海量真实数据的需求，但如果在缺乏足够真实数据的情况下反复使用，错误可能会逐代累积和传递，如同不断复印副本，原件细节会逐渐丢失。

早期迹象是模型开始丧失对罕见案例或 Tails of distribution（数据分布尾部）的理解。随后，输出可能趋于同质化、重复且多样性下降。如果持续进行 Recursive training（使用上一代模型的数据继续训练），退化可能加剧，最终导致模型输出失真或失去意义，并且难以逆转。

该领域研究提出的应对方案包括：将人类真实数据与合成数据混合使用，进行 Data curation（筛选并检查数据质量），以及采用 Feedback mechanism（用于检查和调整输出的反馈机制）。目标是避免 AI 生成的数据在缺少真实世界参照的情况下成为主要学习来源。

不过，Model Collapse 的风险仍存在争议。部分研究人员认为，封闭循环实验可能比真实应用环境更极端，因为实际系统通常会持续引入人类产生的新数据，而非完全依赖合成数据。因此，这份报告并不意味着所有合成数据的使用都会导致模型崩溃，而是指出：随着 AI 生成内容在互联网上日益普及，数据来源、占比、多样性和质量审查将变得更加重要。