ทันเอไอ

합성 데이터 반복 학습 루프, '모델 붕괴(Model Collapse)' 위험 키운다는 연구 분석

차세대 AI 모델이 AI 생성 데이터를 여러 세대에 걸쳐 반복 학습할 때 발생하는 모델 붕괴 현상의 원인과 대응책을 정리한 연구 발표

arXiv cs.AI 분야 및 2026 IEEE International Conference on Advances in Artificial Intelligence and Machine Learning(AAIML)에 게재된 논문 'Reviewing Model Collapse and Countermeasures'는 합성 데이터 반복 학습에 따른 모델 성능 저하 현상인 '모델 붕괴(Model Collapse)'의 원인, 영향, 예방책을 종합 검토했다.

이 문제는 AI가 생성한 데이터로 다음 세대 모델을 학습시키는 '자기 소비 루프(Self-consuming cycle)'에서 발생한다. 합성 데이터(Synthetic Data)는 방대한 실제 데이터 수집 부담을 줄여주지만, 실제 데이터가 충분히 뒷받침되지 않은 채 재사용이 반복되면 복사본을 거듭 복사할 때 디테일이 사라지듯 오류가 세대를 거쳐 누적된다.

초기 단계에서는 발생 빈도가 낮은 사례나 데이터 분포의 꼬리 부분(Tails of distribution)에 대한 이해도를 잃기 시작하며, 결과물이 획일화되고 다양성이 줄어든다. 이전 세대 모델의 데이터로 반복 학습(Recursive training)이 지속될 경우, 출력이 왜곡되거나 무의미해지는 심각한 퇴행이 발생해 복구가 어려워질 수 있다.

해당 분야 연구진이 제시한 대응책으로는 실제 인간 데이터와 합성 데이터의 혼합, 데이터 큐레이션(Data curation), 피드백 메커니즘(Feedback mechanism) 도입 등이 있다. 현실 세계의 기준점 없이 AI 생성 데이터가 주 학습원으로 전락하는 것을 막는 것이 핵심 목표다.

다만 모델 붕괴 위험에 대한 이견도 존재한다. 일부 연구자들은 폐쇄 루프 실험이 실제 환경보다 과장되었으며, 실제 시스템은 100% 합성 데이터만 쓰는 대신 인간의 새로운 데이터를 지속해서 유입한다고 본다. 따라서 이번 보고서는 합성 데이터 사용 자체가 무조건 모델 붕괴를 부른다는 뜻이 아니라, AI 생성 콘텐츠가 웹상에 확산됨에 따라 데이터 출처, 비율, 다양성, 품질 검증의 중요성이 더욱 커지고 있음을 시사한다.