ทันเอไอ

Estudo de revisão aponta que treinar IA com dados sintéticos gera risco de Model Collapse

Artigo acadêmico reúne evidências e contramedidas para o Model Collapse, fenômeno que pode ocorrer quando novos modelos aprendem a partir de dados gerados por IA ao longo de gerações.

O artigo "Reviewing Model Collapse and Countermeasures", publicado no arXiv na categoria cs.AI e na conferência IEEE International Conference on Advances in Artificial Intelligence and Machine Learning (AAIML) de 2026, revisa pesquisas sobre Model Collapse (degradação do modelo por aprendizado recursivo com dados sintéticos), incluindo causas, impactos e medidas preventivas.

O problema surge em um ciclo autoconsuntivo (self-consuming cycle), no qual os dados gerados por um modelo alimentam o treinamento da geração seguinte. Embora os dados sintéticos (Synthetic Data) reduzam a necessidade de grandes volumes de dados reais, reutilizá-los sem uma proporção suficiente de dados reais pode acumular e propagar erros entre gerações — de forma semelhante a tirar fotocópias de uma cópia sucessivas vezes até que os detalhes originais se percam.

Os primeiros sinais incluem a perda de compreensão de casos raros ou caudas da distribuição (tails of distribution). Em seguida, os resultados tornam-se homogêneos, repetitivos e menos diversos. Se o treinamento recursivo (recursive training) continuar, a degradação pode se intensificar a ponto de o modelo gerar respostas distorcidas ou sem sentido, tornando a reversão do quadro difícil.

As soluções propostas pela literatura incluem a combinação de dados humanos reais com sintéticos, a curadoria de dados (data curation) e o uso de mecanismos de feedback para validar e ajustar saídas. O objetivo é evitar que conteúdos gerados por IA se tornem a fonte primária de aprendizado sem uma referência no mundo real.

Contudo, o risco de Model Collapse ainda é debatido. Alguns pesquisadores argumentam que experimentos em circuito fechado podem amplificar o problema em relação ao uso real, já que sistemas em produção costumam incorporar novos dados humanos de forma contínua, sem depender 100% de dados sintéticos. Assim, o relatório não sugere que todo uso de dados sintéticos levará ao colapso, mas destaca que origem, proporção, diversidade e controle de qualidade serão cada vez mais críticos à medida que conteúdos gerados por IA se proliferam na web.