ทันเอไอ

Tinjauan Riset Ungkap Pelatihan AI dengan Data Sintetis Berisiko Picu Model Collapse

Laporan akademis merangkum bukti dan langkah mitigasi Model Collapse, kondisi penurunan performa saat model generasi baru terus dilatih menggunakan data buatan AI.

Laporan bertajuk “Reviewing Model Collapse and Countermeasures” yang dipublikasikan di arXiv (kategori cs.AI) dan diajukan untuk IEEE International Conference on Advances in Artificial Intelligence and Machine Learning (AAIML) 2026 meninjau berbagai penelitian seputar Model Collapse (degradasi performa model akibat pelatihan berulang dengan data sintetis), termasuk penyebab, dampak, dan strategi pencegahannya.

Masalah ini timbul dalam siklus konsumsi mandiri (self-consuming cycle), yaitu ketika data yang dihasilkan model digunakan kembali untuk melatih model generasi berikutnya. Kendati Synthetic Data (data sintetis buatan AI) dapat menekan kebutuhan data riil dalam jumlah masif, penggunaannya secara berulang tanpa suplai data asli yang memadai dapat mengakumulasi galat antargenerasi—serupa dengan memfotokopi dokumen dari hasil salinan berulang kali hingga detail aslinya perlahan memudar.

Gejala awal ditandai dengan hilangnya pemahaman model terhadap kasus-kasus langka atau tails of distribution (ekor distribusi data). Selanjutnya, keluaran model cenderung kian homogen, repetitif, dan minim variasi. Jika recursive training (pelatihan berulang dengan data generasi sebelumnya) terus berlanjut, degradasi ini bisa menjadi cukup parah hingga menghasilkan keluaran yang menyimpang, tidak bermakna, serta sulit dipulihkan.

Langkah mitigasi yang disarankan para peneliti meliputi penggabungan data riil buatan manusia dengan data sintetis, kurasi data (data curation) yang ketat, serta penerapan mekanisme umpan balik (feedback mechanism) untuk mengevaluasi dan menyesuaikan hasil. Tujuannya adalah mencegah data buatan AI menjadi sumber pembelajaran utama tanpa adanya acuan dari dunia nyata.

Meski demikian, risiko Model Collapse masih menuai perdebatan. Sebagian peneliti menilai eksperimen siklus tertutup cenderung menghasilkan dampak yang lebih ekstrem dibanding kondisi nyata, mengingat sistem di lapangan umumnya terus memperoleh data baru dari manusia dan tidak 100% bertumpu pada data sintetis. Oleh karena itu, laporan ini tidak menyimpulkan bahwa semua data sintetis akan merusak model, melainkan menegaskan pentingnya asal-usul, proporsi, keragaman, serta kontrol kualitas data di tengah kian maraknya konten buatan AI di internet.