Peneliti manfaatkan 'sistem dinamis' fisika untuk mengintip cara kerja AI, mengungkap teka-teki black box
Tren riset AI baru menggunakan teori sistem dinamis untuk menganalisis Latent CoT guna memahami bagaimana model bahasa besar 'berpikir' di setiap tahapan.
Biasanya, saat kita meminta AI berpikir langkah demi langkah (Chain-of-Thought atau CoT), kita dapat melihat 'kertas buram' yang dihasilkan AI. Namun, model canggih terbaru sering menggunakan proses yang disebut Latent CoT atau penalaran laten, yang diibaratkan seperti 'berpikir dalam hati' tanpa menampilkan langkah-langkahnya. Hal ini menciptakan masalah 'black box' yang menghambat aspek kepercayaan dan keamanan.
Kini, terdapat pendekatan riset baru yang menarik di mana para peneliti mulai menerapkan teori 'sistem dinamis' (Dynamical Systems)—sebuah alat matematika dan fisika yang digunakan untuk menjelaskan perubahan sistem kompleks seiring waktu (seperti prakiraan cuaca)—untuk mendekode proses berpikir AI. Konsep ini memandang urutan 'pemikiran' tersembunyi di dalam model pada setiap tahap sebagai titik yang bergerak di sepanjang lintasan dalam ruang representasi (representation space). Menganalisis jalur ini dapat membantu kita memahami 'dinamika' dari penalaran tersebut.
Penelitian dalam kelompok ini menggunakan berbagai metode untuk menganalisis 'jalur pemikiran' AI, seperti mengukur perubahan antar langkah (step-to-step change), konsistensi arah (direction consistency), atau menganalisis penurunan nilai entropi yang dapat mengindikasikan transisi dari kondisi 'bingung' ke kondisi yang lebih 'matang' dalam menemukan jawaban yang terstruktur. Analisis ini membantu peneliti membedakan apakah AI sedang menalar secara sistematis atau hanya mengambil jalan pintas untuk mendapatkan jawaban acak.
Namun, perlu dicatat bahwa meskipun ada laporan mengenai makalah berjudul "Interpreting Latent CoT Reasoning as Dynamical Systems", berdasarkan penelusuran tim 'TanAI', makalah tersebut belum ditemukan di basis data publik arXiv. Meski demikian, terdapat banyak penelitian pada awal hingga pertengahan 2026 yang menggunakan pendekatan sistem dinamis serupa, menjadikannya arah riset yang sedang berkembang dan patut dicermati.
Memahami bagaimana AI 'berpikir' adalah kunci utama untuk menciptakan AI yang lebih aman, transparan, dan terpercaya di masa depan, serta mengurangi risiko dari hasil yang tidak dapat diprediksi.