ทันเอไอ

Investigadores aplican 'sistemas dinámicos' de la física para descifrar el pensamiento interno de la IA y resolver el enigma de la caja negra

Una nueva tendencia en la investigación de IA utiliza sistemas dinámicos para analizar el razonamiento latente (Latent CoT) y comprender cómo los LLM 'piensan' paso a paso.

Por lo general, cuando solicitamos a una IA que razone paso a paso (Chain-of-Thought o CoT), vemos su 'borrador' de trabajo. Sin embargo, los modelos más avanzados utilizan un proceso llamado Latent CoT, que equivale a 'pensar en silencio' sin mostrar los pasos intermedios. Esto crea un problema de 'caja negra' que afecta la fiabilidad y la seguridad.

Recientemente, ha surgido un enfoque innovador que aplica la teoría de los 'sistemas dinámicos', una herramienta de la física y las matemáticas utilizada para describir sistemas complejos (como la meteorología), para decodificar este pensamiento interno. Esta técnica visualiza los 'pensamientos' ocultos de la IA como puntos que se desplazan a través de un espacio de representación, permitiendo analizar la trayectoria y la 'dinámica' de su razonamiento.

La investigación actual emplea métodos como la medición del cambio entre pasos, la consistencia de la dirección y la reducción de la entropía para identificar cuándo la IA pasa de un estado de 'incertidumbre' a una 'conclusión estructurada'. Esto permite distinguir si el modelo está razonando sistemáticamente o simplemente tomando atajos aleatorios.

Cabe señalar que, aunque existen referencias a un artículo titulado "Interpreting Latent CoT Reasoning as Dynamical Systems", el equipo de 'Than AI' no ha localizado dicho documento en los repositorios públicos de arXiv. No obstante, varios estudios de mediados de 2026 emplean enfoques similares, consolidando esta tendencia como un área de desarrollo clave en la industria.