ทันเอไอ

연구진, 물리학의 '동역학계' 이론 도입해 AI의 내면적 사고 과정 해석 시도

AI 연구의 새로운 흐름: 거대언어모델이 단계별로 어떻게 '생각'하는지 규명하기 위해 잠재적 사고(Latent CoT)를 동역학계로 분석하다

보통 AI에 단계별 사고(Chain-of-Thought, CoT)를 지시하면 AI가 내놓는 '풀이 과정'을 볼 수 있다. 하지만 최신 고성능 모델들은 외부로 드러나지 않는 '잠재적 사고(Latent CoT)' 방식을 사용한다. 이는 마치 AI가 '속으로 생각하는' 것과 같아 그 과정을 파악할 수 없으며, 이는 AI의 신뢰성과 안전성 측면에서 중요한 '블랙박스' 문제로 떠올랐다.

최근, 복잡한 시스템의 변화를 설명하는 수학·물리학적 도구인 '동역학계(Dynamical Systems)' 이론을 도입해 AI의 내면적 사고 과정을 해독하려는 새로운 연구 접근법이 등장했다. 이 개념은 모델 내부에 숨겨진 '사고'의 흐름을 표현 공간(representation space) 상의 궤적을 따라 움직이는 점으로 간주하고, 이를 통해 추론의 역학을 분석한다.

연구진은 단계별 변화, 방향 일관성, 엔트로피 감소 분석 등을 통해 AI의 '사고 경로'를 추적한다. 엔트로피가 낮아지는 것은 AI가 '혼란' 상태에서 점차 정교한 해답을 도출하는 '결정' 상태로 나아가고 있음을 시사한다. 이러한 분석은 AI가 체계적으로 추론하는 것인지, 아니면 단순히 확률적 지름길을 택하는 것인지 구분하는 데 도움을 준다.

단, 'Interpreting Latent CoT Reasoning as Dynamical Systems'라는 논문에 대한 보고가 있으나, 실제 학술 데이터베이스 arXiv 등에서 해당 명칭의 논문은 확인되지 않았다. 다만 2026년 상반기에 이와 유사한 동역학계 접근법을 활용한 연구들이 다수 발표된 바 있어, 현재 업계에서 주목받는 중요한 연구 방향임은 분명하다.