ทันเอไอ

연구진, 인격을 복제한 AI의 '정체성'을 새로 정의하는 프레임워크 제안… 의식 문제 대신 외부 관찰로 측정

arXiv에 올라온 연구, 특정 인물을 모사한 AI가 얼마나 '진짜에 가까운지'를 의식이라는 난제를 건드리지 않고 외부 관찰을 통해 측정하는 방법 제시

실제 사람의 인격을 모사하도록 만들어진 AI(인격 복제, personality clones)가 우리 삶에 점점 가까워지면서, 그 AI가 정말 그 사람과 '동일하다'고 볼 수 있는지를 어떻게 알 수 있느냐는 질문이 따라붙는다. arXiv에 게재된 'Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones'라는 새 논문은 이 질문에 색다른 접근법으로 답한다. 즉, 드러난 행동을 관찰하는 '외부'에서 정체성을 측정하되, 의식(consciousness)이라는 철학적 난제는 아예 계산에서 제외하는 방식이다.

저자들은 사람들이 쓰는 '정체성'이라는 단어에 보통 3가지 의미가 뒤섞여 있다고 지적하며, 이를 3가지 명확한 기준으로 분리했다. 원형 인물에 대한 충실도(fidelity), 일반적인 인간다움(human-likeness), 그리고 대체 불가능한 개별성(individuality)이다. 하나의 AI는 각 기준에서 통과할 수도, 그렇지 않을 수도 있다.

이 연구의 핵심은 '관찰 가능한 정체성'을 6가지 요소로 분해한 것이다. 기반이 되는 기질 또는 구조(substrate), 성향(dispositions), 기억(memory), 자기 업데이트 역학(update dynamics), 맥락(context), 그리고 외부적 우발 요인(exogenous contingencies)이 여기에 포함된다. 이와 함께 관찰자 관점에서 '구별 불가능성'(indiscernibility)을 측정하는 공식을 제시하고, 각 요소의 효과를 무작위 절제 실험(randomized ablation)으로 평가할 것을 제안했다.

논문의 중요한 제안은 장기적 정체성 측정에 'climate fidelity', 즉 AI가 다양한 방식으로 반응할 확률의 일치도를 사용해야 한다는 것이다. 이는 녹음 테이프를 재생하듯 AI가 기존의 반응 경로를 정확히 되풀이하게 하려는 방식보다 낫다. 또한 저자들은 AI가 자신의 버전을 변경할 수 있다는 점을 스스로 인지하거나(또는 그렇게 설계되거나) 하는 경우(versionability), 장기적으로 정체성의 신뢰성이 낮아질 가능성이 있다고 전망했다.

다만 이는 개념적 프레임워크(conceptual framework)이자 향후 연구 프로그램이며, 아직 실증적 실험 결과는 아니라는 점을 강조해야 한다. 또한 동료 평가(peer review)를 거치지 않은 arXiv 프리프린트 문서이므로, 통상적인 주의를 기울여 읽어야 한다.