ทันเอไอ

Investigadores proponen un nuevo marco para definir la 'identidad' de los clones de personalidad de IA, medida desde fuera sin entrar en la cuestión de la conciencia

Un estudio en arXiv propone cómo medir cuán 'auténtica' es una IA que imita a una persona, mediante observación externa, sin tener que abordar el gran problema de la conciencia

A medida que las IA creadas para imitar la personalidad de personas reales (clones de personalidad) se acercan cada vez más a la vida cotidiana, surge la pregunta: ¿cómo saber si una IA 'es' realmente esa persona? Un nuevo estudio publicado en arXiv bajo el título 'Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones' responde a esta pregunta con un enfoque diferente: medir la identidad desde 'fuera', a través de la observación del comportamiento manifiesto, eliminando por completo el problema filosófico de la conciencia de la ecuación.

Los autores señalan que el término 'identidad' suele mezclar tres significados distintos, por lo que el trabajo los separa en tres criterios claros: la fidelidad a la persona original (fidelity), el parecido humano en general (human-likeness) y la individualidad única e irrepetible (individuality). Una IA puede cumplir unos criterios y no otros.

El núcleo del trabajo descompone la 'identidad observable' en seis factores: el sustrato o estructura subyacente (substrate), las disposiciones (dispositions), la memoria (memory), la dinámica de autoactualización (update dynamics), el contexto (context) y las contingencias exógenas (exogenous contingencies). Además, propone una fórmula para medir la 'indiscernibilidad' (indiscernibility) desde la perspectiva del observador, y sugiere evaluar el efecto de cada factor mediante experimentos de ablación aleatorizada (randomized ablation).

Una propuesta clave del estudio es que la medición de la identidad a largo plazo debería usar la 'climate fidelity', es decir, la consistencia en las probabilidades de que la IA responda de diversas maneras, en lugar de intentar que la IA reproduzca exactamente el mismo recorrido de interacciones, como si se rebobinara una cinta grabada. Los autores también predicen que si una IA es consciente (o está diseñada para saber) de que puede ser modificada en distintas versiones (versionability), esto tendería a reducir la credibilidad de su identidad a largo plazo.

No obstante, hay que subrayar que se trata de un trabajo conceptual (marco teórico) y un programa de investigación futura, no de resultados experimentales empíricos, y que es un preprint en arXiv que aún no ha pasado por revisión por pares (peer review), por lo que debe leerse con la debida cautela.