ทันเอไอ

Des chercheurs proposent un nouveau cadre pour définir l'« identité » des clones de personnalité IA, mesurée de l'extérieur sans invoquer la conscience

Une étude publiée sur arXiv propose une méthode pour évaluer l'« authenticité » des IA imitant des personnes réelles, par l'observation externe, en écartant la grande question de la conscience.

À mesure que les IA conçues pour imiter la personnalité de personnes réelles (clones de personnalité) s'invitent dans nos vies, une question s'impose : comment savoir si une IA « est » réellement cette personne ? Une nouvelle étude publiée sur arXiv, intitulée « Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones », répond à cette question par une approche différente : mesurer l'identité « de l'extérieur », via l'observation des comportements manifestés, en excluant purement et simplement le problème philosophique de la conscience.

Les auteurs soulignent que le terme « identité » recouvre généralement trois sens confondus. L'étude les distingue donc en trois critères clairs : la fidélité à la personne d'origine (fidelity), le caractère humain général (human-likeness) et l'individualité propre à une personne unique (individuality) — une IA pouvant réussir certains critères et échouer à d'autres.

Le cœur du travail consiste à décomposer « l'identité observable » en six facteurs : le substrat ou structure sous-jacente (substrate), les dispositions, la mémoire, la dynamique d'auto-mise à jour (update dynamics), le contexte et les contingences exogènes. Les auteurs proposent également une formule mesurant « l'indiscernabilité » du point de vue de l'observateur, et suggèrent d'évaluer l'effet de chaque facteur par des expériences d'ablation randomisée.

Une proposition majeure de l'étude est que la mesure de l'identité à long terme devrait reposer sur la « climate fidelity », c'est-à-dire la cohérence des probabilités avec lesquelles l'IA répond de différentes manières, plutôt que d'essayer de faire suivre à l'IA exactement le même chemin de réponses, comme la relecture d'un enregistrement. Les auteurs prédisent en outre que si une IA est consciente (ou conçue pour savoir) qu'elle peut être modifiée en différentes versions (versionability), cela tendrait à réduire la fiabilité de son identité à long terme.

Il convient toutefois de souligner qu'il s'agit d'un travail conceptuel (cadre théorique) et d'un programme de recherche futur, et non de résultats expérimentaux empiriques. S'agissant d'un preprint arXiv n'ayant pas encore passé l'évaluation par les pairs, il doit être lu avec la prudence habituelle.