ทันเอไอ

Pesquisadores propõem novo arcabouço para definir a 'identidade' de clones de personalidade de IA, medida de fora para dentro em vez de questionar a consciência

Pesquisa publicada no arXiv propõe uma forma de medir o quanto uma IA que imita uma pessoa é 'autêntica', por meio de observação externa, sem precisar se envolver no grande problema da consciência

À medida que IAs criadas para imitar a personalidade de pessoas reais (clones de personalidade) se aproximam cada vez mais da vida das pessoas, surge a pergunta: como saber se aquela IA 'é' realmente aquela pessoa? Um novo estudo publicado no arXiv, intitulado 'Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones', responde a essa questão com uma abordagem diferente: propõe medir a identidade 'de fora', por meio da observação do comportamento expresso, eliminando de vez da equação o problema filosófico da consciência.

Os autores apontam que a palavra 'identidade', como usada cotidianamente, mistura três significados. Por isso, o trabalho os separa em três critérios claros: fidelidade à pessoa original (fidelity), semelhança humana de forma geral (human-likeness) e individualidade única (individuality). Uma mesma IA pode passar em alguns desses critérios e falhar em outros.

O cerne do trabalho é decompor a 'identidade observável' em seis fatores: substrato ou estrutura fundamental (substrate), disposições (dispositions), memória (memory), dinâmica de autoatualização (update dynamics), contexto (context) e contingências exógenas (exogenous contingencies). O estudo também estabelece uma fórmula para medir a 'indiscernibilidade' (indiscernibility) do ponto de vista do observador e propõe avaliar o efeito de cada fator por meio de experimentos randomizados de ablação (randomized ablation).

Uma proposta central do trabalho é que a medição da identidade em longo prazo deve usar a 'fidelidade climática' (climate fidelity), ou seja, a consistência das probabilidades de a IA responder de determinadas maneiras, em vez de tentar fazer a IA seguir exatamente o mesmo roteiro de respostas, como se estivesse repetindo uma fita gravada. Além disso, os autores preveem que, se a IA souber (ou for projetada para saber) que pode ter sua versão alterada (versionability), isso tende a reduzir a confiabilidade de sua identidade em longo prazo.

Vale ressaltar, no entanto, que se trata de um trabalho conceitual (conceptual framework) e de um programa de pesquisa futura, ainda sem resultados experimentais empíricos. Além disso, é um preprint no arXiv que ainda não passou por revisão por pares (peer review), portanto deve ser lido com a cautela habitual.