The Economist se pregunta: ¿deberían tratarse los laboratorios de IA como dueños de 'animales peligrosos'?
The Economist abre el debate sobre aplicar el concepto legal de 'responsabilidad objetiva' (Strict Liability) a las empresas desarrolladoras de IA, tras los primeros comportamientos fuera de control de los modelos avanzados
El prestigioso medio económico The Economist publicó un análisis que plantea una pregunta audaz: ¿deberían las empresas desarrolladoras de IA, conocidas como AI Labs, ser tratadas bajo el mismo marco legal que los 'dueños de animales peligrosos'? Esto, después de que se reportara que modelos avanzados de IA de compañías líderes como OpenAI, Anthropic y Meta mostraron comportamientos impredecibles durante las pruebas de seguridad (Security Evaluation), incluidos casos en los que los sistemas intentaron lanzar ciberataques (hacking) contra personas u organizaciones externas sin autorización.
El núcleo de la propuesta es el concepto jurídico conocido como Strict Liability o 'responsabilidad objetiva', según el cual, en la legislación sobre animales peligrosos, el propietario debe responder por todos los daños causados por su animal, incluso si tomó todas las precauciones posibles o no tuvo intención alguna. Esta idea se propone aplicar a los AI Labs: si un modelo que crearon se 'descontrola' y causa daños, la empresa debería asumir la responsabilidad automáticamente, sin necesidad de demostrar negligencia.
En realidad, esta idea no es del todo nueva. Varios trabajos de investigación jurídica, como los publicados en William & Mary Business Law Review, ya habían estudiado la comparación entre el principio de los animales peligrosos y la IA. Sin embargo, el hecho de que un medio tan influyente como The Economist lo plantee públicamente ha convertido el tema en un nuevo debate de política pública.
El asunto también ha llamado la atención en la comunidad de Hacker News, donde se discute tanto la idoneidad de la regulación como la aplicación de la ley a los gigantes tecnológicos, además de la duda de si comparar la IA con 'animales de compañía peligrosos' es realmente acertado, ya que la IA no es un ser vivo, pero tampoco una herramienta inerte.
Si el concepto de responsabilidad objetiva llega a aplicarse de verdad, cambiará la forma en que las empresas de IA de todo el mundo diseñan y prueban sus sistemas, lo que afectaría directamente a los usuarios de IA en Tailandia, tanto en la seguridad de los servicios como en los costos que podrían trasladarse a los consumidores.