OpenAI revela principios de colaboración con gobiernos en seguridad, enfatizando 'líneas rojas' contra el uso en armas autónomas
OpenAI ha publicado un conjunto de principios que guían la colaboración con gobiernos y agencias de seguridad, estableciendo restricciones claras en el uso de la tecnología de IA para fines militares y de defensa.
OpenAI ha revelado oficialmente un conjunto de principios que guiarán su colaboración con gobiernos y agencias de seguridad nacional. Estos principios, desarrollados en colaboración con el experto David Kris, se aplicarán a cooperaciones actuales y futuras. El punto central es el establecimiento de 'líneas rojas' claras mediante restricciones contractuales. Estas prohíben el uso de la tecnología de OpenAI para la vigilancia masiva doméstica (mass domestic surveillance), para comandar sistemas de armas autónomas (autonomous weapons systems o sistemas de armas que deciden atacar objetivos por sí mismos), y para la toma de decisiones automatizadas de alto riesgo. Este anuncio surge en medio de tensiones entre el gobierno de EE. UU. y Anthropic, una empresa competidora que a principios de 2026 se negó a eliminar las restricciones de seguridad de su modelo Claude para uso militar. OpenAI también ha ampliado su colaboración en ciberseguridad a través del programa Daybreak con varios países como Australia, Japón, Corea del Sur y naciones de la Unión Europea. Estos principios ya se han aplicado a la colaboración existente con el Department of War, donde OpenAI afirma que la empresa mantiene un control total sobre su safety stack (conjunto de medidas de seguridad).
La definición de un marco para el uso de la IA en el ámbito militar y de seguridad por parte de una empresa tecnológica líder establece un precedente global significativo, que podría influir en las políticas y directrices para la implementación de la IA en agencias gubernamentales de varios países, incluyendo Tailandia en el futuro.