ทันเอไอ

OpenAI revela princípios para colaboração em segurança com governos, reafirmando 'linhas vermelhas' contra o uso em armas autônomas

OpenAI publicou um conjunto de princípios para guiar a colaboração com governos e agências de segurança, definindo restrições claras para o uso da tecnologia de IA para fins militares e de defesa.

OpenAI revelou oficialmente um conjunto de princípios para orientar a colaboração com governos e agências de segurança nacional. Estes princípios foram desenvolvidos em colaboração com o especialista David Kris e serão aplicados a parcerias atuais e futuras. O ponto central é o estabelecimento de 'linhas vermelhas' claras através de restrições contratuais, proibindo o uso da tecnologia da OpenAI para vigilância doméstica em massa, para comandar sistemas de armas autônomas (sistemas de armas que podem decidir atacar alvos por conta própria) e para decisões automatizadas de alto risco. Este anúncio ocorre em meio a tensões entre o governo dos EUA e a Anthropic, uma empresa concorrente, que se recusou a remover as restrições de segurança de seu modelo Claude para uso militar no início deste ano. OpenAI também expandiu sua colaboração em segurança cibernética através do projeto Daybreak com vários países, como Austrália, Japão, Coreia do Sul e nações da União Europeia. Estes princípios já foram aplicados em colaborações existentes com o Departamento de Guerra, onde OpenAI afirma que a empresa mantém total controle sobre o safety stack (conjunto de medidas de segurança).