ทันเอไอ

OpenAI, 안보 분야 정부 협력 원칙 공개…'레드라인' 강조, 자율 무기 시스템 사용 금지

OpenAI는 정부 및 안보 기관과의 협력을 위한 지침 원칙을 발표하며, AI 기술의 군사 및 국방 목적 사용에 명확한 제한을 설정했다.

OpenAI는 정부 및 국가 안보 기관과의 협력을 위한 일련의 지침 원칙을 공식적으로 공개했다. 이 원칙은 전문가 David Kris와 공동으로 개발되었으며, 현재 및 미래의 모든 협력에 적용될 예정이다. 핵심은 계약상의 제한을 통해 명확한 '레드라인(red lines)'을 설정하는 것이다. 이는 OpenAI 기술을 대규모 국내 감시(mass domestic surveillance), 자율 무기 시스템(autonomous weapons systems, 즉 스스로 목표를 공격하기로 결정하는 무기 시스템) 제어, 그리고 고위험 자동화된 의사 결정에 사용하는 것을 금지한다. 이 발표는 미국 정부와 경쟁사인 Anthropic 사이에 긴장이 고조되는 가운데 이루어졌다. Anthropic은 지난 2026년 초, 군사용으로 Claude 모델의 안전 제한을 해제하는 것을 거부했었다. OpenAI는 또한 Daybreak 프로젝트를 통해 호주, 일본, 한국 및 유럽 연합 국가들과 사이버 안보 협력을 확대했다. 이러한 원칙들은 Department of War와의 기존 협력에도 적용되었으며, OpenAI는 회사가 안전 스택(safety stack, 안전 조치 모음)을 완전히 통제하고 있음을 확인했다.