ทันเอไอ

트럼프 행정부의 AI 테스트 계획, '제한적이고 모호하다' 비판…오픈소스 모델 제외

고급 AI의 사이버 보안 위험을 평가하기 위한 자발적 프레임워크가 오픈소스 모델을 포함하지 않으며 대중에 공개되지도 않을 것이라는 보도가 나왔다

도널드 트럼프 미국 대통령 행정부가 고급 AI의 사이버 보안 위험을 평가하기 위한 프레임워크를 마련하고 있다. 그런데 The Verge를 통해 전해진 Axios 보도에 따르면 이 접근 방식에는 뚜렷한 한계가 있다. 바로 오픈소스 모델(누구나 다운로드해 내부 구조를 검토할 수 있도록 공개된 모델)이 전혀 포함되지 않는다는 점이다.

보도에 따르면 이 자발적 프레임워크는 오픈소스 모델을 테스트 범위에서 제외할 뿐만 아니라, 오픈소스 모델이 공개된 이후에는 이를 제한하거나 통제하는 데 프레임워크를 적용할 수 없다고 명시하고 있다. 이 때문에 분석가들은 이 계획이 '제한적이고 모호하다'고 평가한다.

이 테스트 프레임워크는 트럼프 대통령이 지난 6월 행정명령에 서명한 이후 추진됐다. 해당 명령은 AI 기업들에 첨단 모델을 출시하기 전 연방정부와 공유하도록 요청해, AI가 디지털 시스템 구축이나 공격에 악용될 수 있다는 사이버 보안 우려를 해소하고자 한 것이다.

독립적인 소식통들도 같은 방향의 보도를 확인했다. Newsmax는 백악관 회의 브리핑을 받은 소식통을 인용해 새 프레임워크가 클로즈드소스 시스템(기업이 접근을 직접 통제하는 비공개 모델)만을 대상으로 하며, 세부 내용은 대중에 공개되지 않을 것이라고 전했다. Gizmodo는 연방정부 관리들이 모델의 사이버 보안 역량을 측정하기 위한 프레임워크 초안을 작성했으며, 이는 대중의 모델 접근 제한으로 이어질 수 있다고 보도했다. 또한 OpenAI 대표를 포함한 미국 기술 산업 고위 임원들과의 회담이 예정돼 있다고 덧붙였다.

핵심 비판은 오픈소스 모델을 제외함으로써 이 테스트 프레임워크가 가장 널리 퍼진 모델들의 위험을 간과한다는 점이다. 오픈 모델은 일단 공개되면 누구나 검증 장치 없이 사용하거나 변형할 수 있기 때문에, 오히려 보안 위험이 가장 쉽게 새어나갈 수 있는 통로이기 때문이다.