ทันเอไอ

케임브리지 연구 결과: 보코하람, AI 전담 부대 설립해 ChatGPT-Gemini로 공격 계획 및 무기 제조

케임브리지 대학의 새로운 연구 보고서에 따르면, 나이지리아 테러 단체 보코하람은 최신 AI를 활용해 전술 계획, 무기 사용 지원, 체계적인 선전 활동을 수행하는 특수 부대를 설립한 것으로 확인됐다.

케임브리지 대학 Cambridge Programme on AI Science & Policy (CASP)의 새로운 연구는 나이지리아 테러 단체 Boko Haram이 최첨단 대규모 언어 모델(Frontier AI)을 군사 작전에 전면적으로 활용하고 있다는 우려스러운 증거를 공개했다. 이는 무장 단체가 신기술 적응에 느리다는 기존 통념과 상반된다. Dr. Antonia Juelich가 이끈 이 연구는 나이지리아 북동부의 Boko Haram 전 멤버 27명과의 57회 대면 인터뷰 데이터를 기반으로 한다. 연구 결과, 단체의 양대 주요 파벌 모두 ChatGPT, Claude, Gemini, Grok, Meta AI, DeepSeek 등 일반에 공개된 AI 도구를 사용한 것으로 나타났다. 이들은 공격 전술 계획, 폭발물 및 드론 제조 정보 검색, 선전 활동, 전략 개선을 위한 사후 검토(after-action reviews) 등 다양한 임무에 AI를 활용했다. 흥미로운 점은 Boko Haram이 AI를 산발적으로 사용하는 대신, 전선 후방에서 운영되는 전담 'AI 부대'를 설립했다는 것이다. 이 부대는 다양한 AI 시스템에 프롬프트를 입력하고, 그 결과를 실행 가능한 조언으로 정제하여 지휘 계통에 전달하는 역할을 한다. 또한, 외국 지하디스트 전문가들이 고위 사령관들에게 AI 사용법과 AI 보안 조치 회피 방법을 훈련시킨다는 보고도 있다. 기술 기업이 설정한 '가드레일(guardrails)' 회피 방법도 중요한 발견 중 하나다. 전 멤버들은 단체가 '혼합 및 매칭(mixing and matching)'이라는 기법을 사용한다고 밝혔다. 이는 여러 AI의 답변을 조합하여 위험한 목표를 위한 완전한 정보를 생성하는 방식이다. 예를 들어, 한 AI가 폭탄 제조법 대신 화학 성분 정보를 제공하면, 단체는 그 정보를 다른 AI에게 가져가 조합 단계를 묻는 식이다. 이러한 경향은 미국 Center for Strategic and International Studies (CSIS)의 병행 보고서에서도 확인되었으며, CSIS는 테러 단체가 여러 AI 시스템의 혼합 기술을 사용하여 방어 조치를 우회하고 있다고 지적했다.