ทันเอไอ

Google DeepMind CEO, 미국 주도의 'AI 규제 기구' 설립 제안… 글로벌 안전 표준 마련 시급

Google DeepMind의 CEO이자 공동 창립자인 Demis Hassabis가 미국 정부 주도의 '프론티어 AI' 규제 기구 설립을 제안했습니다. 위험성 발견 시 개발을 중단시킬 수 있는 강력한 권한을 가진 기관 도입을 촉구했습니다.

Google DeepMind의 CEO Demis Hassabis가 최첨단 AI 모델인 '프론티어 모델'을 관리·감독할 미국 주도의 글로벌 AI 규제 기구 설립을 제안했습니다. 이는 그가 지난 7월 14일 발표한 에세이 'A Framework for Frontier AI and the Dawning of a New Age'를 통해 공개되었습니다.

Hassabis는 월스트리트를 관리하는 민간 자율 규제 기구인 FINRA(금융산업규제기구) 모델을 본떠, AI 업계가 자금을 지원하되 정부 감독하에 운영되는 기구 설립을 주장했습니다. 초기에는 주요 AI 기업들이 신규 모델 출시 전 30일간 자발적으로 보안성, 생물학적 위험, 기만 능력 등을 검증받게 하고, 이후 시스템이 검증되면 모든 프론티어 모델은 국가와 관계없이 미국 시장 출시 전 반드시 이 평가를 거치도록 하자는 구상입니다. 그는 올해 말까지 해당 기관의 가동을 목표로 하고 있습니다.

이러한 제안은 최근 미국 정부가 Anthropic의 Mythos 및 Fable 모델 수출을 갑작스럽게 통제한 사건이 계기가 되었습니다. Hassabis는 이 사건이 명확한 규정 없이 기업들이 2주 넘게 협상에 매달려야 했던 비효율적인 상황임을 지적하며, 보다 체계적인 규제 장치가 필요하다고 강조했습니다.

이러한 움직임은 Anthropic의 Dario Amodei CEO 등 주요 AI 리더들이 FAA(연방항공청)와 같은 강력한 규제 기구의 필요성을 지속적으로 주장해 온 것과 궤를 같이합니다. 업계 리더들 사이에서는 더욱 강력해지는 AI 기술의 안전과 신뢰를 위해 표준화된 글로벌 규제 프레임워크가 필수적이라는 공감대가 형성되고 있습니다.