ทันเอไอ

연구진, 2040년까지 초지능 개발 지연 위한 'Plan A' 제안, 모든 연구 공개 요구

AI Futures Project는 고도 AI의 위험 관리를 위한 선제적 계획을 제안하며, 2040년까지 개발 지연 및 위험한 경쟁 완화를 위한 모든 연구 공개를 요구했다.

비영리 연구기관 AI Futures Project는 미래 고도 인공지능의 위험을 관리하기 위한 완전히 새로운 접근 방식을 제시하는 "AI 2040: Plan A"라는 제목의 주요 정책 제안을 발표했다. 주요 저자는 전 OpenAI 연구원 Daniel Kokotajlo와 이전에 주목받았던 AI 2027 보고서의 공동 저자 Thomas Larsen이다. "Plan A"의 핵심은 예측이 아니라, 인류를 최상의 결과로 이끌기 위해 연구팀이 "반드시 이루어져야 한다"고 믿는 제안이다. 이 계획은 Superintelligence (모든 면에서 인간보다 똑똑한 인공지능)의 개발을 최소 2040년까지 지연시킬 것을 요구한다. 제안된 주요 조치는 모든 AI 연구소가 모든 연구와 모델을 대중에 공개하여 비밀 경쟁을 제거하고 업계의 투명성을 확보하는 것이다. 이 제안은 모든 정보 공개가 전 세계 수십 개의 기업 및 연구 기관이 선도 그룹의 기술을 따라잡는 데 도움이 될 것이라고 명시한다. 이는 권력 분산으로 이어지고 어떤 단체도 절대적인 권력을 독점하는 것을 방지할 것이다. 또 다른 중요한 아이디어는 "상호 확증된 컴퓨팅 파괴 (mutually assured compute destruction)"라고 불리는 상태를 의도적으로 조성하는 것이다. 이는 냉전 시대의 "상호 확증 파괴 (mutually assured destruction)" 원칙과 유사하지만, 핵무기 대신 컴퓨팅 파워로 대체된다. 만약 어떤 당사자가 비밀리에 AI 개발을 가속화하려 한다면, 나머지 다른 당사자들은 서로에게 공개된 컴퓨팅 파워를 결합하여 이를 저지하거나 대응할 수 있어, 아무도 합의를 위반하지 못하게 된다. 이 보고서는 AI 2027 및 AI Futures Model에 이어 AI Futures Project의 세 번째 중요한 작업이다. 이 프로젝트 웹사이트는 Lightcone Infrastructure와도 공동 개발되었다. 이 제안은 Axios와 Washington Post 같은 주요 언론사에 의해 확인 및 보도되었으며, 이는 전 세계 기술 및 정책 분야에서 진지하게 주목받는 제안임을 시사한다.