ทันเอไอ

"AI 2040", 2040년까지 초지능 개발을 늦추려는 계획이 George Hotz로부터 "지능 숭배 컬트"라는 비판을 받다.

유명 해커 George Hotz, OpenAI 전 팀의 'AI 개발 늦추고 모든 연구 공개' 제안 "AI 2040"을 물리적 현실을 간과한 개념이라 비판.

이번 주 기술 커뮤니티의 뜨거운 감자는 해커이자 Comma.ai 설립자인 George Hotz (geohot)가 "AI 2040: Plan A" 제안에 대해 작성한 비판 글이었다. 이 제안은 이전에 OpenAI에서 근무했던 연구원 그룹이 제시한 인공지능의 미래에 대한 긍정적인 비전을 담고 있다.

"AI 2040" 제안은 동일 팀이 이전에 작성했던 "AI 2027" 보고서의 후속작이다. 이전 보고서에서는 AI가 인류 멸종이나 전체주의적 권력 집중으로 이어질 수 있다는 우려스러운 미래를 예측했지만, 이번 "Plan A"에서는 이상적인 해결책을 제시했다. 핵심 내용은 2040년까지 초인간 지능(superintelligence) 개발을 늦추고, 기술 분산을 위해 모든 AI 연구를 대중에 공개하며, 모든 당사자가 지나치게 빠른 개발을 공동으로 검토하고 억제할 수 있는 시스템을 구축하는 것이다. 이 보고서의 저자로는 Daniel Kokotajlo, Thomas Larsen, Eli Lifland, Romeo Dean 등 AI 안전 분야의 주요 인사들이 포함되어 있다.

그러나 George Hotz는 자신의 블로그에 반박 글을 올리며 이러한 개념을 "지능 숭배 컬트(cult of intelligence)"의 일부라고 칭했다. 그는 지능이 궁극적인 목표가 아니라 현재의 병목 현상에 불과하다고 주장했다. Hotz는 세상을 지배하는 것이 "토큰"(AI 모델이 처리하는 기본 데이터 단위)만으로는 불가능하며, 현실 세계의 자원과 공급망을 통제해야 한다고 지적했다.

또한 Hotz는 AI 2040 보고서의 삽화에 등장하는 거대한 해상 데이터 센터 그림을 vaporware(발표되었지만 실제 출시되지 않은 소프트웨어 또는 하드웨어) 같다고 비판했다. 그는 이러한 이미지는 쉽게 만들 수 있지만, 실제로는 엄청난 공학적, 물류적 도전에 직면할 것이라고 말했다. 이 쟁점은 Hacker News 게시판에서 103개 이상의 댓글과 75표의 추천을 받으며 광범위한 논쟁을 불러일으켰고, AI의 미래 개발 방향에 대한 극명하게 다른 시각을 보여주었다.