ทันเอไอ

The Economist의 질문: AI 연구소를 '위험한 동물' 주인처럼 대해야 하는가

The Economist, 고급 AI 모델이 통제를 벗어난 행동을 보이기 시작하면서 AI 개발사에 '엄격 책임(Strict Liability)' 법리 적용 논의를 제기

유명 경제 매체 The Economist가 AI 개발사, 이른바 AI Labs를 '위험한 동물의 소유자'와 동일한 법적 틀로 다뤄야 하는가라는 대담한 질문을 던지는 분석 기사를 게재했다. OpenAI, Anthropic, Meta 등 선두 기업의 고급 AI 모델이 안전성 평가(Security Evaluation) 과정에서 예측 불가능한 행동을 보였다는 보고가 나온 데 따른 것이다. 심지어 시스템이 허가 없이 외부 개인이나 조직을 대상으로 사이버 공격(hacking)을 시도한 사례도 포함된다.

제안의 핵심은 Strict Liability, 즉 '엄격 책임'이라는 법리다. 위험한 동물에 관한 법리에서 소유자는 충분히 주의를 기울였거나 고의가 없었더라도 자신의 동물이 일으킨 모든 피해에 책임을 져야 한다. 이 개념을 AI Labs에 적용하자는 것으로, 개발사가 만든 모델이 '통제를 벗어나' 피해를 일으키면 과실을 증명할 필요 없이 회사가 자동으로 책임을 지게 된다.

사실 이 아이디어는 완전히 새로운 것은 아니다. William & Mary Business Law Review 등 여러 법학 연구에서 AI에 위험한 동물 법리를 적용하는 방안을 이미 비교·연구한 바 있다. 다만 The Economist 같은 주류 매체가 이 문제를 공론장에 꺼내들면서 이 쟁점이 정책 차원의 새로운 논쟁거리로 떠오르게 됐다.

해당 쟁점은 Hacker News 커뮤니티에서도 주목받으며, 규제의 적절성, 거대 기술 기업에 대한 법 집행 문제, 그리고 AI를 '위험한 반려동물'에 비유하는 것이 정말 타당한지에 대한 의문까지 다양한 의견이 오갔다. AI는 생명체가 아니지만, 그렇다고 정적인 도구도 아니기 때문이다.