ทันเอไอ

Claude for Chrome 확장 프로그램 취약점 발견, 악성 코드에 의한 AI 명령 및 개인정보 접근 위험

보안 연구원들이 Claude 브라우저 확장 프로그램에서 다른 악성 확장 프로그램이 사용자의 클릭을 사칭해 승인 없이 AI를 조작할 수 있는 취약점을 발견했습니다.

보안 연구 기업 Manifold Security는 Anthropic의 인기 브라우저 확장 프로그램인 'Claude for Chrome'에서 다른 악성 확장 프로그램이 사용자가 모르는 사이에 Claude AI를 이용해 개인 데이터에 접근할 수 있게 만드는 취약점을 공개했습니다.

Ax Sharma 연구원이 발견한 이 취약점은 사용자 명령 검증 방식에 기인합니다. Claude 확장 프로그램은 실제 사용자의 클릭과 스크립트에 의한 가짜 클릭을 구분하는 브라우저 표준인 'Event.isTrusted' 속성을 확인하지 않습니다. 이로 인해 동일한 브라우저에 악성 확장 프로그램이 설치되어 있을 경우, 이를 이용해 사용자의 클릭을 시뮬레이션하여 Google Docs 요약, Gmail 이메일 초안 작성, Google Calendar 일정 관리 등 사전 정의된 기능을 실행할 수 있습니다.

단, 이번 공격은 프롬프트 인젝션처럼 AI를 자유롭게 조종하는 것은 불가능하며, 확장 프로그램에 미리 프로그래밍된 9가지 명령으로 제한됩니다. 또한 사용자가 먼저 악성 확장 프로그램을 직접 설치해야만 공격이 가능하며, 일반 웹사이트가 직접적으로 제어할 수는 없습니다.

Manifold Security는 이 취약점의 심각도를 일반 사용 환경에서 CVSS 7.7점으로 평가했으며, AI가 자동으로 작업을 수행하는 '무인 실행(unattended execution)' 모드를 사용할 경우 9.6점(치명적)까지 높아질 수 있다고 경고했습니다. 보고 시점 기준, 해당 취약점은 아직 수정되지 않았습니다.