ทันเอไอ

나 대신 일해주는 개인 AI 어시스턴트 'Instinct', 하지만 뒤따르는 프라이버시 우려

실리콘밸리의 새로운 개인 AI 어시스턴트 'Instinct'는 사용자를 대신해 모든 업무를 처리할 수 있지만, 프라이버시와 보안에 대한 큰 우려를 낳고 있습니다.

AI 기술이 급속도로 발전하는 시대에 전 Sierra 연구원이자 AI 에이전트 논문 'Reflexion'의 공동 저자인 Noah Shinn이 이끄는 스타트업 Spear Street Technology, Inc.가 'Instinct'라는 개인 AI 어시스턴트를 개발했습니다. 현재 비공개 테스트(초대 전용) 진행 중입니다.

이 도구는 SMS나 WhatsApp을 통해 능동적 업무(Proactive tasks)를 수행하도록 설계되었습니다. 이메일 관리 및 회신, 일정 조율부터 사용자를 대신한 온라인 거래 및 쇼핑까지 처리할 수 있으며, Kleiner Perkins와 Conviction 등 주요 투자자들이 지원하고 있습니다.

그러나 초기 테스터들과 보안 분석가들은 중요한 우려를 제기하기 시작했습니다. 첫째는 '심층 데이터 접근' 문제로, 시스템이 사용자를 대신해 실제로 업무를 수행하려면 Gmail 계정, 메시지, 위치, 음성, 화면 활동 등에 대한 권한을 요구해야 합니다.

게다가 이용약관(Terms of Service)에는 AI 모델 학습에 개인정보를 사용하는 것을 포함해 '영구적이고 취소 불가능한 라이선스(Perpetual and Irrevocable License)' 조건이 명시되어 있습니다. 또한 에이전트가 높은 수준의 시스템 제어 권한을 가지고 있어 프롬프트 인젝션(Prompt Injection) 취약점에 따른 보안 위험도 존재하며, 일부 테스터는 시스템이 명확한 확인 없이 작업을 실행하는 행동을 발견했다고 보고했습니다.