ทันเอไอ

Conheça o Instinct, assistente de IA pessoal que trabalha por nós, mas ao custo de preocupações com a privacidade

O Instinct, novo assistente de IA pessoal do Vale do Silício que consegue gerenciar tudo por nós, está gerando grandes preocupações sobre privacidade e segurança.

Na era do desenvolvimento acelerado da IA, a startup Spear Street Technology, Inc., liderada por Noah Shinn (ex-pesquisador da Sierra e coautor da pesquisa de Agentes de IA "Reflexion"), desenvolveu um assistente de IA pessoal chamado Instinct, atualmente em fase de testes limitados (Private Testing / Invite-only).

A ferramenta foi projetada para realizar tarefas proativas (Proactive tasks) via SMS ou WhatsApp, como gerenciar e responder e-mails, agendar compromissos no calendário e até realizar transações e compras online em nome do usuário, contando com o apoio de investidores importantes como Kleiner Perkins e Conviction.

No entanto, os primeiros testadores e analistas de segurança começaram a levantar preocupações importantes. O primeiro ponto é o "acesso profundo a dados", já que o sistema precisa solicitar permissões para acessar contas de e-mail (Gmail), mensagens, localização, áudio e comportamento na tela para conseguir realizar as tarefas em nome do usuário de fato.

Além disso, os Termos de Serviço estipulam condições de concessão de direitos de uso de dados de forma "perpétua e irrevogável" (Perpetual and Irrevocable License), o que abrange o uso de dados pessoais para treinar modelos de IA, bem como riscos de segurança decorrentes de vulnerabilidades do tipo Prompt Injection, já que o agente possui privilégios de controle de sistema em alto nível. Há relatos de alguns testadores de que o sistema executou certas ações sem confirmação explícita.