ทันเอไอ

Conoce a Instinct, el asistente de IA personal que trabaja por ti a cambio de preocupaciones sobre privacidad

Instinct, el nuevo asistente de IA personal de Silicon Valley que puede gestionar cualquier tarea por ti, está generando grandes preocupaciones sobre privacidad y seguridad.

En una era en la que la tecnología de IA evoluciona rápidamente, la startup Spear Street Technology, Inc., liderada por Noah Shinn (exinvestigador de Sierra y coautor de la investigación sobre agentes de IA "Reflexion"), ha desarrollado un asistente de IA personal llamado Instinct, actualmente en fase de pruebas privadas solo por invitación.

Esta herramienta está diseñada para realizar tareas proactivas a través de SMS o WhatsApp, como gestionar y responder correos, programar citas en el calendario e incluso realizar transacciones y compras en línea en nombre del usuario, contando con el respaldo de importantes inversores como Kleiner Perkins y Conviction.

Sin embargo, los primeros evaluadores y analistas de seguridad han comenzado a expresar importantes preocupaciones. La primera es el "acceso a datos de nivel profundo", ya que el sistema requiere permisos para acceder a cuentas de correo (Gmail), mensajes, ubicación, voz y comportamiento en pantalla para poder operar en nombre del usuario.

Además, los términos de servicio estipulan una licencia "perpetua e irrevocable" que incluye el uso de datos personales para entrenar modelos de IA, así como riesgos de seguridad debido a vulnerabilidades de inyección de prompts (Prompt Injection), dado que el agente tiene un alto nivel de control del sistema. Algunos evaluadores han informado de comportamientos en los que el sistema realizó ciertas acciones sin una confirmación explícita.