ทันเอไอ

Découvrez Instinct, l'assistant IA personnel qui agit pour vous, au détriment de la vie privée

Instinct, le nouvel assistant IA personnel de la Silicon Valley capable de gérer toutes vos tâches, suscite de vives inquiétudes en matière de confidentialité et de sécurité.

À l'ère du développement fulgurant de l'IA, la startup Spear Street Technology, Inc., dirigée par Noah Shinn (ancien chercheur chez Sierra et co-auteur de la recherche sur l'agent IA « Reflexion »), a développé un assistant IA personnel baptisé Instinct, actuellement en phase de test privé (sur invitation).

Cet outil est conçu pour exécuter des tâches proactives via SMS ou WhatsApp, telles que la gestion et la réponse aux e-mails, la planification de rendez-vous, ou encore la réalisation de transactions et d'achats en ligne à la place de l'utilisateur. Il bénéficie du soutien d'investisseurs majeurs tels que Kleiner Perkins et Conviction.

Cependant, les premiers testeurs et experts en sécurité commencent à soulever des inquiétudes majeures. Le premier point concerne « l'accès profond aux données », le système exigeant des autorisations pour accéder aux comptes de messagerie (Gmail), aux messages, à la localisation, aux données vocales et au comportement à l'écran afin de pouvoir agir réellement au nom de l'utilisateur.

De plus, les conditions d'utilisation stipulent une licence « perpétuelle et irrévocable » (Perpetual and Irrevocable License) pour l'utilisation des données, englobant l'exploitation des informations personnelles pour entraîner les modèles d'IA. S'yajoutent les risques de sécurité liés aux vulnérabilités de type Prompt Injection, l'agent disposant de privilèges système élevés. Certains testeurs ont également signalé des comportements où le système effectuait des actions sans confirmation explicite.