ทันเอไอ

Lernen Sie Instinct kennen: Einen persönlichen KI-Assistenten, der für uns arbeitet – aber zu Lasten des Datenschutzes

Instinct, ein neuer persönlicher KI-Assistent aus Silicon Valley, kann alle möglichen Aufgaben für uns erledigen, wirft jedoch große Bedenken hinsichtlich Datenschutz und Sicherheit auf.

In einer Zeit sich rasant entwickelnder KI-Technologie hat das Startup Spear Street Technology, Inc. unter der Leitung von Noah Shinn, einem ehemaligen Forscher bei Sierra und Mitautor der KI-Agenten-Forschung „Reflexion“, einen persönlichen KI-Assistenten namens Instinct entwickelt, der sich derzeit in einer geschlossenen Testphase (Private Testing / Invite-only) befindet.

Das Tool ist darauf ausgelegt, proaktive Aufgaben über SMS oder WhatsApp zu erledigen – wie das Verwalten und Beantworten von E-Mails, Kalendertermine sowie das Abwickeln von Transaktionen und Online-Einkäufen im Namen des Nutzers. Es wird von namhaften Investoren wie Kleiner Perkins und Conviction unterstützt.

Erste Tester und Sicherheitsexperten äußern jedoch zunehmend schwerwiegende Bedenken. Der erste Punkt betrifft den „Tiefe Datenzugriff“, den das System benötigt, um auf E-Mail-Konten (Gmail), Nachrichten, Standort, Sprache und Bildschirmaktivitäten zugreifen zu können, um im Auftrag des Nutzers tatsächlich handeln zu können.

Darüber hinaus sehen die Nutzungsbedingungen (Terms of Service) eine „dauerhafte und unwiderrufliche Lizenz“ (Perpetual and Irrevocable License) vor, die auch die Nutzung persönlicher Daten zum Training von KI-Modellen einschließt. Hinzu kommen Sicherheitsrisiken durch Prompt-Injection-Schwachstellen, da der Agent über hohe Systemprivilegien verfügt. Einige Tester berichteten zudem von Verhalten, bei dem das System bestimmte Aktionen ohne ausdrückliche Bestätigung ausgeführt hat.