ทันเอไอ

AIアシスタント「Instinct」が登場：自動化の裏に潜むプライバシーの懸念

シリコンバレー発の新パーソナルAIアシスタント「Instinct」はあらゆる作業を代行する一方で、プライバシーとセキュリティ面で大きな懸念を引き起こしています。

AI技術が急発展する中、Sierraの元研究者でAIエージェントに関する研究論文「Reflexion」の共著者であるNoah Shinn氏率いるスタートアップ「Spear Street Technology, Inc.」が、パーソナルAIエージェント「Instinct」を開発した。現在は限定的なプライベートテスト（招待制）の段階にある。

本ツールは、SMSやWhatsAppを通じて、メールの管理・返信、カレンダーのスケジュール調整、さらにはユーザーに代わってオンラインでの決済や買い物を行うといったプロアクティブなタスクを実行するように設計されている。Kleiner PerkinsやConvictionといった主要な投資家からも支援を受けている。

しかし、初期のテスターやセキュリティアナリストからは重要な懸念の声が上がり始めている。1つ目は、ユーザーに代わって実際に作業を行うためにシステムが必要とする「深いレベルでのデータアクセス」であり、Gmailアカウント、メッセージ、位置情報、音声、画面上の行動へのアクセス権限が求められる。

さらに、利用規約（Terms of Service）には、AIモデルのトレーニングへの個人データの利用を含む「永続的かつ取り消し不可能なライセンス（Perpetual and Irrevocable License）」の条件が明記されている。また、エージェントがシステムに対する高度な権限を持っているため、プロンプトインジェクション（Prompt Injection）などの脆弱性によるセキュリティリスクも存在する。一部のテスターからは、システムが明確な確認なしに特定の動作を実行したという報告も寄せられている。