ทันเอไอ

Знакомьтесь с Instinct: персональным ИИ-ассистентом, способным работать за нас, но ценой вопросов о конфиденциальности

Instinct — новый персональный ИИ-ассистент из Кремниевой долины, способный выполнять за нас любые задачи, но вызывающий серьезные опасения по поводу конфиденциальности и безопасности.

В эпоху стремительного развития ИИ стартап Spear Street Technology, Inc. под руководством Ноа Шинна (Noah Shinn), бывшего исследователя из Sierra и соавтора исследования ИИ-агента «Reflexion», разработал персонального ИИ-агента по имени Instinct, который в настоящее время находится на стадии закрытого тестирования (по приглашениям).

Инструмент разработан для выполнения проактивных задач (Proactive tasks) через SMS или WhatsApp, таких как управление и ответы на письма, планирование встреч в календаре, вплоть до совершения транзакций и онлайн-покупок от имени пользователя. Проект поддерживают такие крупные инвесторы, как Kleiner Perkins и Conviction.

Тем не менее, первые тестировщики и эксперты по безопасности начали выражать серьезные опасения. Первая проблема заключается в «глубоком доступе к данным»: системе требуется запрашивать разрешения на доступ к аккаунту Gmail, сообщениям, местоположению, голосу и поведению на экране, чтобы действительно выполнять работу за пользователя.

Кроме того, условия использования (Terms of Service) включают пункт о «бессрочной и безвозвратной лицензии» (Perpetual and Irrevocable License) на использование данных, которая распространяется на применение личных данных для обучения ИИ-моделей. Существуют также риски безопасности, связанные с уязвимостями типа Prompt Injection, поскольку агент имеет высокий уровень контроля над системой, а некоторые тестировщики сообщали о случаях, когда система выполняла определенные действия без явного подтверждения.