ทันเอไอ

Constellation Gate AI запущен: шлюз безопасности демонстрирует лучшие результаты в защите от Prompt Injection

Компания, котирующаяся на NASDAQ, представила решение по безопасности для ИИ, интегрируемое с существующими системами без изменения кода, и показала стандартные результаты тестов с F1-показателем в 97,4%.

Компания AIAI Holdings (NASDAQ: $AIAI) представила новый продукт на рынке безопасности ИИ через свою дочернюю компанию Constellation Network под названием "Constellation Gate AI". Это шлюз безопасности и аудита, специально разработанный для приложений, использующих искусственный интеллект. Основная функция Gate AI — выступать посредником между пользовательскими приложениями и крупными языковыми моделями (LLM) для предотвращения атак, известных как Prompt Injection (атаки со скрытыми командами). Это серьезная уязвимость, позволяющая злоумышленникам вводить специальные команды для управления ИИ или кражи данных. Ключевая особенность продукта заключается в том, что разработчики могут немедленно интегрировать его в существующие рабочие процессы ИИ без необходимости изменения исходного кода. Кроме того, он оснащен системой Audit Trail (журнал аудита), которая детально записывает все запросы и ответы, а также панелью мониторинга для отслеживания использования и общих затрат в одном месте. Для демонстрации эффективности команда опубликовала результаты испытаний из технического отчета, заявив, что Gate AI был оценен по 16 общедоступным наборам данных для тестирования защиты от Prompt Injection. Результаты показали, что Gate AI занял первое место в 8 наборах данных и вошел в тройку лидеров еще в 4 наборах, достигнув высокого F1-показателя (метрики точности модели) в 97,4% при уровне ложноположительных срабатываний всего в 1%. В отношении скорости, сквозное время отклика составило 53 миллисекунды (медиана) и 104 миллисекунды (среднее значение). Генеральный директор Constellation, Бен Йоргенсен, заявил: "Разработчиков отделяет от потери бизнес-эффективности всего одна Prompt Injection", подчеркнув, что Gate AI разработан для блокировки атак до того, как они достигнут модели ИИ, а также для записи всех действий для последующего аудита. При запуске Constellation Gate AI будет доступен в двух формах: первая позволяет клиентам подключать свои существующие API-ключи поставщиков моделей для использования функций безопасности и аудита; вторая — модель "Pay-as-you-go", при которой пользователи могут напрямую получать доступ к коммерческим и открытым моделям ИИ через Gate AI, не управляя отношениями с несколькими поставщиками.