ทันเอไอ

Constellation Gate AI Lançado: Gateway de Segurança com Resultados de Teste Número Um em Prevenção de Prompt Injection

Empresa listada na NASDAQ lança solução de segurança para IA, conectando-se a sistemas existentes sem modificar o código e destacando-se com pontuação F1 de 97,4% em testes padrão.

A AIAI Holdings (NASDAQ: $AIAI) lançou um novo produto no mercado de segurança de IA através de sua subsidiária Constellation Network, denominado "Constellation Gate AI". Trata-se de um gateway de segurança e auditoria especificamente para aplicações que utilizam inteligência artificial. O cerne do Gate AI é atuar como um intermediário entre as aplicações do usuário e os Large Language Models (LLM) para prevenir ataques de Prompt Injection (ataques de comando oculto), uma vulnerabilidade grave onde invasores podem inserir comandos especiais para controlar ou roubar dados da IA. O destaque deste produto é que os desenvolvedores podem conectá-lo imediatamente aos workflows de IA existentes sem precisar modificar o código original. Além disso, ele vem com um sistema de Audit Trail que registra todas as requisições e respostas detalhadamente, e um painel para monitorar o uso e os custos totais em um só lugar. Para comprovar sua eficácia, a equipe divulgou resultados de testes de um relatório técnico, indicando que o Gate AI foi avaliado em 16 conjuntos de dados de benchmark públicos para testes de prevenção de Prompt Injection. Os resultados mostraram que o Gate AI obteve o primeiro lugar em 8 conjuntos de dados e esteve entre os três primeiros em outros 4 conjuntos de dados, alcançando uma pontuação F1 (valor usado para medir a precisão do modelo) de 97,4% com uma taxa de falso-positivo (False-Positive-Rate) de apenas 1%. Em termos de velocidade, a resposta de ponta a ponta teve uma mediana de 53 milissegundos e uma média de 104 milissegundos. Ben Jorgensen, CEO da Constellation, afirmou que "os desenvolvedores estão a apenas um prompt injection de distância de perder eficiência nos negócios", e enfatizou que o Gate AI foi projetado para bloquear ataques antes que cheguem ao modelo de IA, registrando todas as atividades para auditoria retrospectiva. Para o lançamento, o Constellation Gate AI estará disponível em duas formas: uma que permite aos clientes conectarem suas próprias chaves de API dos provedores de modelo que já usam para utilizar os recursos de segurança e auditoria, e uma modalidade Pay-as-you-go onde os usuários podem acessar modelos de IA comerciais e de código aberto diretamente através do Gate AI, sem precisar gerenciar múltiplos relacionamentos com provedores.