ทันเอไอ

Constellation Gate AI dévoilé : une passerelle de sécurité qui affiche des performances de premier ordre contre le Prompt Injection

Une entreprise cotée au NASDAQ lance une solution de sécurité pour l'IA, s'intégrant aux systèmes existants sans modification de code et affichant un score F1 de 97,4 % lors de tests standards.

AIAI Holdings (NASDAQ: $AIAI) a lancé un nouveau produit sur le marché de la sécurité de l'IA par l'intermédiaire de sa filiale Constellation Network, nommé « Constellation Gate AI », une passerelle de sécurité et d'audit dédiée aux applications d'intelligence artificielle. Au cœur de Gate AI se trouve son rôle d'intermédiaire entre les applications utilisateur et les grands modèles de langage (LLM), afin de prévenir les attaques dites de Prompt Injection, une vulnérabilité critique permettant à des acteurs malveillants d'injecter des commandes spéciales pour contrôler ou exfiltrer des données de l'IA. L'un des principaux avantages de ce produit est la capacité pour les développeurs de l'intégrer immédiatement dans leurs workflows ou processus d'IA existants, sans avoir à modifier le code. Il est également doté d'un système d'Audit Trail qui enregistre toutes les requêtes et réponses en détail, ainsi que d'un tableau de bord unique pour suivre l'utilisation et les coûts totaux. Pour prouver son efficacité, l'équipe a divulgué les résultats de tests issus d'un rapport technique, indiquant que Gate AI a été évalué sur 16 ensembles de données de benchmark publics pour la protection contre les Prompt Injections. Les résultats montrent que Gate AI s'est classé premier sur 8 ensembles de données et parmi les trois premiers sur 4 autres ensembles de données, atteignant un F1 score (valeur mesurant la précision du modèle) élevé de 97,4 % avec un taux de faux positifs de seulement 1 %. En termes de vitesse, le temps de réponse de bout en bout a une médiane de 53 millisecondes et une moyenne de 104 millisecondes. M. Ben Jorgensen, PDG de Constellation, a déclaré : « Les développeurs ne sont qu'à une seule injection de prompt de perdre l'efficacité de leur entreprise », et a souligné que Gate AI est conçu pour bloquer les attaques avant qu'elles n'atteignent le modèle d'IA, tout en enregistrant chaque activité pour un audit ultérieur. Pour son lancement, Constellation Gate AI sera disponible sous deux formes : une version permettant aux clients de connecter leurs propres clés API des fournisseurs de modèles existants pour utiliser les fonctionnalités de sécurité et d'audit, et une version « Pay-as-you-go » où les utilisateurs peuvent accéder directement aux modèles d'IA commerciaux et open source via Gate AI, sans avoir à gérer les relations avec plusieurs fournisseurs.