ทันเอไอ

Constellation Gate AI lanzado: Gateway de seguridad destaca resultados líderes en prevención de Prompt Injection.

Una compañía que cotiza en NASDAQ lanza una solución de seguridad para IA que se integra con sistemas existentes sin modificar código, mostrando resultados de pruebas estándar con una puntuación F1 del 97.4%.

AIAI Holdings (NASDAQ: $AIAI) ha lanzado un nuevo producto en el mercado de seguridad de IA a través de su filial Constellation Network, llamado "Constellation Gate AI", un gateway de seguridad y auditoría específicamente para aplicaciones de inteligencia artificial. El núcleo de Gate AI es actuar como intermediario entre las aplicaciones del usuario y los modelos de lenguaje grandes (LLM) para prevenir ataques de Prompt Injection (inyección de comandos), una vulnerabilidad crítica donde actores maliciosos pueden insertar comandos especiales para controlar o robar datos de la IA. Una ventaja clave del producto es que los desarrolladores pueden integrarlo inmediatamente en los flujos de trabajo de IA existentes sin necesidad de modificar el código original. Además, incluye un sistema de Audit Trail que registra detalladamente cada solicitud y respuesta, y un panel para monitorear el uso y los costos en un solo lugar. Para demostrar su eficacia, el equipo ha revelado los resultados de pruebas de un informe técnico, indicando que Gate AI fue evaluado con 16 conjuntos de datos de benchmark públicos para la prevención de Prompt Injection. Los resultados mostraron que Gate AI obtuvo el primer lugar en 8 conjuntos de datos y se ubicó entre los tres primeros en otros 4, logrando una puntuación F1 (valor que mide la precisión del modelo) del 97.4% con una tasa de falsos positivos (False-Positive-Rate) de solo el 1%. En términos de velocidad, la respuesta de extremo a extremo tuvo una mediana de 53 milisegundos y un promedio de 104 milisegundos. Ben Jorgensen, CEO de Constellation, afirmó: "Los desarrolladores están a solo una inyección de prompt de perder la eficiencia de negocio", y enfatizó que Gate AI está diseñado para bloquear ataques antes de que lleguen al modelo de IA, registrando toda la actividad para auditorías posteriores. Para su lanzamiento, Constellation Gate AI estará disponible en dos modalidades: una que permite a los clientes conectar sus propias claves API de proveedores de modelos existentes para usar las funciones de seguridad y auditoría, y un modelo de pago por uso (Pay-as-you-go) donde los usuarios pueden acceder directamente a modelos de IA, tanto comerciales como de código abierto, a través de Gate AI sin tener que gestionar relaciones con múltiples proveedores.