ทันเอไอ

Constellation Gate AI发布：安全网关，Prompt Injection防护测试称冠

纳斯达克上市公司推出AI安全解决方案，无需修改代码即可与现有系统集成，并展示了F1分数高达97.4%的基准测试结果。

AIAI Holdings (纳斯达克: $AIAI) 公司通过其子公司Constellation Network在AI安全市场推出了新产品，名为“Constellation Gate AI”，这是一款专为人工智能应用程序设计的安全与审计网关。 Gate AI的核心是作为用户应用程序与大型语言模型 (LLM) 之间的中间件，以防止被称为Prompt Injection (提示注入) 的攻击。这是一种严重的漏洞，恶意行为者可以通过输入特殊指令来控制AI或窃取数据。该产品的亮点在于开发人员可以将其即时集成到现有的AI工作流中，无需修改原有代码。此外，它还配备了详细记录所有请求和响应的Audit Trail (审计追踪) 系统，并提供一个统一的仪表盘来监控所有使用情况和成本。 为证明其性能，团队公布了技术报告中的测试结果，指出Gate AI在16个公共Prompt Injection防护基准数据集上进行了评估。结果显示，Gate AI在8个数据集上取得了第一名，并在另外4个数据集上进入前三名。其F1 score (衡量模型准确性的指标) 高达97.4%，而False-Positive-Rate (误报率) 仅为1%。在速度方面，端到端响应的中位数为53毫秒，平均值为104毫秒。 Constellation首席执行官Ben Jorgensen表示：“开发人员与业务效率损失之间只隔着一个提示注入攻击。”并强调Gate AI旨在在攻击到达AI模型之前将其阻止，并记录所有活动以便进行追溯审计。 Constellation Gate AI将提供两种使用模式：一种是客户可自行连接现有模型服务提供商的API密钥，以利用安全和审计功能；另一种是按需付费 (Pay-as-you-go) 模式，用户可以通过Gate AI直接访问商业和开源AI模型，无需管理与多个服务提供商的关系。