ทันเอไอ

Constellation Gate AI vorgestellt: Sicherheits-Gateway mit führenden Testergebnissen zum Schutz vor Prompt Injection

Ein an der NASDAQ gelistetes Unternehmen präsentiert eine KI-Sicherheitslösung, die sich ohne Codeänderungen in bestehende Systeme integrieren lässt, und zeigt standardisierte Testergebnisse mit einem F1-Score von 97,4 %.

AIAI Holdings (NASDAQ: $AIAI) hat über seine Tochtergesellschaft Constellation Network ein neues Produkt auf dem KI-Sicherheitsmarkt eingeführt: "Constellation Gate AI". Dies ist ein Gateway für Sicherheit und Überwachung, speziell für Anwendungen mit künstlicher Intelligenz. Das Herzstück von Gate AI ist seine Funktion als Vermittler zwischen Benutzeranwendungen und Large Language Models (LLMs), um Angriffe namens Prompt Injection zu verhindern. Dies ist eine schwerwiegende Schwachstelle, bei der böswillige Akteure spezielle Befehle eingeben können, um die KI zu kontrollieren oder Daten zu stehlen. Ein Vorteil dieses Produkts ist, dass Entwickler es sofort in bestehende KI-Workflows integrieren können, ohne den ursprünglichen Code ändern zu müssen. Es verfügt außerdem über ein Audit Trail-System, das jede Anfrage und Antwort detailliert aufzeichnet, sowie ein Dashboard zur Überwachung der gesamten Nutzung und Kosten an einem Ort. Um die Leistung zu beweisen, veröffentlichte das Team Testergebnisse aus einem technischen Bericht. Es wurde festgestellt, dass Gate AI auf 16 öffentlich verfügbaren Benchmarking-Datensätzen zur Prompt Injection-Prävention bewertet wurde. Gate AI erzielte in 8 Datensätzen den ersten Platz und gehörte in weiteren 4 Datensätzen zu den Top drei. Der F1-Score (ein Maß für die Modellgenauigkeit) erreichte 97,4 % bei einer False-Positive-Rate (Fehlerkennungsrate) von nur 1 %. Bezüglich der Geschwindigkeit lag die End-to-End-Antwortzeit bei einem Median von 53 Millisekunden und einem Durchschnitt von 104 Millisekunden. Ben Jorgensen, CEO von Constellation, sagte: "Entwickler sind nur eine Prompt Injection davon entfernt, geschäftliche Effizienz zu verlieren", und betonte, dass Gate AI darauf ausgelegt ist, Angriffe abzuwehren, bevor sie das KI-Modell erreichen, und dabei alle Aktivitäten für die nachträgliche Überprüfung aufzuzeichnen. Constellation Gate AI wird in zwei Formen erhältlich sein: Eine Form, bei der Kunden ihre vorhandenen API-Schlüssel von Modell-Anbietern verbinden können, um Sicherheits- und Überwachungsfunktionen zu nutzen, und eine Pay-as-you-go-Form, bei der Benutzer direkt über Gate AI auf kommerzielle und Open-Source-KI-Modelle zugreifen können, ohne mehrere Anbieterbeziehungen verwalten zu müssen.