ทันเอไอ

Constellation Gate AI発表：Prompt Injection防御テストでトップクラスのセキュリティゲートウェイ

NASDAQ上場企業がAI向けセキュリティソリューションを発表。既存システムにコード変更なしで接続可能で、標準テストではF1スコア97.4%を達成した。

AIAI Holdings (NASDAQ: $AIAI) は、傘下のConstellation Networkを通じて、AIセキュリティ市場に新製品「Constellation Gate AI」を投入しました。これは、人工知能アプリケーション専用のセキュリティおよび監査ゲートウェイです。 Gate AIの核となる機能は、ユーザーアプリケーションと大規模言語モデル（LLM）の間に介在し、Prompt Injectionと呼ばれる攻撃を防ぐことです。Prompt Injectionは、悪意のある攻撃者がAIを制御したり、データを盗んだりするために特殊なコマンドを挿入する深刻な脆弱性です。本製品の利点は、開発者が既存のAIワークフローにコード変更なしで即座に接続できる点です。さらに、すべてのリクエストと応答を詳細に記録するAudit Trailシステムと、使用状況と総コストを追跡するための一元化されたダッシュボードも搭載されています。 その性能を証明するため、チームは技術レポートからのテスト結果を公開しました。それによると、Gate AIは公開されている16種類のPrompt Injection防御テスト用ベンチマークデータセットで評価され、8つのデータセットで1位を獲得し、さらに4つのデータセットでトップ3に入りました。モデルの精度を測るF1スコアでは97.4%という高値を達成し、False-Positive-Rate（誤検出率）はわずか1%でした。速度に関しては、エンドツーエンドの応答時間の中央値は53ミリ秒、平均値は104ミリ秒でした。 ConstellationのCEOであるBen Jorgensen氏は、「開発者は、たった一度のPrompt Injectionによって事業効率を失う危険にさらされている」と述べ、Gate AIがAIモデルに到達する前に攻撃をブロックし、すべての活動を監査のために記録するように設計されていることを強調しました。 Constellation Gate AIの提供形態は2種類あります。1つは、顧客が既存のモデルプロバイダーのAPIキーを接続してセキュリティおよび監査機能を利用する形態。もう1つは、Pay-as-you-go（従量課金制）形態で、ユーザーは複数のプロバイダーとの関係を管理することなく、Gate AIを通じて商用およびオープンソースのAIモデルに直接アクセスできます。