ทันเอไอ

Constellation Gate AI 출시: 보안 게이트웨이, 프롬프트 인젝션 방어 테스트 1위 기록

나스닥 상장 기업, 기존 시스템에 코드 수정 없이 연동 가능한 AI 보안 솔루션 출시. F1 점수 97.4% 달성한 표준 테스트 결과 공개.

AIAI Holdings (NASDAQ: $AIAI)는 자회사 Constellation Network를 통해 AI 보안 시장에 신제품 "Constellation Gate AI"를 출시했다. 이는 인공지능 애플리케이션 전용 보안 및 모니터링 게이트웨이다. Gate AI의 핵심은 사용자 애플리케이션과 대규모 언어 모델(LLM) 사이에 위치하여 Prompt Injection(특정 명령어를 삽입하는 공격)으로 알려진 공격을 방지하는 것이다. 이는 악의적인 행위자가 특수 명령어를 입력하여 AI를 제어하거나 데이터를 훔칠 수 있는 심각한 취약점이다. 이 제품의 강점은 개발자가 기존 AI Workflow 또는 작업 프로세스에 코드 수정 없이 즉시 연결할 수 있다는 점이다. 또한 모든 요청과 응답을 상세히 기록하는 Audit Trail 시스템을 제공하며, 사용량과 총 비용을 한곳에서 모니터링할 수 있는 대시보드도 갖추고 있다. 성능 입증을 위해, 팀은 기술 보고서를 통해 테스트 결과를 공개했다. Gate AI는 공개된 16가지 Prompt Injection 방어 테스트 벤치마크 데이터셋으로 평가되었다. 그 결과, Gate AI는 8개 데이터셋에서 1위를 차지했으며, 4개 데이터셋에서는 상위 3위 안에 들었다. F1 score(모델 정확도를 측정하는 값)는 97.4%에 달했으며, False-Positive-Rate(오탐률)은 1%에 불과했다. 속도 면에서, 엔드-투-엔드(end-to-end) 응답 시간의 중앙값(median)은 53밀리초, 평균값은 104밀리초였다. Ben Jorgensen Constellation CEO는 "개발자는 단 한 번의 프롬프트 인젝션으로 비즈니스 효율성 손실을 겪을 수 있다"고 말하며, Gate AI가 AI 모델에 도달하기 전에 공격을 차단하고 모든 활동을 기록하여 사후 감사를 가능하게 설계되었다고 강조했다. Constellation Gate AI는 두 가지 형태로 제공될 예정이다. 첫 번째는 고객이 기존 모델 제공업체의 API 키를 연결하여 보안 및 감사 기능을 사용하는 방식이고, 두 번째는 사용자가 여러 제공업체와 관계를 관리할 필요 없이 Gate AI를 통해 상업용 및 오픈소스 AI 모델에 직접 접근할 수 있는 Pay-as-you-go 방식이다.