ทันเอไอ

Phinq 发布：AI Agents 安全管控系统，在实际执行前拦截错误

Phinq 是一款全新开源软件，充当中间件拦截并过滤来自 AI Agents 的指令，以防范潜在损失。

在人工智能代理（AI Agents）开始在自动化工作中发挥越来越重要作用的时代，AI 误执行严重指令（如意外删除重要数据或修改系统）的风险也随之增加。最近，一个名为“Phinq”的开源项目应运而生，专门用于解决这一问题。

Phinq 充当运行时治理层（Runtime Governance Layer），作为代理（Proxy）或中间件（Middleware）实时拦截 AI agent 的所有工具调用（Tool calls）。系统会在指令真正执行之前进行风险分类。

在工作机制方面，Phinq 采用了“人在回路”（Human-in-the-Loop）的概念，将控制分为两个主要部分。第一部分是低风险或可逆（Reversible）的指令，系统将自动允许执行；第二部分是高风险且不可逆（Irreversible）的指令，例如删除数据库，这些指令将被临时搁置，直到获得人类批准。

此外，该系统还具有防篡改审计日志（Tamper-evident Audit Log）功能，利用哈希链（Hash-chained）技术记录每个步骤的决策和操作历史，以防范篡改并支持事后审计。在兼容性方面，Phinq 支持与多种领先的 AI 框架和工具进行连接，例如 OpenAI、Anthropic、LangChain、CrewAI、AutoGen 和 Claude Code。