ทันเอไอ

Lançamento do Phinq: sistema de segurança para AI Agents que bloqueia erros antes da execução

Phinq é um novo software open-source que atua como intermediário para filtrar comandos de AI Agents e prevenir possíveis danos.

Na era em que os agentes de inteligência artificial (AI Agents) começam a desempenhar um papel maior na automação do trabalho, o risco de a IA cometer erros graves acidentalmente — como excluir dados importantes ou modificar o sistema sem intenção — também aumenta. Recentemente, um projeto open-source chamado "Phinq" foi desenvolvido especificamente para resolver esse problema.

O Phinq atua como uma camada de governança em tempo de execução (Runtime Governance Layer), posicionando-se como um proxy ou middleware para interceptar todas as chamadas de ferramentas (tool calls) dos agentes de IA em tempo real. O sistema classifica o risco antes de permitir que o comando seja executado de fato.

Em termos de funcionamento, o Phinq utiliza o conceito de Human-in-the-Loop, dividindo o controle em duas partes principais. A primeira são comandos de baixo risco ou reversíveis, que o sistema permite que sejam executados automaticamente. A segunda são comandos de alto risco e irreversíveis, como a exclusão de bancos de dados; esses comandos são pausados temporariamente até receberem aprovação humana.

Além disso, o sistema conta com o recurso Tamper-evident Audit Log para registrar o histórico de decisões e ações em cada etapa usando tecnologia Hash-chained, prevenindo adulterações e suportando auditorias retroativas. Em termos de compatibilidade, o Phinq oferece suporte à integração com diversos frameworks e ferramentas de IA líderes de mercado, como OpenAI, Anthropic, LangChain, CrewAI, AutoGen e Claude Code.