ทันเอไอ

Meluncurkan Phinq, sistem kontrol keamanan AI Agents untuk cegah kesalahan sebelum eksekusi

Phinq, perangkat lunak open-source baru yang bertindak sebagai perantara untuk menyaring perintah dari AI Agents demi mencegah potensi kerusakan

Di era di mana agen kecerdasan buatan (AI Agents) mulai memainkan peran yang semakin besar dalam otomatisasi kerja, risiko AI secara tidak sengaja mengeksekusi perintah fatal—seperti menghapus data penting atau memodifikasi sistem tanpa sengaja—juga ikut meningkat. Baru-baru ini, proyek open-source bernama "Phinq" telah dikembangkan khusus untuk mengatasi masalah ini.

Phinq bertindak sebagai Runtime Governance Layer (lapisan tata kelola saat runtime), diposisikan sebagai proxy atau middleware untuk mencegat semua pemanggilan alat (tool calls) oleh AI agent secara real-time. Sistem ini mengklasifikasikan risiko sebelum mengizinkan perintah tersebut benar-benar dijalankan.

Dari segi cara kerjanya, Phinq menggunakan konsep Human-in-the-Loop yang membagi kontrol menjadi dua bagian utama. Bagian pertama adalah perintah berisiko rendah atau yang dapat dibalikkan (reversible), di mana sistem akan mengizinkan eksekusi secara otomatis. Bagian kedua adalah perintah berisiko tinggi dan tidak dapat dibalikkan (irreversible), seperti menghapus database; perintah ini akan ditangguhkan sementara hingga mendapat persetujuan dari manusia.

Selain itu, sistem ini juga dilengkapi fitur Tamper-evident Audit Log untuk mencatat riwayat keputusan dan setiap langkah tindakan menggunakan teknologi Hash-chained guna mencegah manipulasi dan mendukung audit di kemudian hari. Dari segi kompatibilitas, Phinq mendukung integrasi dengan berbagai framework dan alat AI terkemuka seperti OpenAI, Anthropic, LangChain, CrewAI, AutoGen, dan Claude Code.