ทันเอไอ

El AI de GitHub sugiere una corrección errónea que permitió hackear el Jira de Snowflake

Una herramienta de corrección automática de IA de GitHub eliminó el código de seguridad, permitiendo que la IA de investigación de Wiz detectara y demostrara la extracción real de tokens de Jira de Snowflake.

Wiz, una empresa de ciberseguridad, reveló un interesante caso de estudio en el que "Red Agent" —una IA autónoma para la investigación de vulnerabilidades de la empresa— detectó un fallo en el repositorio de código público de Snowflake a través de un programa de Bug Bounty y demostró la extracción exitosa de tokens de API de Jira. Irónicamente, el origen de la vulnerabilidad provino de otra IA: GitHub Copilot Autofix.

Todo comenzó el 18 de junio de 2026, cuando se fusionó un código (PR #1218) en el repositorio `snowflake-connector-net` de Snowflake, un conector para .NET de código abierto. Dicho código contó con la participación de GitHub Copilot Autofix —una herramienta de IA que sugiere correcciones automáticas de vulnerabilidades—. El problema fue que la IA eliminó la validación segura de entradas (sanitized input) y la reemplazó por una expansión directa de cadenas (direct string expansion) en un script de GitHub Actions, el sistema automatizado de integración y entrega continua (CI/CD).

El resultado fue una vulnerabilidad de inyección de comandos (Command Injection) a través del título de un GitHub Issue, que cualquier persona podía abrir y escribir. Cuando el sistema automatizado procesaba ese mensaje sin filtrarlo, un atacante podía insertar comandos para que se ejecutaran en el sistema.

Cinco días después, el 23 de junio de 2026, el Red Agent de Wiz detectó esta vulnerabilidad, realizó pruebas y logró exfiltrar los tokens de API de Jira, el sistema de gestión de tareas interno de Snowflake. De haber sido un atacante real, dichos tokens habrían permitido el acceso a información interna de la organización.

Snowflake respondió con rapidez, parcheando la vulnerabilidad y rotando todas las credenciales de seguridad el mismo día en que recibió el reporte.

Este caso ha generado amplio debate en Hacker News con más de 304 puntos y 123 comentarios, ya que refleja el doble riesgo de la era de la IA: por un lado, una IA que ayuda a programar puede pasar por alto los patrones de seguridad que los humanos solían incluir; por el otro, la IA ofensiva también puede descubrir vulnerabilidades con mayor rapidez. Los expertos reiteran que el código generado o modificado por IA debe pasar por una rigurosa revisión humana, especialmente en sistemas CI/CD que suelen tener privilegios de acceso a datos críticos.