ทันเอไอ

GitHub AI가 잘못된 코드 수정 제안, Snowflake의 Jira 해킹 빌미 제공

GitHub의 자동 AI 취약점 수정 도구가 오히려 보안용 코드를 삭제해 버렸고, Wiz의 연구용 AI가 이를 탐지해 Snowflake의 Jira 토큰을 실제 탈취하는 데 성공함.

보안 기업 Wiz가 흥미로운 사례를 공개했다. 회사의 취약점 연구용 자동 AI인 'Red Agent'가 버그 바운티 프로그램을 통해 Snowflake의 공개 코드 저장소에서 취약점을 발견하고, Jira API 토큰을 성공적으로 탈취하는 시연을 한 것이다. 이 취약점의 근원지는 아이러니하게도 또 다른 AI인 GitHub Copilot Autofix였다.

사건은 2026년 6월 18일, 오픈 소스로 개발되는 .NET용 커넥터인 Snowflake의 `snowflake-connector-net` 저장소에 코드 병합(PR #1218)이 이루어지면서 시작됐다. 당시 코드는 자동 취약점 수정 추천 AI인 GitHub Copilot Autofix의 도움을 받아 수정되었는데, 문제는 AI가 안전한 입력값 처리(sanitized input) 로직을 삭제하고 소프트웨어 개발 자동화(CI/CD) 시스템인 GitHub Actions 스크립트에 직접 문자열 확장(direct string expansion) 방식을 적용했다는 점이다.

그 결과 누구나 이슈를 열고 텍스트를 입력할 수 있는 GitHub Issue 제목을 통해 Command Injection 취약점이 발생했다. 자동화 시스템이 해당 텍스트를 필터링 없이 처리하면서, 공격자가 시스템 내에서 임의의 명령어를 실행할 수 있게 된 것이다.

5일 뒤인 2026년 6월 23일, Wiz의 Red Agent가 이 취약점을 감지해 테스트를 수행했고, Snowflake의 내부 업무 관리 시스템인 Jira의 API 토큰을 유출(exfiltrate)해 냈다. 실제 공격자였다면 이 토큰을 통해 내부 업무 데이터에 접근할 수 있었던 상황이다.

Snowflake는 신속하게 대응하여 제보를 받은 당일에 취약점을 패치하고 모든 보안 자격 증명을 교체(rotate)했다.

이 사례는 해커뉴스(Hacker News)에서 304점 이상의 추천과 123개 이상의 댓글을 기록하며 광범위하게 논의되었다. AI 시대의 이중적 위험을 여실히 보여주었기 때문이다. 한쪽에서는 AI가 코드를 작성하면서 인간이 설정해 둔 보안 규칙을 누락할 수 있고, 다른 한쪽에서는 공격 측 AI가 취약점을 그만큼 빠르게 찾아낼 수 있다는 점이 증명됐다. 전문가들은 AI가 생성하거나 수정한 코드는, 특히 중요한 권한을 가진 CI/CD 시스템과 관련된 부분일수록 인간의 철저한 검토를 거쳐야 한다고 강조하고 있다.