GitHub-KI schlägt fehlerhaften Code-Fix vor und öffnet Tor für Snowflake-Jira-Hack
Das automatische KI-Tool von GitHub zur Fehlerbehebung löschte versehentlich Sicherheitsvorkehrungen, bis das KI-Forschungsteam von Wiz die Lücke entdeckte und die erfolgreiche Extraktion von Snowflake-Jira-Token demonstrierte.
Das Cybersecurity-Unternehmen Wiz hat eine interessante Fallstudie veröffentlicht: „Red Agent“, eine autonome KI des Unternehmens zur Schwachstellenforschung, entdeckte über ein Bug-Bounty-Programm eine Lücke im öffentlichen Code-Repository von Snowflake und demonstrierte die erfolgreiche Extraktion von Jira-API-Token. Die Ursache für die Schwachstelle war paradoxerweise eine andere KI: GitHub Copilot Autofix.
Die Geschichte begann am 18. Juni 2026, als ein Pull Request (PR #1218) in das Repository `snowflake-connector-net` von Snowflake gemergt wurde – einen Open-Source-.NET-Connector. Der betroffene Code enthielt Änderungen von GitHub Copilot Autofix, einem KI-Tool zur automatischen Behebung von Schwachstellen. Das Problem: Die KI entfernte die sichere Eingabebereinigung (Sanitized Input) und ersetzte sie in einem GitHub-Actions-Skript (CI/CD) durch direkte String-Expansion.
Dies führte zu einer Command-Injection-Schwachstelle über den Titel von GitHub-Issues, die von jedermann erstellt werden können. Da das automatisierte System diese Eingaben ungefiltert verarbeitete, konnten Angreifer Befehle in das System einschleusen.
Fünf Tage später, am 23. Juni 2026, entdeckte der Red Agent von Wiz die Schwachstelle, testete sie und konnte erfolgreich die API-Token von Jira (dem internen Task-Management-System von Snowflake) exfiltrieren. Hätte es sich um echte Angreifer gehandelt, hätten diese Token den Zugriff auf interne Unternehmensdaten ermöglichen können.
Snowflake reagierte schnell, behob die Schwachstelle und rotierte sämtliche Sicherheitszertifikate noch am selben Tag des Berichts.
Der Fall sorgte auf Hacker News mit über 304 Punkten und 123 Kommentaren für Aufsehen, da er das doppelte Risiko des KI-Zeitalters verdeutlicht: Auf der einen Seite lässt KI beim Coden oft von Menschen implementierte Sicherheitsstandards vermissen, auf der anderen Seite spürt Angreifer-KI Schwachstellen immer schneller auf. Experten betonen daher, dass von KI generierter oder modifizierter Code – insbesondere in CI/CD-Pipelines mit privilegierten Zugriffen – weiterhin von Menschen gründlich überprüft werden muss.
Ein klares Fallbeispiel dafür, dass KI-gestütztes Programmieren selbst bei führenden Technologieunternehmen schwerwiegende Schwachstellen verursachen kann. Unternehmen, die Copilot oder ähnliche KI-Tools einsetzen, sollten stets strenge menschliche Code-Reviews etablieren, insbesondere bei automatisierten Skripten mit sensiblen Rechten.