xAI verkauft Grok Build, seinen KI-Coding-Agent-CLI, als „local-first, dein Code verlässt nie deine Maschine.“ Ein paket‑level‑Capture von Version 0.2.93 sagt etwas anderes: Der CLI packt heimlich dein gesamtes Repository in ein Git‑Bundle und POSTet es in einen Google‑Cloud‑Storage‑Bucket namens grok-code-session-traces – egal, welche Dateien der Agent tatsächlich liest.
Was das Capture bewies
Eine eingesetzte Canary-.env-Datei mit einem gefälschten API-Key erschien unverändert in den Request-Bodies. Ein 12 GB-Repo wurde mit 5,1 GB in 73 Chunks übertragen, die komplette Git-Historie inklusive. Dem Agenten zu sagen „lies keine Dateien“ änderte nichts. Das Ausschalten von „Improve the Model“ änderte nichts. Der schlimmste dokumentierte Fall: Der repo_path einer Sitzung war das gesamte Home-Verzeichnis des Benutzers.
Warum das wichtig ist
Zwei HackerNews-Threads sammelten zusammen 527 Punkte – die zweite Vertrauenskrise für KI-Coding-Agenten seit Monaten. Das Muster ist das Problem: Datenschutzversprechen im Marketing, Exfiltration auf der Leitung, Opt‑Out, das kein echtes Opt‑Out ist. xAI hat seitdem ein serverseitiges Flag umgeschaltet, das die Uploads deaktiviert – nach dem Erwischt‑Werden, nicht davor. Wenn du Grok Build für sensible Daten verwendet hast, rotiere jetzt deine Schlüssel.