DeepSeek hat am 31. Juli die Produktions-Version V4 Flash open source gestellt. Eine Woche später veröffentlichte Entwickler Ryan Zhou einen open-source-Bereitstellungs-Stack, der das vollständige Modell – 284B‑Parameter‑MoE, 13B aktiv pro Token, originale FP8‑Gewichte, keine Quantisierung – auf einem einzigen AMD MI300X ausführt. Es erreichte 344 Punkte auf Hacker News und war damit der Top‑AI‑Beitrag des Tages.
Was das Repository tatsächlich ist
Kein Modell, sondern ein Rezept: Docker-Compose-Stack, festgelegte Datei-Overlays, Patches gegen den Upstream-Inference-Code und Tuning-Tabellen. Der 192 GB HBM des MI300X nimmt die Gewichte komplett auf; ein ~235 GB CPU-RAM-Tier verwaltet den KV-Cache für den 1 M-Token-Kontext. Zhou musste die FP8-Verarbeitung, das MoE-Routing unter Nebenläufigkeit und mehrere nicht abgestimmte ROCm-Kernel korrigieren, um Stabilität zu erreichen.
Warum das wichtig ist
Die Geschichte dreht sich nicht um den Chip, sondern um die Basis. Ein Frontier-Klasse-Open-Modell, das letzte Woche noch einen Cluster erforderte, passt jetzt auf eine einzige Karte – eine AMD-Karte, die die NVIDIA-Lieferwarteschlange vollständig umgeht. Für Teams, die DeepSeek privat nutzen wollen – regulierte Branchen, On-Prem-Enterprise – schrumpfte die Anforderung von einem Cluster auf eine einzelne GPU. Chinesische Open-Gewichte auf Nicht-NVIDIA-Hardware sind nun ein Produktions-Pfad, nicht nur eine Demo.