Cloudflare hat gerade seine Hausaufgaben gezeigt: ein technischer Deep-Dive, wie es Moonshots Kimi K2.6 und Z.ai’s GLM 5.2 – massive Lang-Kontext-MoE-Modelle – in seinem globalen Edge-Netzwerk bereitstellt. 96 Punkte auf HackerNews am Tag seiner Veröffentlichung.
Kleiner, schneller, sicherer — mit Zahlen
Drei Maßnahmen. FP8 KV-Cache-Quantisierung verdoppelt den unterstützten Kontext von Kimi K2.6 von 686 K auf 1,37 M Token und steigert den Spitzen-Durchsatz um 41 %. INT4-Kompression reduziert den Checkpoint von GLM 5.2 von 705 GB auf 421 GB, wobei die Dekodierung bis zu 55 % schneller ist. Eine Cache-Integritätsprüfung schützt Hunderte gleichzeitiger Anfragen, die Speicherseiten teilen, bei weniger als 1 % Overhead. Genauigkeits-Drift: maximal 0,8 Punkte bei GSM8K und MMLU. Gesamtergebnis: etwa 30 % günstiger pro Token.
Warum das wichtig ist
Chinesische Open-Weight-Modelle verbrauchen bereits 30‑46 % des US-Enterprise-Token-Verbrauchs. Jetzt baut Amerikas größtes Edge-Unternehmen maßgeschneiderte Serving-Pipelines für sie – First-Class-Citizens, keine exotischen Importe. Das ist eine Infrastruktur-Bestätigung, die kein Benchmark kaufen kann.
Der API-Winkel
Beide Modelle liegen hinter der Inference-API von Workers AI: Rufen Sie Kimi oder GLM von jedem Worker aus auf, ohne einen GPU-Cluster mieten zu müssen. Offensichtliche Passung – Lang-Kontext-Agenten und dokumentlastige Pipelines, die mit Edge-Latenz laufen.