antirez verbrachte 15 Jahre damit, Redis schnell zu machen. Jetzt richtet er dieselbe Obsession auf lokale KI: ds4 (DwarfStar), eine lokale Inferenz-Engine in C, die DeepSeek V4 Flash/PRO und GLM 5.2 auf Ihrer eigenen Hardware ausführt. 20,3 k GitHub-Stars, heute +385, Spitzenreiter bei GitHub Trending.
Absichtlich eng, aggressiv optimiert
ds4 ist kein weiterer General-Purpose-GGUF-Runner — es zielt auf diese wenigen Modelle ab und geht tief. Asymmetrische 2-Bit-Quantisierung nur bei den MoE-Experten. SSD-Streaming, sodass ein 64 GB-Gerät Modelle ausführen kann, die größer als sein RAM sind. Verteilte Inferenz über mehrere Maschinen (zwei M5 Max-Macs erzielen einen 1,66-fachen Pre-Fill-Speedup). Ein integrierter Coding-Agent und native Tool-Aufrufe, direkt aus der CLI. Backends für Metal, CUDA und ROCm. Auf einem MacBook Pro M5 Max im Q2 erreicht es 463 Tokens/s Pre-Fill und 26 Tokens/s Generation.
Warum es wichtig ist
Dies ist das Redis-Playbook — klein, nativ, ohne Abhängigkeiten — angewendet auf die unübersichtlichste Schicht lokaler KI. Und das README gibt es zu: gebaut „mit starker Unterstützung von GPT 5.5, 5.6, Claude Fable“, Menschen leiten Design und Debugging. Der Erfinder von Redis, co-schreibt C-Kernels mit KI, sodass Sie chinesische Open-Modelle zu Hause ausführen können. Das ist der gesamte 2026-Stack in einem Repo.