Ein Open-Source-Modell mit 4 Milliarden Parametern hat gerade GPT-5.6 Sol bei der Such-Retrieval-Genauigkeit erreicht. Kosten pro Anfrage: ein Hundertstel. Hacker News gab ihm 374 Punkte.
Was Castform eigentlich ist
Castform ist eine RL-Post-Training-Plattform, die als API-Service bereitgestellt wird. Sie berühren nie GPUs oder ML-Interna – geben Sie ihr einen Korpus, sie erzeugt Trainingsaufgaben und führt die gesamte RL-Schleife aus. Post-Training wird so einfach wie Prompt-Engineering. In diesem Demo (veröffentlicht am 5. August) hat RL dem kleinen Modell agentische Retrieval-Fähigkeit beigebracht: erneut suchen, wenn Informationen unvollständig sind, stoppen, wenn genug vorhanden ist.
Die Mathematik, die sticht
Eine Multi-Turn-Suche auf GPT-5.6 Sol kostet etwa 0,03 $ und dauert über 10 Sekunden. Das post-trainierte 4‑B‑Modell erledigt dieselbe Aufgabe zu 1/100 der Kosten. Neon liefert die Such-Schicht über seine Lakebase-Postgres-API – ein hybrides BM25-plus-Vektor-Retrieval, mit Datenbank-Branching zur Isolation des Zustands jedes Trainingslaufs. Der typische Anwendungsfall: Neons Such-API in Ihren Agent einbinden und dann Castform RL-trainieren lassen, um einen günstigen Spezialisten auf Ihren eigenen Daten zu erstellen.
Warum das wichtig ist: Das ist der bislang stärkste konkrete Beweis für die heißeste Kostengeschichte in der KI – Frontier-Modelle für komplexes Schließen mieten, einen $0,0003‑Spezialisten für alles Engere besitzen.