In einem Newsletter zu offenen Modellen vergleicht ein Forscher, der an der Entwicklung der Olmo-Modelle bei Ai2 beteiligt war, das derzeitige Ökosystem mit großen Open-Source-Softwareprojekten wie dem Betriebssystem Linux. Seiner Ansicht nach erfasst dieser Vergleich die Dynamik dieser Modelle nicht vollständig, deren wirtschaftliche Zukunft ungewiss bleibt.
Die am häufigsten herangezogene Analogie stößt auf einen Unterschied. Ein streng genommen offenes Sprachmodell, das mit seinem vollständigen Trainingsrezept, seinen Daten und seinem Code ausgeliefert wird, käme einem freien Betriebssystem nahe. Modelle mit offenen Gewichten, die nur die gelernten Parameter und den Code zu deren Ausführung bereitstellen, ähneln eher spezifischen Versionen einer Software, die in einem Projekt installiert ist.
Die Gewichte eines Modells haben im Durchschnitt eine kurze Lebensdauer, werden aber lange genutzt, wie viele weit verbreitete Software. Daher, so der Autor, setzen viele Unternehmen ihre Arbeitsabläufe weiterhin auf Llama 3 um, während agentische Verhaltensweisen, bei denen ein Modell autonom Aktionen aneinanderreiht, sich erst Jahre später entwickelt haben. Das offene Rezept, das heute durch Olmo und seine Vorgänger wie Pythia von EleutherAI verkörpert wird, ist ein ressourcenintensiver Prozess, den jedes Unternehmen aufgreifen, modifizieren und neu starten kann, um einen neuen Satz Gewichte zu erzeugen. Verbesserungen der Community an Daten oder Trainingscode können im besten Fall die nächste Generation speisen.
In diesem Rahmen investiert Nvidia stark in fast offene Modelle. Für seine Nemotron-Modelle veröffentlicht das Unternehmen alle Daten, die es legal verbreiten darf, sowie den Trainingscode. Der Autor sieht darin den Willen zu einer Welt, in der viele Menschen ihre eigenen « Token-Maschinen » bauen könnten, damit Intelligenz kein Monopol bleibt – eine Welt, die eine starke Nachfrage nach Inferenz von vielen Unternehmen voraussetzt. Ein Token ist eine von einem Modell verarbeitete Texteinheit, und Inferenz bezeichnet die Nutzung des Modells zur Erzeugung von Antworten.
Eine anspruchsvolle Ökonomie
Die Entwicklung wettbewerbsfähiger Modelle bleibt extrem kostspielig, aber der Zugang zu diesem Rennen ist in der Branche breiter geblieben, als viele gedacht hätten, so der Autor. Er stellt fest, dass die meisten Beobachter Training für zu teuer und offene Rezepte für zu verzögert halten, als dass ein neues Labor, das sich auf einen Teil des LLM-Trainings konzentriert, lebensfähig wäre. Die Rückzüge von Databricks und 01.ai scheinen ihm jedoch Einzelfälle und kein Zeichen eines allgemeinen Trends zu sein.
Zwei Wege zeichnen sich ab. Im ersten funktioniert der Ansatz: Laut Wired würde Nvidia 26 Milliarden Dollar in dieses Unternehmen stecken, und wenn diese Wette aufgeht, würden die Nachfrage nach seinen Chips und seine Gewinne die Kosten für den Bau der Modelle übersteigen. Der Autor schätzt, dass das offene Ökosystem in den kommenden Jahren immer stärker von der Finanzierung durch Nvidia abhängen wird und dass die wirtschaftliche Vergütung dieser Modelle langfristig proportional zu den durch die APIs von Anthropic und OpenAI generierten Einnahmen sein müsste.
Zwei mögliche Wege
Im zweiten Fall, wenn sich keine dieser finanziellen Pfade realisiert, würden offene Modelle einen anderen Weg einschlagen als die fortschrittlichsten geschlossenen Modelle, fokussiert auf Effizienz, Modifizierbarkeit und Spezialisierung. Der Autor hält dieses Szenario für das wahrscheinlichste: Offene Modelle blieben sehr nützlich, würden aber vor allem einen « Long Tail » gegenüber geschlossenen Modellen einnehmen, die dominante Positionen in Bereichen wie Wissensarbeit, Medikamentenentdeckung oder Softwareentwicklung halten. Dieser Long Tail könnte die Form spezialisierter Agenten annehmen, die vor Ort auf privaten Daten und repetitiven Aufgaben eingesetzt werden.
Der Autor betont auch, dass das Training komplexer und abstrakter wird. Der derzeitige Aufschwung offener Modelle beruht weitgehend auf Post-Training, also der Anpassung von Modellen wie DeepSeek V4 Flash, Inkling Small oder GLM 5.X an spezifische agentische Aufgaben, oft über Fine-Tuning. Tinker, seiner Ansicht nach heute die beliebteste Fine-Tuning-Oberfläche, veranschaulicht diese Praxis. Aber die Fähigkeit, ein Basismodell zu einem allgemeinen agentischen Denker zu trainieren, wird seiner Meinung nach ebenso undurchsichtig wie die groß angelegten Pre-Training-Praktiken vor einigen Jahren. Die übliche, auf Pre-, Mid- und Post-Training basierende Terminologie könnte sich zu Pre-Training, Reasoning-Training und Post-Training weiterentwickeln.
Die Zahl der Akteure, die Basismodelle veröffentlichen, nimmt ab, und einige Herausgeber experimentieren mit Revenue-Share-Lizenzen für die Nutzung ihrer Modelle in Produkten oder für Inferenz, wie die von Kimi-K3 und Qwen3.8-2.4T-A95B. Schließlich erwähnt der Autor den Fall von Meta, das seine Gewichte unter einer offenen Lizenz verbreiten könnte: Seiner Meinung nach würde die Veröffentlichung von Muse Spark 1.2, einem sehr leistungsfähigen Modell, das Umsatzwachstum von Anthropic und OpenAI bremsen, das auf dem Verkauf von Tokens basiert. Nvidia will jedem beibringen, Tokens zu angeln, während Meta den Markt mit Tokens überschwemmt.
