In een nieuwsbrief over open modellen vergelijkt een onderzoeker die meewerkte aan de creatie van de Olmo-modellen bij AI2 het huidige ecosysteem met grote open-source software, zoals het besturingssysteem Linux. Volgens hem geeft deze vergelijking niet volledig de dynamiek van deze modellen weer, waarvan de economische toekomst onzeker blijft.
De meest aangehaalde analogie stuit op een onderscheid. Een open taalmodel in strikte zin, dat wil zeggen geleverd met zijn volledige trainingsrecept, zijn data en zijn code, zou dichter bij een vrij besturingssysteem liggen. Modellen met open gewichten, die alleen de geleerde parameters en de code om ze te laten draaien leveren, lijken meer op specifieke versies van software die in een project zijn geïnstalleerd.
De gewichten van een model hebben gemiddeld een korte levensduur, maar blijven lang in gebruik, zoals veel veelgebruikte software. Daarom blijven volgens de auteur veel bedrijven hun workflows draaien op Llama 3, terwijl agentisch gedrag, waarbij een model autonoom acties aan elkaar koppelt, zich jaren later ontwikkelde. Het open recept, vandaag geïllustreerd door Olmo en zijn voorgangers, zoals Pythia van EleutherAI, is een kostbaar proces qua middelen dat elk bedrijf kan overnemen, aanpassen en opnieuw starten om een nieuwe set gewichten te produceren. Verbeteringen door de community aan de data of trainingscode kunnen in het beste geval de volgende generatie voeden.
In dit kader investeert Nvidia sterk in bijna-open modellen. Voor zijn Nemotron-modellen publiceert het bedrijf alle data die het legaal kan verspreiden, evenals de trainingscode. De auteur ziet hierin de wens voor een wereld waar veel mensen hun eigen ‘tokenmachines’ zouden kunnen bouwen, zodat intelligentie niet wordt gemonopoliseerd, een wereld die een sterke vraag naar inferentie van veel bedrijven veronderstelt. Een token is een eenheid tekst die door een model wordt verwerkt, en inferentie verwijst naar het gebruik van het model om antwoorden te produceren.
Een veeleisende economie
De ontwikkeling van competitieve modellen blijft extreem kostbaar, maar de toegang tot deze race is breder gebleven in de industrie dan velen zich hadden voorgesteld, volgens de auteur. Hij merkt op dat de meeste waarnemers training als te duur beschouwen en het open recept als te ver achterop om een nieuw lab dat zich richt op een deel van de LLM-training levensvatbaar te maken. De terugtrekkingen van Databricks en 01.ai lijken hem echter geïsoleerde gevallen in plaats van een teken van een algemene trend.
Twee trajecten tekenen zich af. In het eerste werkt de aanpak: volgens Wired zou Nvidia 26 miljard dollar aan dit bedrijf besteden, en als deze gok slaagt, zou de vraag naar zijn chips en zijn winsten de kosten van het bouwen van de modellen overtreffen. De auteur schat dat het open ecosysteem in de komende jaren steeds meer afhankelijk zal zijn van financiering door Nvidia, en dat de economische vergoeding van deze modellen uiteindelijk proportioneel moet zijn aan de inkomsten gegenereerd door de API’s van Anthropic en OpenAI.
Twee mogelijke trajecten
In het tweede, als geen van deze financiële wegen zich materialiseert, zouden open modellen een ander pad volgen dan de meest geavanceerde gesloten modellen, gericht op efficiëntie, aanpasbaarheid en specialisatie. De auteur beschouwt dit scenario als het meest waarschijnlijke: open modellen zouden zeer nuttig blijven, maar vooral een ‘lange staart’ innemen tegenover gesloten modellen, die dominante posities hebben in domeinen zoals kenniswerk, medicijnontdekking of softwareontwikkeling. Deze lange staart zou de vorm kunnen aannemen van gespecialiseerde agents, on-site ingezet, op privédata en repetitieve taken.
De auteur benadrukt ook dat training complexer en abstracter wordt. De huidige opkomst van open modellen berust grotendeels op post-training, dat wil zeggen de aanpassing van modellen zoals DeepSeek V4 Flash, Inkling Small of GLM 5.X aan specifieke agentische taken, vaak via fine-tuning, of fijnafstelling. Tinker, volgens hem de populairste fijnafstellingsinterface van vandaag, illustreert deze praktijk. Maar het vermogen om een basismodel te trainen tot een algemene agentische redeneerder wordt volgens hem even ondoorzichtig als de praktijken van grootschalige pre-training van enkele jaren geleden. De gebruikelijke woordenschat, gebaseerd op pre-training, mid-training en post-training, zou kunnen evolueren naar pre-training, redeneertraining en post-training.
Het aantal spelers dat basis modellen publiceert neemt af, en sommige uitgevers experimenteren met licentieovereenkomsten met inkomstdeling voor het gebruik van hun modellen in producten of voor inferentie, zoals die van Kimi-K3 en Qwen3.8-2.4T-A95B. Ten slotte noemt de auteur het geval van Meta, dat zijn gewichten onder een open licentie zou kunnen verspreiden: volgens hem zou de publicatie van Muse Spark 1.2, een zeer performant model, de inkomsten groei van Anthropic en OpenAI afremmen, die steunen op de verkoop van tokens. Nvidia wil iedereen leren tokens te ‘pêcher’, terwijl Meta de markt overspoelt met tokens.
