Num boletim informativo dedicado aos modelos abertos, um investigador que participou na criação dos modelos Olmo na Ai2 compara o ecossistema atual aos grandes softwares livres, como o sistema operativo Linux. Segundo ele, esta comparação não reflete plenamente a dinâmica destes modelos, cujo futuro económico permanece incerto.
A analogia mais frequentemente avançada esbarra numa distinção. Um modelo de linguagem aberto no sentido estrito, ou seja, entregue com a sua receita completa de treino, os seus dados e o seu código, aproximar-se-ia de um sistema operativo livre. Os modelos com pesos abertos, que fornecem apenas os parâmetros aprendidos e o código para os fazer funcionar, assemelham-se mais a versões específicas de um software instalado num projeto.
Os pesos de um modelo têm, em média, uma vida útil curta, mas continuam a ser utilizados durante muito tempo, como muitos softwares muito usados. É por isso que, segundo o autor, muitas empresas continuam a fazer funcionar os seus fluxos de trabalho com o Llama 3, enquanto os comportamentos agentes, em que um modelo encadeia ações de forma autónoma, se desenvolveram vários anos depois. A receita aberta, ilustrada hoje pelo Olmo e pelos seus predecessores, como o Pythia da EleutherAI, é um processo dispendioso em recursos que qualquer empresa pode retomar, modificar e relançar para produzir um novo conjunto de pesos. As melhorias trazidas pela comunidade nos dados ou no código de treino podem, nos melhores casos, alimentar a geração seguinte.
É neste quadro que a Nvidia investe fortemente em modelos quase abertos. Para os seus modelos Nemotron, a empresa publica todos os dados que pode divulgar legalmente, bem como o código de treino. O autor vê nisso a vontade de um mundo onde muitas pessoas poderiam construir as suas próprias « máquinas de tokens », para que a inteligência não seja monopolizada, um mundo que pressupõe uma forte procura de inferência por parte de muitas empresas. Um token é uma unidade de texto processada por um modelo, e a inferência designa a utilização do modelo para produzir respostas.
Uma economia exigente
O desenvolvimento de modelos competitivos continua a ser extremamente dispendioso, mas o acesso a esta corrida manteve-se mais amplo na indústria do que muitos teriam imaginado, segundo o autor. Ele nota que a maioria dos observadores considera o treino demasiado caro e a receita aberta demasiado atrasada para que um novo laboratório centrado numa parte do treino dos LLM seja viável. Os abandonos da Databricks e da 01.ai parecem-lhe, no entanto, casos isolados e não o sinal de uma tendência geral.
Duas trajetórias delineiam-se. Na primeira, a abordagem funciona: segundo a Wired, a Nvidia dedicaria 26 mil milhões de dólares a esta empresa, e se esta aposta for bem-sucedida, a procura pelos seus chips e os seus lucros ultrapassariam o custo de construção dos modelos. O autor estima que o ecossistema aberto dependerá cada vez mais do financiamento da Nvidia nos próximos anos, e que a remuneração económica destes modelos terá, a prazo, de ser proporcional às receitas geradas pelas API da Anthropic e da OpenAI.
Duas trajetórias possíveis
Na segunda, se nenhuma destas vias financeiras se concretizar, os modelos abertos seguiriam um caminho diferente dos modelos fechados mais avançados, centrado na eficiência, na modificabilidade e na especialização. O autor considera este cenário o mais provável: os modelos abertos continuariam a ser muito úteis, mas ocupariam sobretudo uma « longa cauda » face aos modelos fechados, que detêm posições dominantes em domínios como o trabalho de conhecimento, a descoberta de medicamentos ou o desenvolvimento de software. Esta longa cauda poderia tomar a forma de agentes especializados, implantados no local, em dados privados e em tarefas repetitivas.
O autor sublinha também que o treino se está a tornar mais complexo e mais abstrato. O atual crescimento dos modelos abertos baseia-se em grande parte no pós-treino, ou seja, na adaptação de modelos como o DeepSeek V4 Flash, o Inkling Small ou o GLM 5.X a tarefas agentes específicas, muitas vezes através de um fine-tuning, ou ajuste fino. O Tinker, segundo ele a interface de ajuste fino mais popular atualmente, ilustra esta prática. Mas a capacidade de treinar um modelo de base para o tornar num raciocinador agente geral está a tornar-se, segundo ele, tão opaca como as práticas de pré-treino em grande escala de há alguns anos. O vocabulário habitual, baseado em pré-treino, meio-treino e pós-treino, poderá evoluir para pré-treino, treino de raciocínio e pós-treino.
O número de atores que publicam modelos de base está a diminuir, e alguns editores estão a experimentar licenças de partilha de receitas para a utilização dos seus modelos em produtos ou para inferência, como as do Kimi-K3 e do Qwen3.8-2.4T-A95B. Por fim, o autor evoca o caso da Meta, que poderá divulgar os seus pesos sob licença aberta: segundo ele, a publicação do Muse Spark 1.2, um modelo de alto desempenho, travaria o crescimento das receitas da Anthropic e da OpenAI, que dependem da venda de tokens. A Nvidia quer ensinar cada um a pescar tokens, enquanto a Meta inunda o mercado de tokens.
