Niet alleen propriëtaire modellen trekken de aandacht: voor sommige toepassingen is de configureerbaarheid belangrijker dan pure rekenkracht. Deze zoektocht naar controle heeft de opkomst van lokaal gehoste modellen bevorderd. Met de juiste hardware en tools zoals Ollama of LM Studio kunnen capabele modellen volledig op het apparaat van de gebruiker draaien.
- Lokale AI-modellen bieden controle, vooral wanneer configureerbaarheid belangrijker is dan rekenkracht.
- Het artikel kiest vijf modellen voor 2026, op basis van gebruik en beschikbare hardware.
- Ollama en LM Studio laten deze modellen op het eigen apparaat draaien.
- Lokale uitvoering garandeert geen vertrouwelijkheid, en populariteit zegt niets over kwaliteit.
Welke modellen zijn de moeite waard om te installeren, en welke zouden op een bepaald apparaat kunnen draaien? Dit artikel selecteert er vijf voor 2026, LLM’s (grote taalmodellen) gekozen op basis van gebruik en beschikbare hardware.
Vijf modellen voor verschillende toepassingen
Het eerste, Llama 3.1 8B Instruct, dient als algemeen referentiemodel voor lokale chat, samenvatting, classificatie en fine-tuning projecten, dat wil zeggen aanpassing aan specifieke gegevens. Het verwerkt alleen tekst en wordt gedistribueerd onder de Llama Community License van Meta, waarvan de voorwaarden moeten worden gecontroleerd vóór herdistributie of implementatie.
Voor Qwen2.5 7B hangt de keuze af van de taak. De versie Qwen2.5-7B-Instruct is geschikt voor meertalige gesprekken, documentverwerking en gestructureerde uitvoer, zoals JSON-formaat. Qwen2.5-Coder-7B-Instruct richt zich op het genereren, uitleggen en corrigeren van code. Beide zijn tekstmodellen: voor het analyseren van schermafbeeldingen is een alternatief nodig dat afbeeldingen kan verwerken.
Mistral 7B Instruct v0.3 is een tekstmodel met zeven miljard parameters, bedoeld voor herschrijven, samenvatten, documentatie en alledaagse dialoog. De v0.3-versie ondersteunt het aanroepen van functies, waardoor het kan worden geïntegreerd met tools die door een applicatie worden uitgevoerd, en zijn Apache 2.0-licentie vergemakkelijkt aanpassingsprojecten. Als ouder algemeen model verdient het de voorkeur om het te vergelijken met recentere modellen op zijn eigen queries voordat het wordt gekozen.
Gemma 4 E2B en E4B accepteren tekst, afbeeldingen en audio, en genereren tekst. Ze zijn geschikt voor vragen over documenten, beeldbegrip, transcriptie of ingebedde assistentie, mits de runtime-omgeving het type invoer ondersteunt. Hun namen verwijzen naar het aantal effectieve parameters: E2B heeft ongeveer 5,1 miljard parameters en E4B 8 miljard, inclusief embeddings. Het artikel waarschuwt: de dimensionering van de hardware mag niet alleen op de namen worden gebaseerd.
Phi-4-mini-instruct, van Microsoft, is een model met 3,8 miljard parameters gericht op toepassingen met beperkt geheugen en gevoelig voor latentie. Het is geschikt voor kleine lokale assistenten, informatie-extractie, wiskundige of logische problemen en experimenten met functieaanroepen. De naburige modellen voor redeneren en multimodaal zijn aparte checkpoints, met ander gedrag en andere vereisten.
De rangschikking van modelfamilies is gebaseerd op het cumulatieve aantal downloads in de Ollama-bibliotheek. Het bevoordeelt dus oudere versies en meet niet de kwaliteit.
Een model installeren met Ollama
Volgens het artikel is Ollama waarschijnlijk de eenvoudigste optie voor ontwikkelaars: installeer het, download een model en start het vanuit de terminal, bijvoorbeeld met het commando ollama run gpt-oss:20b. De tool biedt lokale packages voor phi-4, Gemma 4, Qwen3-Coder en andere modellen. Het biedt ook een lokale API, handig om een model te koppelen aan eigen applicaties of programmeeragents.
De FAQ van het artikel geeft verschillende verduidelijkingen. Qwen2.5-Coder-7B-Instruct wordt daar gepresenteerd als de code-georiënteerde optie, en gegenereerde code moet worden getest vóór gebruik. Lokale uitvoering garandeert op zich geen vertrouwelijkheid: verbonden tools, cloud-fallbackoplossingen en applicatietelemetering kunnen gegevens elders naartoe sturen. De populariteit van een model weerspiegelt de adoptie, maar de taak en de hardware bepalen de meest nuttige keuze.
