Wanneer een zakelijk AI-systeem een onbetrouwbaar antwoord geeft, wijst de gebruikelijke diagnose naar het model. Volgens het bronartikel ligt een vaker voorkomend en moeilijker op te sporen falen echter elders: een groot taalmodel (LLM) kan correct redeneren op basis van een verkeerd geselecteerde context.
De meest voorkomende remedies zijn een krachtiger model, een langere prompt, meer opgehaalde documenten of een bredere contextvenster, dat wil zeggen de hoeveelheid informatie die een model tegelijk kan verwerken. Elk kan helpen, maar geen enkele lost dit probleem direct op. In analytische systemen kan de berekening correct zijn en de uitleg consistent, en het antwoord toch fout: het systeem heeft de verkeerde bewijzen gekozen, een verkeerde koppeling tussen tabellen gevolgd of een dubbelzinnige bedrijfsterm een definitie gegeven die de gebruiker niet in gedachten had. De fout treedt op vóór elke berekening.
Neem een eenvoudige vraag: hoeveel uur werkt Cam gemiddeld per dag? Het woord ‘dag’ is niet gedefinieerd. Het kan elke kalenderdag van de periode betekenen, een gestandaardiseerd werkjaar, elke planningsregistratie of elke datum waarop Cam daadwerkelijk heeft gewerkt. Het totaal aantal uren delen door de kalenderdagen geeft een lager gemiddelde dan delen door de daadwerkelijk gewerkte dagen zodra Cam vrije dagen heeft. Een klassieke controle, die verifieert dat totalen overeenkomen, detecteert deze verkeerde keuze van noemer niet noodzakelijkerwijs.
Een bedrijfsvraag, een analyseprogramma
De vraag ‘Welk merk heeft het vertrouwen dit kwartaal verbeterd?’ lijkt op een eenvoudige zoekopdracht. Het beantwoorden ervan vereist echter het beslissen over verschillende punten: welke enquêtevraag het vertrouwen meet, welke enquêtegolven ‘dit kwartaal’ vormen, wat de reikwijdte van de respondenten is, of de resultaten gewogen zijn en wat telt als een verbetering.
Het artikel neemt een illustratief geval. Twee kruistabellen lijken aan de vraag te voldoen, met een beschrijving die slechts in enkele woorden verschilt. De eerste, gewogen, heeft betrekking op alle respondenten en toont een lichte stijging. De tweede, ongewogen, heeft alleen betrekking op respondenten die het merk kennen en toont een lichte daling. Een op gelijkenis gebaseerd zoekinstrument zou ze bijna gelijkwaardig rangschikken. Een systeem dat het eerste resultaat kiest, levert een onderbouwde en beargumenteerde antwoord, dat fout kan zijn, zonder dat de gemaakte keuze in het eindresultaat verschijnt. Een systeem gebaseerd op een traject signaleert daarentegen het verschil in populatie en weging en vraagt de gebruiker welk bereik te hanteren. De kosten van deze verduidelijkingsvraag zijn, volgens de auteur, veel lager dan die van een verkeerd cijfer dat op het juiste lijkt.
Benchmarks die systemen meten
Onderzoek wijst in dezelfde richting. Spider 2.0, een zakelijke text-to-SQL-benchmark bestaande uit 632 problemen uit echte workflows, werd eind 2024 gepubliceerd. Het best presterende systeem, een agent gebouwd op o1-preview, loste ongeveer 17% van de taken op, tegen ongeveer 91% voor de beste systemen op de originele Spider-benchmark. De ranglijst is sindsdien geëvolueerd: het Snow-spoor toont een score van 96,7%, ingediend door een uitgever, afkomstig van een agentsysteem. Scores worden door de teams zelf ingediend, en het artikel merkt op dat de beste resultaten berusten op systemen die rond het model zijn ontworpen in plaats van op modellen alleen.
De context verlengen is ook niet genoeg. Een studie van Chroma, getiteld ‘Context Rot’, stelt vast dat modellen minder betrouwbaar worden naarmate de invoerlengte toeneemt, zelfs bij eenvoudige taken, en dat afleiders met een vergelijkbaar uiterlijk het probleem verergeren.
Een traject in plaats van een hoop
Bij onzekerheid is de reflex om het model meer informatie te geven. Dit kan echter concurrerende interpretaties vermenigvuldigen. De beschreven aanpak bestaat uit het sequentieel organiseren van de context: eerst de intentie van de studie, dan de structuur van de vragenlijst, de vragen en hun definities, de segmenten, de markten, de golven en de wegingregels, en tenslotte de kruistabel die het bewijs bevat. Elke laag erft de beperkingen van de voorgaande.
Anthropic presenteert context engineering als de natuurlijke opvolger van prompt engineering, door het te definiëren als het beheren van de volledige context van een agent, beschouwd als een eindige hulpbron. Het artikel vindt dit kader relevant, maar plaatst het een stap eerder: het gaat om te weten wat de vraag betekent en welke bewijzen deze kunnen beantwoorden. Voor het geval van het merkvertrouwen volgt de aanpak vijf stappen: de intentie oplossen, de studieregels toepassen, de bronnen identificeren, het traject valideren, vervolgens berekenen met een geautoriseerd hulpmiddel en het resultaat presenteren met zijn definitie, respondentenbasis, weging en bron.
De auteur benadrukt tenslotte de traceerbaarheid. Elk resultaat moet kunnen worden herleid tot zijn brontabel, zijn definitie, zijn filters, zijn weging, zijn periode en de gebruikte berekening.
