Waarom AI soms dingen verzint, en hoe je daar grip op houdt

Je vraagt een AI-assistent naar de levertijd van een product, een clausule in een contract of de naam van een regeling. Je krijgt een vlot en stellig antwoord. Het klinkt goed. Het klopt alleen niet.

Dat heet hallucineren: een taalmodel geeft een aannemelijk antwoord dat niet waar is. Voor wie AI in het bedrijf wil inzetten, is dit misschien de belangrijkste eigenschap om te begrijpen. Het is geen reden om AI te laten liggen. Wie weet waar het vandaan komt, kan er goed omheen bouwen.

In dit artikel leggen we uit waarom AI soms dingen verzint, wat dat in de praktijk kan kosten en met welke afspraken je het risico klein houdt.

Waarom een taalmodel soms gokt

Een taalmodel leert door enorme hoeveelheden tekst te lezen en steeds het volgende woord te voorspellen. Zo leert het hoe een goede zin eruitziet, hoe een offerte is opgebouwd en hoe een klantmail klinkt. Wat het zo niet leert, is welke losse feiten waar zijn. In al die tekst staat nergens een label met "klopt" of "klopt niet".

Onderzoekers van OpenAI beschreven in september 2025 waarom dat blijft knellen. Spelling en zinsbouw volgen vaste patronen, dus daar maakt een groot model bijna geen fouten meer. Een verjaardag, een factuurnummer of de precieze tekst van een clausule volgt geen patroon. Zulke feiten kan een model niet uit taal afleiden.

Daar komt een tweede oorzaak bij. Modellen worden getest zoals leerlingen met een meerkeuzetoets. Wie gokt, heeft soms geluk. Wie het vakje leeg laat, krijgt zeker nul punten. Volgens OpenAI belonen de meeste tests daarom gokken boven eerlijk zeggen dat je iets niet weet. Een model dat altijd een antwoord geeft, scoort op die ranglijsten beter dan een voorzichtig model.

Het verschil is groot. In een test van OpenAI met feitenvragen gaf een ouder model in 75 procent van de gevallen een fout antwoord en liet het maar 1 procent van de vragen open. Een nieuwer model liet 52 procent open en had 26 procent fout. Het aandeel goede antwoorden was bij beide ongeveer gelijk: 24 en 22 procent. Het nieuwere model wist dus niet meer. Het gokte minder.

Wat het kan kosten

Een bekend voorbeeld komt uit Australië. Adviesbureau Deloitte leverde in 2025 een rapport aan het Australische ministerie van Werkgelegenheid. Daarin stonden verwijzingen naar onderzoek dat niet bestond en een citaat uit een rechterlijke uitspraak dat was verzonnen. Deloitte gaf toe dat bij het werk generatieve AI was gebruikt, leverde een gecorrigeerde versie in en betaalde de laatste termijn van het contract terug.

Blijkbaar had niemand de verwijzingen nagelopen voordat het rapport werd ingeleverd. In een MKB-bedrijf gaat het om kleinere bedragen, maar het mechanisme is hetzelfde. Een assistent noemt een levertijd die al weken niet meer klopt. Een concept-offerte verwijst naar een korting uit een oude actie. Een samenvatting van een contract mist net de bepaling waar het om draait.

Het goede nieuws is dat je dit grotendeels kunt regelen met de manier waarop je AI inricht.

Een model dat mag zeggen dat het iets niet weet, is in je bedrijf meer waard dan een model dat altijd een antwoord heeft.

Vier afspraken die het risico klein houden

Je kunt hallucinaties niet helemaal uitsluiten. Je kunt wel bepalen waar ze kunnen ontstaan en wie ze ziet voordat er schade is. Met deze vier afspraken kom je een heel eind.

1. Laat AI antwoorden uit je eigen bronnen

De meeste fouten ontstaan als een model uit zijn geheugen moet putten. Geef het daarom de informatie die het nodig heeft: je actuele prijslijst, je voorwaarden, het productbestand, de werkinstructie. Dat heet RAG, voluit retrieval-augmented generation. In gewone woorden: eerst opzoeken in je eigen documenten, dan pas antwoorden.

Spreek daarbij af dat het model zegt waar het antwoord staat. Een antwoord met een verwijzing naar artikel 4.2 van je leveringsvoorwaarden kan een collega in een paar seconden controleren. En houd die bronnen actueel, want een oude prijslijst geeft een oud antwoord.

2. Laat een agent opzoeken in plaats van onthouden

Hier zit een groot voordeel van een agent. Een chatbot moet een levertijd onthouden of raden. Een agent kan via een koppeling met je ordersysteem de actuele levertijd opvragen. Feiten die in een systeem staan, haal je dus uit dat systeem. Het taalmodel doet waar het goed in is: begrijpen wat er gevraagd wordt en daar een helder antwoord van maken.

3. Geef het model ruimte om te zeggen dat het iets niet weet

Een goede instructie zegt letterlijk: staat het antwoord niet in de bronnen, zeg dat dan en zet de vraag door naar een collega. Dat voelt misschien minder slim. In de praktijk is het het verschil tussen een assistent die je kunt vertrouwen en een assistent die je steeds moet controleren. OpenAI komt in zijn onderzoek tot dezelfde conclusie: een fout antwoord is erger dan geen antwoord.

4. Zet een mens waar een fout geld of vertrouwen kost

Niet elke tekst hoeft langs een collega. Een interne samenvatting voor jezelf mag best eens een steek laten vallen. Een offerte, een toezegging aan een klant, een rapport voor een opdrachtgever of een betaling ligt anders. Bepaal vooraf welke uitvoer altijd door een mens wordt gezien voordat hij naar buiten gaat. Begin met een strenge controle en versoepel die pas als je ziet dat het goed gaat.

Waar je begint

Kijk naar de plekken waar jullie AI nu al gebruiken, ook de informele. Stel per toepassing twee vragen. Waar haalt het model zijn informatie vandaan: uit zijn geheugen of uit onze eigen bronnen? En wie ziet het resultaat voordat het bij een klant of opdrachtgever terechtkomt?

Is het antwoord op de eerste vraag "uit zijn geheugen" en op de tweede "niemand", dan weet je waar je moet beginnen. Vaak is de oplossing klein: de juiste documenten koppelen, één regel in de instructie en één vast controlemoment.

Volgens OpenAI zal geen model ooit elke vraag goed beantwoorden, hoe groot het ook wordt. Sommige vragen zijn simpelweg niet te beantwoorden met de informatie die het model heeft. Een proces dat daar rekening mee houdt, kun je vandaag al betrouwbaar laten draaien.

Mail ons via info@harmoniqa.nl

Bronnen: OpenAI, Why language models hallucinate (5 september 2025); Information Age (ACS), Deloitte to refund government over AI errors (7 oktober 2025).