AI-hallucinaties zijn geen abstracte kanttekening meer bij het gebruik van taalmodellen. Uit recent academisch onderzoek en gedocumenteerde incidenten blijkt dat ze een meetbaar, sterk contextafhankelijk risico vormen dat rechtstreeks doorwerkt in professionele besluitvorming. De cijfers laten iets ongemakkelijks zien: een model dat er in een strak afgebakende test bijna nooit naast zit, kan in de praktijk regelmatig onjuiste of slecht onderbouwde antwoorden geven.
Wat de benchmarks laten zien
De 2026 AI Index Report van het Stanford Institute for Human-Centered AI besteedt in het hoofdstuk over Responsible AI expliciet aandacht aan hallucinaties. Ondanks vooruitgang blijven grote taalmodellen feitelijke onjuistheden produceren, terwijl de vraag naar deze systemen in hoog-risicodomeinen zoals recht en geneeskunde toeneemt. Volgens het rapport lopen hallucinatiepercentages over 26 frontier-modellen sterk uiteen — van ruwweg een kwart tot bijna alle antwoorden — afhankelijk van hoe een taak wordt geformuleerd. Hallucinaties zijn daarmee een situationeel, maar hardnekkig risico geworden.
Het jaar eerder documenteerde de AI Index Report 2025 van Stanford HAI juist dat frontier-modellen op bepaalde grounded accuracy-benchmarks zeer lage percentages kunnen halen. Voor modellen als GLM-4-9b-Chat, Gemini-2.0-Flash-Exp, o1-mini en GPT-4o werden op sommige tests waarden rond 1,3 tot 1,5 procent gemeten. Tegelijk beschrijft datzelfde hoofdstuk bekende incidenten waarin advocaten processtukken indienden met verzonnen citaten die door taalmodellen waren gegenereerd. Dat contrast is de kern van het probleem: een goede score op een beperkte test zegt weinig over het gedrag in een echte werkstroom.
De juridische praktijk als testcase
Nergens is dat verschil zo scherp gedocumenteerd als in het recht. De studie AI on Trial van Stanford RegLab en HAI concludeerde dat algemene chatbots bij juridische vragen tussen de 58 en 82 procent van de tijd hallucineren. Gespecialiseerde juridische tools van LexisNexis en Thomson Reuters deden het beter, maar hallucineerden nog altijd ergens tussen de 17 en 34 procent van de tijd. Belangrijk: systemen die met retrieval augmentation werken — die antwoorden koppelen aan opgehaalde bronnen — verminderen hallucinaties wel, maar elimineren ze niet. En modellen bleken zich vaak niet bewust van hun eigen fouten in juridische redenering en bronvermelding.
Een overzichtsartikel van Kallam.ai bundelt recente empirische bevindingen en praktijkrapporten. Daarin wordt gesteld dat er in 2025 meer dan 200 gedocumenteerde gevallen waren van door AI verzonnen citaten die een rechter bereikten, en minstens 66 rechterlijke sancties voor het misbruik van generatieve AI, met boetes tot tienduizenden dollars. Deze cijfers uit een niet-peer-reviewed bron staan in schril contrast met de optimistische benchmarkscores, en illustreren dat hallucinaties tastbare gevolgen hebben voor beslissingen en voor het vertrouwen dat professionals genieten.
Een structureel probleem, geen incident
Waarom laat het probleem zich niet zomaar wegtrainen? De peer-reviewed overzichtsstudie in EMNLP Findings, A Comprehensive Survey of Hallucination in Large Language, Image, Video and Audio Foundation Models, definieert hallucinaties over verschillende soorten foundation-modellen heen en beschrijft ze als een belangrijk obstakel voor toepassing in domeinen die hoge betrouwbaarheid vereisen. De auteurs benadrukken dat hallucinaties structureel samenhangen met de manier waarop deze modellen worden getraind en gebruikt — het zijn geen zeldzame afwijkingen, maar een eigenschap van het systeem. Detectie- en mitigatiemethoden bestaan, maar geen ervan lost het probleem volledig op.
Voor wie beslissingen neemt op basis van vertrouwelijke of hoog-gevoelige informatie is de conclusie nuchter: de schijnbare zelfverzekerdheid van een enkel model is geen betrouwbare indicator van juistheid. Een antwoord dat vloeiend en overtuigend klinkt, kan evengoed een verzonnen bron of een onjuiste redenering bevatten.
Wat dit betekent voor professionals
De redelijke reactie op dit beeld is niet AI vermijden, maar AI-output behandelen als een onbevestigde claim die controle vereist. Dat vraagt om werkwijzen waarin verificatie zichtbaar is: het vergelijken van antwoorden tussen meerdere modellen, het koppelen van uitspraken aan controleerbare bronnen, en een controleerbaar spoor van wat er is gevraagd en beantwoord. Menselijk toezicht blijft daarbij het sluitstuk — het professionele eindoordeel ligt bij de gebruiker, niet bij het model.
Op dit punt komt de rol van een verificatieconsole zoals I am Vera in beeld. Vera is geen chatbot en geen eigen taalmodel, maar een verificatielaag die de controlestappen rond AI-antwoorden zichtbaar maakt. Via multi-model verificatie kan Vera helpen zien waar modellen van elkaar afwijken — precies het soort signaal dat bij hallucinaties nuttig is. Dat garandeert geen correctheid en maakt hallucinaties niet onmogelijk, maar het geeft meer zicht op de betrouwbaarheid van een antwoord dan blind vertrouwen op één systeem.
Omdat professionals vaak met gevoelige documenten werken, is de architectuur daarop ingericht. Met de Semantic Privacy Shield vindt voorbewerking en anonimisering plaats op EU-infrastructuur; de workflow is ontworpen om alleen geanonimiseerde inhoud naar de geselecteerde AI-modellen te sturen, en bij een mislukte privacycontrole wordt niets doorgestuurd. Documenten kunnen binnen dezelfde beveiligde omgeving worden bekeken en bewerkt via Vera Office, en de verificatiestappen laten zich vastleggen als controleerbaar bewijsspoor.
De boodschap van het recente onderzoek is uiteindelijk simpel: hallucinaties zijn geen restfout die vanzelf verdwijnt naarmate modellen beter worden. Ze zijn een systemisch betrouwbaarheidsrisico dat om structurele waarborgen vraagt. Voor werk waarin een verkeerde beslissing kostbaar is, betekent dat: controleren, kruischecken en documenteren — in plaats van vertrouwen op de toon van het antwoord.