Om te controleren of AI-citaties echt bestaan en kloppen, moet je de generatie van referenties scheiden van de verificatie ervan en niet vertrouwen op wat een taalmodel zelf opgeeft. Audits uit 2026 laten zien dat grote taalmodellen in 11,4 tot 56,8 procent van de gevallen misleidende, verzonnen of verkeerd gelabelde bronnen produceren. Praktische stappen zijn: controleer elke referentie tegen een onafhankelijke bron zoals een DOI-register of catalogus, gebruik multi-model-checks waarbij meerdere modellen dezelfde bron moeten noemen, zet gespecialiseerde detectietools in die metadata verifiëren, en leg per claim vast welke echte bron die claim draagt.
Zelfs geautomatiseerde tools halen op echte data ongeveer 88 tot 90 procent nauwkeurigheid, dus menselijke controle en logging van verificatiestappen blijven noodzakelijk voor kritische teksten.
De aanleiding is concreet. Op 8 mei 2026 vatte CIDRAP (Center for Infectious Disease Research and Policy, Universiteit van Minnesota) een grootschalige review in The Lancet samen over verzonnen bronnen in biomedische publicaties. Volgens de CIDRAP-samenvatting van de Lancet-review over verzonnen bronnen gebruikten de onderzoekers een AI-gebaseerd verificatiesysteem om 2,5 miljoen artikelen en 126 miljoen referenties te controleren en vonden zij 4.046 waarschijnlijk gefingeerde referenties. Volgens die samenvatting steeg de incidentie van gefabriceerde citaties tussen 2023 en 2025 twaalfvoudig, wat de auteurs deels toeschrijven aan paper mills, misconduct en onkritisch gebruik van generatieve AI.
Voor iedereen die AI gebruikt om teksten met bronvermeldingen te maken — in recht, zorg, toezicht, onderzoek of beleid — betekent dit dat een citaat die er correct uitziet niet automatisch een echte bron is. Naar onze inschatting is de belangrijkste verschuiving in 2026 dat controle op misleidende AI-citaties een aparte, ontworpen verificatielaag wordt in plaats van een aanname.
Wat toont het onderzoek naar verzonnen citaties in 2026 precies aan?
Meerdere onafhankelijke studies wijzen dezelfde kant op. De door CIDRAP samengevatte review in The Lancet koppelt de stijging expliciet aan generatieve AI in schrijven en referentiebeheer, en citeert eerdere studies die 30 tot 69 procent gefabriceerde referenties in LLM-uitvoer in biomedische contexten rapporteerden.
Een synthese-preprint met de titel Detecting Hallucinated and Suspicious Citations op arXiv vergelijkt verschillende grote audits, waaronder het Lancet-werk, en telt volgens de auteurs 146.932 hallucinated citaties in materiaal uit alleen 2025. De auteurs verfijnen ook de definities: een verzonnen (fabricated) citaat verwijst naar een werk dat niet bestaat, een invalide citaat bevat foute metadata, en een verdachte citaat vertoont patronen die op fabricatie wijzen. Dat onderscheid is belangrijk omdat elk type een andere controle vraagt.
Hoe vaak verzinnen taalmodellen bronnen en waarvan hangt dat af?
De omvang komt uit een cross-model audit met de titel How LLMs Cite and Why It Matters, gepubliceerd als arXiv-preprint over reference fabrication in AI-ondersteund academisch schrijven. De auteurs onderzochten 69.557 citatie-instanties over tien commercieel ingezette taalmodellen en vonden hallucinatieratio's tussen 11,4 en 56,8 procent. De uitkomst hangt sterk af van het model, het vakgebied en de precieze prompt.
Uit diezelfde studie komen twee bruikbare filters:
- Multi-model-consensus: als meer dan drie modellen hetzelfde werk citeren, stijgt de kans dat de referentie echt bestaat volgens de auteurs tot 95,6 procent.
- Herhaling binnen één prompt: eenvoudige classificatiemodellen op basis van de bib-strings kunnen al veel verzonnen referenties opvangen.
Deze patronen sluiten aan bij het bredere principe van multi-model-verificatie en onenigheid als signaal: waar modellen elkaar tegenspreken over een bron, is dat een reden om die referentie handmatig na te lopen.
Welke tools kunnen verzonnen AI-citaties detecteren en hoe goed werken ze?
Er bestaan inmiddels serieuze detectiekaders, maar ze zijn niet foutloos. Twee arXiv-preprints zijn hier relevant:
- CiteAudit bouwt een benchmark van duizenden echte en gefabriceerde citaten met menselijke labels. Een multi-agent-verificatiepipeline haalt daarop tot circa 97 procent nauwkeurigheid op gesimuleerde datasets, maar valt terug naar ongeveer 90 procent op echte citaties. Zelfs frontier-modellen laten sterke terugval in F1-score zien buiten benchmarkachtige omstandigheden.
- CiteCheck verifieert of een citaat overeenkomt met een bestaand werk en of de metadata kloppen. De tool bereikt ongeveer 88,9 procent nauwkeurigheid en 88,7 macro-F1, en presteert daarmee beter dan baselines van GPT-, Claude- en Gemini-modellen, inclusief varianten met web search.
De boodschap uit beide is consistent: geautomatiseerde verificatie kan bestaande modellen overtreffen, maar op echte data blijft een foutmarge over. Dat is precies waarom teams verificatie steeds vaker als een gelaagde stack voor hallucinatiedetectie inrichten in plaats van als één knop. Meer achtergrond over het bredere onderwerp staat in de themahub over AI-verificatie en broncontrole.
Hoe bouw ik broncontrole als aparte verificatielaag in mijn workflow?
Dit deel is onze redactionele analyse, gebaseerd op de hierboven genoemde studies. Voor hoog-trust workflows lijkt een verificatielaag die los staat van de tekstgeneratie het meest houdbaar. Een concreet patroon:
- Scheid generatie en verificatie. Behandel de bronnenlijst van een AI als onbevestigd tot die apart is gecontroleerd.
- Gebruik multi-model-checks voor kritische claims. Laat meerdere onafhankelijke modellen dezelfde referentie noemen voordat je die vertrouwt.
- Verifieer tegen een echte bron. Controleer DOI, titel, auteurs en jaar tegen een register of catalogus, of via een CiteCheck-achtige pipeline.
- Log de claim-bronrelatie. Leg per belangrijke bewering vast welke echte bron die draagt, en waar bewijs ontbreekt.
- Registreer de verificatiestappen. Noteer welke check is uitgevoerd, met welke uitkomst, zodat je later kunt aantonen dat AI-bronnen niet klakkeloos zijn overgenomen.
Voor juridische teams werkt dit patroon goed samen met een verdedigbare workflow voor AI in juridisch onderzoek, waarin citaatverificatie en vertrouwelijkheid vooraf zijn belegd.
In dit landschap positioneren wij Vera niet als waarheidsmachine, maar als verificatielaag die een taak door geselecteerde onafhankelijke modellen kan routeren en verificatiestappen, correcties, onenigheid en bronnen zichtbaar maakt voor inspectie, binnen de grenzen van de workflow. Dat garandeert geen juistheid en elimineert geen hallucinaties, maar het kan helpen om zichtbaar te maken welke AI-uitvoer in welke workflow is gebruikt en waar ongedekte claims overblijven. Het professionele eindoordeel blijft bij de gebruiker.
Bronnen en referenties
- Review uncovers rising rate of fake references in published biomedical papers
- How LLMs Cite and Why It Matters: A Cross-Model Audit of Reference Fabrication in AI-Assisted Academic Writing and Methods to Detect Phantom Citations
- CiteAudit: You Cited It, But Did You Read It? A Benchmark and Detection Framework for Hallucinated Citations in Scientific Writing
- Detecting Hallucinated and Suspicious Citations
- CiteCheck: Retrieval-Grounded Detection of LLM Citation Hallucinations
Bronnen: Het artikel steunt op de door CIDRAP samengevatte Lancet-review over verzonnen bronnen en op vier arXiv-preprints: How LLMs Cite and Why It Matters, CiteAudit, CiteCheck en Detecting Hallucinated and Suspicious Citations.