AI-citaties controleren in drie stappen: bestaan, koppeling en claimondersteuning

Vertrouw een AI-citatie nooit op vormgeving alleen: controleer elke bron in drie stappen, namelijk of de bron bestaat, of de URL of DOI werkelijk naar die bron verwijst en of de bron de concrete claim ondersteunt. Laat AI alleen kandidaatbronnen aandragen en toets bestaan en inhoud onafhankelijk, want modellen keuren hun eigen citaties zwak.

Een studie op arXiv, gepubliceerd op 3 april 2026 onder de titel Detecting and Correcting Reference Hallucinations in Commercial LLMs and Deep Research Agents, onderzocht 53.090 URL's uit deep-research- en zoekondersteunde systemen en 168.021 URL's uit 32 vakgebieden. De onderzoekers vonden 3% tot 13% vermoedelijk gefabriceerde URL's en 5% tot 18% niet-oplossende URL's. Deep-researchagents produceerden meer citaties, maar hallucineerden URL's vaker dan zoekondersteunde modellen. Meer bronvermeldingen betekent dus niet automatisch meer betrouwbaarheid.

Dat is de kern voor de lezer: een lange, keurig geformatteerde referentielijst is geen bewijs. Wie met gevoelige of hoog-vertrouwelijke informatie werkt, moet broncontrole als een aparte, controleerbare werkstroom inrichten in plaats van te vertrouwen op het model dat de tekst schreef. Dit stuk zet de recente bevindingen op een rij en vertaalt ze naar een concrete verificatieketen. Waar wij een gevolgtrekking maken die niet letterlijk in een bron staat, benoemen wij dat als redactionele inschatting.

Waarom leveren zelfs deep-researchagents geen betrouwbare bronverwijzingen?

Deep-researchagents zijn ontworpen om zelfstandig te zoeken, te lezen en samen te vatten, en produceren daarbij meer citaties dan eenvoudige zoekondersteunde modellen. Volgens dezelfde arXiv-studie gaat dat gepaard met een hoger aandeel gehallucineerde URL's. De onderzoekers rapporteren wel dat een open-source controlehulpmiddel het aandeel niet-oplossende URL's in hun experimenten terugbracht tot minder dan 1%, maar dat die uitkomst afhing van correct toolgebruik.

Naar onze inschatting is de belangrijkste les hieruit dat het volume aan verwijzingen niets zegt over de kwaliteit ervan. Een agent die tientallen bronnen aandraagt, kan tegelijk meer fouten introduceren dan een model dat er slechts enkele noemt. De correctie zit niet in de generatie, maar in een aparte controlestap na afloop.

Welke drie soorten citatiefouten moet ik apart controleren?

De bronnen laten zien dat 'een foute citatie' niet één probleem is, maar meerdere die elk een eigen controle vragen. Wij onderscheiden op basis van de studies drie lagen:

• De bron bestaat niet. Het model verzint auteurs, titels, tijdschriften of jaartallen. De studie GhostCite (arXiv, 14 mei 2026) testte 13 taalmodellen met 375.440 gegenereerde citaties en vond hallucinatiepercentages van 14,23% tot 94,93%.
• De metadata is verkeerd gekoppeld. Een geldige DOI of URL verwijst naar een bestaand maar geheel ander artikel. De redactionele verklaring On generative AI, fabricated references and ethical publishing in het Journal of Science Communication (1 mei 2026) beschrijft juist zulke 'ghost references' met DOI's die naar een ander werk leiden.
• De bron ondersteunt de claim niet. De bron bestaat en de link klopt, maar de tekst zegt niet wat de AI beweert. Dit is de subtielste fout, omdat vorm en herkomst dan volledig in orde lijken.

Een controle die alleen naar de vorm kijkt, vangt hooguit de eerste laag af. De tweede en derde laag vragen dat iemand de bron daadwerkelijk opent en de relevante passage leest.

Waarom kan een AI-model zijn eigen citaties niet betrouwbaar keuren?

Een voor de hand liggend antwoord zou zijn: laat het model zijn eigen bronnen controleren. De GhostCite-studie meet precies die aanname. Volgens de onderzoekers waren taalmodellen gemiddeld slechts 38% nauwkeurig wanneer ze zelf moesten beoordelen of referenties geldig waren. In een analyse van 2,2 miljoen citaties uit 56.381 papers bevatte 1,07% van de papers ten minste één ongeldige citatie.

Dat maakt zelfverificatie ongeschikt als enige waarborg. Als de controleur even feilbaar is als de generator, ontstaat schijnzekerheid in plaats van controle. Dit sluit aan bij bredere bevindingen over de grenzen van zelfverificatie door één AI-model. Externe controle van zowel het bestaan van de bron als de ondersteuning van de claim is daarom, naar onze inschatting, geen extra zorgvuldigheid maar een minimumvereiste.

Hoe ziet een controleerbare verificatieketen voor bronnen eruit?

Op basis van de studies is een verificatieketen op te bouwen die de drie foutlagen afzonderlijk adresseert en de menselijke beslissing vastlegt. Wij stellen de volgende volgorde voor als redactioneel advies:

1. Laat AI alleen kandidaatbronnen aandragen. Behandel elke verwijzing als voorstel, niet als bewijs.
2. Verifieer het bestaan. Controleer auteur, titel en jaartal via een onafhankelijk register, catalogus of archief, los van het model dat de citatie gaf.
3. Toets de koppeling. Open de DOI of URL en bevestig dat die naar precies de opgegeven publicatie leidt. Onderscheid daarbij verouderde links (linkrot) van fabricatie; alleen de eerste is te herstellen.
4. Lees de relevante passage. Koppel iedere claim aan de exacte zin of tabel die hem ondersteunt, niet aan de bron als geheel.
5. Registreer uitzonderingen en goedkeuring. Leg vast welke bronnen onduidelijk bleven en wie de eindbeslissing nam.

Het onderscheid tussen linkrot en fabricatie is belangrijk omdat een niet-oplossende URL niet automatisch verzonnen is. Wie citaties als afzonderlijke objecten behandelt in plaats van als tekstfragment, kan deze stappen per bron traceerbaar maken. Meer over dit type controle staat in de themahub over AI-verificatie en broncontrole.

Wat betekent dit voor werk met gevoelige of hoog-vertrouwelijke informatie?

Bij consequentiale beslissingen tast een foute bron niet alleen de tekst aan, maar ook de kennisbasis eronder. Een review beschreven door CIDRAP (University of Minnesota, 16 april 2026) vond 4.046 vermoedelijk gefabriceerde referenties in 97,1 miljoen gecontroleerde referenties uit biomedische publicaties. Volgens de onderzoekers steeg het aandeel papers met ten minste één zulke referentie van ongeveer één op 2.828 in 2023 naar één op 458 in 2025 en één op 277 in de eerste zeven weken van 2026. De beschreven referenties waren vaak inhoudelijk specifiek, correct geformatteerd en toegeschreven aan echte onderzoekers.

Juist die plausibiliteit maakt oppervlakkige controle ontoereikend. Een citatie die er professioneel uitziet, is geen bewijs dat de aangehaalde publicatie de claim staaft. Voor wie hoog-vertrouwelijk werk levert, betekent dit dat broncontrole een expliciete stap in de verificatielaag voor hoog-trust besluitvorming hoort te zijn, met vastgelegde uitzonderingen en een menselijk eindoordeel. De studies leveren de foutmaten; de verantwoordelijkheid voor de beslissing blijft bij de professional.

Bronnen: Het artikel steunt op arXiv-studies (GhostCite en de deep-research-referentiestudie), een redactionele verklaring in het Journal of Science Communication en een review beschreven door CIDRAP van de University of Minnesota.