Fifth Circuit sanctioneert advocaat om niet-gecontroleerde AI-citaten: verifieer elke claim op bronniveau

Ja. Het Fifth Circuit sanctioneerde een advocaat die een door AI opgesteld beroepschrift met verzonnen en onjuiste citaten indiende zonder verificatie. Behandel AI-output nooit als bewijs: koppel elke afzonderlijke claim aan een primaire bronpassage, laat die onafhankelijk controleren en leg het menselijke eindoordeel aantoonbaar vast.

Op 18 februari 2026 legde het United States Court of Appeals for the Fifth Circuit een advocaat een sanctie van 2.500 dollar op. Zij had met generatieve AI een substantieel deel van een beroepschrift opgesteld, de inhoud niet gecontroleerd en daardoor onjuiste citaten, verzonnen verwijzingen en feitelijke misrepresentaties ingediend. Het hof benadrukte in de uitspraak in Fletcher v. Experian dat bestaande beroeps- en procesregels onverkort gelden, ook wanneer AI de tekst produceert.

Onze analyse: niet het gebruik van AI op zichzelf leidde tot de sanctie, maar het indienen van overtuigend geformuleerde onwaarheden zonder verificatie. Dat onderscheid bepaalt wat professionals nu moeten inrichten.

Wat besliste het Fifth Circuit over een advocaat die niet-gecontroleerde AI-citaten indiende?

Het hof stelde vast dat de advocaat AI inzette bij het opstellen van het beroepschrift, de juistheid niet verifieerde en zo gefabriceerde citaten en onjuiste rechtsstellingen bij de rechter aanbracht. Het legde een geldboete op en maakte duidelijk dat de verantwoordelijkheid van de ondertekenaar niet verandert door het gereedschap. Volgens de uitspraak waren verschillende citaten en beweringen niet door de onderliggende rechtsbronnen ondersteund, ondanks hun ogenschijnlijk gezaghebbende vorm.

Waarom produceren taalmodellen plausibele maar onjuiste bronverwijzingen?

Taalmodellen voorspellen waarschijnlijke taal; ze bewijzen geen waarheid. Daardoor kunnen ze een geloofwaardige bronverwijzing genereren die niet bestaat of inhoudelijk niet klopt. Een peer-reviewed evaluatie in de neurocritical care maakt dat concreet.

In die studie, Hallucination Rate of Peer-Reviewed Citations Generated by Large Language Models in Neurocritical Care, bevatten 165 van 300 door drie taalmodellen gegenereerde referenties een onjuistheid en waren er 85 volledig verzonnen. Belangrijk: deze cijfers gelden specifiek voor zero-shot, retrieval-vrije webinterfaces zonder gekoppelde bronnen, en mogen niet als universeel foutpercentage voor alle modellen of workflows worden gelezen. Naar onze analyse verdient het risico in gespecialiseerde onderwerpen met dunne of versnipperde brondekking extra aandacht, maar de aangeleverde studie toont geen algemene rangorde van risico’s over domeinen heen.

Waarom beschermt een algemene waarschuwing voor hallucinaties niet tegen foute beslissingen?

Een disclaimer verschuift de controle naar de gebruiker, maar zorgt er niet voor dat die controle daadwerkelijk gebeurt. Een recente academische review van organisatie-ondersteunde AI-adviseurs onderscheidt scepsis, feitelijke verificatie en de invloed daarvan op vertrouwen, en concludeert dat algemene waarschuwingen in bestaand onderzoek zwakke of gemengde effecten hebben.

De review Hallucinations in Organization-backed AI advisors beschrijft gerichtere aanwijzingen over typische faalpunten als veelbelovend, maar merkt ook op dat dit nog beperkt is onderzocht. Naar onze inschatting betekent dit dat een los waarschuwingsvinkje in beleid of tooling geen verdedigbare beheersmaatregel is: het bewijst niet dat iemand de output ook werkelijk heeft getoetst.

Wat betekent dit voor bestuurders, juristen en artsen die AI gebruiken bij besluitvorming?

Onze analyse: omdat het Fifth Circuit de advocaat sanctioneerde nadat zij AI-gegenereerde inhoud niet had geverifieerd, moet de professional die de output ondertekent of gebruikt rekening houden met blijvende verantwoordelijkheid voor de ingediende of genomen beslissing; daarom is het volgens onze inschatting verstandig om vóór indiening of patiëntgebonden gebruik een verplichte verificatiestap te beleggen bij een bevoegde professional. Omdat verzonnen en onjuiste citaten plausibel ogen, herkent een lezer ze niet betrouwbaar op het oog; daarom controleert u niet of de verwijzing bestaat maar of de aangehaalde passage de concrete bewering werkelijk draagt. Omdat algemene waarschuwingen verificatie niet afdwingen, biedt een disclaimer in uw AI-beleid geen verweer; daarom vervangt u die door een aantoonbare, per claim geregistreerde beoordeling met naam, datum en uitkomst. Onze aanbeveling: escaleer uitkomsten met juridisch, medisch of financieel gevolg volgens uw risicobeleid naar een bevoegde professional en overweeg voor hoog-risicobeslissingen een tweede onafhankelijke beoordeling voordat u handelt.

Hoe bouw ik een verdedigbare workflow met claimniveau-verificatie en brontraceerbaarheid?

De kern is dat u niet de nauwkeurigheid van het model beoordeelt, maar de bronsteun van elke afzonderlijke claim. Dat betekent dat één foute verwijzing niet het hele stuk ongeldig maakt, maar wel wordt gemarkeerd en gecorrigeerd voordat iemand erop bouwt.

• Splits de output in losse claims. Beoordeel beweringen afzonderlijk in plaats van een tekst als geheel goed te keuren.
• Koppel elke claim aan een primaire of gezaghebbende bronpassage. Een verwijzing zonder vindbare passage telt niet als onderbouwing.
• Laat onafhankelijk controleren of de passage de claim echt steunt. Niet of de bron bestaat, maar of hij de bewering draagt.
• Markeer tegengesproken en niet-gevonden claims expliciet. Deze gaan nooit ongemerkt een dossier of document in.
• Escaleer consequentiële uitkomsten naar een bevoegde professional. Het eindoordeel blijft bij een mens.
• Bewaar modelversie, prompt, bronset, ruwe output, verificatiebeslissing en correctie. Zo is achteraf aantoonbaar wie wat heeft gecontroleerd.

Houd daarbij drie dingen gescheiden die snel door elkaar lopen: feitelijke juistheid, bronondersteuning en juridische verantwoordelijkheid. Een claim kan toevallig juist zijn en toch zonder bronsteun; en zelfs een beslissing die met een menselijke referentie overeenkomt, kan onvoldoende door bronnen gedragen worden. Dezelfde logica keert terug in de groeiende verificatieplicht bij AI-ondersteund juridisch onderzoek en in rechterlijke uitspraken over aansprakelijkheid voor chatbot-output. Wie dit structureel wil inrichten, vindt het bredere kader in onze hub over AI-verificatie en een uitgewerkt model in het bouwen van een verdedigbare verificatieketen.

Bronnen: Het artikel steunt op de uitspraak van het United States Court of Appeals for the Fifth Circuit in Fletcher v. Experian, een peer-reviewed PMC-studie over hallucinaties in neurocritical-care-citaties en een arXiv-review over hallucinaties bij organisatie-ondersteunde AI-adviseurs.