Het juistheidsbeginsel van de AVG bij generatieve AI: van hallucinatierisico naar toetsbare workfloweis

Volgens de EDPS en de concept-richtsnoeren 03/2026 van de EDPB geldt het juistheidsbeginsel van de AVG ook voor wat een generatief AI-systeem over identificeerbare personen uitvoert, inclusief gehallucineerde uitspraken, en niet alleen voor de data waarop het is getraind. Artikel 5 lid 1 onder d eist dat persoonsgegevens juist zijn en zo nodig worden geactualiseerd. Samen verplaatsen de EDPS-oriëntaties van 28 oktober 2025 en het EDPB-concept de juistheidstoets naar de pipeline: van bronselectie en trainingsdata tot evaluatie en output over personen.

Operationeel wordt juistheid daarmee een toetsbare workfloweis. Elke workflowfase heeft een controle, een slaagcriterium en telemetrie nodig. Vier fasen dragen de eis: bronselectie, training en fine-tuning, output bij inferentie, en rectificatie.

De slaagcriteria, telemetrie en correctielagen hieronder zijn onze operationele vertaling van de aangehaalde teksten, geen door toezichthouders voorgeschreven technische standaarden.

Wat eist het juistheidsbeginsel van de AVG bij generatieve AI?

Het juistheidsbeginsel eist dat persoonsgegevens die een generatief AI-systeem verwerkt juist zijn en zo nodig worden geactualiseerd, en dat alle redelijke maatregelen worden genomen om onjuiste gegevens onverwijld te wissen of te rectificeren (artikel 5 lid 1 onder d AVG; artikel 4 lid 1 onder d EUDPR voor EU-instellingen). Bij generatieve AI gaat dat verder dan invoerdata. De EDPS verwacht dat juistheid in elke fase van ontwikkeling en gebruik wordt geborgd, ook voor de output en afgeleide gegevens die een model genereert. Verwerkingsverantwoordelijken moeten naleving kunnen aantonen: artikel 5 lid 2 AVG, en artikel 4 lid 2 EUDPR voor EU-instellingen.

Juistheid is doelgebonden: het EDPB-concept omschrijft juiste gegevens als gegevens die kloppen en actueel zijn in relatie tot het specifieke doel waarvoor ze worden verwerkt (randnummer 39).

Reikwijdte doet ertoe wanneer deze teksten worden aangehaald. De oriëntaties richten zich tot EU-instellingen onder Verordening (EU) 2018/1725 (EUDPR), die het juistheidsbeginsel in artikel 4 lid 1 onder d bevat; ze zijn niet bindend voor verwerkingsverantwoordelijken onder de AVG. De EDPB-richtsnoeren zijn een consultatieversie over webscraping voor modeltraining. Beide laten zien hoe toezichthouders het beginsel lezen: als een eigenschap die het systeem moet handhaven, inclusief de neiging om onjuiste persoonsgegevens te genereren.

Geldt het juistheidsbeginsel ook voor AI-output en hallucinaties?

Ja, voor zover de output persoonsgegevens bevat. De concept-richtsnoeren 03/2026 van de EDPB stellen dat het juistheidsbeginsel niet beperkt is tot verzameling en training: een model dat na het in de handel brengen naar verwachting persoonsgegevens produceert, moet eraan voldoen (randnummer 40). De ChatGPT-taskforce van de EDPB concludeerde in 2024, als voorlopig standpunt, dat het niet volstaat om gebruikers te vertellen dat output onjuist kan zijn. Een gehallucineerde uitspraak over een identificeerbare persoon is dus een juistheidskwestie, en met alleen een disclaimer voldoet de verwerking daar niet aan.

Het taskforcerapport van 23 mei 2024 stelt vast dat het probabilistische ontwerp van het systeem vertekende of verzonnen output kan opleveren en dat gebruikers output waarschijnlijk als feitelijk juist behandelen (randnummers 29 tot en met 31). Het rapport bevat voorlopige standpunten, geen eindbeslissing.

De concept-richtsnoeren 03/2026, vastgesteld op 7 juli 2026 en tot 30 oktober 2026 in consultatie, voegen een ontwerpverwachting toe: de verwerkingsverantwoordelijke moet het eindresultaat van de training betrekken om het risico op onjuiste output te beperken. De EDPS komt vanuit de inzet van systemen op hetzelfde punt uit: ook modellen die op representatieve data van hoge kwaliteit zijn getraind, kunnen onjuiste informatie over personen genereren, en een organisatie moet heroverwegen of zij een systeem gebruikt waarvan de juistheid niet te handhaven is.

Wat is het verschil tussen juistheid in de AVG en statistische nauwkeurigheid?

Juistheid in de zin van de AVG is een juridische eigenschap van persoonsgegevens: of een uitspraak over een identificeerbare persoon klopt en actueel is voor het doel waarvoor ze wordt gebruikt. Statistische nauwkeurigheid is een prestatie-eigenschap van een systeem: het aandeel van de output dat correct is, gemeten tegen testdata. De Britse ICO stelt dat het juistheidsbeginsel voor zowel AI-invoer als AI-uitvoer geldt, maar niet eist dat een systeem 100 procent statistisch nauwkeurig is. Een systeem kan dus statistisch goed scoren en toch een onjuiste uitspraak over één persoon doen.

Er spelen drie begrippen, en elk wordt anders getoetst:

• Juistheid in de AVG (artikel 5 lid 1 onder d): correctheid van persoonsgegevens in relatie tot het doel; getoetst per uitspraak en per persoon.
• Statistische nauwkeurigheid: aandeel correcte output op een testset; getoetst per model of per release. De EDPS ziet zulke maatstaven als bruikbare indicator, niet als gegevensbeschermingsmaatregel op zichzelf.
• Nauwkeurigheid in de AI-verordening (artikel 15): een passend niveau van nauwkeurigheid voor AI-systemen met een hoog risico, met niveaus en maatstaven vermeld in de gebruiksinstructies; een eis aan de systeemprestatie.

Volgens de ICO zijn veel AI-uitkomsten niet bedoeld als feit maar als waarschijnlijkheidsinschatting over een persoon; om te voorkomen dat ze als feit worden gelezen, moeten ze in de vastlegging als afleiding worden gemarkeerd, met de herkomst van de gegevens en van het systeem dat ze genereerde. De richtsnoeren gelden onder de UK GDPR en worden herzien na de Data (Use and Access) Act.

Samen gelezen met het standpunt van de EDPB-taskforce: een afleiding als waarschijnlijkheid markeren wordt verwacht, maar een label maakt van een onjuiste feitelijke bewering over een persoon geen juist gegeven. Benchmarkscores kunnen daarom niet het slaagcriterium voor juistheid in de AVG zijn. De praktische toetseenheid is de afzonderlijke bewering over een persoon, niet het gemiddelde van het model.

Hoe toets je juistheid per workflowfase?

Juistheid toets je per workflowfase door aan elk van vier fasen een controle, een slaagcriterium en een vastlegging te koppelen: bronselectie, training en fine-tuning, output bij inferentie, en rectificatie. Het EDPB-concept levert de controles voor bronselectie: betrouwbare bronnen, tijdstempels en validatie vóór training. De EDPS levert de controles voor training en output: datasetverificatie, validatie- en testsets, garanties van leveranciers en monitoring met menselijk toezicht. Rectificatie sluit de cirkel: onjuiste output over een persoon moet traceerbaar, corrigeerbaar en opnieuw getest zijn. De vastlegging per fase maakt naleving aantoonbaar onder artikel 5 lid 2 AVG.

1. Bronselectie. Gebruik betrouwbare, onderhouden bronnen in plaats van secundaire of verouderde aggregators, leg bij elk record het moment van verzamelen vast, en valideer formaten en controleer steekproeven op feitelijke juistheid vóór training (EDPB-concept, randnummer 42). Operationeel hoort dezelfde poort vóór RAG-indexering, omdat opgehaalde context rechtstreeks in de output kan doorstromen. Slaagcriterium: elke bron heeft een eigenaar, een verzameldatum en een validatieresultaat. Telemetrie: bronregister, tijdstempels, validatielog.
2. Training en fine-tuning. Verifieer structuur en inhoud van datasets, ook die van derden, houd validatiedata apart tijdens training en een afzonderlijke testset voor de eindevaluatie, en vraag leveranciers om contractuele garanties en documentatie zoals model cards (EDPS, sectie 10). Slaagcriterium: gedocumenteerde datasetcuratie en een evaluatierapport per release met testprompts over personen. Telemetrie: datasetdocumentatie, evaluatierapporten, leveranciersgaranties.
3. Output (inferentie). Monitor tijdens runtime output en afgeleide gegevens die over personen gaan, met menselijk toezicht (EDPS, sectie 10), en voeg een human-in-the-loop-verificatiestap toe die past bij de gevolgen van een fout; het EDPS-voorbeeld is een handmatige controle van elke door AI gemaakte cv-samenvatting. Confidence scores kunnen output naar review routeren, maar de zelfgerapporteerde zekerheid van een model is geen bewijs van juistheid en hoort niet het slaagcriterium te zijn (zie confidence als workflowsignaal). Slaagcriterium: elke wezenlijke bewering over een persoon is onderbouwd met een traceerbare bron, vastgelegd als afleiding, of achtergehouden tot menselijke verificatie. Telemetrie: wat is gecontroleerd, tegen welke bron, door wie en met welk resultaat.
4. Rectificatie. Bied een route om output te betwisten, beoordeel het verzoek en corrigeer op de laag waar de fout zit: het record en de index in een retrievalsysteem, een instructie of outputfilter op de applicatielaag, of hertraining als het model zelf is geraakt (EDPS, sectie 14). Slaagcriterium: de onjuiste bewering keert niet terug in een gedocumenteerde regressieset met de oorspronkelijke prompt, parafrases, relevante contextvariaties en de productieversie van het model. Is terugkeer niet voldoende te beheersen, dan hoort de workflow output over personen in die context te blokkeren of te escaleren. Telemetrie: verzoek, beoordeling, maatregel, regressieresultaten en datum.

De opzet spiegelt de controles per fase voor gegevensminimalisatie in generatieve AI: minimalisatie bepaalt welke persoonsgegevens elke fase in mogen, juistheid bepaalt of klopt wat elke fase verlaat. Het EDPB-concept verbindt de twee rechtstreeks: minder verzamelen maakt het makkelijker om persoonsgegevens juist te houden (randnummer 41). In fase 3 kunnen een gelaagde aanpak van hallucinatiedetectie en evidence-based hallucinatiedetectie tijdens runtime compliancecontroles ondersteunen in plaats van alleen als kwaliteitsmaatregel te dienen.

Wat gebeurt er als een model onjuiste persoonsgegevens uitvoert?

De betrokkene kan zich beroepen op het recht op rectificatie van artikel 16 AVG. De verwerkingsverantwoordelijke moet het verzoek beoordelen en, als de persoonsgegevens onjuist zijn, deze onverwijld rectificeren. Bij generatieve AI onderscheidt de EDPS verzoeken over trainingsdata, data na training, prompts en output, en merkt hij op dat verzoeken over output in beginsel vaker voorkomen dan verzoeken over trainingsdata, omdat output mensen rechtstreeks raakt. De technische moeilijkheid is het lokaliseren van de fout: een onjuist record in een retrievaldatabase is te corrigeren en opnieuw te indexeren, terwijl persoonsgegevens niet eenvoudig uit een getraind model te verwijderen zijn.

De EDPS werkt een voorbeeld uit (oriëntaties, sectie 14). De HR-chatbot van een instelling doet een onjuiste uitspraak over iemands arbeidsverleden die de instelling niet in haar interne data kan terugvinden. Zodra de betrokkene de prompts en het volledige transcript aanlevert, behandelt zij het verzoek als geldig en geeft zij het model een instructie die voorkomt dat dezelfde onjuiste output terugkeert. Operationeel moet reproductiebewijs (prompts, context en output) dus vast te leggen zijn; zonder dat bewijs kan de verwerkingsverantwoordelijke het verzoek niet beoordelen.

De passende remedie hangt af van waar het onjuiste persoonsgegeven zich bevindt; artikel 16 schrijft geen specifiek technisch mechanisme voor generatieve AI-systemen voor. Een correctie kan op drie lagen plaatsvinden:

1. Retrievallaag. Komt de onjuiste uitspraak uit een document of record in een kennisbank, corrigeer of verwijder dan het bronrecord en embed en indexeer het opnieuw, zodat verouderde vectoren de update niet overleven (zie persoonsgegevens in embeddings en vectordatabases).
2. Applicatielaag. Is de bron niet te vinden, blokkeer dan de specifieke output met een instructie of een outputfilter, zoals in het EDPS-voorbeeld.
3. Modellaag. Niet alle modellen die op de data zijn gebouwd hoeven te worden aangepast; de uitzondering is een model dat de gegevens zelf bevat of waaruit ze zijn af te leiden, en dan kan hertraining nodig zijn (EDPS). Het EDPB-concept merkt op dat het verwijderen van persoonsgegevens uit een model na training bij de huidige stand van de techniek niet eenvoudig is (randnummer 60), en ziet machine unlearning als mogelijkheid voor de langere termijn (randnummer 74). Voor wissing in plaats van correctie, zie het recht op wissing en modelgeheugen.

Hoe ver deze plicht reikt bij algemene chatbots wordt nog getoetst. Op 20 maart 2025 diende noyb bij de Noorse toezichthouder een klacht in over ChatGPT-output die ten onrechte stelde dat een man twee van zijn kinderen had vermoord, had geprobeerd het derde te vermoorden en tot 21 jaar gevangenisstraf was veroordeeld; noyb betoogt dat een disclaimer juistheid niet kan vervangen. De zaak, waarin de Ierse DPC inmiddels leidende toezichthoudende autoriteit is, stond bij het schrijven van dit artikel nog als lopend op de zaakpagina van noyb.

Welke rol spelen verificatietools zoals Vera?

Verificatietools maken output niet juist en nemen de plicht van de verwerkingsverantwoordelijke onder artikel 5 lid 1 onder d niet over. Hun rol is de controle in de outputfase uit te voeren en aantoonbaar te maken. Vera is een verificatielaag, geen chatbot en geen eigen taalmodel: het leidt een taak langs meerdere onafhankelijke AI-modellen en toont de verificatiestappen, correcties, verschillen en bronnen. Dat geeft de professional een basis om afzonderlijke beweringen te beoordelen en een vastlegging van wat is gecontroleerd. Het eindoordeel over de vraag of een uitspraak over een persoon klopt, blijft bij de gebruiker.

Twee mechanismen zitten op verschillende punten van het inferentiepad, en maar één daarvan gaat over juistheid:

• Na het genereren: de verificatieketen. Afzonderlijke rollen verzorgen het opstellen, de feitelijke controle, de kritische tegenlezing en de live broncontrole, en de workflow laat zien waar reviewers van elkaar afweken en welke onzekerheid onopgelost bleef. Dat ondersteunt de outputfase en levert telemetrie voor de vastlegging. Het stelt geen juistheid vast en neemt hallucinaties niet weg.
• Vóór de modelaanroep: de Semantic Privacy Shield. De privacy-architectuur van Vera is zo ontworpen dat gedetecteerde gevoelige waarden binnen de beschermde Vera-omgeving worden vervangen door synthetische sessiewaarden voordat externe modellen worden aangeroepen, en dat alleen de getransformeerde tekst die de lokale controle doorstaat wordt verstuurd; mislukt de controle, dan wordt niets verstuurd, en de oorspronkelijke waarden worden daarna lokaal teruggezet. Dit is pseudonimisering, geen gegarandeerde anonimisering: een maatregel voor gegevensminimalisatie en vertrouwelijkheid.