De European Data Protection Supervisor publiceerde op 18 mei 2026 een checklist die menselijke controle bij geautomatiseerde besluitvorming vertaalt naar toetsbare eisen: vastgelegde rollen en escalatie, training tegen automation bias, echte override- en stopmogelijkheden, logging van ingrepen en periodieke audits. Een formele 'mens in de lus' telt pas als u per werkstroom kunt aantonen dat de reviewer begrijpt, kan ingrijpen en dat vastligt.
De European Data Protection Supervisor (EDPS) is de onafhankelijke Europese toezichthouder voor gegevensbescherming bij EU-instellingen en is, anders dan de European Data Protection Board (EDPB) die het werk van de nationale privacytoezichthouders coördineert, een eigenstandig orgaan; deze toezichthouder maakt hiermee de vraag praktisch: niet is er een mens betrokken, maar heeft die mens aantoonbaar controle. Dat onderscheid raakt iedere organisatie die AI gebruikt bij gevoelige of hoog-vertrouwelijke besluiten, van kredietbeoordeling tot medische triage en juridische dossiervorming.
Wat staat er precies in de EDPS-checklist over menselijke interventie?
De EDPS vertaalt menselijke interventie naar concrete organisatorische en technische controles. Volgens de checklist van de European Data Protection Supervisor moeten verantwoordelijkheden en escalatieprocedures zijn vastgelegd, moeten reviewers getraind zijn op de beperkingen en foutscenario's van het systeem, moeten overrides en besluiten worden gelogd, en moet een systeem na een update opnieuw worden beoordeeld. Het document is formeel gericht aan EU-instellingen, -organen, -kantoren en -agentschappen, maar kan ook als praktisch referentiekader voor andere organisaties dienen.
De belangrijkste elementen op een rij:
- Rollen, verantwoordelijkheden en escalatieroutes zijn formeel vastgelegd.
- Reviewers krijgen training over systeembeperkingen, foutscenario's en automation bias, de neiging om een machine-uitkomst te snel te volgen.
- Hoog-impactbesluiten kunnen een controle door meer dan één persoon vereisen.
- Overrides, audit trails en besluitlogs worden bijgehouden.
- Er vinden periodieke audits plaats, en herbeoordeling na elke systeemupdate.
De checklist is een richtsnoer en geen nieuwe wet. Zij kan relevant zijn naast toepasselijke regels over gegevensbescherming en geautomatiseerde besluitvorming, maar de concrete AVG-rechten en verplichtingen hangen af van het systeem, de context en het toepasselijke kader. Voor hoog-risico-AI sluit zij op onderdelen aan bij de vereisten voor menselijke controle in artikel 14 van de EU AI Act; de concrete juridische toepassing hangt af van het systeem, de context en het toepasselijke kader.
Waarom is de aanwezigheid van een mens op zichzelf geen effectieve controle?
Omdat een reviewer zonder begrip, tijd of bevoegdheid in de praktijk niets corrigeert. Een peer-reviewde studie in AI and Ethics over het ontwerpen van betekenisvol menselijk toezicht beschrijft waarom formele betrokkenheid onvoldoende is: zonder beoordelingsruimte, organisatorische inbedding en bewustzijn van automation bias wordt de mens een stempel in plaats van een rem.
Naar onze inschatting is dit een belangrijk punt waarop human-in-the-loop-afspraken kunnen stuklopen. Onze analyse: een reviewer die honderden uitkomsten per dag moet goedkeuren, heeft in de praktijk mogelijk onvoldoende ruimte voor een inhoudelijke beoordeling; de controle kan dan op papier bestaan zonder effectief te functioneren in de werkstroom.
Hoe sluit de checklist aan op artikel 14 van de EU AI Act?
Artikel 14 van de AI Act eist dat hoog-risico-AI-systemen effectief door natuurlijke personen kunnen worden overseen. Volgens de toelichting van de AI Act Service Desk van de Europese Commissie bij artikel 14 moet de toezichthouder de capaciteiten en beperkingen van het systeem begrijpen, automation bias onderkennen, de output correct interpreteren, die kunnen negeren of overrulen en het systeem veilig kunnen onderbreken.
Naar onze analyse raakt de EDPS-checklist dezelfde thema's als artikel 14, maar vanuit een eigen referentiekader: zij vraagt niet of de vereisten op papier staan, maar hoe u aantoont dat een reviewer werkelijk kan ingrijpen, met welke bevoegdheid, na welke training en met welke vastlegging. Let op: niet elk AI-besluit valt onder artikel 14; de bepaling geldt voor hoog-risicosystemen. Naar onze analyse is de checklist echter breder toepasbaar dan artikel 14 en ook buiten de categorie hoog-risicosystemen nuttig als referentiekader voor aantoonbare menselijke controle.
Wat betekent dit voor bestuurders, juristen en CISO's die AI inzetten bij gevoelige besluiten?
Onze analyse: omdat de EDPS menselijke controle vertaalt naar tijd, bevoegdheid en vastlegging, moet de inzettende organisatie haar controleproces aantoonbaar kunnen onderbouwen; daarom legt u per werkstroom vast wie het besluit mag nemen, bij welke drempel een tweede beoordelaar vereist is en langs welke route wordt geëscaleerd. Omdat een reviewer zonder keuzeruimte feitelijk niets corrigeert, is naar onze inschatting een hoge beslissnelheid een governancerisico voor juristen en compliance; daarom bepaalt u een maximale reviewlast per persoon en bouwt u de werkstroom zo dat afwijken en stoppen echte, geoorloofde handelingen zijn, niet uitzonderingen die gezichtsverlies kosten. Onze analyse: wanneer een modelwijziging niet tijdig wordt herkend, kunnen eerdere controlemaatregelen mogelijk niet meer passend of aantoonbaar effectief zijn. Daarom koppelt u changemanagement aan een herbeoordeling van de controlemaatregelen voordat een nieuwe versie live gaat. Onze analyse: zonder log van overrides en besluiten is het achteraf moeilijker om de gevolgde controleprocedure te reconstrueren en toe te lichten; daarom legt u nu vast welke modeloutput, welk bronbewijs, welke reviewer en welke bevoegdheid bij elk besluit horen, aansluitend bij het onafhankelijk controlepunt tussen AI-analyse en formeel besluit en bij het vastleggen van AI-handelingen voor latere reconstructie.
Als samenvatting van die analyse, per werkstroom vast te leggen voordat een systeem in gebruik gaat:
- De beslissingsbevoegdheid: wie mag het besluit nemen en wie niet.
- De reviewdrempel: bij welke impact een tweede beoordelaar vereist is.
- De benodigde expertise en training, inclusief bewustzijn van automation bias.
- De escalatieroute en de concrete stopprocedure bij twijfel.
- De logging: output, bronbewijs, reviewer, bevoegdheid en uitkomst.
- De herbeoordeling na elke modelupdate, gekoppeld aan changemanagement.
Hoe een toezichthouder naar geautomatiseerde besluitvorming zonder betekenisvolle menselijke tussenkomst kan kijken, komt aan bod in onze analyse van een Nederlandse boete voor geautomatiseerde deactivering zonder menselijke tussenkomst. Voor een bredere plaatsing van deze eisen is ons themahub over AI-governance en menselijk toezicht het vertrekpunt. Wie menselijke controle vooraf ontwerpt als een toetsbaar proces, staat naar onze inschatting sterker als die controle later ter discussie komt.
Bronnen en referenties
Bronnen: Het artikel steunt op de EDPS-checklist over menselijke interventie, een studie in AI and Ethics en de toelichting van de Europese Commissie bij artikel 14 van de EU AI Act.