Menselijke controle bij AI-besluiten aantonen vraagt om een logginglaag per hoogrisicobesluit

Om onder de EU AI Act menselijke controle bij een AI-ondersteund hoogrisicobesluit aan te tonen, moet u per besluit vastleggen welke AI-output de reviewer zag, wie die reviewer was, welke bevoegdheid tot overrulen bestond en welke beslissing volgde. Dat lukt alleen met een logginglaag die reviewer-acties automatisch en onontkoombaar vastlegt.

De aanleiding is een geactualiseerde, praktijkgerichte toelichting op Artikel 14 van de EU AI Act door Regulation AI uit juni 2026. Die uitleg maakt concreet wat de wettekst al vastlegt: aanbieders van hoogrisico-AI moeten menselijke oversight in het ontwerp inbouwen, en gebruikersorganisaties (deployers) moeten die controle toewijzen aan getrainde mensen met echte bevoegdheid. Onze stelling in dit stuk: zonder een geïntegreerde logginglaag die per hoogrisicobesluit de volledige oversight-keten vastlegt, wordt het in de praktijk veel moeilijker om de door wet en onderzoek gevraagde meetbare effectiviteit van menselijke controle overtuigend aan te tonen.

Wat eisen Artikel 14 en 26 van de EU AI Act precies over menselijke controle?

Volgens de officiële tekst van Artikel 14 van de EU AI Act moeten hoogrisico-AI-systemen zo worden ontworpen dat natuurlijke personen ze effectief kunnen overzien. De wet noemt daarbij concrete capaciteiten: de werking begrijpen, anomalieën signaleren, bewust blijven van automation bias, de output negeren of overrulen, en het systeem kunnen stoppen. De maatregelen moeten "evenredig aan risico's, autonomie en context" zijn, niet louter symbolisch. Het uitdrukkelijke doel is het voorkomen of minimaliseren van risico's voor gezondheid, veiligheid en grondrechten.

De toelichting van Regulation AI vult aan dat aanbieders deze mechanismen vooraf moeten bepalen en inbouwen, en dat er geen enkele standaardvorm bestaat. Onder Artikel 26(2) moeten deployers de oversight toewijzen aan personen met de vereiste competentie, training, autoriteit en ondersteuning. Kort gezegd: geen stempelaar zonder mandaat.

Waarom is een mens in de loop volgens recent onderzoek vaak geen echte controle?

Een systematische review in het IJRIAS-journal (RSIS International, april 2026) over human-in-the-loop-frameworks in acht hoogrisicosectoren laat zien dat oversight in de praktijk vaak te smal wordt ingericht. Een reviewer die alleen "approve" of "deny" kan kiezen, mist doorgaans de informatie, tijd en het mandaat om echt te beoordelen. Het resultaat is automation bias, rolonduidelijkheid en pseudo-controle. De auteurs introduceren een Adaptive Oversight Calibration Model dat oversight koppelt aan taakcriticaliteit, modelcompetentie, menselijke cognitieve capaciteit en institutionele beperkingen.

Een studie in AI and Ethics (Springer, augustus 2026) definieert meaningful human oversight als de gestructureerde capaciteit van mensen binnen een socio-technisch systeem om outputs te begrijpen, te evalueren en waar nodig te overrulen of te stoppen, zodat verantwoordelijkheid bij identificeerbare personen blijft. Naar onze inschatting is dat het kernpunt: controle is pas echt als de mens de output kan begrijpen én de bevoegdheid heeft om af te wijken, en als die afwijking daadwerkelijk voorkomt. Een jurist die tientallen complexe AI-adviezen per uur moet afvinken, oefent geen reële controle uit. Het traceerbaar maken van een fout AI-antwoord per werkstroom is daarbij een randvoorwaarde, geen luxe.

Welke gegevens moet ik per hoogrisicobesluit vastleggen om oversight aantoonbaar te maken?

Het governance-playbook van AI Governance (januari 2026) vertaalt de wettelijke eisen naar meetbare praktijken. Wie effectieve controle wil aantonen, legt per hoogrisicobesluit minimaal het volgende vast:

• De AI-output die aan de reviewer werd getoond, inclusief de belangrijkste factoren en alternatieven.
• De identiteit van de menselijke reviewer die het advies zag.
• De keuze van de reviewer: gevolgd of overruled.
• De motivatie bij die keuze, zeker bij een overrule.
• De uiteindelijk genomen beslissing.

Daarnaast adviseert het playbook om override-ratio's per reviewer te monitoren en de kwalificaties en training van reviewers te documenteren. De redenering: een reviewer die nooit een AI-advies overruled, beoordeelt waarschijnlijk niet echt. Zonder deze cijfers blijft de claim van menselijke controle een aanname in plaats van bewijs. Voor de bredere context van deze plichten helpt de themahub over de EU AI Act en compliance.

Waarom volstaat handmatige registratie niet en is een geïntegreerde logginglaag nodig?

De bronnen benadrukken het belang van logging om oversight aantoonbaar te maken, maar laten open hoe die logging technisch het beste wordt ingericht en in hoeverre reviewers daarbij extra handelingen moeten verrichten. Hier komt onze eigen analyse: als vastlegging afhankelijk is van losse, handmatige registratie, ontstaat een structureel gat. Reviewers vullen onder tijdsdruk velden niet in, motivaties verwateren tot "akkoord", en de audittrail wordt achteraf gereconstrueerd in plaats van vastgelegd op het moment van het besluit.

Naar onze inschatting ligt hier een praktisch gevolg dat in de bronnen niet expliciet staat: organisaties doen er verstandig aan AI-systemen te voorzien van interfaces die reviewer-acties zoveel mogelijk automatisch vastleggen, zodat de oversight-keten reproduceerbaar wordt zonder afhankelijk te zijn van losse administratieve stappen. De oversight-keten — welke output, welke mens, welke bevoegdheid, welke uitkomst — hoort onderdeel te zijn van de werkstroom zelf, niet van een parallel administratief proces. Anders wordt het aanzienlijk moeilijker om de door wet en onderzoek gevraagde effectiviteit reproduceerbaar te onderbouwen wanneer een toezichthouder of rechter ernaar vraagt. Dit sluit aan bij het bredere thema van organisatorische controles aantoonbaar maken onder de AI Act.

Hoe richt ik oversight en logging concreet in per werkstroom?

Voor compliance-, juridische, financiële en zorgprofessionals is het praktisch om de eigen besluitvormingsworkflow te ontleden aan de hand van vier vragen:

1. In welke stappen van mijn workflow komt AI-ondersteunde besluitvorming voor, en vallen die onder "hoogrisico" volgens de AI Act?
2. Wie is per stap formeel de menselijke overseer, welke informatie ziet die persoon in de interface, en welke bevoegdheid heeft hij of zij om het AI-advies te negeren?
3. Welke override- en akkoordbeslissingen leg ik per case vast, en hoe lang bewaar ik die in lijn met het sectorrecht?
4. Hoe train ik overseers op de systeemlimieten, typische fouten en automation bias die de onderzoeksliteratuur beschrijft?

Wie deze vragen per werkstroom beantwoordt en de antwoorden in de logging verankert, verschuift van een vage mens-in-de-loop naar een ontworpen oversight-architectuur. Voor sectorspecifieke uitwerking is het nuttig te kijken naar aantoonbare controle op AI-gebruik in het dossier. Het professionele eindoordeel blijft in alle gevallen bij de mens; de logginglaag maakt dat oordeel alleen zichtbaar en controleerbaar.

Bronnen: Het artikel steunt op de officiële tekst van Artikel 14 EU AI Act, de toelichting van Regulation AI, een IJRIAS-review van RSIS International, een Springer-studie in AI and Ethics en een governance-playbook van AI Governance.