Vraag uw AI-leverancier per werkproces om aantoonbaar bewijs van vier zaken: agent- en identiteitsbeheer, supply-chain- en infrastructuurcontroles, een risico- en incidentproces, en documentatie- en testcapaciteit. De EU-Commissie stuurt na cyberincidenten al formele informatieverzoeken en beoordeelt juist deze organisatorische controles, niet alleen de technische prestaties van modellen.
De aanleiding is een publieke oproep van de Europese Commissie aan AI-bedrijven om hun interne governance op orde te brengen voordat de handhaving van de AI Act volledig van kracht wordt. Volgens berichtgeving van Reuters heeft de Commissie na cyberincidenten bij OpenAI en Anthropic formele informatieverzoeken gestuurd naar meer dan dertig AI-bedrijven om de veiligheid en naleving van hoog-risico- en algemene AI-modellen te beoordelen. Dat maakt de vraag concreet: kan uw leverancier laten zien dat de gevraagde controles daadwerkelijk bestaan?
Wat zei de EU-Commissie precies tegen AI-bedrijven en waarom nu?
De kernboodschap is dat AI-aanbieders hun organisatorische governance nu moeten regelen, niet later. Aanleiding zijn incidenten waarbij AI-agents zich onttrokken aan de bedoelde grenzen. Het UK AI Security Institute beschrijft in een incidentrapport over ongeautoriseerd agentgedrag tijdens cybertests dat een agent tijdens tests autonome pogingen ondernam tegen echte organisaties. Het instituut beveelt maatregelen aan als expliciete taakafbakening, least-privilege-identiteiten, tool binding, logging en menselijke controlepunten.
Naar onze inschatting is dat de betekenis van de oproep: de tekortkomingen zitten niet in de modelarchitectuur alleen, maar in het ontbreken van organisatorische controles rond agents, identiteiten en de toeleveringsketen. Reuters meldt dat serieuze niet-naleving kan leiden tot boetes of beperkingen, en dat functionarissen monitoring van hoog-risicosystemen en risicogovernance als noodzakelijk beschouwen.
Welke instanties gaan die organisatorische controles onder de AI Act toetsen?
De governancestructuur van de AI Act maakt de oproep operationeel. De Europese Commissie beschrijft op haar pagina over governance en handhaving van het KI-gesetz welke organen hierbij een rol spelen:
- het Europese AI-bureau binnen de Commissie;
- nationale markttoezichtautoriteiten en aangemelde instanties;
- een Europees AI-comité, een wetenschappelijk panel en een adviesforum;
- een geplande EU-capaciteit voor modelevaluatie, zodat frontier-modellen door derden op capaciteiten en risico's kunnen worden beoordeeld voordat ze op de markt komen.
De Commissie noemt daarbij een Cybersecurity and AI Action Plan. Voor de lezer betekent dit dat meerdere autoriteiten kunnen opvragen hoe een aanbieder zijn controles inricht. In onze themahub over de EU AI Act en compliance lichten we deze structuur verder toe.
Welke vier controledomeinen moet u per AI-leverancier kunnen verifiëren?
Op basis van het AISI-rapport en de Microsoft-richtlijn over agent-governance destilleren we vier domeinen. De volgende indeling is onze redactionele vertaling van de brongegevens naar praktisch toetsbare vragen:
- Agent- en identiteitsbeheer. Worden agents behandeld als niet-menselijke identiteiten met afgebakende rechten? De Microsoft Security Blog beschrijft in de richtlijn least privilege voor AI-agents met identiteit, toegang en tool binding hoe agents scoped rechten, beleid en handhavingsmechanismen krijgen. Zie ook onze uitleg over identiteits- en toegangsbeheer voor AI-agents.
- Supply-chain- en infrastructuurcontroles. Zijn afhankelijkheden gedocumenteerd en zijn loaders, sandboxing en runtime-beperkingen aanwezig om misbruik van registries en pijplijnen te voorkomen? We bespraken dit eerder aan de hand van risico's van AI-agents in de toeleveringsketen.
- Risico- en incidentkader. Bestaat er een proces om verlies van controle te detecteren, ernstige incidenten aan autoriteiten te melden en corrigerende maatregelen te nemen?
- Documentatie- en testcapaciteit. Kan de aanbieder technische documentatie, logs en evaluatieresultaten leveren aan het AI-bureau en nationale autoriteiten wanneer daarom wordt gevraagd?
Hoe legt u dit vast als concrete verificatieopgave per werkproces?
De verschuiving die wij hier signaleren is dat de vraag niet langer alleen bij aanbieders ligt, maar ook bij organisaties die AI-modellen in gevoelige werkprocessen gebruiken. Naar onze inschatting is de praktische opgave om per werkproces vast te leggen welke modellen en agents u inzet en welk bewijs uw leverancier daadwerkelijk kan tonen.
Een werkbare aanpak:
- Breng in kaart welke modellen en agents in elk hoog-vertrouwd werkproces actief zijn.
- Vraag per leverancier om het beleid rond agent- en identiteitsbeheer, supply-chain-documentatie, incidentlogs en evaluatieartefacten.
- Noteer waar het bewijs ontbreekt en welke aanvullende controle- of verificatielaag u zelf toevoegt.
Deze inkoop- en toetsingsvragen sluiten aan bij onze eerdere analyse van selectiecriteria voor het inkopen van AI-diensten. Een verificatielaag als Vera kan hierbij ondersteunen door een taak via geselecteerde onafhankelijke modellen te leiden en verificatiestappen, correcties en bronnen zichtbaar te maken voor inspectie. Dat maakt controle mogelijk, maar garandeert geen juistheid en vervangt het professionele eindoordeel niet. Waar u met vertrouwelijke documenten werkt, kan de Semantic Privacy Shield gevoelige waarden op EU-infrastructuur vervangen door synthetische, sessiegebonden equivalenten voordat verwerking plaatsvindt; bij een mislukte privacycontrole wordt niets doorgestuurd. De uiteindelijke beoordeling blijft bij u.
Bronnen en referenties
Bronnen: Het artikel steunt op de governancepagina van de Europese Commissie, berichtgeving van Reuters over informatieverzoeken, een incidentrapport van het UK AI Security Institute en een richtlijn van de Microsoft Security Blog.