De Britse privacytoezichthouder ICO controleerde tien grote AI-foundation-modelmakers en opende in oktober 2026 een call for evidence over agentic AI. Algemene privacyclaims volstaan niet meer: wie AI-modellen met persoonsgegevens traint, inkoopt of inzet, moet per systeem aantonen welke data, welk doel, welke grondslag en welke waarborgen gelden.
De call for evidence loopt zes weken en sluit op 20 november 2026. De reacties voeden toekomstige richtsnoeren van de ICO en de wettelijke code of practice over AI en geautomatiseerde besluitvorming. Volgens het advocatenkantoor TLT over de ICO-consultatie gaat het om thema's als dataveiligheid, transparantie, accountability, geautomatiseerde besluitvorming, fairness, doelbinding en rechtmatige verwerking. Deze ICO-thema’s raken aan onderwerpen die ook relevant zijn bij verplichtingen voor bepaalde risicovolle systemen onder de EU AI Act; die vergelijking is onze redactionele duiding en geen conclusie van de ICO.
Wat heeft de ICO precies vastgesteld bij de tien AI-foundation-modelmakers?
De ICO beschrijft de uitkomsten van haar toezicht op de grootste foundation-modelontwikkelaars in het VK. Tien ontwikkelaars hebben verbeteringen toegezegd of doorgevoerd rond transparantie, de rechten van betrokkenen en waarborgen. Tegelijk benoemt de toezichthouder tekortkomingen die breder relevant zijn.
Volgens de analyse van Burges Salmon over het ICO-foundationmodelrapport gaat het onder meer om zwakke onderbouwing van legitimate interests assessments, onvoldoende uitgewerkte gegevensbeschermingseffectbeoordelingen (DPIA's), gebrekkige transparantie over trainingsdata en de mogelijke verwerking van bijzondere categorieën persoonsgegevens, zoals gegevens over gezondheid of herkomst. De boodschap: brede doelomschrijvingen en algemene verwijzingen naar "safeguards" zijn onvoldoende zonder specifiek, onderbouwd bewijs per model.
De ICO plaatst dit niet als eenmalige publicatie. In haar strategie-update meldt de toezichthouder dat zij met elf grote modelontwikkelaars werkt aan bewijs van naleving en beleidsposities, en dat zij onderzoek heeft laten doen naar de aard, omvang en ernst van gegevensbeschermingsschade in de levenscyclus van foundation models.
Welke nieuwe risico's benoemt de ICO bij agentic AI en de call for evidence?
Bij agentic AI, systemen die zelfstandig taken uitvoeren en acties ondernemen, identificeert de ICO risico's die verder gaan dan klassieke modelbeoordeling. De verantwoordelijkheden in de keten worden onduidelijker, de geautomatiseerde besluitvorming grootschaliger en de rechten van betrokkenen moeilijker uit te oefenen.
In haar publicatie ICO tech futures over agentic AI noemt de toezichthouder onder meer:
- onduidelijke verdeling van controller- en processorverantwoordelijkheid tussen ontwikkelaar, integrator en gebruiker;
- te ruim geformuleerde doeleinden en verwerking boven wat noodzakelijk is;
- mogelijke inferentie van bijzondere categorieën persoonsgegevens uit ogenschijnlijk neutrale data;
- complexere uitoefening van rechten van betrokkenen in dynamische ketens;
- nieuwe cybersecurityrisico's door autonome toolgebruik en datatoegang.
De ICO stelt expliciet dat organisaties verantwoordelijk blijven voor naleving wanneer zij agentic AI ontwikkelen, inzetten of integreren. De call for evidence vraagt om bewijs en praktijkervaring op precies deze punten.
Wat betekent deze verschuiving van modelbeloften naar aantoonbaar bewijs voor onze lezers?
Onze analyse: omdat de ICO nalevingsbewijs opvraagt en brede privacyverklaringen zonder concrete onderbouwing onvoldoende blijken in deze toezichtcontext, verschuift de praktische aandacht van de verkooppresentatie van de leverancier naar uw eigen dossier; daarom moet de verwerkingsverantwoordelijke binnen uw organisatie per AI-systeem een onderbouwde DPIA en een gedocumenteerde grondslag per verwerkingsstap kunnen tonen, niet pas bij een klacht of audit. Omdat de ICO onduidelijke controller- en processorrollen bij agentic AI als risico benoemt, loopt uw organisatie het gevaar aansprakelijk te worden voor acties van een agent die een leverancier ontwierp; Onze aanbeveling is daarom dat in elk inkoop- of integratiecontract vóór livegang een clausule wordt opgenomen die vastlegt wie welke rol draagt en wie de agentische acties mag stoppen of intrekken. Omdat bijzondere categorieën persoonsgegevens kunnen worden afgeleid uit neutrale invoer, kan een systeem dat u als laag-risico inschatte alsnog gezondheids- of herkomstgegevens verwerken; daarom moet uw privacyprofessional de daadwerkelijke in- en uitvoer testen in plaats van af te gaan op de categorie-indeling van de leverancier. Omdat de rechten van betrokkenen in dynamische ketens moeilijker uit te oefenen zijn, kan een inzage- of verwijderverzoek stranden op een systeem dat niemand volledig overziet; Onze aanbeveling is daarom dat de producteigenaar vastlegt welke retrievals, toolcalls en beslissingen worden gelogd, zodat de organisatie beter kan beoordelen hoe een verzoek binnen de wettelijke termijn moet worden beantwoord.
Naar onze inschatting is een belangrijk risico dat organisaties de call for evidence lezen als iets voor modelmakers alleen. De toezichthouder stelt het tegendeel: ook wie een systeem inkoopt of integreert, blijft verantwoordelijk. Let wel: de ICO-publicaties stellen geen universeel foutpercentage vast en scheppen geen nieuwe wettelijke plicht voor elke organisatie; zij maken expliciet wat onder de bestaande gegevensbeschermingsregels al werd verwacht.
Welke stappen leggen datagebruik en verantwoordelijkheden per AI-systeem aantoonbaar vast?
Begin bij een inventaris per systeem en werk toe naar controleerbaar bewijs. De volgende stappen volgen rechtstreeks uit de risico's die de ICO benoemt en sluiten aan op privacy by design als levenscyclusplicht onder AVG-artikel 25:
- Maak een gegevens- en toolinventaris per agent: welke bronnen worden geraadpleegd, welke tools aangeroepen, welke acties uitgevoerd.
- Beschrijf doel, grondslag en noodzakelijkheid voor iedere verwerkingsstap, niet voor het model als geheel.
- Leg vast welke partij controller- of processorverantwoordelijkheid draagt, inclusief de keten van ontwikkelaar tot inzet.
- Geef betrokkenen begrijpelijke informatie over bronnen, gebruik, rechten en opt-outmogelijkheden.
- Test of waarborgen werkelijk werken in plaats van ze alleen te benoemen; beperk toegang en acties volgens least privilege.
- Log retrievals, toolcalls, beslissingen en menselijke goedkeuringen, en zorg voor onafhankelijke monitoring met een externe stop- of intrekkingsmogelijkheid.
Wie met zelfstandig handelende agents werkt, doet er verstandig aan die te behandelen als een AI-agent met systeemtoegang besturen als privileged identity en de menselijke controle expliciet menselijke controle bij AI-besluiten toetsbaar maken. Meer achtergrond over grondslagen en rechten staat in de themahub over AI-privacy en AVG.
Bronnen en referenties
Bronnen: Het artikel steunt op publicaties van de UK Information Commissioner's Office en op analyses van Burges Salmon en TLT LLP over het ICO-foundationmodelrapport en de agentic-AI-call for evidence.