Behandel geavanceerde AI als een insider met te veel rechten, stelt Nadella

Satya Nadella pleitte op 10 oktober 2026 niet voor het stoppen van AI-onderzoek, maar voor een heroverweging van hoe krachtige modellen worden ingezet: verantwoordelijkheid blijft bij de organisatie die toegang verleent. Zijn kern is externe controles, onafhankelijk bewijs, inperking en een geteste noodstop rond het model, niet erbinnen.

In een publicatie getiteld Models as Insider Risks in the Super Intelligence Era stelt de Microsoft-topman dat organisaties de verantwoordelijkheid voor wat AI doet niet kunnen uitbesteden aan de modelleverancier. Zijn boodschap, in berichtgeving samengevat als een oproep tot een noodrem op AI-modellen, is dat geavanceerde systemen zich moeten laten observeren, dat hun grenzen toetsbaar moeten zijn en dat hun handelingen inperkbaar moeten blijven.

Waartoe riep Satya Nadella precies op en is dit een stop op AI-ontwikkeling?

Nadella roept niet op tot een algeheel moratorium op modelonderzoek. Hij vraagt om een pas op de plaats bij de aannames rond uitrol: behandel een krachtig model dat toegang krijgt tot gevoelige data en ingrijpende acties niet als gewone software, maar als een potentieel bevoorrechte insider. Concreet beveelt hij onafhankelijke controles, manipulatiebestendig bewijs, doorlopende tests, inperking (containment) en tijdige melding van incidenten aan.

Naar onze inschatting is dit de essentie: de intelligentie van het model en het gezag over data en handelingen moeten uit elkaar worden gehaald. Het model, of dat nu van Microsoft, OpenAI of Anthropic komt, levert capaciteit; de organisatie bepaalt, buiten het model om, wat het mag.

Waarom werkt vertrouwen op modelinterne waarborgen niet bij autonome AI?

Omdat modelniveau-waarborgen kunnen worden omzeild of in risicovollere omgevingen onvoldoende bescherming kunnen bieden. Het Britse National Cyber Security Centre waarschuwt in zijn richtlijn Managing the cyber risk of agentic AI dat modelniveau-beveiliging voor risicovollere inzet niet volstaat, en adviseert sandboxing, beperkte netwerk- en inlogrechten, bewaakte en beschermde logging, herleidbaarheid van acties en het vermogen om het bredere systeem direct af te schakelen.

Dat sluit aan op Nadella's punt. Onze analyse hierbij: de twee bronnen zeggen hetzelfde vanuit verschillende hoeken. Nadella formuleert het bestuurlijke principe, het NCSC de operationele uitwerking. Onze analyse van deze twee bronnen is dat organisaties hun AI-inzet moeten herontwerpen met externe sandboxing, attributie en directe afschakelbaarheid, in plaats van te vertrouwen op beloftes van de leverancier.

Welke vier toetsen moet mijn organisatie doorlopen voordat AI echte rechten krijgt?

Voordat een AI-systeem gezag krijgt over data of handelingen, zijn vier vragen beslissend. Deze toetsen zijn onze redactionele vertaling van de principes van Nadella en de maatregelen van het NCSC; het zijn aanbevelingen, geen nieuwe wettelijke verplichtingen.

• Toegang: kan de organisatie zelf, buiten het model om, definiëren en intrekken waar het systeem bij mag? Zie ook hoe je een AI-agent met systeemtoegang bestuurt als privileged identity.
• Bewijs: kan elke ingrijpende handeling achteraf worden gereconstrueerd uit beschermd, manipulatiebestendig bewijs? Dit raakt het betrouwbaar vastleggen van handelingen van een autonome AI-agent.
• Ingrijpen: kan een mens ingrijpen zonder afhankelijk te zijn van de medewerking van het model? Maak die menselijke controle aantoonbaar.
• Isoleren en stoppen: kan de inzet worden geïsoleerd en direct gestopt zodra het gedrag buiten de goedgekeurde scope treedt?

Komt op één van deze vier het antwoord op "nee", dan is het systeem volgens deze redenering nog niet klaar voor de rechten die het zou krijgen.

Wat betekent dit nu voor bestuurders, juristen en CISO's?

Onze analyse: Omdat Nadella stelt dat verantwoordelijkheid voor wat AI doet niet volledig kan worden uitbesteed, moet de partij die de rechten verleent haar eigen verantwoordelijkheid en besluitvorming aantoonbaar organiseren; dat betekent niet automatisch dat aansprakelijkheid juridisch uitsluitend bij die partij ligt.; daarom moet de verantwoordelijke bestuurder vóór productie-inzet laten vastleggen wie welke toegang goedkeurde en op welke grond. Omdat modelniveau-waarborgen alleen in risicovollere omgevingen onvoldoende kunnen zijn, is een leveranciersverklaring over veiligheid naar onze analyse geen afdoende enige onderbouwing voor een inkoop- of DPIA-dossier; aanvullende, onafhankelijke verificatie en beschermde logging moeten worden beoordeeld.; daarom moet de jurist in contracten een recht op onafhankelijke verificatie, beschermde logging en incidentmelding opnemen voordat getekend wordt. Omdat het NCSC directe afschakelbaarheid als kerneis noemt, is een noodstop die alleen op papier bestaat waardeloos; daarom moet de CISO de afschakelprocedure periodiek testen en het resultaat dateren, net als een herstelbackup. Omdat ingrijpen niet van de medewerking van het model mag afhangen, moet de eigenaar van het proces een menselijk controlepunt buiten de AI-keten beleggen, met de bevoegdheid om een handeling tegen te houden vóórdat die onomkeerbaar wordt.

Samengevat als volgorde van handelen:

1. Breng per inzet in kaart welke autonomie en welke rechten het systeem daadwerkelijk heeft.
2. Leg toegang, goedkeuringen en handelingen vast in bewijs dat buiten het model staat en niet te wijzigen is.
3. Beleg menselijke controle en de bevoegdheid tot ingrijpen bij een benoemde rol.
4. Test de noodstop en de isolatie aantoonbaar, en herhaal dat met vaste regelmaat.

Wie deze stappen overslaat, blijft volgens onze analyse in belangrijke mate afhankelijk van modelgedrag dat niet volledig voorspelbaar of verklaarbaar is, terwijl de bronnen juist externe controles, monitoring en afschakelbaarheid benadrukken. Dat is precies de aanname waartegen Nadella en het NCSC waarschuwen. Meer verdieping staat in onze themahub over AI-governance en verantwoordelijkheid.

Bronnen: Het artikel steunt op de publicatie van Satya Nadella op X (10 oktober 2026) en de richtlijn van het Britse National Cyber Security Centre over agentic AI, met Tweakers als signalerende berichtgeving.