Blog

World models in robotica en autonome systemen: waarom outputcontrole en algemene AI-governance niet volstaan

World models voorspellen toekomstige toestanden onder acties en sturen fysieke beslissingen. Waarom audit, certificering en aansprakelijkheid hier anders liggen.

· Door

Een robotarm pakt voorzichtig een vervormbaar object op een testbank op, terwijl een gehandschoende hand bij een rode noodstopknop rust.
Bij world models moet veiligheid al tijdens de planning en actiekeuze aantoonbaar zijn, niet pas achteraf bij de uitkomst.Beeld: IamVera.ai — originele redactionele illustratie

World models voorspellen welke toestand volgt op een actie en kunnen zo fysieke of autonome beslissingen aansturen; volgens de IAPP roept dat nieuwe vragen op over audit, certificering en aansprakelijkheid. Besluitvormers hebben daarom domeinspecifieke validatie van voorspelde dynamiek, veiligheidsgrenzen en ketenverantwoordelijkheid nodig, niet alleen plausibele output of een algemeen AI-certificaat.

De aanleiding is een publicatie van de IAPP van 18 november 2026 over world models voor juristen. Daarin wordt beschreven hoe world models van onderzoek naar robotica en autonome systemen bewegen. Anders dan een videomodel, dat beelden genereert, voorspelt een world model toekomstige wereldtoestanden die afhangen van de actie die een systeem kiest. De IAPP wijst op drie juridische gevolgen: beperkte auditbaarheid, het ontbreken van een gevestigde certificeringsmethode en een onduidelijke verdeling van aansprakelijkheid tussen modelleverancier, deployer en operator.

Dat is geen chatbotkwestie. Wie een world model inzet, laat een systeem mede bepalen welke fysieke of operationele handeling volgt, op basis van een interne en slechts gedeeltelijk waarneembare voorstelling van de werkelijkheid. De kernvraag voor bestuurders en juristen verschuift daarmee van "oogt de uitkomst plausibel?" naar "kunnen wij aantonen dat het model in déze omgeving de juiste gevolgen voorspelt en dat veiligheidsgrenzen tijdens de planning zijn afgedwongen?".

Wat is een world model en waarom verschilt het van een gewone generatieve AI?

Een world model is een geleerde representatie die de toestand van een omgeving codeert, de gevolgen van mogelijke acties voorspelt en planning onder doelen en beperkingen mogelijk maakt. Dat staat in een position paper in AI Magazine van de Association for the Advancement of Artificial Intelligence. Het verschil met tekst- of beeldgeneratie zit in die actieconditie: het model kiest of ondersteunt een handeling omdat het inschat welke toestand daarop volgt.

Dezelfde auteurs stellen dat veiligheid niet pas achteraf via outputfilters beoordeeld mag worden, maar al in de doelfunctie en de planning hoort te zitten. Dat heeft een directe consequentie: naar onze inschatting verschuift het controlepunt van de uitkomst naar het beslisproces. Een filter op de einduitkomst kan onvoldoende zijn wanneer de relevante veiligheidsbeslissingen al tijdens planning en actie-selectie zijn genomen; daarom moeten veiligheidsgrenzen ook vóór uitvoering worden afgedwongen.

Dat de technologie breder wordt, laat MIT News zien met een architectuur die uiteenlopende fysische verschijnselen simuleert: van vervormbare objecten en granulaire stoffen tot vloeistoffen en eiwitten. Belangrijk voor beslissers is wat hier niet uit volgt: naar onze inschatting bewijzen goede prestaties in het ene fysische regime niet dat het model betrouwbaar is in een ander regime of in een high-risk-toepassing.

Waarom volstaan outputcontrole en een algemeen AI-certificaat niet voor world models?

Omdat de beslissing in het model zelf wordt voorbereid, niet pas in de zichtbare uitkomst. Een peer-reviewed publicatie in The Innovation over computationeel bruikbare embodied AI stelt dat de praktische inzetbaarheid afhangt van wat een world model berekent, hoe ver het vooruit "rolt", waar het rekent en welke actiewaarde die berekening oplevert. De auteurs benadrukken real-time veiligheidsbeperkingen, beperkte data-, communicatie- en rekenmiddelen, en evaluatie op actie-nut in plaats van alleen visuele kwaliteit.

Naar onze inschatting zegt een realistisch ogend beeld of een hoge score op een algemene benchmark dus weinig over de vraag of een model in een concrete omgeving de juiste gevolgen voorspelt. Dat sluit aan bij onze eerdere analyse over waarom publieke AI-standaarden missiekritische systemen niet beslisklaar maken: een certificaat beschrijft het beheersproces, niet of dit specifieke model deze specifieke taak veilig uitvoert. Een algemeen AI-governancekader dekt daarom naar onze inschatting de fysische en operationele voorspelkwaliteit van een world model niet af.

Wat betekent dit voor bestuurders, juristen en CISO's die zo'n systeem beoordelen?

Onze analyse: omdat een world model een handeling ondersteunt op basis van een interne voorspelling, verschuift de verdedigbaarheid van het eindresultaat naar het beslisproces. In de aanbesteding zou de leverancier daarom de voorspelde dynamiek in de eigen inzetomgeving moeten aantonen, niet alleen op generieke benchmarks. Omdat prestaties in het ene fysische regime naar onze inschatting niets bewijzen voor een ander regime, zou de deployer het toepassingsdomein contractueel en in configuratie moeten begrenzen en uitbreiding pas na hernieuwde validatie moeten toelaten. Omdat de IAPP wijst op een onduidelijke verdeling van aansprakelijkheid tussen leverancier, deployer en operator, zou de jurist moeten vastleggen welke partij verantwoordelijk is voor welke keuze rond ontwerp, dataset, validatie, deployment, waarschuwingen en toezicht. Omdat veiligheid volgens de AAAI al in de planning hoort en niet pas in een outputfilter, zou de CISO aantoonbare veiligheidsgrenzen tijdens de planning, logging van beslissende doelen en beperkingen en een werkende menselijke stopfunctie moeten verlangen voordat het systeem live gaat. Hoe die aansprakelijkheid terugvalt op bestuurskeuzes werkten we eerder uit bij aansprakelijkheid bij autonome AI die zelf acties uitvoert.

Welke validatie- en bewijspunten horen in een beoordelingsdossier voor world models?

De bronnen beschrijven de technische eigenschappen, maar laten open welke concrete bewijsstukken een besluitvormer nodig heeft. Onze vertaling naar een praktisch dossier, gebaseerd op de genoemde publicaties:

  • Domeinspecifieke dynamiek: aantoonbare validatie dat het model in de feitelijke inzetomgeving de juiste fysische of operationele gevolgen van acties voorspelt, niet alleen in een algemene test.
  • Gedrag onder druk: prestaties getest onder distributieverschuiving, onverwachte omstandigheden en verschillende vooruitkijk-horizonten, inclusief real-time beperkingen in data, communicatie en rekenkracht.
  • Latente modellen, niet alleen output: beoordeling via onafhankelijke scenario's en fysieke of operationele referentietests, zodat ook de interne voorstelling wordt getoetst. Behandel een leveranciersclaim daarbij zoals u een AI-prestatieclaim pas accepteert na eigen test met afgeschermde data.
  • Beslisgrondslag vastgelegd: registratie van welke doelen, beperkingen, menselijke interventies en stopcriteria de uiteindelijke actie hebben bepaald.
  • Ketenverantwoordelijkheid: traceerbare afbakening van wie aansprakelijk is tussen modelprovider, integrator, deployer en operator, met behoud van bewijs.

Voor organisaties die world models inzetten in risicovolle of gereguleerde toepassingen raakt dit direct aan verplichtingen rond risicobeheer en menselijk toezicht in de EU AI Act. Dat is onze juridische toepassing van de beschreven risico’s, niet een rechtstreeks aan de IAPP toegeschreven conclusie. Het bredere kader bespreken we in de themahub over AI-governance en verantwoord inzetten van AI. De hoofdlijn blijft naar onze inschatting nuchter: een world model keurt u niet goed op een mooi beeld of een algemeen stempel, maar op bewijs dat het in uw omgeving de juiste gevolgen voorspelt en binnen zijn grenzen blijft.

Bronnen en referenties

  1. World models for lawyersIAPP · 2026-11-18
  2. World models: Enabling the next AI revolutionAI Magazine, Association for the Advancement of Artificial Intelligence · 2026-11-13
  3. World models: Toward computationally usable embodied AIThe Innovation Insights · 2026-10-20
  4. A single AI model simulates the behavior of many substances, from sliding sand to folding proteinsMIT News · 2026-11-09

Bronnen: Het artikel steunt op de IAPP-publicatie over world models voor juristen, een position paper in AI Magazine (AAAI), een peer-reviewed publicatie in The Innovation en een bericht van MIT News.

← Alle artikelen in dit thema ← Alle artikelen