NIST behandelt generatieve AI-output niet als inherent betrouwbaar en adviseert validatie via vier samenhangende maatregelen: pre-deployment verificatie, digitale provenance, incidentmelding en governance. Wie gevoelig werk door AI laat verwerken, moet deze controles inbedden in de hele levenscyclus in plaats van losse teksten te beoordelen op vloeiende formulering.
De actuele aanleiding is de landingspagina van het NIST AI Risk Management Framework, die het Generative AI Profile centraal stelt en aangeeft dat het framework doorontwikkelt richting betrouwbare AI in vitale infrastructuur. Het profiel zelf, gepubliceerd door NIST in juli 2024, is de meest directe bron voor aanbevelingen over het valideren van generatieve AI-output.
Waarom stelt NIST dat generatieve AI-output niet inherent betrouwbaar is?
In het Generative Artificial Intelligence Profile beschrijft NIST het AI Risk Management Framework als een vrijwillige, gestructureerde manier om betrouwbaarheid te bewaken tijdens ontwerp, ontwikkeling, gebruik en evaluatie. Het uitgangspunt is dat generatieve AI unieke risico's meebrengt die niet vanzelf verdwijnen omdat een model vloeiende taal produceert.
Naar onze inschatting ligt hier de kern van de discussie: het profiel verlegt de vraag van kan het model iets produceren? naar heeft de organisatie een controleerbaar geheel van maatregelen rondom die output?. NIST plaatst hallucinatierisico daarmee in de sfeer van risicobeheersing, niet in de sfeer van betere prompts. Dat past bij het bredere themawerk rond AI-governance en risicobeheersing, waar output een te bewaken artefact is en geen eindresultaat.
Welke vier maatregelen benoemt NIST voor het beheersen van generatieve AI?
In een getuigenis uit oktober 2023, gepubliceerd als Foundations for Effective Risk Management of Artificial Intelligence, licht NIST toe dat zijn publieke werkgroep voor generatieve AI werd opgericht om vier richtlijngebieden te ontwikkelen. Dat is de duidelijkste NIST-formulering die validatie, hallucinatiebeperking, herkomst en governance aan elkaar koppelt.
- Pre-deployment verificatie en validatie van generatieve AI-modellen voordat ze in gebruik gaan.
- Digitale provenance van content, zodat herkomst en authenticiteit controleerbaar zijn.
- Incidentmelding, oftewel het openlijk vastleggen en delen van fouten en falen.
- Governance van generatieve AI-systemen, afgestemd op de doelen en prioriteiten van de organisatie.
De vier gebieden staan niet los van elkaar. Verificatie zonder governance blijft eenmalig; provenance zonder incidentmelding levert geen leercyclus op. Onze redactionele lezing is dat NIST ze bewust als een samenhangend geheel presenteert, zodat output op geen enkel moment als inherent betrouwbaar wordt weggezet.
Hoe helpen provenance-controles en bronverificatie tegen hallucinaties?
Digitale provenance draait om herkomst: waar komt een stuk content vandaan, en is het aantoonbaar wat het beweert te zijn? NIST noemt provenance in dezelfde adem als validatie omdat het de brug legt tussen een gegenereerde bewering en een controleerbare bron. Voor feitelijke uitspraken betekent dat concreet: eis brongronding, zodat een claim herleidbaar is naar een document in plaats van naar de vloeiende formulering van een model.
Dat is geen garantie dat hallucinaties verdwijnen. Het is wel een manier om ze zichtbaar en toetsbaar te maken. Wie ongegronde beweringen apart wil kunnen aanwijzen, heeft een verificatielaag tegen AI-hallucinaties in besluitvorming nodig die output aan bronnen koppelt. En omdat één model zijn eigen antwoorden niet onafhankelijk toetst, blijven de grenzen van zelfverificatie door één AI-model relevant: bronverificatie hoort buiten het genererende model te gebeuren.
Hoe vertaal ik de NIST-richtlijnen naar een validatie-workflow in mijn organisatie?
De bronnen beschrijven vier richtlijngebieden, maar laten open hoe je die concreet in bestaande werkstromen inbedt. Onderstaande stappen zijn onze vertaling van de NIST-aanbevelingen naar een praktische werkwijze, niet een letterlijke NIST-instructie.
- Valideer voor ingebruikname. Test een model op de taak waarvoor je het inzet en leg de uitkomst vast, in lijn met de operationele controles uit de AI RMF 1.0.
- Eis brongronding voor feitelijke claims. Koppel elke feitelijke uitspraak aan een controleerbare herkomst en behandel provenance als onderdeel van de output, niet als bijzaak.
- Log wanneer output is gecontroleerd of overschreven. Registreer wie beoordeelde, wat werd aangepast en waarom, zodat menselijke controle aantoonbaar blijft.
- Behandel afwijkingen als meldbaar incident. Leg falen vast en deel het intern, zodat governance een leercyclus wordt in plaats van een eenmalig document.
- Behoud menselijk eindoordeel bij hoog-trust gebruik. Maak menselijke review verplicht voor toepassingen met grote gevolgen.
Voor het aantoonbaar maken van dat toezicht is een aparte registratielaag nuttig; hoe je dat inricht staat beschreven bij het loggen van menselijke controle bij AI-besluiten. De rode draad in alle vier de NIST-gebieden is dezelfde: generatieve AI-output verdient controle binnen bredere systeem- en werkstroomcontroles, niet als losstaande tekst.
Bronnen en referenties
Bronnen: Het artikel steunt op het NIST Generative AI Profile, de NIST AI RMF-landingspagina, de NIST-getuigenis over risicobeheersing en het AI RMF 1.0.