Ja. Rechters in Duitsland, de VS en China oordeelden dat de organisatie die een chatbot inzet en de professional die AI-output gebruikt verantwoordelijk blijven voor foutieve antwoorden en dat het probabilistische karakter van een model geen verschoningsgrond is. Richt daarom aantoonbare menselijke verificatie, bronbeperking en incidentcorrectie in vóór u AI-output naar buiten brengt.
Op 12 mei 2026 oordeelde het Oberlandesgericht Hamm dat een onderneming verantwoordelijk was voor onjuiste mededelingen van haar AI-chatbot. Die chatbot had niet-bestaande specialistische kwalificaties gepresenteerd. De exploitant verweerde zich met het argument dat de chatbot een zelfstandige derde was. Het hof verwierp dat: de antwoorden golden als zakelijke handelingen van de exploitant, omdat die de werking en de gegevensbasis van de chatbot kon beïnvloeden. De zaak werd aangespannen door de Verbraucherzentrale Nordrhein-Westfalen.
Die lijn staat niet op zichzelf. Het Supreme People's Court van China publiceerde op 7 september 2026 een landelijke opinie over AI-geschillen. De opinie behandelt onder meer de verantwoordelijkheid van aanbieders en gebruikers en verlangt dat AI-gegenereerde processtukken vóór indiening worden gecontroleerd; technologie vormt daarbij geen algemene vrijstelling van verantwoordelijkheid. In de VS legde het District Court of Connecticut op 4 augustus 2026 een boete en een tuchtverwijzing op aan een advocaat die ongeverifieerde, door AI gegenereerde citaten had ingediend.
Wat besloten de rechters in Hamm, de VS en China precies over AI-hallucinaties?
Onze analyse van de Duitse uitspraak, de Amerikaanse sanctiebeslissing en de Chinese rechterlijke opinie is dat foutieve AI-output verantwoordelijkheid niet zonder meer naar het model verschuift. In Perez-Castillo v. Blanche bevestigde het Seventh Circuit dat een professional verantwoordelijk blijft voor menselijke controle van door het taalmodel ChatGPT van OpenAI gegenereerde juridische inhoud; de beslissing ondersteunt daarmee de plicht tot verificatie voordat AI-output wordt ingediend. In Hamm bleef de exploitant aansprakelijk voor misleidende chatbotclaims. In Connecticut werd een advocaat gesanctioneerd omdat hij AI-output niet had geverifieerd. De Supreme People’s Court stelde in zijn landelijke rechterlijke opinie dat aanbieders en gebruikers onder omstandigheden aansprakelijk kunnen zijn. Onze lezing is daarom dat het probabilistische karakter van een AI-model op zichzelf geen automatische vrijstelling van verantwoordelijkheid vormt; de concrete gevolgen blijven afhangen van de toepasselijke rechtsregel, de rol van de partij en de omstandigheden.
Belangrijk voor de duiding: deze zaken scheppen geen universele aansprakelijkheidsnorm. Een rechterlijke uitspraak, een sanctiebeslissing en een beleidsrichtlijn hebben elk een eigen reikwijdte. Het Chinese document is een richtsnoer voor rechters, geen directe verplichting voor een Nederlandse organisatie; dergelijke directe verplichtingen volgen voor Europese partijen eerder uit kaders als de EU AI Act (Verordening (EU) 2024/1689). Naar onze analyse vormen de rechterlijke bronnen samen een duidelijk signaal dat rechtbanken AI-hallucinaties als een governance- en verantwoordelijkheidsprobleem kunnen behandelen, niet als een reden om verantwoordelijkheid zonder meer bij het model te leggen; de concrete beoordeling blijft afhankelijk van de toepasselijke rechtsregels en feiten.
Waarom geldt een chatbot niet als zelfstandige derde partij?
Het Oberlandesgericht Hamm vond dat de exploitant invloed had op hoe de chatbot werkte en op welke gegevens hij gebruikte. Juist die zeggenschap maakt de antwoorden tot handelingen van de exploitant. Wie bepaalt welk model draait, welke bronnen het raadpleegt en welke beperkingen gelden, kan zich niet verschuilen achter het idee dat het model autonoom spreekt.
Dit raakt een redenering die in de praktijk vaak opduikt: "het model deed het, niet wij." Naar onze analyse maakt de Hamm-uitspraak het voor exploitanten van vergelijkbare publieke chatbots moeilijker om verantwoordelijkheid uitsluitend aan het model toe te schrijven; de precieze gevolgen blijven afhankelijk van de feiten en het toepasselijke recht. Het verband met de andere zaken is volgens onze analyse dat verantwoordelijkheid niet zonder meer aan het model kan worden toegeschreven: bij een klantenservicebot kan dat de exploitant betreffen, terwijl bij ingediende juridische inhoud de ondertekenende professional tot verificatie gehouden kan zijn; de concrete gevolgen blijven afhangen van recht en feiten.
Wat betekenen deze uitspraken voor bestuurders, juristen en CISO's?
Onze analyse: omdat het Oberlandesgericht Hamm de exploitant aansprakelijk hield voor chatbotclaims over kwalificaties, loopt elke organisatie met een publieke chatbot een reëel risico op misleidende zakelijke uitingen; daarom moet de verantwoordelijke bestuurder nu laten vastleggen welke feitelijke claims de bot wel en niet mag doen en die beperking technisch afdwingen in de bronnen en systeemprompts. Omdat het District Court of Connecticut een advocaat beboette voor ongeverifieerde AI-citaten, raakt dit elke professional die ondertekent of naar buiten treedt op basis van AI-output; daarom moet een kantoor of afdeling vóór indiening een expliciete verificatiestap inbouwen waarin de ondertekenaar aantoonbaar elke bron en citaat zelf narekent. Naar onze analyse is het, mede gezien de aandacht in de Chinese rechterlijke opinie voor verantwoordelijkheid en bewijs, verstandig dat de CISO per AI-werkstroom vastlegt welke modelversie draaide, welk bronmateriaal is gebruikt en wie de output beoordeelde, zodat die keten later te reconstrueren is. Onze analyse: omdat de Amerikaanse sanctiebeslissing het belang van correctie na ontdekking van fouten onderstreept, moet de juridische afdeling een correctie- en escalatieprocedure vaststellen die voorschrijft wie een foutieve AI-uiting binnen welke termijn intrekt en rectificeert.
Deze lijn sluit aan op de verificatieplicht van de ondertekenende advocaat: naar onze analyse groeit, naarmate AI meer bronnen aanraakt, de noodzaak om de output zelf te toetsen in plaats van die aan het model te delegeren.
Welke controles moet u aantoonbaar inrichten om aansprakelijkheid te beperken?
Naar onze analyse operationaliseren de uitspraken AI-governance in de vorm van bronbeperking, toepassingsgebied, menselijke verificatie, eigenaarschap, waarschuwingen, escalatie, correctie en bewaring. Leg per AI-systeem het volgende vast, en bewaar het bewijs ervan:
- Bronbeperking: welke informatie de chatbot mocht gebruiken en welke feitelijke claims verboden of gevoelig waren, zoals titels, kwalificaties of juridische conclusies.
- Toepassingsgebied: voor welke taken het systeem is bedoeld en waar het expliciet géén uitspraken over doet.
- Menselijke verificatie: hoe output vóór publicatie of indiening werd gecontroleerd en wie daarvoor tekende.
- Eigenaarschap: wie binnen de organisatie verantwoordelijk is voor werking, gegevensbasis en gedrag van het systeem.
- Waarschuwingen en escalatie: welke disclaimers de gebruiker zag en wanneer een vraag naar een mens werd doorgezet.
- Correctie en bewaring: hoe een geconstateerde fout werd ingetrokken en gerectificeerd, en welk bewijs van die controles behouden bleef.
Wat telt is niet een logbestand op zichzelf, maar bewijs dat controle werkelijk plaatsvond. Een activiteitenlog dat enkel registreert dat iets gebeurde, is iets anders dan bewijs dat een mens de output beoordeelde; zie hierover wanneer audit trail-software echt bewijs oplevert. Wie deze beslissingen vooraf vastlegt, bouwt aan verdedigbare AI-governance en verantwoordelijkheid in plaats van achteraf te moeten uitleggen waarom het model iets zei. Dezelfde logica geldt bij geautomatiseerde samenvattingen, waar AI-samenvattingen van dossiers terugkoppeling naar de bron vragen voordat iemand erop beslist.
Bronnen en referenties
Bronnen: Het artikel steunt op uitspraken van het Oberlandesgericht Hamm, het District Court of Connecticut en het Seventh Circuit, en op een richtlijn van het Supreme People's Court van China.