ICML-studie laat zien dat automatische taalmodelbeoordelaars systematisch vertekenen

Nee, niet met één totaalscore. Een ICML-studie laat zien dat AI-beoordelaars systematisch vertekenen naar langere antwoorden en modellen uit dezelfde familie, dus meet outputvariatie en beoordelaarsbias apart, rapporteer onzekerheidsintervallen en toets dezelfde antwoorden onder alternatieve beoordelaars.

Op 6 juli 2026 publiceerden onderzoekers de peer-reviewed ICML-studie een statistisch raamwerk om de vertekening van automatische taalmodelbeoordelaars te meten. De kern: wanneer een taalmodel de antwoorden van een ander taalmodel scoort — een werkwijze die bekendstaat als LLM-as-a-judge — is die beoordelaar zelf niet neutraal. Daarmee is de meetmethode een meetobject geworden, en dat raakt iedereen die zich op zulke scores verlaat om een model voor gevoelig werk vrij te geven.

Wat stelt de ICML-studie vast over bias in LLM-as-a-judge-evaluaties?

De studie Quantifying Biases in LLM-as-a-Judge Evaluations introduceert een Bayesiaans model — een statistische methode die ook onzekerheid uitdrukt in plaats van alleen een puntscore — waarmee onderzoekers de vertekening van automatische beoordelaars kunnen identificeren, kwantificeren en corrigeren.

Het raamwerk werkt voor absolute scores én paarsgewijze voorkeuren (model A versus model B), rapporteert onzekerheid en maakt counterfactuele simulaties mogelijk, zoals de verwachte overeenstemming nádat een systematische bias eruit is gerekend. Genoemde patronen zijn onder meer een voorkeur voor langere antwoorden en voor antwoorden van modellen uit dezelfde modelfamilie als de beoordelaar. De auteurs benadrukken dat deze bevindingen gelden binnen de onderzochte modellen en opzet; er zijn geen universele biaspercentages die op elk product van toepassing zijn.

Waarom moet je outputvariatie en beoordelaarsbias als twee aparte metingen behandelen?

Naar onze analyse zijn outputvariatie en beoordelaarsbias twee afzonderlijke bronnen van variatie die elk apart gemeten moeten worden. De modeloutput kan variëren door de prompt of de taakconditie, terwijl de evaluatiescore daarnaast kan variëren door de beoordelaar. Wie beide samenvat in één cijfer, weet achteraf niet of een slechte score door het model of door de beoordelaar kwam.

Twee aanvullende studies onderbouwen die scheiding empirisch. Onderzoek in de proceedings van de NLP+CSS-workshop testte achttien modellen met tien varianten op vraag- en antwoordopties, samen goed voor meer dan 334.800 gesimuleerde interviews. Vrijwel alle geteste modellen bleken gevoelig voor die varianten en vertoonden een recency bias: de laatst getoonde antwoordoptie werd onevenredig vaak gekozen. Inhoudelijk vergelijkbare prompts leveren dus niet dezelfde antwoordverdeling.

De preprint The Multilingual Artificial Hivemind evalueerde drieëntwintig open-weight modellen in dertien talen, met 448.500 gegenereerde antwoorden, en gebruikte meerdere diversiteitsmaten. De modeloutput was in dat materiaal systematisch homogener dan menselijke antwoorden, maar de auteurs wijzen nadrukkelijk op beperkingen rond talen, prompts, modellen en één decodingconfiguratie. Naar onze inschatting volgt hieruit dat geen enkele diversiteitsmaat op zichzelf volstaat.

Hoe ziet een tweelaags evaluatieprotocol er in de praktijk uit?

De drie studies leveren geen kant-en-klaar gecombineerd protocol — dat laten ze open. Onze redactionele synthese van hun methoden is een evaluatie in twee lagen, die eerst de output en daarna de beoordelaar afzonderlijk doormeet.

Laag één meet outputvariatie:

• Herhaal elke test meerdere keren met vaste samplinginstellingen, zodat variatie zichtbaar wordt.
• Gebruik gecontroleerde promptperturbaties en wissel de volgorde van antwoordopties, om effecten zoals recency bias te betrappen.
• Stratificeer naar taal en doelgroep, omdat competentie en homogeniteit per taal verschillen.
• Combineer embedding-gebaseerde en lexicale (woordniveau) diversiteitsmaten in plaats van te vertrouwen op één metriek.

Laag twee meet beoordelaarsbias door dezelfde outputs door verschillende beoordelaars te laten scoren:

• Zet meerdere beoordelaars, modelfamilies en beoordelingsprompts in op identieke antwoorden.
• Rapporteer de overeenstemming tussen beoordelaars én onzekerheidsintervallen, niet alleen een gemiddelde.
• Toets expliciet op lengte-effecten en op voorkeur voor de eigen modelfamilie.
• Vergelijk absolute scores met paarsgewijze voorkeuren; ze kunnen uiteenlopen.

Als redactionele aanbeveling: kies het aantal runs op basis van de verwachte effectgrootte en gewenste precisie, niet alleen op basis van een vaste vuistregel. Dit sluit aan bij onze eerdere analyse van hoeveel herhalingen een betrouwbaarheidstest nodig heeft.

Wat betekent dit voor bestuurders, juristen en CISO's die gevoelige informatie verwerken?

Onze analyse: omdat automatische beoordelaars aantoonbaar vertekenen naar langere antwoorden en naar hun eigen modelfamilie, kan een inkoop- of validatiedossier dat op één gemiddelde score steunt een vertekend beeld geven aan wie het model vrijgeeft; daarom vraagt een CISO of validatieverantwoordelijke nu om gescheiden rapportage van outputvariatie, beoordelaarsbias en onderlinge overeenstemming, met onzekerheidsintervallen, vóór productiegebruik. Omdat inhoudelijk vergelijkbare prompts verschillende antwoordverdelingen opleveren, kan een leverancierscijfer uit één promptvariant de prestatie overschatten voor de verwerkingsverantwoordelijke; daarom neemt een inkoper een contractclausule op die de leverancier verplicht de gebruikte prompts, modelversies en samplinginstellingen te benoemen, en herhaalt het eigen team de test onder alternatieve beoordelaars. Omdat de bevindingen alleen gelden binnen de onderzochte modellen, taken en talen, kan een generiek biaspercentage een jurist een vals gevoel van zekerheid geven over een concreet product; daarom laat een verantwoordelijke de evaluatiedataset representatieve gevallen én grensgevallen bevatten en documenteert hij dat de uitkomst alleen voor die condities geldt. Omdat elke wijziging in model, prompt of instelling de uitkomst kan verschuiven, kan een stille modelupdate een eerder goedgekeurde werkstroom ongemerkt veranderen voor een advocaat of arts; daarom bewaart het team prompts, modelversies, beoordelaarsconfiguraties en ruwe outputs en test het opnieuw bij elke wijziging. Deze governance-stappen horen thuis in een bredere aanpak van AI-verificatie; voor leveranciersclaims geldt bovendien dat benchmarkcijfers van de aanbieder geen onafhankelijk bewijs zijn.

Kort samengevat volgt uit deze studies, naar onze analyse, één regel: scheid de output van de beoordelaar, meet beide met onzekerheid, en bewaar genoeg om de test te herhalen.

Bronnen: Het artikel steunt op de ICML-studie over bias in LLM-as-a-judge, een NLP+CSS-workshopstudie over promptperturbaties en de arXiv-preprint The Multilingual Artificial Hivemind.