Bias en discriminatie in AI onder de EU AI Act: regels, tests en mitigaties

Bias is in 2026 het thema waarop AI-projecten het vaakst stranden tijdens een audit. Niet omdat het model technisch faalt, maar omdat de organisatie geen onderbouwing kan tonen van wat ze hebben gemeten, hoe ze hebben gemeten en welke afwegingen ze hebben gemaakt. De AI Act maakt dat tekort meetbaar: voor hoog-risico AI is bias-onderzoek geen optie maar verplichting, vastgelegd in artikel 10 en gekoppeld aan grondrechten via artikel 27.

In dit artikel zetten we het juridisch kader naast de praktische uitvoering: welke soorten bias bestaan, welke statistische metrics zijn relevant, welke tools worden in de praktijk gebruikt, en hoe documenteert u keuzes zodat een toezichthouder of rechter ze later kan reconstrueren.

Waarom bias een centraal AI Act-thema is

De wetgever zag in dat AI-systemen historische patronen reproduceren en versterken. Een wervingsmodel dat getraind is op cv's uit een periode waarin vrouwen ondervertegenwoordigd waren, leert vrouwen onderwaarderen. Een kredietscoringssysteem dat postcodes meeneemt, kan etnische segregatie reproduceren via geografische proxies. De AI Act adresseert dit op drie plekken:

• Artikel 9 (risicobeheersysteem): providers moeten gedurende de gehele levenscyclus risico's voor gezondheid, veiligheid en grondrechten identificeren en mitigeren, met expliciete aandacht voor discriminerende uitkomsten.
• Artikel 10 (data en datagovernance): trainings-, validatie- en testdatasets moeten relevant, voldoende representatief, en zo veel mogelijk vrij van fouten en compleet zijn met het oog op het beoogde doel. Datasets moeten worden onderzocht op mogelijke biases die schade kunnen veroorzaken, met passende maatregelen ter detectie, preventie en mitigatie.
• Artikel 27 (Fundamental Rights Impact Assessment): deployers van bepaalde hoog-risico AI (overheid, publieke dienstverlening, krediet- en verzekeringsbeoordelingen) moeten een grondrechten-effectbeoordeling uitvoeren, waarbij discriminatie centraal staat.

Definities: bias, fairness en discriminatie

Drie termen lopen in de praktijk dooreen, terwijl ze juridisch en technisch iets anders betekenen:

Bias is een systematische afwijking in modeluitkomsten ten opzichte van wat statistisch of inhoudelijk verwacht zou worden. Bias is een neutraal technisch begrip. Een model kan bias hebben zonder dat dit juridisch problematisch is (bijvoorbeeld een bias richting hoge medische risico's bij ouderen kan inhoudelijk juist zijn).

Fairness is een normatieve eis dat het model "eerlijk" presteert tussen groepen. Wat eerlijk is, is contextafhankelijk: gelijke kansen op selectie (demographic parity), gelijke kans op terecht positief (equal opportunity), of gelijke voorspellende waarde (predictive parity) leveren elk verschillende uitkomsten. Deze definities sluiten elkaar in veel gevallen wiskundig uit (zie Chouldechova 2017, Kleinberg 2016).

Discriminatie is een juridisch begrip uit artikel 1 Grondwet, de Algemene wet gelijke behandeling en het Handvest van de grondrechten van de EU. Discriminatie is verboden onderscheid op grond van een beschermd kenmerk (godsdienst, ras, geslacht, leeftijd, handicap, seksuele georiëntatie, et cetera). Discriminatie kent direct (een kenmerk wordt gebruikt) en indirect (een ogenschijnlijk neutraal criterium pakt anders uit voor een beschermde groep).

Vier soorten bias in de praktijk

Data-bias

De trainingsdata weerspiegelt een vertekend beeld van de werkelijkheid. Klassiek voorbeeld: gezichtsherkenningsmodellen getraind op overwegend lichte huidtypen presteren significant slechter op donkere huidtypen (Buolamwini en Gebru, 2018).

Samplebias

De steekproef is niet representatief voor de populatie waarop het model wordt ingezet. Een fraudedetectiemodel getraind op data van een bepaalde regio kan in een andere regio totaal anders presteren omdat de onderliggende fraudepatronen verschillen.

Label-bias

De labels in de trainingsdata bevatten zelf menselijke vooroordelen. Een sollicitatiemodel dat "succesvolle hire" als label gebruikt, leert van eerdere beoordelaars die mogelijk bevooroordeeld waren. Het model reproduceert vervolgens dat oordeel als objectief.

Feedback-loop bias

Het model beïnvloedt zelf de werkelijkheid waarin het opereert, waardoor zijn voorspellingen waar worden. Een predictive-policing-model dat meer agenten naar wijk X stuurt, vindt daar meer kleine vergrijpen, wat het model bevestigt dat wijk X risicovol is. De zelfversterking groeit met iedere iteratie.

Wettelijk kader buiten de AI Act

De AI Act staat niet alleen. Drie andere kaders blijven onverkort gelden:

• Algemene wet gelijke behandeling (Awgb): verbiedt direct en indirect onderscheid op beschermde kenmerken in arbeid, goederen en diensten. Het College voor de Rechten van de Mens kan oordelen over AI-systemen die discrimineren.
• AVG artikel 5 (beginselen): doelbinding, dataminimalisatie en juistheid. Een biased dataset schendt vaak het juistheidsbeginsel.
• AVG artikel 22 (geautomatiseerde besluitvorming): bij volledig geautomatiseerde besluiten met aanzienlijke gevolgen heeft de betrokkene recht op menselijke tussenkomst, uitleg en bezwaar. Wie hier bias ontdekt, kan het besluit aanvechten.

De interactie met de AVG bespreken we uitvoeriger in AI Act vs AVG.

Welke statistische metrics gebruiken?

Drie families van fairness-metrics komen het meest voor:

Metric	Wat meet het?	Wanneer geschikt?
Demographic parity	Gelijke selectieratio per groep, ongeacht uitkomst	Quotum-achtige toepassingen, recruitment-funnels
Equal opportunity	Gelijke true positive rate per groep	Beoordelingen waarbij het missen van kwalitatieve kandidaten zwaarder telt
Predictive parity	Gelijke precision per groep (voorspellende waarde van een positief oordeel)	Risicobeoordelingen waarbij betrouwbaarheid van het signaal voorop staat
Equalized odds	Gelijke true positive en false positive rate per groep	Hoog-risico toepassingen waar beide fout-typen gelijk gewicht hebben
Disparate impact ratio	Verhouding selectieratio's, vier-vijfden-regel (< 0,8 is verdacht)	Snelle eerste indicatie, juridisch herkenbaar

De fundamentele les: deze metrics zijn deels onverenigbaar. U kunt zelden alle tegelijk maximaliseren. Documenteer waarom u welke kiest in het beoogde gebruik, en welke trade-offs u accepteert. Een toezichthouder beoordeelt niet of u perfect was, maar of u redelijk geredeneerd hebt.

Bias-tests in de praktijk

Een aantal open source toolkits is in de markt gangbaar geworden:

• Fairlearn (Microsoft): Python-bibliotheek voor metrics en mitigatie-algoritmes. Integreert met scikit-learn. Ondersteunt demographic parity, equalized odds en bounded group loss.
• IBM AI Fairness 360 (AIF360): uitgebreide toolkit met meer dan zeventig metrics en tien mitigatie-algoritmes. Sterker in onderzoekscontext.
• Google What-If Tool: visuele exploratie van modeluitkomsten over subgroepen, geschikt voor governance-overleggen waar niet-technici meekijken.
• Aequitas (University of Chicago): audit-georienteerde tool met groepsvergelijking en rapportagegeneratie.

Voor formele audits werken auditbureaus met gestandaardiseerde checklists, vaak gebaseerd op NIST AI Risk Management Framework, ISO/IEC TR 24027 en de evoluerende normen onder ISO 42001 (zie ISO 42001 en de AI Act).

De AVG-uitzondering van artikel 10 lid 5

Een hardnekkig misverstand: "ik mag geslachts- of etniciteitsdata niet gebruiken, dus ik kan geen bias-test doen." Dat klopt niet meer. Artikel 10 lid 5 van de AI Act biedt een expliciete uitzondering op het verbod uit artikel 9 AVG voor het verwerken van bijzondere categorieën persoonsgegevens, wanneer dat strikt noodzakelijk is om bias in hoog-risico AI te detecteren en te corrigeren. Voorwaarden zijn cumulatief:

• Detectie en correctie van bias kan niet effectief gerealiseerd worden met andere data;
• Passende waarborgen voor grondrechten en vrijheden zijn aanwezig;
• Pseudonimisering of vergelijkbare technieken worden toegepast waar mogelijk;
• De data wordt beveiligd en strikt toegangsbeperkt;
• De data wordt niet aan derden overgedragen;
• De data wordt verwijderd zodra bias is gecorrigeerd of na de bewaartermijn.

Mitigatiestrategieen

Mitigatie kent drie families, ingedeeld naar het moment waarop u ingrijpt:

Pre-processing

Aanpassingen aan de data vóór het trainen. Voorbeelden: reweighing (gewicht toekennen aan ondervertegenwoordigde groepen), sampling (over- of undersampling), label-correctie waar bias aantoonbaar is.

In-processing

Aanpassingen aan het trainingsproces zelf. Voorbeelden: adversarial debiasing (een tweede model leert geen beschermd kenmerk uit de voorspelling te kunnen reconstrueren), constraint optimization (fairness als nevenrandvoorwaarde).

Post-processing

Aanpassingen aan de modeluitvoer. Voorbeelden: groepsspecifieke drempels (verschillende cut-offs per groep), output-kalibratie. Juridisch gevoelig: groepsspecifieke drempels kunnen direct onderscheid opleveren en moeten zorgvuldig juridisch worden gevalideerd.

Monitoring

Naast eenmalige correctie hoort continue monitoring. Bias kan terugkomen wanneer de productiedata afdrijft van de trainingsdata. De AI Act vraagt expliciet om monitoring na de marktintroductie (artikel 72).

Documentatie en bewijslast

Een toezichthouder of rechter kijkt niet naar het model maar naar uw dossier. Vier documenten zijn de basis:

1. Bias-rapport: per beschermd kenmerk welke metric u meet, welke uitkomst, welke drempel u acceptabel acht, en de onderbouwing.
2. Testresultaten: reproduceerbare runs met versie-aanduiding van data en model. Liefst gegenereerd in een geautomatiseerde pipeline zodat dezelfde test bij iedere modelupdate herhaald wordt.
3. Mitigatie-keuzes: welke maatregelen heeft u overwogen, welke gekozen, en waarom. Welke trade-offs heeft u geaccepteerd?
4. Periodieke review: minimaal jaarlijks of bij iedere materiële modelupdate, gekoppeld aan uw AI-register.

Aansprakelijkheid bij discriminatie door AI

Drie aansprakelijkheidsroutes lopen parallel:

• Deployer-aansprakelijkheid: wie het systeem inzet is in eerste instantie aansprakelijk tegenover betrokkenen. Een werkgever die een biased recruitment-tool gebruikt, kan worden aangesproken onder de Awgb, ook als de provider de tool heeft gebouwd.
• Civielrechtelijke aansprakelijkheid: betrokkenen kunnen schadevergoeding eisen onder artikel 6:162 BW. De AI Liability Directive (in onderhandeling) verlaagt de bewijslast voor slachtoffers van AI-schade.
• Bestuurlijke handhaving: AVG-boetes (tot 20 miljoen euro of 4 procent omzet) plus AI Act-boetes voor schending van artikel 10 (tot 15 miljoen euro of 3 procent omzet) kunnen worden gestapeld.

Praktisch 8-punts plan voor bias-management

1. Identificeer per AI-toepassing welke beschermde kenmerken relevant zijn voor de uitkomst.
2. Kies per toepassing één primaire fairness-metric en motiveer de keuze.
3. Voer baseline bias-test uit voordat u live gaat; documenteer de uitkomst.
4. Roep waar nodig de uitzondering van artikel 10 lid 5 in en documenteer de waarborgen.
5. Implementeer minimaal één mitigatie-strategie en evalueer het effect.
6. Bouw monitoring in productie in, met alerts bij drempeloverschrijding.
7. Koppel bias-controle aan uw FRIA (zie AI Act voor recruitment voor een sectorvoorbeeld).
8. Review minimaal jaarlijks en bij iedere materiële wijziging in data of model.