Een burger die wordt afgewezen voor een hypotheek, een uitkering of een baan wil weten waarom. Tot voor kort was het antwoord vaak: ons systeem heeft het zo bepaald. Met artikel 86 AI Act is dat niet langer voldoende. De burger heeft recht op een duidelijke en zinvolle uitleg van de rol die AI speelde in de beslissing.
In dit artikel leest u wat artikel 86 precies regelt, wanneer het van toepassing is, wie verantwoordelijk is voor de uitleg, wat erin moet staan en hoe het zich verhoudt tot AVG artikel 22. Met een sjabloon dat u direct kunt gebruiken.
Wat regelt artikel 86 precies?
Artikel 86 AI Act geeft natuurlijke personen het recht om van de deployer een duidelijke en zinvolle uitleg te krijgen over de rol van het AI-systeem in de besluitvorming, wanneer aan drie voorwaarden is voldaan. Ten eerste moet het gaan om een beslissing op basis van de output van een hoog-risico AI-systeem zoals genoemd in bijlage III. Ten tweede moet die beslissing rechtsgevolg hebben voor de persoon of vergelijkbaar ingrijpend zijn. Ten derde moet de persoon vinden dat de beslissing een nadelig effect op zijn of haar gezondheid, veiligheid of grondrechten heeft.
Wat opvalt is dat artikel 86 niet vereist dat het besluit volledig geautomatiseerd is. Ook beslissingen die substantieel zijn ondersteund door AI, met een menselijke besluitvormer aan het eind van de keten, vallen onder het recht op uitleg. Dat is een belangrijk verschil met AVG artikel 22, dat we hieronder verder bespreken.
De uitleg moet bovendien duidelijk en zinvol zijn. Een rapport vol cryptische modelmetingen voldoet niet. De burger moet uit de uitleg kunnen begrijpen waarom het besluit zo is uitgevallen en wat hij of zij hiertegen kan ondernemen.
Wanneer geldt het recht op uitleg?
Niet bij elke AI-beslissing kan een burger om uitleg vragen. Drie voorwaarden moeten cumulatief vervuld zijn:
- Hoog-risico AI. Het systeem moet vallen onder de hoog-risico classificatie van artikel 6 in combinatie met bijlage III. Een chatbot op een webshop is geen hoog-risico AI, dus daar geldt artikel 86 niet.
- Rechtsgevolg of vergelijkbaar. De beslissing moet bindend zijn (een afwijzing, toekenning, sanctie) of een effect dat daarmee gelijk staat (uitsluiting van toegang tot een dienst, een lagere prijs of premie die feitelijk uitsluit).
- Verzoek van een geraakte persoon. Het recht is op verzoek, niet automatisch. De persoon moet er actief om vragen. U mag de uitleg ook proactief geven; dat is vaak beter.
Voorbeelden waar artikel 86 wel speelt: een bank die met een hoog-risico kredietmodel een lening afwijst, een gemeente die met een hoog-risico fraudemodel een uitkering opschort, een verzekeraar die op basis van een hoog-risico risicomodel een premie verdrievoudigt, een uitzendbureau dat met hoog-risico cv-screening een sollicitant uitsluit.
Wie is verantwoordelijk: provider of deployer?
De plicht uit artikel 86 rust primair op de deployer. Dat is logisch: de deployer is degene die het besluit daadwerkelijk neemt of toepast. De provider blijft op de achtergrond verantwoordelijk voor wat hij aan de deployer aanlevert: technische documentatie (artikel 11), gebruiksinstructies (artikel 13) en de transparantie die nodig is om de uitleg op te kunnen bouwen.
Praktisch betekent dit dat u als deployer twee vragen vooraf moet beantwoorden. Een, krijg ik van mijn provider voldoende informatie om een zinvolle uitleg te geven? Twee, hoe leg ik in mijn organisatie de feiten per casus zo vast dat ik op verzoek de uitleg kan reconstrueren?
Belangrijk: als u zelf niet aan een burger kunt uitleggen waarom het systeem die uitkomst gaf, ligt het probleem bij u, niet bij de provider. U koos dit systeem en accepteerde de output. Een verwijzing naar het algoritme van de leverancier is geen geldige uitleg.
Wat moet de uitleg bevatten?
De wet geeft geen vast format, maar uit artikel 86 en de samenhang met artikel 13 (transparantie van het systeem) en artikel 26 (deployer-plichten) volgt een minimumset. Een goede uitleg dekt vijf dingen:
- De rol van het AI-systeem in het besluit. Was het volledig geautomatiseerd, ondersteunend, een eerste filter, een tweede mening?
- De belangrijkste inputs en factoren. Welke gegevens en welke kenmerken speelden de grootste rol in het resultaat dat het systeem produceerde.
- De beperkingen van het systeem. Bekende foutmarges, eventuele biasrisico's, situaties waarin het systeem minder betrouwbaar is.
- De manier waarop een mens betrokken was. Wie heeft het besluit uiteindelijk genomen of getoetst, op basis waarvan, met welke bevoegdheid.
- De klachtroute en de rechten van de betrokkene. Bezwaar, herziening, klacht bij de toezichthouder, gang naar de rechter.
Verhouding met AVG artikel 22
Artikel 86 AI Act en artikel 22 AVG lijken op elkaar maar zijn niet hetzelfde. Drie verschillen:
Reikwijdte. AVG artikel 22 betreft uitsluitend besluitvorming die volledig geautomatiseerd is en rechtsgevolg of vergelijkbaar effect heeft. Artikel 86 AI Act geldt ook bij besluitvorming die substantieel ondersteund is door hoog-risico AI, ook als er nog een mens in de keten zit. Artikel 86 dekt dus meer situaties.
Type informatie. Onder de AVG kan een betrokkene "betekenisvolle informatie over de onderliggende logica" vragen. Onder artikel 86 gaat het specifiek om de rol van het AI-systeem in het besluit en de belangrijkste factoren. Dat is meer toegespitst op het besluit van die ene persoon.
Trigger. AVG artikel 22 geeft betrokkenen sowieso recht op menselijke tussenkomst en het uiten van standpunt. Artikel 86 AI Act is een recht op uitleg dat wordt geactiveerd door een verzoek van de geraakte persoon.
De rechten zijn cumulatief. Een burger die geraakt wordt door volledig geautomatiseerde besluitvorming met hoog-risico AI kan zowel AVG artikel 22 als AI Act artikel 86 inroepen. U als organisatie moet beide kunnen bedienen, idealiter via een gecombineerd uitlegproces.
Praktisch sjabloon voor een uitleg
Een uitleg-brief of -portaalbericht hoeft niet lang te zijn. Houd vijf vaste secties aan:
Korte beschrijving van het besluit en de datum, met verwijzing naar de aanvraag of het dossier.
Welk AI-systeem is gebruikt (naam, doel), in welke mate (volledig geautomatiseerd, ondersteunend, voorselectie), wie heeft het uiteindelijke besluit genomen.
Welke kenmerken of gegevens hebben in dit specifieke geval het resultaat van het AI-systeem het meest beinvloed. Vermeld de top drie tot vijf factoren in begrijpelijke taal.
Bekende foutmarges of beperkingen van het systeem, en hoe daarmee in uw proces wordt omgegaan.
Bezwaarroute, termijn waarbinnen u kunt reageren, klachtmogelijkheden bij toezichthouder en eventueel rechtsbijstand.
Termijnen en vorm
De AI Act stelt geen harde termijn waarbinnen de uitleg moet worden gegeven. In de praktijk wordt analogie gemaakt met de AVG: zonder onnodige vertraging en in elk geval binnen een maand. De vorm moet schriftelijk en begrijpelijk zijn. Vakjargon, lange wettekstbijlagen en juridische disclaimers helpen niet. Voor publieke organisaties is bovendien de Awb relevant, met motiveringseisen voor besluiten en bezwaartermijnen.
De uitleg mag elektronisch worden gegeven (e-mail, klantportaal) zolang die toegankelijk is voor de betrokkene. Voor kwetsbare doelgroepen moet u nadenken over alternatieve kanalen of begeleide uitleg.
Wat als u geen goede uitleg kunt geven?
Stel: een burger vraagt om uitleg en u realiseert zich dat u in feite niet weet waarom het systeem zo besloot. Wat dan?
Drie observaties. Een, dit gebrek is op zichzelf een nalevingsprobleem. Als u een hoog-risico AI-systeem inzet zonder de uitlegbaarheid op orde, faalt u op artikel 13 (transparantie vanuit provider), artikel 14 (menselijk toezicht moet effectief zijn) en artikel 86 (recht op uitleg). Twee, in een procedure weegt dit gebrek vrijwel altijd in uw nadeel. Een rechter die ziet dat de organisatie het eigen besluit niet kan motiveren, neigt naar vernietiging van het besluit. Drie, het signaleert een te grote afhankelijkheid van de provider. U moet bij de provider opvragen welke uitlegmechanismen beschikbaar zijn (bv. SHAP-waarden, feature importances, contrafactuele uitleg) en die in uw proces inbouwen.
Het standaardantwoord "ons systeem heeft het zo bepaald" is feitelijk een erkenning dat u de wet niet naleeft. Bij een geschillencommissie, AP-onderzoek of rechtbank werkt dit in uw nadeel.
Kunt u uitleg geven over uw AI-besluiten?
De ActCheck-scan toetst per AI-systeem of u voldoet aan artikel 86 en geeft u een uitleg-sjabloon dat aansluit op uw situatie.
Start de gratis check