Het onderwijs is één van de zwaarst gereguleerde sectoren onder de EU AI Act. De wetgever heeft expliciet besloten dat AI-systemen die beïnvloeden of iemand wordt toegelaten, beoordeeld of doorverwezen, structureel hoog-risico zijn, vergelijkbaar met AI in HR en de zorg.
Dat raakt scholen op twee fronten: de AI-tools die de instelling zelf inzet (proctoring, plagiaatcheckers, leeranalytics) én het AI-gebruik door leerlingen en studenten in opdrachten en toetsen. We behandelen beide.
Wat valt onder hoog-risico in het onderwijs?
Bijlage III, punt 3 van de AI Act noemt vier expliciete categorieën:
1. Toelating en plaatsing
AI-systemen die bepalen of mensen worden toegelaten tot een onderwijsinstelling of opleiding, of die studenten over groepen of niveaus verdelen. Denk aan automatische plaatsingstools, AI-gebaseerde studiekeuzeadviestools die geldend zijn voor toelating.
2. Beoordeling van leerprestaties
AI die leerresultaten of toetsen evalueert, ook als de uiteindelijke beslissing bij de docent ligt, is het hoog-risico zodra AI een substantieel deel van de score bepaalt. Automatische essay-scoring, AI-feedback die in cijfers wordt vertaald.
3. Bepalen van leerniveau of doorstroom
AI-systemen die het passende onderwijsniveau voor een student bepalen, of die voorspellen welke leerlingen extra ondersteuning nodig hebben (early warning systems).
4. Surveillance bij toetsen (proctoring)
AI-monitoringsystemen die tijdens een examen verboden gedrag detecteren. Belangrijk: emotieherkenning in dit kader is volledig verboden onder artikel 5; alleen niet-emotionele detectie (kijkrichting, schermactiviteit) is hoog-risico maar toegestaan.
Wat geldt nu al, en wat per 2 augustus 2026?
- Per 2 februari 2025, AI-geletterdheid (artikel 4): docenten, ondersteunend personeel en bestuur moeten een passend kennisniveau hebben. Ook de verboden uit artikel 5 (waaronder emotieherkenning in onderwijs!) zijn van kracht.
- Per 2 augustus 2026, alle hoog-risico verplichtingen: risicobeheer, datakwaliteit, logging, menselijk toezicht, transparantie, AI-register en de Fundamental Rights Impact Assessment.
Software die via webcam stress, frustratie of concentratie van leerlingen detecteert valt onder het absolute verbod in artikel 5. Ook als de leerling toestemming geeft. Controleer uw proctoring-leveranciers expliciet.
Generatieve AI (ChatGPT) in de klas
Studenten gebruiken ChatGPT, Claude en Gemini massaal voor opdrachten. Voor onderwijsinstellingen creates dat drie verplichtingen:
- AI-beleid voor studenten, helder document dat aangeeft wanneer AI wel/niet mag, hoe verwijzing en bronvermelding werkt, en wat de gevolgen zijn van niet-melden.
- AI-geletterdheid, niet alleen verbod uitleggen, ook verantwoord gebruik trainen. Verwerk in curriculum.
- Aangepaste toetsing, toetsen waarbij AI-gebruik niet of moeilijk te detecteren is, vragen om herinrichting (mondelinge toetsen, observatieopdrachten, in-class assessments).
Wat met AI-detectoren (TurnItIn, GPTZero)?
AI-detectie van studententeksten valt zelf onder de hoog-risico categorie als het effect heeft op een beoordeling. Bovendien zijn de detectoren feitelijk onbetrouwbaar (false positives, vooral bij niet-moedertaalsprekers). Drie aandachtspunten:
- Een AI-detector mag nooit de enige basis zijn voor sancties.
- De student moet weten dat zijn werk door AI wordt geanalyseerd (transparantie, AVG).
- U moet kunnen aantonen hoe u false positives hebt geadresseerd.
Concrete actielijst voor onderwijsbestuurders
- Inventariseer alle AI-tools die binnen de instelling worden gebruikt (vraag breder dan alleen IT, vakdocenten gebruiken vaak hun eigen tools).
- Markeer per tool het AI Act-risiconiveau: hoog-risico (toelating/beoordeling), beperkt-risico (transparantieplicht, bv. chatbots) of minimaal.
- Stel een instellings-AI-beleid op met aparte sectie voor docenten en studenten.
- Plan AI-geletterdheid-training in voor alle medewerkers vóór het volgende schooljaar begint.
- Doe een DPIA + FRIA voor elk hoog-risico systeem (proctoring, leeranalytics, toelatingstool).
- Voeg AI-vermelding toe aan informatiebrieven aan ouders/studenten (transparantie onder artikel 13 + 50).
Sectorspecifiek toezicht: in Nederland houden de Inspectie van het Onderwijs en de AP samen toezicht op AI in het onderwijs. Voor wetenschappelijk onderwijs is daarnaast de NWO-integriteitsregeling relevant bij AI-gebruik in onderzoek.
Hoe ver is uw onderwijsinstelling met AI Act-naleving?
Doe de gratis check en zie binnen 10 minuten waar uw school of universiteit staat.
Start de gratis check