AI Act voor callcenters en klantcontact: spraakanalyse, chatbots en emotie-AI

Het moderne klantcontactcentrum draait op AI. Spraakherkenning transcribeert elk gesprek, een AI-suggestie verschijnt naast de agent met het volgende beste antwoord, een kwaliteits-AI scoort steekproefsgewijs de prestaties van medewerkers en de chatbot voert het eerste contactmoment via de website. Sinds 2 februari 2025 zijn de verboden uit de AI Act van kracht, sinds 2 augustus 2025 gelden de GPAI- en governance-bepalingen, en op 2 augustus 2026 wordt het grootste deel van de hoog-risico verplichtingen scherp gehandhaafd. Voor callcenter-management betekent dit: een aantal toepassingen moet onmiddellijk de deur uit, een aantal vraagt structurele documentatie en transparantie, en de meeste mogen blijven, mits goed ingericht.

Dit artikel zet per AI-functie helder uiteen wat is toegestaan, wat met voorwaarden mag en wat ronduit verboden is. Inclusief checklist en vendor-vragen voor uw leverancier.

AI in moderne callcenters in 2026

Het AI-landschap binnen klantcontact is in vier jaar tijd onherkenbaar veranderd. Waar voorheen IVR-keuzemenus en eenvoudige FAQ-bots de boventoon voerden, zien we nu in vrijwel elk centrum een combinatie van:

• Generatieve chatbots die zelfstandig vragen beantwoorden via website, WhatsApp en in-app messaging.
• Voicebots en AI-IVR die natuurlijke taal verstaan en transactioneel kunnen handelen (bestelling wijzigen, afspraak verzetten).
• Spraakherkenning en real-time transcriptie van alle gesprekken, vaak gekoppeld aan een centrale kennisbank.
• Sentimentanalyse op transcripten die in dashboards de toon van klantgesprekken duidt op woordniveau.
• Real-time agent assist die tijdens het gesprek scripts, kennisbankartikelen of naleving-flags aanlevert.
• Kwaliteitsmonitoring-AI die honderd procent van de gesprekken analyseert op naleving van scripts, onderwerpen en uitkomsten.
• Workforce-management-AI die op basis van voorspelde piekmomenten roosters genereert.
• Voorspellende AI die customer churn, koopintentie of upsell-kans inschat tijdens het gesprek.

Elk van deze toepassingen valt onder de AI Act. Niet allemaal in dezelfde categorie. De verdeling hieronder is leidend.

De grote scheidslijn: emotieherkenning uit biometrie verboden (artikel 5)

De belangrijkste rode lijn voor callcenters staat in artikel 5 lid 1 sub f van de AI Act. Het inzetten van AI-systemen die emoties afleiden van personen op de werkvloer of in onderwijsinstellingen is verboden, behalve voor strikt medische of veiligheidsdoeleinden. Voor klantcontactcentra raakt dit verbod twee groepen tegelijk: uw eigen agents en, afhankelijk van de toepassing, ook de klanten als zij in een werkrelatie tot uw organisatie staan.

Het verbod geldt voor emotieherkenning die werkt op basis van biometrische data: stempatronen, gezichtsuitdrukkingen, lichaamshouding, hartslag of huidgeleiding. Vendor-pitches noemen dit vaak voice-of-customer, agent wellbeing of conversational intelligence, maar zodra de uitkomst een emotioneel label is (boos, gestrest, gefrustreerd, blij) afgeleid uit een biometrische bron, raakt u het verbod.

Wat valt onder emotieherkenning uit biometrie?

In de praktijk zien wij drie typen tools die nu uit veel callcenters moeten verdwijnen of grondig worden heringericht:

• Stem-emotie-AI die uit toon, ritme, intonatie of stemverheffing een emotionele staat afleidt. Vendors die dit aanbieden als agent-stressmeter of klant-frustratie-score, op de werkvloer richting agents: verboden.
• Gezichtsuitdrukking-analyse via webcam bij thuiswerkende of kantoor-agents, vaak verkocht als attention-tracking of wellbeing-monitor: verboden.
• Lichaamshouding-detectie via camerabeelden om vermoeidheid of focus te meten: verboden in werkvloer-context.

Het maakt niet uit of de uitkomst alleen voor de medewerker zelf zichtbaar is, of dat de score wordt gebruikt voor coaching of beoordeling. Het verbod is absoluut zodra het systeem op de werkvloer wordt ingezet.

Wat blijft toegestaan?

Het verbod is gericht op biometrische emotie-uitkomsten. Vier veelvoorkomende toepassingen blijven daarom buiten het verbod, mits ze niet via biometrische signalen werken:

• Sentimentanalyse op tekst of transcript. Een AI die het woordgebruik in een transcript analyseert (komt het woord ontevreden voor, hoe vaak zegt klant nee, welke onderwerpen worden genoemd) is geen emotieherkenning uit biometrie.
• Keyword detection en woordfrequentie. Het meten van hoe vaak bepaalde termen voorkomen, is normale tekstanalyse.
• Klanttevredenheid afgeleid uit antwoorden. NPS, CSAT of CES uitgevraagd via chat of na afloop is geen AI-emotie maar self-report.
• Topic modeling. Het automatisch clusteren van gespreksonderwerpen op tekstniveau is toegestaan onder de AI Act en valt vaak buiten hoog-risico.

Verschil sentiment uit tekst versus emotie uit stem

Dit onderscheid is cruciaal en wordt door veel vendors moedwillig vaag gehouden. De Autoriteit Persoonsgegevens heeft in haar leidraad over biometrie meermaals benadrukt dat zodra de bron biometrisch is (stem, gezicht, fysiologie), er zwaardere regels gelden, zowel onder de AVG (bijzondere persoonsgegevens) als onder de AI Act.

Een eenvoudige test: kan dezelfde analyse worden uitgevoerd op een geanonimiseerd transcript zonder de audio te horen? Zo ja, dan is het sentiment uit tekst. Zo nee, dan zit er een biometrische component in en valt het binnen het regime van artikel 5 of, voor klanten buiten een werkrelatie, binnen artikel 50 en de hoog-risico bepalingen van Bijlage III.

Lees ook onze diepgaande analyse over het verbod op emotieherkenning op de werkvloer voor de juridische onderbouwing.

Chatbots en transparantie (artikel 50)

Elke chatbot en voicebot die direct met klanten communiceert valt onder artikel 50 van de AI Act, de transparantieplicht. De eis is helder: de gebruiker moet bij de eerste interactie weten dat hij of zij met een AI-systeem in plaats van met een mens communiceert. Dit geldt expliciet ook voor situaties waar dit voor een redelijk geinformeerde persoon vanzelfsprekend zou kunnen zijn, omdat de wet uitgaat van een geinformeerde keuze.

Praktisch betekent dit voor uw klantcontactcentrum:

• Chatwidget op de website: in de openingsboodschap een korte zin als U chat met onze AI-assistent. Voor een medewerker kunt u op elk moment om hulp vragen.
• WhatsApp- en messaging-bots: bij het eerste antwoord identificeren dat het AI is, en helder maken hoe de klant kan doorschakelen naar een mens.
• Voicebots aan de telefoon: bij opening van het gesprek vermelden dat het een geautomatiseerd systeem is. Niet pas na vijf minuten als de klant erom vraagt.
• Hybride flows: als een AI eerst beantwoordt en daarna doorzet naar een mens, moet beide momenten herkenbaar zijn.

Lees ook onze gids over artikel 50 transparantieplicht voor uitwerkingen per situatie.

AI-coaching voor medewerkers

Real-time agent assist is een van de snelst groeiende AI-toepassingen in callcenters. De grens loopt scherp door deze functionaliteit heen. Toegestaan is alles wat gericht is op gespreksinhoud: scriptsuggesties, kennisbankartikelen, antwoord-templates, naleving-checks (bv. heeft de agent de wettelijk verplichte zinsnede uitgesproken), upsell-suggesties op basis van klantprofiel. Dit zijn productiviteitstools en vallen meestal in beperkt-risico of buiten de hoog-risico categorie, mits er geen beoordelingsbesluiten over de agent uit voortvloeien.

Niet toegestaan is AI die de emoties of stress van de agent monitort, ook niet als coaching-functie. Een dashboard dat een agent live een rood lampje toont met u klinkt gespannen valt onder het verbod. Een dashboard dat suggesties geeft op wat is gezegd, blijft.

Kwaliteitsmonitoring

Steekproef-AI op gesprekken voor naleving en gesprekskwaliteit is een gangbare en toegestane toepassing. Een AI die transcripten beoordeelt op of het script is gevolgd, of de klant de mandatory disclosure heeft gekregen, of de klacht juist is afgehandeld, valt onder de normale deployer-verplichtingen van artikel 26. Voorwaarden:

• De uitkomst mag geen biometrisch emotie-oordeel zijn over de agent.
• Als de score wordt gebruikt voor beoordeling, promotie of disciplinair handelen, ligt het binnen het toepassingsbereik van Bijlage III punt 4(b) over AI in personeelsbeleid, en is hoog-risico met FRIA en menselijk toezicht verplicht.
• De ondernemingsraad heeft instemmingsrecht over de inzet van dergelijke monitoring (artikel 27 WOR).
• De agents moeten geinformeerd zijn over wat wordt gemeten en hoe.

AVG-implicaties

De AI Act vervangt de AVG niet, deze stapelt erbovenop. Voor klantcontactcentra zijn vier AVG-punten extra relevant zodra AI in beeld komt:

• Toestemming en informatie aan klanten: het opnemen van gesprekken voor AI-analyse vraagt een eigen verwerkingsgrondslag en duidelijke uitleg in de openingsmelding (deze gesprekken kunnen worden opgenomen en geanalyseerd ter verbetering van onze dienstverlening volstaat als basis, maar bij gevoeligere doeleinden moet specifieker).
• Bewaartermijnen: opnames mogen niet langer worden bewaard dan strikt nodig. Drie tot zes maanden voor analyse en kwaliteitstoetsing is gangbaar, langer vraagt onderbouwing.
• Gevoelige informatie: als klanten medische, financiele of andere bijzondere persoonsgegevens delen in gesprekken die AI-geanalyseerd worden, gelden strengere regels (bijzondere persoonsgegevens vereisen een specifieke uitzonderingsgrond).
• Internationale doorgifte: veel callcenter-AI draait op Amerikaanse of niet-EU servers. Dit vraagt om Standard Contractual Clauses of een adequaatheidsbesluit.

Aansprakelijkheid bij foutieve AI-output

Een chatbot belooft een korting die u niet biedt. Een voicebot bevestigt een afspraak op een datum waarop u dicht bent. Een AI-agent geeft een advies dat juridisch onjuist is. In al deze gevallen is uw organisatie aansprakelijk, niet de AI of de vendor. Onder de AI Act bent u als deployer verantwoordelijk voor de uitkomsten in uw eigen processen.

8-punts checklist callcenter naleving

Vendor due diligence: vragen aan uw callcenter-AI-leverancier

Bij elke vendor-call zou u standaard de volgende zeven vragen moeten stellen:

1. Werkt uw systeem met biometrische data (stem-patronen, gezichtsuitdrukking, fysiologische signalen) en wat is de uitkomst-categorie?
2. Wordt er emotie-classificatie toegepast, en zo ja, op wie (klanten, agents, beiden) en op basis van welke data?
3. Bent u onder de AI Act provider of moet ik dat als deployer zelf zijn? Heeft u een conformiteitsverklaring afgegeven?
4. Welke logs houdt het systeem bij en hoe lang? Kan ik die exporteren voor mijn eigen documentatieplicht?
5. Is er een ingebouwde transparantiemelding voor chatbots en kan deze niet door mij uit worden gezet?
6. Op welke geografische locatie worden de gegevens verwerkt en welke doorgifte-mechanismen worden gebruikt?
7. Levert u een gebruikshandleiding conform artikel 13 (instructies voor gebruik door deployers)?

Antwoorden moeten schriftelijk vastliggen in een addendum bij uw contract. Een marketing-deck volstaat niet.