ElevenLabs en stem-AI onder de EU AI Act: regels voor stemklonen en synthetische audio

Twee jaar geleden had u nog een professionele opnamestudio en een acteur nodig voor een goede voice-over. Vandaag genereert ElevenLabs in dertig seconden een natuurlijke Nederlandse stem in elk gewenst accent, en kloont u op basis van een fragment van vijftien seconden een bestaande stem na. De technische drempel is verdwenen. De juridische drempel is juist verhoogd: de EU AI Act bevat in artikel 50 specifieke regels voor synthetische audio, en voor stemklonen van bestaande personen geldt het zwaarste regime. Dit artikel zet uiteen wat Nederlandse bedrijven moeten regelen.

Wat is stem-AI en wie gebruikt het zakelijk?

Stem-AI omvat alle systemen die spraak genereren of bewerken op basis van AI-modellen: van eenvoudige text-to-speech tot stemkloning, audio-vertaling en realtime stemverandering. In zakelijke contexten zien wij vooral zes gebruikstoepassingen:

• Voice-overs voor uitleg-, instructie- en marketingvideo's.
• IVR-systemen (telefoonkeuzemenu's) en virtuele assistenten in klantcontact.
• Podcasts, soms volledig synthetisch, soms voor inleveren van afwezige hosts.
• Audio-vertaling van content naar andere talen met behoud van de oorspronkelijke stem.
• Toegankelijkheid: voorlezen van content voor mensen met een visuele beperking.
• Gaming en interactieve media: dynamische dialogen die per speler aangepast worden.

De gemene deler is dat het luistercomfort sterk verbeterd is. Daarmee neemt het risico op verwarring tussen mens en machine toe, en dat is precies waarom artikel 50 AI Act zo specifiek is op dit punt.

ElevenLabs en concurrenten

ElevenLabs is op dit moment marktleider in stem-AI voor zakelijke toepassingen, met een sterk Europees gebruikersbestand. De belangrijkste concurrenten in Nederland zijn:

• Resemble AI: vergelijkbare kwaliteit voor voice-cloning, met sterke focus op enterprise-toepassingen.
• Murf: gericht op marketing- en uitlegvideo's, eenvoudiger interface.
• OpenAI Voice (binnen ChatGPT en de Audio-API): toegankelijk voor wie al een OpenAI-account heeft.
• Microsoft Custom Neural Voice: Azure-gebaseerd, sterk in enterprise-integratie en naleving.
• Google Cloud Text-to-Speech en Chirp: voor Google Cloud-klanten, met sterke meertaligheid.

Vanuit AI Act-perspectief verschillen deze tools weinig in hun verplichtingenpakket: de wet kijkt naar de toepassing en de output, niet naar de leverancier. Wel verschilt de mate waarin leveranciers u helpen bij de naleving (watermarking, DPA-templates, toestemmingsflows).

Status onder de AI Act: artikel 50 lid 3 en lid 4

Artikel 50 AI Act onderscheidt twee regimes voor synthetische audio. Begrip van het verschil is essentieel voor uw werkproces.

Artikel 50 lid 3 regelt synthetische content in het algemeen. Aanbieders van generatieve AI-systemen moeten output machine-leesbaar markeren (watermarking, metadata) en deployers moeten in hun publicaties transparant maken dat de inhoud AI-gegenereerd is. Voor een fictieve AI-stem in een uitlegvideo betekent dit een vermelding in de credits of beschrijving.

Artikel 50 lid 4 regelt deepfakes: content die bestaande personen, voorwerpen, plaatsen of gebeurtenissen nabootst en die kijkers redelijkerwijs voor echt zouden kunnen aanzien. Voor stem-AI is dat het regime voor het klonen van iemands stem. Hier is het label zwaarder: prominent, niet weggemoffeld in een colofon, en bij eerste blootstelling herkenbaar. Voor satirische, artistieke of journalistieke uitzonderingen gelden lichtere eisen, maar daar valt commerciele inzet niet onder.

Stem-cloning van bestaande personen: zwaardere regels

Het klonen van een bestaande stem raakt meerdere rechtsdomeinen tegelijk. Dat maakt het de zwaarst gereguleerde toepassing van stem-AI in Nederland.

Ten eerste de AI Act zelf: artikel 50 lid 4 vereist een prominent label bij publicatie. Ten tweede de AVG: de stem is een persoonsgegeven, en biometrisch wanneer die kan dienen ter identificatie. Voor verwerking is een grondslag nodig, en bij commercieel gebruik is dat in de praktijk altijd toestemming. Ten derde het portretrecht-analoge persoonlijkheidsrecht: in Nederlandse rechtspraak wordt de stem in toenemende mate beschermd op vergelijkbare wijze als het portret. Ten vierde, bij beroepssprekers, uitvoerendkunstenaarsrechten onder de Wet op de naburige rechten.

Praktisch: u kunt iemands stem niet zomaar klonen, ook niet "voor intern gebruik". U heeft schriftelijke toestemming nodig die specifiek aangeeft: voor welke doelen, in welke media, voor welke periode, met welke compensatie. Generieke toestemming in een algemene voorwaarde is onvoldoende.

Wat als de stem fictief is?

Een volledig synthetische, fictieve AI-stem (die niet lijkt op een specifiek bestaand persoon) valt onder het lichtere regime van artikel 50 lid 3. U moet de luisteraar nog steeds duidelijk maken dat de stem AI-gegenereerd is, maar de eisen zijn minder zwaar dan bij deepfake-audio.

Praktische invulling: voor een uitlegvideo op uw website volstaat een korte vermelding bij de video ("Voice-over: AI-gegenereerd"). Voor een podcast geldt hetzelfde in de show notes. Voor een IVR-systeem of chatbot is de regel strikter: bij het eerste klantcontact moet duidelijk zijn dat het een AI-stem betreft, niet pas na verloop van het gesprek.

Let op: de grens tussen "fictieve stem" en "lijkt op een bestaand persoon" is glibberig. Als uw fictieve stem toevallig erg lijkt op een bekende presentator of zanger, kunt u alsnog in lid 4-territorium terechtkomen. Houd bij het kiezen van stemmen rekening met dit risico en documenteer uw selectiekeuze.

Detectie: providers verplicht tot machine-leesbare markering

Artikel 50 AI Act legt niet alleen verplichtingen op aan u als deployer, maar ook aan de aanbieders van stem-AI-systemen. Zij moeten hun output voorzien van machine-leesbare markeringen: watermarks in het audiosignaal, metadata in het bestand, of cryptografische hashes die kunnen aantonen dat de audio AI-gegenereerd is.

ElevenLabs voert al sinds 2024 een audio-watermark toe (AI Speech Classifier) die met hoge mate van zekerheid kan detecteren of een fragment van hun systeem afkomstig is. Vergelijkbare initiatieven lopen bij Microsoft en Google. Voor u als zakelijke gebruiker is dit relevant op twee manieren: u moet de markering intact laten (niet bewust verwijderen), en u kunt detectie inzetten als verificatiestap in eigen contentprocessen.

Hoog-risico bij gebruik in essentiele diensten

Stem-AI op zichzelf is geen hoog-risico systeem. Maar inzet in bepaalde contexten verhoogt het risiconiveau aanzienlijk. Drie scenario's springen eruit voor Nederlandse bedrijven:

• Fraude-gevoelige IVR bij banken en verzekeraars: een AI-stem die zich gedraagt als bankmedewerker moet zodanig herkenbaar zijn dat klanten geen verkeerde identificatie aannemen. Toezichthouder DNB volgt deze toepassingen actief.
• Spoeddiensten en zorgcommunicatie: AI-stemmen die instructies geven in noodsituaties (denk aan brandmeldsystemen, medische monitoring) raken aan hoog-risico annex III van de AI Act.
• Identiteitsverificatie: stem als biometrische identificatie valt onder hoog-risico, met uitgebreide documentatie- en toetsverplichtingen.

Auteursrecht en uitvoerendkunstenaarsrechten

Naast persoonsgegevens-bescherming speelt het uitvoerendkunstenaarsrecht. Een stemacteur die een opname heeft gemaakt, heeft rechten op die opname (Wet op de naburige rechten). Wordt die opname gebruikt als trainings- of clone-bron, dan is er een licentie nodig die dat hergebruik dekt. Standaard opnamecontracten dekken AI-cloning meestal niet.

De grote Nederlandse en Vlaamse stemacteursverenigingen werken aan modelclausules voor AI-stem-licentiering. Verwerk die in uw contracten met stemacteurs en voice-overstudio's. Zonder die clausules ontstaat onduidelijkheid die in juridische procedures in het nadeel van de opdrachtgever wordt uitgelegd.

Voor audio-vertaling is dit bijzonder relevant: u kunt niet zomaar een Nederlandse podcast door AI laten omzetten naar Engels met behoud van de oorspronkelijke stem, ook al heeft u de Nederlandse opname zelf laten maken. De licentie voor de oorspronkelijke opname dekt meestal niet de geclonete variant in andere talen.

Praktische 8-punts checklist voor stem-AI

Aandachtspunten voor podcastmakers, gamedevs en marketeers

Voor podcastmakers: een AI-stem invliegen voor de afwezige co-host is verleidelijk maar valt vrijwel altijd onder artikel 50 lid 4 als die co-host bekend is. Werk met fictieve AI-stemmen voor aanvullingen, of neem opnieuw op met de echte stem. Vermeld AI-gebruik in show notes en credits.

Voor gamedevs: dynamische dialogen die door AI-stemmen worden uitgesproken bieden enorme flexibiliteit, maar de licenties met stemacteurs moeten dat scenario expliciet dekken. Veel gametitels in 2026 lopen tegen vakbondsacties aan omdat oude contracten AI-extrapolatie niet dekken. Sluit per project een addendum af.

Voor marketeers: gebruik AI-stemmen voor snelle iteratie en A/B-tests, maar wees voorzichtig met campagnes die suggereren dat een bekende influencer of CEO direct tot de kijker spreekt. De combinatie van deepfake-audio en gepersonaliseerde advertenties trekt actief toezicht van zowel de AP als de ACM. Een prominente AI-disclaimer in de creative is geen optie maar een vereiste.