AI Act voor retail en e-commerce: regels voor webshops en winkelketens

Retail en e-commerce zijn vroege adopters van AI. Wie via Bol, Amazon of een eigen Shopify-omgeving verkoopt, gebruikt vrijwel zeker al meerdere AI-systemen: van productaanbevelingen en zoekresultaten tot vraagvoorspelling en fraudefilters. Fysieke retailers zetten AI in voor voorraadbeheer, schapanalyse, diefstaldetectie en in toenemende mate biometrische toegangscontrole. De EU AI Act schept geen aparte categorie voor "retail-AI", maar enkele bepalingen raken de sector direct. Deze gids zet op een rij wat u moet weten, wat u moet labelen en welke toepassingen u beter niet kunt inzetten.

Welke AI komt voor in retail?

De meeste retailers gebruiken vandaag al een mix van de volgende AI-systemen, vaak zonder dat het bedrijf zich daar volledig van bewust is. Het loont om eerst een inventarisatie te maken voordat u naar verplichtingen kijkt.

• Aanbevelingssystemen op productpagina's en in e-mail ("anderen kochten ook"), meestal geleverd door uw shop-platform of een externe partner.
• Dynamische prijzen, AI die prijzen aanpast op vraag, voorraad, concurrentie, weer of gebruikersgedrag.
• Chatbots en virtuele assistenten voor klantenservice, vaak gebaseerd op grote taalmodellen.
• Voorraad- en vraagvoorspelling die bepaalt wanneer en hoeveel u inkoopt of herverdeelt over filialen.
• Fraudedetectie bij checkout, retourstromen en accountregistratie.
• Beelddetectie in de winkel, denk aan smart shelves die lege schappen melden of camera's die looproutes analyseren.
• Biometrische identificatie of categorisatie, van gezichtsherkenning bij toegang tot leeftijdsschatting bij alcoholverkoop.
• AI-gegenereerde productfoto's en marketingteksten, geleverd door tools als Midjourney, ChatGPT of gespecialiseerde modefoto-generatoren.

Niet elk van deze systemen vraagt om dezelfde maatregelen. De wet kijkt vooral naar het risico dat een systeem oplevert voor de rechten en veiligheid van mensen, niet naar de sector.

Welke retail-AI is hoog-risico onder artikel 6?

Artikel 6 van de AI Act bepaalt wanneer een AI-systeem als hoog-risico wordt aangemerkt. Bijlage III bevat de lijst van toepassingen die per definitie hoog-risico zijn. Voor de retailsector zijn vooral twee categorieen relevant.

Biometrische identificatie en categorisatie. Zodra u camerabeelden gebruikt om klanten te identificeren (achteraf, dus niet realtime, want dat is verboden), valt het systeem onder Bijlage III en gelden alle hoog-risico verplichtingen: risicobeheer, datagovernance, logging, menselijk toezicht en registratie in de Europese database. Dit raakt warenhuizen die "veelvuldige dieven" willen herkennen, ketens die loyaltyklanten automatisch willen erkennen of fashion-winkels die op leeftijd of geslacht willen categoriseren.

AI voor kredietacceptatie bij financiering. Biedt u koop-op-afrekening, "buy now pay later" of een eigen winkelkrediet aan? De AI die de klantbeoordeling doet (of inkoopt bij Klarna, Riverty of een vergelijkbare partner) is hoog-risico. Als deployer moet u nagaan of de provider zijn verplichtingen nakomt en moet u zelf voldoen aan de deployer-plichten zoals een gegevensbeschermingseffectbeoordeling, logging-bewaartermijn en menselijk toezicht.

Aanbevelingssystemen voor producten, dynamische prijzen, voorraadvoorspelling en zoekfunctionaliteit staan in beginsel niet in Bijlage III. Ze gelden dus niet als hoog-risico onder de AI Act, hoewel ze wel aan andere wetten kunnen raken (AVG, DSA, consumentenrecht).

Welke retail-AI is verboden onder artikel 5?

Artikel 5 verbiedt enkele AI-toepassingen volledig. Drie zijn relevant voor retail.

Realtime gezichtsherkenning in publieke ruimtes. Een winkel of winkelcentrum dat live klanten herkent (bijvoorbeeld om een eerdere dief te detecteren of een VIP-klant te begroeten) handelt in strijd met de wet. De uitzonderingen in artikel 5 gelden uitsluitend voor wetshandhaving bij zware misdrijven, en alleen met rechterlijke machtiging. Een commerciele context valt daar niet onder.

Emotieherkenning gericht op klanten. AI die uit gezicht, stem of houding afleidt of een klant boos, gestrest of opgetogen is om vervolgens reclame of korting bij te sturen, is in werkcontexten en in het onderwijs expliciet verboden. In de pure consumentencontext is het verbod minder absoluut, maar de combinatie met manipulatieverboden (zie hieronder) en de AVG maakt het in de praktijk onhoudbaar.

Subliminale of manipulatieve AI. Een aanbevelings- of personalisatiesysteem dat buiten het bewustzijn van de klant zijn keuzevrijheid wezenlijk inperkt of dat kwetsbaarheden uitbuit (kinderen, ouderen, mensen in financiele nood) is verboden. Voor klassieke aanbevelingen ("u bekeek dit, dit past erbij") geldt dit niet. Voor agressieve schaarste- of FOMO-aanjaagmechanismen die met persoonlijke kwetsbaarheidsprofielen werken zit u dicht tegen de grens.

Transparantieplicht (artikel 50) in retail

Artikel 50 schrijft voor dat bepaalde AI-uitingen herkenbaar zijn als AI. Voor retailers betekent dat concreet:

• Chatbots: bij de eerste interactie moet duidelijk zijn dat de klant met een AI-systeem praat. Een korte mededeling in de openingsregel is genoeg.
• AI-gegenereerde productfoto's of modelfoto's: pure productrenders (een tas op een neutrale achtergrond) hoeven niet apart gelabeld, maar zodra het beeld een realistisch model laat zien dat AI-gegenereerd is, geldt een machineleesbare markering en in veel gevallen een zichtbare melding.
• Deepfake-modellen of stem-klonen in reclame (bijvoorbeeld een bekende persoon in een advertentie): altijd zichtbaar labelen als AI-gegenereerd, ook bij parodie of fictie, en alleen met toestemming van de geportretteerde.
• AI-gegenereerde reviews: het is verboden om AI-reviews als echt te presenteren. Dit raakt zowel artikel 50 als consumentenrecht (oneerlijke handelspraktijken).

Lees ook: Artikel 50 transparantieplicht uitgelegd.

Aanbevelingssystemen: wanneer hoog-risico, wanneer niet

Een veelgestelde vraag: is mijn productaanbeveling een hoog-risico AI-systeem? Het korte antwoord: nee, klassieke productaanbevelingen op een webshop staan niet op de hoog-risico lijst. Wel zijn er drie haken om rekening mee te houden.

Ten eerste raakt een aanbevelingssysteem altijd aan de AVG: u verwerkt klantgedrag om voorspellingen te doen. Dat vereist een rechtsgrondslag, transparantie in uw privacyverklaring en een mogelijkheid om bezwaar te maken tegen profilering.

Ten tweede vallen zeer grote online platforms (VLOPs) onder de Digital Services Act, met aparte transparantie-eisen voor aanbevelingssystemen en de verplichting om een niet-gepersonaliseerd alternatief te bieden. De meeste Nederlandse retailers halen die drempel niet, maar marktplaatsen kunnen dat wel.

Ten derde: aanbevelingen die overgaan in subtiele manipulatie of in het uitbuiten van kwetsbare gebruikers (jonge kinderen op een gaming-shop, gokkers die op een prijsvergelijker landen) raken artikel 5. Hier moet u kunnen aantonen dat uw algoritme geen kwetsbaarheidsprofielen uitbuit.

Dynamische prijzen en persoonsgebonden prijsstelling

AI-gedreven dynamische prijzen zijn op zichzelf niet hoog-risico onder de AI Act. Toch verdienen ze extra aandacht omdat ze raken aan een combinatie van wetten.

Marktbrede dynamische prijzen (alle bezoekers zien dezelfde prijs, afhankelijk van vraag, voorraad en tijdstip) zijn juridisch onproblematisch, mits prijzen helder gecommuniceerd worden. Persoonsgebonden prijzen, waarbij twee klanten op hetzelfde moment een andere prijs zien op basis van hun profiel, brengen wel risico's. De Richtlijn Modernisering Consumentenbescherming verplicht u sinds 2022 te melden dat een prijs gepersonaliseerd is op basis van geautomatiseerde besluitvorming. De AVG vereist een rechtsgrondslag voor de profilering. En in extreme gevallen kan persoonsgebonden prijsstelling raken aan artikel 5 als zij kwetsbare groepen treft.

Biometrische toegang en gezichtsherkenning in winkels

Steeds meer winkels experimenteren met biometrische toegang: face-unlock op de kassa, leeftijdsschatting bij alcohol of energiedrank, slimme camera's bij de uitgang. Onder de AI Act gelden hier de strengste regels.

Realtime gezichtsherkenning in voor het publiek toegankelijke ruimtes is, zoals beschreven, in beginsel verboden. Achteraf-identificatie (bewaakte beelden later vergelijken met een database) is hoog-risico en mag, mits u alle hoog-risico verplichtingen invult. Categorisatie op basis van biometrische kenmerken (leeftijd, geslacht, etnische kenmerken) voor advertentie- of marketingdoeleinden valt onder een apart verbod uit artikel 5 zodra het gevoelige categorieen betreft.

Praktisch gezien: zet u camera's in met enige vorm van AI-analyse? Dan moet u in elk geval een gegevensbeschermingseffectbeoordeling doen, de Autoriteit Persoonsgegevens kunnen aantonen dat u een rechtsgrond hebt en kunnen aantonen dat u geen verboden categorisatie uitvoert. Voor leeftijdsschatting bij alcoholverkoop bestaan inmiddels systemen die geen identificatie doen maar puur een ja/nee teruggeven; die zijn juridisch beter te verdedigen dan systemen die individuele klanten herkennen.

Checklist voor retailers: tien actiepunten

1. Maak een AI-inventaris van alle systemen op uw webshop, in uw winkels en in uw backoffice. Noteer per systeem of u provider, deployer of beide bent.
2. Markeer per systeem of het onder Bijlage III valt (biometrie, kredietacceptatie, HR-tools voor uw personeel). Voor die systemen geldt het volledige hoog-risico regime.
3. Zet uw klantenservice-chatbot in lijn met artikel 50: zorg voor een heldere AI-mededeling bij de eerste interactie.
4. Inventariseer AI-gegenereerde content (productfoto's, banners, modellen, voice-overs) en bepaal labelbeleid voor elk type.
5. Controleer uw aanbevelings- en personalisatielogica op kwetsbaarheidsmisbruik: targeting van minderjarigen, financieel kwetsbaren of mensen met gok-historie.
6. Stop met realtime gezichtsherkenning in voor publiek toegankelijke ruimtes. Vervang waar nodig door anonieme telmetingen.
7. Documenteer de juridische basis voor dynamische prijzen en meld persoonsgebonden prijzen expliciet bij de checkout.
8. Train medewerkers op AI-geletterdheid (artikel 4), met aandacht voor marketing, klantenservice en winkelpersoneel.
9. Sluit een verwerkersovereenkomst en een AI-leveringsbijlage met elke externe aanbieder van AI-functionaliteit in uw stack.
10. Documenteer alles in een centraal AI-register. Dit is uw eerste verdedigingslinie bij een controle.