Een diepgaande analyse van de kritische bevindingen van de Nederlandse toezichthouder
Zoekt u het korte antwoord op de vraag of het mag? Dat staat in emotieherkenning op de werkplek: verbod in de AI Act. Op de werkplek en in het onderwijs is emotieherkenning verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f). Deze pagina bespreekt het onderliggende rapport van de Autoriteit Persoonsgegevens uit juli 2025.
Cruciale inzichten: de Autoriteit Persoonsgegevens (AP) heeft in haar Rapportage AI & Algoritmes Nederland (RAN) zomer 2025 een vernietigende analyse gepubliceerd van AI-systemen voor emotieherkenning, met directe implicaties voor compliance onder de EU AI Act.
De onverbiddelijke conclusie van de AP
De Autoriteit Persoonsgegevens (AP) heeft in haar halfjaarlijkse Rapportage AI & Algoritmes Nederland (RAN) voor de zomer van 2025 een diepgaand en kritisch hoofdstuk gewijd aan AI-systemen voor emotieherkenning. De conclusie van de toezichthouder is onverbiddelijk: de technologie is gebouwd op "omstreden aannames" en de inzet ervan is zowel "dubieus" als "risicovol".
Voor organisaties die emotieherkenning inzetten of overwegen, biedt deze analyse cruciale inzichten nu de AI-verordening daarop van toepassing is. De rapportage legt niet alleen de fundamentele zwaktes van de technologie bloot, maar verbindt deze ook direct aan de risico's op discriminatie, privacyschendingen en de inperking van menselijke autonomie.
Het juridisch kader: emotieherkenning in de AI-verordening
Voordat we de analyse van de AP induiken, is het essentieel om het speelveld van de AI-verordening scherp te stellen. Emotieherkenning op basis van biometrie wordt door de Europese wetgever met groot wantrouwen benaderd.
Drie juridische regimes voor emotieherkenning
De AI-verordening hanteert een gedifferentieerde benadering afhankelijk van de context:
- Verbod: op de werkplek en in onderwijsinstellingen, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f)
- Hoog-risico classificatie en informatieplicht: in alle andere contexten is emotieherkenning hoog risico (Bijlage III punt 1 onder c) en moet de gebruiksverantwoordelijke betrokkenen informeren (artikel 50 lid 3)
- AVG-koppeling: strikte eisen voor bijzondere persoonsgegevens
Verbod in bepaalde contexten
De inzet van AI-systemen die emoties afleiden uit biometrische data is verboden op de werkplek en in onderwijsinstellingen, behalve wanneer het systeem om medische of veiligheidsredenen wordt ingezet. De wetgever erkent hier de ongelijke machtsverhouding, die een vrije en geïnformeerde toestemming van werknemers en leerlingen illusoir maakt.
Hoog-risico classificatie
Buiten deze verboden contexten is elk AI-systeem dat bedoeld is voor emotieherkenning een hoog-risicosysteem onder Bijlage III, punt 1 onder c; biometrische categorisering is een aparte categorie (punt 1 onder b). Dit geldt dus expliciet voor emotieherkenningssystemen die worden ingezet in bijvoorbeeld de publieke ruimte, marketing of de zorg.
Deze classificatie activeert een heel regime van verplichtingen, waaronder risicomanagement, datakwaliteit, transparantie, menselijk toezicht en robuustheid, die door Verordening (EU) 2026/1744 gelden vanaf 2 december 2027. De informatieplicht van artikel 50 lid 3 voor de gebruiksverantwoordelijke geldt al sinds 2 augustus 2026.
Verwevenheid met de AVG
De AP benadrukt terecht de koppeling met de AVG. Biometrische gegevens die worden verwerkt met het oog op unieke identificatie zijn bijzondere persoonsgegevens (Art. 9 AVG). De verwerking van zeer intieme en privacygevoelige data, zoals afgeleide emoties, vereist een solide grondslag en strikte naleving van de beginselen van gegevensbescherming.
De analyse van de AP: een fundamenteel wankel fundament
De strenge regulering is geen toeval. De AP concludeert dat de technologie zelf is gebouwd op een "wankele toren" van wetenschappelijke aannames. Dit is een cruciaal argument voor organisaties die een risicoanalyse of een Fundamental Rights Impact Assessment (FRIA) moeten uitvoeren.
Aanname van universaliteit
Veel systemen gaan uit van het idee dat emoties universeel zijn en door iedereen op dezelfde manier worden geuit. Culturele, individuele en contextuele verschillen worden genegeerd.
Problematische proxy-koppeling
AI-systemen meten geen emoties; ze meten fysieke signalen zoals hartslag of gezichtsuitdrukkingen. De koppeling tussen signaal en emotie is hoogst onbetrouwbaar.
Het discriminatierisico
De AP wijst op studies waaruit blijkt dat systemen negatievere emoties toekennen aan mensen met een donkere huidskleur, een direct en onacceptabel gevolg van bevooroordeelde trainingsdata. Een systeem dat getraind is op een beperkte, vaak westerse dataset, zal onvermijdelijk leiden tot misinterpretaties en discriminatie.
De onbetrouwbaarheid van proxies
Zoals de AP-voorzitter stelt: "Een hoge hartslag is immers niet altijd een teken van angst, en een harde stem niet altijd een uitdrukking van woede". Deze onbetrouwbaarheid raakt direct aan de vereisten van robuustheid en nauwkeurigheid die de AI-verordening stelt aan hoog-risicosystemen.
Risico's in de praktijk: bevindingen uit de AP-verdieping
De AP heeft de theorie getoetst aan de praktijk door de inzet bij wearables, taalmodellen en klantenservices te onderzoeken. De bevindingen hebben directe implicaties voor compliance.
Wearables: gebrek aan transparantie
De praktijktest toont een significant gebrek aan transparantie. Gebruikers krijgen scores en grafieken over hun stressniveau, maar de onderliggende logica van het algoritme is een black box. Dit staat op gespannen voet met de informatieplicht van artikel 50 lid 3 AI-verordening, die geldt wanneer het systeem emoties afleidt uit biometrische gegevens, en met de informatieplicht onder de AVG.
Compliance-risico: de objectieve presentatie van subjectieve en onbetrouwbare data is misleidend en kan leiden tot verkeerde beslissingen door gebruikers.
Taalmodellen (GPAI): inherente capaciteiten
De analyse van General-Purpose AI (GPAI) modellen is bijzonder relevant. Deze modellen kunnen emoties 'herkennen' als een bijkomende, niet expliciet getrainde vaardigheid. Ze baseren hun analyses op stereotype kenmerken en verwijzen soms zelfs naar de omstreden emotietheorieën uit hun trainingsdata.
Voor organisaties die GPAI-modellen integreren in hun eigen (hoog-risico) systemen, betekent dit een significant compliance-risico. De inherente en ondoorzichtige capaciteiten van het onderliggende model moeten meegenomen worden in de eigen risicobeoordeling.
Klantenservice: onvoldoende rechtvaardiging
Het onderzoek naar klantenservices legt de vinger op de zere plek van transparantie en doelbinding. De rechtvaardiging "kwaliteits- en trainingsdoeleinden" is volstrekt onvoldoende om de verwerking van (bijzondere) persoonsgegevens voor emotieherkenning te legitimeren. Klanten worden niet expliciet en specifiek geïnformeerd, wat een geldige toestemming in de weg staat.
De dubbele toets: productveiligheid versus maatschappelijke wenselijkheid
Een van de meest scherpzinnige observaties van de AP is het onderscheid tussen productregulering en de wenselijkheidsvraag.
Vuurwerk-analogie van de AP
De AI-verordening functioneert primair als productwetgeving. Het doel is te waarborgen dat een hoog-risicosysteem dat op de markt komt, veilig is en voldoet aan de gestelde eisen. Dit is vergelijkbaar met vuurwerk: wetgeving zorgt dat het product zelf veilig is, maar de politieke afweging bepaalt of en waar we het willen afsteken.
Voor emotieherkenning betekent dit dat een systeem technisch gezien aan alle eisen van de AI-verordening kan voldoen, maar dat de inzet ervan in een specifieke context maatschappelijk onwenselijk kan zijn.
Dit legt een zware ethische verantwoordelijkheid bij organisaties. Het simpelweg afvinken van de compliance-eisen van de AI-verordening is niet genoeg. Waar een Fundamental Rights Impact Assessment (FRIA) verplicht is, vanaf 2 december 2027 voor publiekrechtelijke instellingen en private partijen die openbare diensten verlenen (artikel 27; voor overheidssystemen die al vóór die datum draaien uiterlijk 2 augustus 2030, artikel 111 lid 2), moet die ook deze wenselijkheidsvraag adresseren.
Praktische implicaties voor organisaties
De rapportage van de AP is geen vrijblijvend advies; het is een duidelijke indicatie van hoe de Nederlandse toezichthouder de risico's van deze technologie weegt.
| Actiegebied | Concrete maatregelen | Compliance-impact |
|---|---|---|
| Classificatie | Verifieer of toepassing onder verbod Art. 5(1)(f) valt | Hoog: kan gebruik volledig uitsluiten |
| Transparantie | Expliciete informatie over inzet, logica en risico's | Hoog: vereist onder art. 50 lid 3 AI Act |
| Impact Assessment | DPIA en, waar artikel 27 dat vereist, FRIA moeten discriminatierisico's adresseren | Middel: documentatieverplichting |
| Leveranciers | Kritische eisen aan trainingsdata en validatie | Middel: contractuele waarborgen |
Vijf concrete aanbevelingen voor organisaties
1. Wees uiterst terughoudend
De fundamentele gebreken van de technologie zijn zo groot dat het gebruik ervan per definitie risicovol is. Overweeg of er alternatieven zijn die het doel op een minder indringende en meer betrouwbare manier kunnen bereiken.
2. Ken uw classificatie
Verifieer of uw toepassing onder het verbod van artikel 5(1)(f) valt. Zo niet, ga er dan vanuit dat het een hoog-risicosysteem onder Annex III betreft en richt uw compliance-processen hierop in.
3. Borg echte transparantie
De vage juridische disclaimers die de AP signaleert, volstaan sinds 2 augustus 2026 niet onder artikel 50 lid 3 van de AI-verordening. Wees expliciet over de inzet van het systeem, de logica, de risico's en de rechten van de betrokkene.
4. Voer een grondige impact assessment uit
Een DPIA (onder de AVG) en, waar artikel 27 dat voorschrijft, een FRIA (onder de AI-verordening) moeten de fundamentele wetenschappelijke zwaktes en de risico's op discriminatie die de AP benoemt, expliciet adresseren.
5. Stel kritische eisen aan leveranciers
Indien u een systeem van derden inkoopt, vraag dan door. Eis transparantie over de trainingsdata, de validatie, de bekende beperkingen en de mate van bias.
Praktische tip: documenteer waarom, ondanks de door de AP gesignaleerde zwaktes, de inzet van het systeem proportioneel en noodzakelijk is. Leg deze afweging expliciet vast in uw compliance-documentatie.
Conclusie: een duidelijke lijn in het zand
De AP heeft met deze rapportage een duidelijke lijn in het zand getrokken. De boodschap aan de markt is helder: de tijd van onkritische en ondoorzichtige inzet van emotieherkenning is voorbij. De AI-verordening formaliseert dit wantrouwen, en de AP laat zien dat zij scherp zal toezien op de naleving.
Voor organisaties betekent dit dat emotieherkenning niet langer kan worden beschouwd als een neutrale technologie. Het is een hoog-risico toepassing die fundamentele vragen oproept over discriminatie, privacy en menselijke waardigheid. De tijd van experimenteren zonder consequenties is definitief voorbij.
Wilt u voor uw eigen toepassing bepalen welke plicht geldt? Loop de beslisboom artikel 50 door: per rol en toepassing het lid, de stappen uit de richtsnoeren en voorbeelden van goede meldingen.
Check je Article 4-score
Beantwoord 8 vragen over rollen, beleid, bewijs en governance. Je krijgt direct een score en vervolgstap.
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven