Emotieherkenning op de werkplek: verbod in de AI Act

Emotieherkenning op de werkplek en in het onderwijs is verboden onder de AI Act, behalve als het systeem bedoeld is voor medische of veiligheidsredenen (artikel 5 lid 1 onder f). Dat verbod geldt sinds 2 februari 2025. Buiten werk en onderwijs is emotieherkenning niet verboden, maar wel hoog risico (bijlage III punt 1 onder c), en moet wie het systeem inzet de betrokkenen sinds 2 augustus 2026 informeren (artikel 50 lid 3). Vermoeidheidsdetectie die geen emoties afleidt, valt niet onder de definitie van emotieherkenning (artikel 3 punt 39).

Deze pagina gaat over emotieherkenning en biometrische categorisatie. Het volledige overzicht van alle verboden staat bij verboden AI-praktijken onder artikel 5 AI Act. Verder hoort deze pagina bij de uitleg van artikel 50 AI Act, met de rolverdeling tussen aanbieder en gebruiksverantwoordelijke per lid. Wie dieper in de twijfelachtige aannames achter emotieherkenning wil duiken, leest ons overzicht van het AP-rapport.

Wanneer is emotieherkenning op de werkplek verboden?

Dit is de kern die organisaties het vaakst missen. Emotieherkenning op de werkplek en in het onderwijs is een verboden praktijk onder artikel 5 lid 1 onder f. Het verbod geldt voor het in de handel brengen, het in gebruik stellen voor dit doel en het gebruiken van zo'n systeem, dus zowel voor de leverancier als voor de werkgever of school die het inzet. Een werkgever die de gemoedstoestand van werknemers laat afleiden uit gezichtsuitdrukkingen of stem, of een school die hetzelfde bij leerlingen doet, valt onder dat verbod. Transparantie verandert daar niets aan: informeren maakt een verboden praktijk niet toegestaan.

De enige uitzondering is een systeem dat bedoeld is om uit medische of veiligheidsoverwegingen te worden ingezet. Die uitzondering is smal: zij gaat over het doel van het systeem, niet over een algemeen belang van de werkgever bij productiviteit of klanttevredenheid. Overtreding van het verbod kan worden beboet met tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet (artikel 99 lid 3).

Ook bij biometrische categorisatie geldt een verbod voor bepaalde categorieën. Het afleiden van ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuiging, seksleven of seksuele gerichtheid is verboden onder artikel 5 lid 1 onder g, behalve bij het labelen of filteren van rechtmatig verkregen biometrische datasets en bij rechtshandhaving. Andere vormen van biometrische categorisatie kunnen hoog-risico zijn onder Bijlage III; dat is een aparte dimensie die naast de transparantieplicht staat, niet in plaats daarvan.

Wat telt als emotieherkenning, en wat niet?

Een systeem voor het herkennen van emoties is een AI-systeem dat bedoeld is om emoties of intenties van mensen vast te stellen of af te leiden op basis van hun biometrische gegevens (artikel 3 punt 39). Overweging 18 noemt als voorbeelden geluk, droefheid, woede, verrassing, weerzin, verlegenheid, opwinding, schaamte, minachting, tevredenheid en plezier.

Twee dingen vallen er volgens dezelfde overweging niet onder:

• Fysieke toestanden zoals pijn of vermoeidheid. Een systeem dat vermoeidheid bij beroepschauffeurs of piloten detecteert om ongevallen te voorkomen, is geen emotieherkenning. Zo'n systeem valt al buiten de definitie en heeft de veiligheidsuitzondering dus niet nodig, zolang het geen emoties afleidt.
• Het enkel waarnemen van zichtbare uitdrukkingen, zoals een frons, een glimlach of een luide stem, tenzij die worden gebruikt om emoties af te leiden.

Wat geldt buiten werk en onderwijs?

Buiten de werkplek en het onderwijs is emotieherkenning niet verboden. Denk aan het analyseren van de stem van klanten in een klantgesprek. Zo'n systeem is wel hoog risico (bijlage III punt 1 onder c); de hoog-risicoplichten voor de bijlage III-route gelden vanaf 2 december 2027. Daarnaast geldt nu al de meldplicht van artikel 50 lid 3, die hieronder staat uitgewerkt, en de AVG.

Wat vraagt artikel 50(3) precies?

Artikel 50(3) verplicht gebruiksverantwoordelijken van een systeem voor emotieherkenning of biometrische categorisatie om de natuurlijke personen die eraan worden blootgesteld te informeren over de werking van het systeem. Daarnaast moeten zij de persoonsgegevens verwerken in overeenstemming met de AVG en met overig toepasselijk recht.

De melding moet uiterlijk bij de eerste blootstelling worden gegeven, en moet duidelijk en toegankelijk zijn. Het gaat dus niet om een formaliteit ergens in een privacyverklaring, maar om informatie die de betrokkene daadwerkelijk bereikt op het moment dat het systeem op hem wordt toegepast.

Wie moet informeren?

De plicht ligt bij de gebruiksverantwoordelijke (deployer): de organisatie die het systeem onder eigen verantwoordelijkheid inzet. Niet bij de betrokkene die wordt gescand, en in deze bepaling ook niet bij de aanbieder van het systeem.

Let op de samenhang met de AVG: biometrische gegevens kunnen bijzondere persoonsgegevens zijn (artikel 9 AVG). De transparantieplicht uit de AI Act komt dus bovenop de eisen die de AVG al stelt aan de verwerking van die gegevens.

Welke uitzondering geldt op de meldplicht?

Op artikel 50(3) bestaat een uitzondering voor systemen die bij wet zijn toegestaan voor het opsporen, voorkomen of onderzoeken van strafbare feiten, met de daarbij behorende waarborgen. Buiten dat domein geldt de meldplicht onverkort.

Deze uitzondering is smal en gebonden aan een wettelijke grondslag. Wie zich erop beroept, moet kunnen aantonen dat de inzet bij wet is toegestaan en dat de waarborgen in acht worden genomen.

De aannames achter emotieherkenning

Er is een inhoudelijke reden om hier streng te zijn. Volgens de Rapportage AI & Algoritmes Nederland van juli 2025 van de Autoriteit Persoonsgegevens rust emotieherkenning op betwiste aannames, kent zij hoge foutkansen en brengt zij discriminatierisico mee. De objectieve presentatie van subjectieve en onbetrouwbare data is misleidend: een systeem dat een emotie als feit toont, wekt een schijn van zekerheid die de techniek niet waarmaakt.

Dat is precies waarom de wetgever deze toepassingen op de werkvloer en in het onderwijs heeft verboden, en waarom transparantie elders niet volstaat om het achterliggende risico weg te nemen.

Wat moet u nu doen?

Wie deze volgorde aanhoudt, voorkomt de klassieke fout: een nette meldtekst bouwen voor een toepassing die helemaal niet mag.

Wilt u voor uw eigen toepassing bepalen welke plicht geldt? Loop de beslisboom artikel 50 door: per rol en toepassing het lid, de stappen uit de richtsnoeren en voorbeelden van goede meldingen.