Wij overwegen gezichtsherkenning of andere biometrie. Mag dat? (Wij nemen het af van een leverancier, Overheid of publieke dienstverlener)

biometrie en identificatie

Politieke voorkeur afleiden uit geuploade foto's

Een platform analyseert de biometrische gegevens uit foto's die gebruikers hebben geupload om hun vermoedelijke politieke voorkeur af te leiden en hen gerichte politieke boodschappen te sturen. Een vergelijkbaar systeem leidt de vermoedelijke seksuele gerichtheid af om advertenties te tonen.

Herkomst: De richtsnoeren van de Commissie over verboden AI-praktijken behandelen dit geval als uitgewerkt voorbeeld bij artikel 5. Het document is niet bindend: de uiteindelijke uitleg is aan het Hof van Justitie.

Beroept u zich op de uitzondering voor een nevenfunctie, dan moet die functie ook technisch strikt noodzakelijk zijn voor de hoofddienst, want beide voorwaarden gelden samen en advertentiedoelen halen die drempel niet.

Commission Guidelines C(2025) 5052 final, 29.7.2025, uitgewerkte voorbeelden bij artikel 5

biometrie en identificatie

Medische uitzondering: toegankelijkheid mag, burn-outdetectie niet

Een werkgever wil emotieherkenning inzetten. In het ene scenario ondersteunt het systeem medewerkers met autisme en verbetert het de toegankelijkheid voor blinde en dove collega's. In het andere scenario meet het stressniveaus om burn-out, verveling of motivatieverlies te signaleren.

Herkomst: De richtsnoeren van de Commissie over verboden AI-praktijken behandelen dit geval als uitgewerkt voorbeeld bij artikel 5. Het document is niet bindend: de uiteindelijke uitleg is aan het Hof van Justitie.

De medische uitzondering is smal: ondersteuning van een concrete beperking valt eronder, algemene monitoring van welzijn, stress of motivatie niet, en gegevens uit een toegestane inzet mag u niet hergebruiken.

Commission Guidelines C(2025) 5052 final, 29.7.2025, uitgewerkte voorbeelden bij artikel 5

biometrie en identificatie

Gezichtsherkenningsbedrijf bouwt databank uit sociale media

Een softwarebedrijf laat een geautomatiseerde scraper het internet afzoeken naar afbeeldingen met menselijke gezichten op sociale media, slaat die op met bron-URL, geolocatie en soms namen, en zet de gezichtskenmerken om in wiskundige representaties waarmee een geuploade foto kan worden vergeleken.

Herkomst: De richtsnoeren van de Commissie over verboden AI-praktijken behandelen dit geval als uitgewerkt voorbeeld bij artikel 5. Het document is niet bindend: de uiteindelijke uitleg is aan het Hof van Justitie.

Dat beelden openbaar op sociale media staan betekent geen toestemming, en het onderscheid zit in de gerichtheid: ongericht verzamelen voor een database waarmee gezichten vergeleken kunnen worden blijft verboden, ook stapsgewijs.

Commission Guidelines C(2025) 5052 final, 29.7.2025, uitgewerkte voorbeelden bij artikel 5

biometrie en identificatie

Live gezichtsherkenning bij een voetbalstadion

De politie zet een busje met mobiele camera's en live gezichtsherkenning neer bij de hoofdingang van een stadion tijdens een EK-wedstrijd. De watchlist bevat personen die verdacht worden van uiteenlopende strafbare feiten, van zware criminaliteit tot fraude en inbraak, plus personen van mogelijk inlichtingenbelang en kwetsbare personen met psychische problemen. Er is geen aanwijzing dat een specifiek persoon bij deze wedstrijd aanwezig is.

Herkomst: De richtsnoeren van de Commissie over verboden AI-praktijken behandelen dit geval als uitgewerkt voorbeeld bij artikel 5. Het document is niet bindend: de uiteindelijke uitleg is aan het Hof van Justitie.

Een watchlist die verschillende soorten verdenkingen mengt en niet aan de concrete gebeurtenis is gekoppeld is te onbepaald, en dat er iemand op staat voor wie inzet wel zou mogen maakt de hele inzet niet rechtmatig.

Commission Guidelines C(2025) 5052 final, 29.7.2025, uitgewerkte voorbeelden bij artikel 5

Geen verplicht cursusformat, geen certificaat, geen examen en geen AI-officer

De Q&A van de Commissie over AI-geletterdheid stelt dat er geen pasklare aanpak bestaat en dat er geen strikte vereisten of verplichte trainingen worden opgelegd. Over certificering vermeldt de Q&A letterlijk dat er geen certificaat nodig is en dat organisaties een interne registratie van trainingen of andere begeleidende initiatieven kunnen bijhouden. Over toetsing vermeldt zij dat artikel 4 van de AI-verordening geen verplichting inhoudt om de AI-kennis van werknemers te meten. Over governance vermeldt zij dat er geen specifieke governancestructuur is voorgeschreven om aan artikel 4 te voldoen, zodat er anders dan bij de functionaris voor gegevensbescherming onder de AVG geen AI-functionaris hoeft te worden aangesteld. Over het niveau vermeldt de Q&A dat AI-geletterdheid na de wijziging door de Digital Omnibus een verplichting blijft voor aanbieders en gebruiksverantwoordelijken van AI-systemen, maar dat er geen specifiek of toereikend niveau wordt voorgeschreven en dat de verordening niet vereist dat enig specifiek niveau van AI-geletterdheid van enig individu wordt gegarandeerd. Daartegenover stelt de Q&A dat het enkel vertrouwen op de gebruiksaanwijzing van het AI-systeem of het aan personeel vragen die te lezen, mogelijk niet doeltreffend is, en dat organisaties bij het bepalen van hun aanpak rekening moeten houden met het algemene begrip van AI binnen de organisatie, met de vraag of zij aanbieder of gebruiksverantwoordelijke zijn, met de risico's van de gebruikte systemen, met kennislacunes bij personeel gelet op technische kennis, ervaring, opleiding en training, en met contextuele factoren zoals sector, doel en getroffen bevolkingsgroepen. De Q&A vermeldt verder dat organisaties verschillende niveaus van training of leeraanpakken kunnen hanteren naargelang kennis, ervaring, opleiding en rol, en dat personeel met een opleiding of ervaring in AI-ontwikkeling normaal gesproken als AI-geletterd wordt beschouwd, waarbij de organisatie nog wel moet nagaan of die personen de specifieke AI-systemen van de organisatie begrijpen, weten hoe zij daarmee moeten omgaan en zich van alle risico's bewust zijn.

Commission Q&A on AI literacy, secties over het vereiste niveau, opleidingsvormen, certificaten, toetsing van kennis en governancestructuren (geraadpleegd op 9 augustus 2026)

Artikel 4 reikt verder dan uw eigen personeel, en de nationale toezichthouder handhaaft

De Q&A van de Commissie over AI-geletterdheid vermeldt dat artikel 4 geldt voor aanbieders en gebruiksverantwoordelijken van AI-systemen en daarnaast voor andere personen die namens hen met de werking en het gebruik van AI-systemen te maken hebben, en dat het daarbij gaat om personen die in brede zin binnen de organisatorische invloedssfeer vallen, met als voorbeelden een opdrachtnemer, een dienstverlener en een client. Over clienten vermeldt de Q&A dat zij afhankelijk van het specifieke risico AI-geletterdheid nodig kunnen hebben, met als redenering dat getroffen personen moeten begrijpen hoe met behulp van AI genomen besluiten hen raken. Over het geografische bereik vermeldt de Q&A dat het juridische kader van de AI-verordening geldt voor zowel publieke als private partijen binnen en buiten de Unie, zolang het AI-systeem op de Uniemarkt wordt gebracht, in de Unie wordt gebruikt, of het gebruik ervan gevolgen heeft voor personen die zich in de Unie bevinden. Over toezicht vermeldt de Q&A dat het toezicht op en de handhaving van artikel 4 niet bij het AI Office ligt maar onder de bevoegdheid van de nationale markttoezichtautoriteiten valt, en dat toezicht en handhaving zijn aangevangen op 2 augustus 2026, terwijl artikel 4 zelf van toepassing is geworden op 2 februari 2025. Over sancties vermeldt de Q&A dat nationale markttoezichtautoriteiten boetes en andere handhavingsmaatregelen kunnen opleggen bij inbreuken op artikel 4, dat dit gebeurt op grond van nationale wetgeving die de lidstaten uiterlijk 2 augustus 2025 moesten vaststellen, dat elke sanctie evenredig moet zijn en moet worden gebaseerd op het individuele geval, rekening houdend met factoren zoals de aard en de ernst van de inbreuk en het opzettelijke of nalatige karakter ervan, en dat een sanctie waarschijnlijker is wanneer er bewijs is van een incident dat is ontstaan door een gebrek aan passende training en begeleiding. Artikel 4 wordt niet genoemd in de opsomming van artikel 99 lid 4 van de AI-verordening, die uitsluitend ziet op de artikelen 16, 22, 23, 24, 26, 31, 33 lid 1, 3 en 4, 34 en 50, zodat de hoogte van een sanctie wegens artikel 4 uit het nationale recht volgt en niet uit de boeteplafonds van de verordening zelf. De Q&A vermeldt verder dat artikel 4 de bepalingen over transparantie in artikel 13 en over menselijk toezicht in artikel 14 versterkt en indirect bijdraagt aan de bescherming van getroffen personen, en dat voor gebruiksverantwoordelijken van hoogrisicosystemen de verplichting uit artikel 26 om te waarborgen dat personeel is opgeleid voor menselijk toezicht een afzonderlijke eis vormt; die eis wordt van toepassing op 2 december 2027 voor zelfstandige systemen uit bijlage III en op 2 augustus 2028 voor systemen uit bijlage I.

Commission Q&A on AI literacy, secties over doelgroepen, geografisch bereik, toezicht en handhaving, en sancties (geraadpleegd op 9 augustus 2026)

AI-agents moeten zowel hun AI-aard als hun opdrachtgever bekendmaken

Punt (31) van de richtsnoeren van 20 juli 2026 bepaalt dat AI-agents onder artikel 50 lid 1 vallen wanneer zij kunnen communiceren met de personen die hen instrueren of met andere natuurlijke personen bij de uitvoering van hun taken, met als voorbeelden het maken van boekingen, het beheren van correspondentie, het onderhandelen over of sluiten van contracten en het uitvoeren van aankopen. Volgens datzelfde punt moeten AI-agents zo worden ontworpen en ontwikkeld dat zij zowel hun kunstmatige aard bekendmaken als de persoon namens wie zij handelen, gelet op de noodzaak van transparantie over de oorsprong en over de delegatie van bevoegdheid en verantwoording voor de gevolgen van hun handelen. Dit geldt ook in complexe multi-agentarchitecturen waarin andere agents rechtstreeks met natuurlijke personen communiceren. Wanneer de aanbieder voor het in de handel brengen of in gebruik stellen niet betrouwbaar kan vaststellen of de agent rechtstreeks met een natuurlijke persoon zal communiceren, moet de agent op architectuurniveau zo worden ontworpen en geinstrueerd dat hij zich in elke situatie bekendmaakt waarin het redelijkerwijs waarschijnlijk is dat hij met een natuurlijke persoon in contact komt, ook wanneer die persoon een rechtspersoon vertegenwoordigt. Verder moeten agents zich ook bekendmaken aan de personen die hen instrueren, op belangrijke momenten zoals autorisatie, rapportage en validatie, mede wanneer de agent output verwerkt of gebruikt die door andere AI-systemen is voortgebracht in plaats van door een natuurlijke persoon, en bij iedere nieuwe interactie. Punt (63) voegt toe dat artikel 50 lid 2 op AI-agents van toepassing kan zijn wanneer de handeling van de agent leidt tot AI-gegenereerde of gemanipuleerde content die door natuurlijke personen waarneembaar is, terwijl tussenliggende verwerkingsstappen zoals redeneerketens en niet-waarneembare handelingen zoals een webverzoek of browseractie daarbuiten vallen.

Commission Guidelines C(2026) 5054 final, sectie 3.1.1, randnummer (31), en sectie 4.1.2, randnummer (63)

Artistiek of satirisch werk is niet vrijgesteld, alleen verlicht, en informatief wint altijd

Punt (119) van de richtsnoeren van 20 juli 2026 spreekt van een verzwakte transparantieverplichting voor deepfakes die deel uitmaken van evident artistieke, creatieve, satirische, fictieve of vergelijkbare werken of programma's, waarbij de verplichting beperkt is tot bekendmaking op een passende wijze die de weergave of het genot van het werk niet belemmert. Punt (120) omschrijft de categorieen: artistieke werken zijn werken gemaakt met het oog op kunst, waaronder muziek, cinematografische werken en beeldende kunst; creatieve werken vergen creatieve keuzes, waarbij werken die vooral door functionele of technische overwegingen zijn ingegeven niet als creatief gelden; satirische werken beogen samenleving, politiek, bedrijfsleven of publieke figuren te bekritiseren met humoristische technieken; fictieve werken betreffen personen, objecten, plaatsen, entiteiten of gebeurtenissen in een verbeelde maar geloofwaardige setting; vergelijkbare werken delen kernkenmerken met die categorieen zonder er precies in te passen. Punt (122) bepaalt dat het voor de natuurlijke personen die eraan worden blootgesteld evident moet zijn dat de content in een van die categorieen valt, dat de categorieen daarom strikt moeten worden uitgelegd gelet op het lichtere bekendmakingsregime en de belangen van de vrijheid van meningsuiting en van kunst en wetenschap, en dat content waarvan de aard voor het publiek mogelijk onduidelijk of dubbelzinnig is buiten dit lichtere regime valt. Relevante factoren zijn volgens datzelfde punt of de content vormen of stijlen vertoont die kenmerkend zijn voor de categorie, de context waarin de content wordt gepresenteerd, en de verwachtingen van het publiek. Datzelfde punt sluit content uit waarvan de aard uitsluitend informatief of commercieel is en als zodanig herkenbaar is, met nieuwsverslaggeving als voorbeeld, merkt op dat advertenties of documentaires in bepaalde specifieke situaties wel en in andere niet als evident creatief of fictief kunnen gelden omdat de beoordeling per geval plaatsvindt, en bepaalt dat wanneer de deepfake meerdere karakters combineert, bijvoorbeeld informatief en creatief, het informatieve karakter altijd voorgaat en de gewone labelvereisten gelden. Punt (123) benadrukt dat deze deepfakes niet zijn uitgesloten van de verplichting: de gebruiksverantwoordelijke moet de AI-oorsprong of de manipulatie nog steeds bekendmaken, maar mag dat doen op een passende wijze, en moet in elk geval voldoen aan artikel 50 lid 5. Punt (124) bepaalt dat het beroep op de verlichte verplichting geen rechtvaardiging kan zijn om de grondrechten van individuen of de rechten van rechthebbenden op grond van het Unierecht inzake intellectuele eigendom of gegevensbescherming niet te eerbiedigen. Als voorbeelden binnen de categorieen noemt het document films met door AI verjongde bestaande acteurs of digitale replica's van overleden acteurs, door AI gegenereerde muziek in de stijl van bestaande artiesten, en een door AI gemanipuleerde afbeelding van een bestaande politicus in een scene die duidelijk bedoeld is als humoristische kritiek. Buiten de categorieen vallen volgens het document onder meer een door AI gemanipuleerde video in de stijl van een teleshoppingkanaal, door AI gegenereerde beelden van beroemdheden die suggereren dat zij betrokken waren bij activiteiten die nooit hebben plaatsgevonden, en een door AI gemanipuleerde video met een realistische synthetische influencer die uitsluitend de functionaliteiten van een gesponsord product toont.

Commission Guidelines C(2026) 5054 final, sectie 6.1.3, randnummers (119) tot en met (124), en de bijbehorende voorbeeldenlijsten