Wie wil weten of een AI-systeem een groep benadeelt, moet weten wie tot die groep hoort. Dat is precies het soort gegeven dat de AVG het strengst beschermt: etnische afkomst, gezondheid, geloof. Artikel 4 bis van de AI Act geeft daar een smalle uitzondering voor. Het artikel is ingevoegd door Verordening (EU) 2026/1744, de Digitale omnibus inzake AI, en vervangt het geschrapte artikel 10 lid 5.
Dit stuk legt het artikel zelf uit, lid voor lid, voor aanbieders en gebruiksverantwoordelijken in alle sectoren. Voor een gemeente die het model van een leverancier gebruikt, staat de praktijk in zes lessen over de biastoets met bijzondere persoonsgegevens. De voorbeelden hieronder zijn verzonnen.
In het kort
Lid 1 staat aanbieders van AI-systemen met een hoog risico toe bij wijze van uitzondering bijzondere categorieën persoonsgegevens te verwerken, voor zover dat strikt noodzakelijk is om vooringenomenheid op te sporen en te corrigeren overeenkomstig artikel 10 lid 2, punten f en g. Lid 2 geeft een vergelijkbare mogelijkheid, met een eigen drempel, aan aanbieders van andere AI-systemen en -modellen en aan elke gebruiksverantwoordelijke. Voor iedereen gelden dezelfde zes voorwaarden, naast de AVG. Lid 2 schept uitdrukkelijk geen plicht. Naar onze lezing geldt het artikel sinds 27 juli 2026.
Wat het artikel toestaat, en voor wie
Lid 1 gaat over aanbieders van AI-systemen met een hoog risico. Zij mogen bij wijze van uitzondering bijzondere categorieën persoonsgegevens verwerken, voor zover dat strikt noodzakelijk is voor opsporing en correctie van vooringenomenheid in hun systemen "overeenkomstig artikel 10, lid 2, punten f) en g)". Die punten gaan over een beoordeling van de datasets op mogelijke vooringenomenheid en over maatregelen daartegen. Er moeten passende waarborgen zijn voor de grondrechten en fundamentele vrijheden van natuurlijke personen.
Lid 2 gaat over drie andere groepen: aanbieders van andere AI-systemen en -modellen, gebruiksverantwoordelijken van die systemen en modellen, en gebruiksverantwoordelijken van AI-systemen met een hoog risico. De verwerking moet strikt noodzakelijk zijn om vooringenomenheid op te sporen en te corrigeren. Het gaat om mogelijke vooringenomenheid die waarschijnlijk gevolgen heeft voor de gezondheid en veiligheid van personen, nadelige effecten heeft op de grondrechten of leidt tot discriminatie die op grond van het Unierecht verboden is, "vooral wanneer data-outputs invloed hebben op inputs voor toekomstige operaties". En alle voorwaarden en waarborgen van lid 1 moeten worden toegepast.
Wat "bijzondere categorieën persoonsgegevens" zijn, staat in artikel 3 punt 37: de categorieën van artikel 9 lid 1 AVG, van artikel 10 van Richtlijn (EU) 2016/680 en van artikel 10 lid 1 van Verordening (EU) 2018/1725. Gegevens over strafrechtelijke veroordelingen uit artikel 10 AVG horen daar niet bij. Naar onze lezing biedt artikel 4 bis voor die gegevens dus geen grondslag.
Een aanbieder ontwikkelt een AI-systeem of laat het ontwikkelen en brengt het onder eigen naam in de handel of stelt het in gebruik; een gebruiksverantwoordelijke gebruikt een AI-systeem onder eigen verantwoordelijkheid (artikel 3 punt 3 en 4). Wie zelf bouwt en onder eigen naam gebruikt, is beide.
De zes voorwaarden, een voor een
De voorwaarden gelden naast de AVG, Verordening (EU) 2018/1725 voor instellingen van de Unie en Richtlijn (EU) 2016/680 voor politie en justitie, "al naargelang het geval". Ze moeten allemaal zijn vervuld.
a. Andere data volstaan niet. De opsporing en correctie kunnen niet doeltreffend worden vervuld met andere data, waaronder synthetische of geanonimiseerde data.
b. Beperkingen en pseudonimisering. Er zijn technische beperkingen voor hergebruik, en geavanceerde beveiligings- en privacybeschermingsmaatregelen, waaronder pseudonimisering.
c. Strikte toegang. Er zijn strikte controles en documentatie van de toegang. Alleen gemachtigde personen met passende vertrouwelijkheidsverplichtingen kunnen bij de gegevens.
d. Geen andere partijen. De gegevens worden niet verzonden, doorgegeven of anderszins geraadpleegd door andere partijen. Of een verwerker in de zin van de AVG een "andere partij" is, zegt de tekst niet. De veilige lezing is dat geen externe partij de gegevens ontvangt of kan inzien. Naar onze lezing kunt u totalen per groep die niet tot personen te herleiden zijn wel delen, omdat dat geen persoonsgegevens meer zijn.
e. Wissen. De gegevens worden verwijderd zodra de vooringenomenheid is gecorrigeerd of de bewaartermijn is verstreken, als dat eerder is.
f. Verantwoording in het register. Het register van verwerkingsactiviteiten vermeldt waarom de verwerking strikt noodzakelijk was en waarom het doel niet met andere data kon worden bereikt. Bij bijzondere persoonsgegevens geldt de vrijstelling van dat register voor organisaties met minder dan 250 medewerkers niet (artikel 30 lid 5 AVG).
Wat het artikel niet is
Geen plicht. Lid 2 zegt uitdrukkelijk dat het geen verplichting schept om vooringenomenheid op te sporen en te corrigeren, en lid 1 zegt "mogen". Aanbieders van hoog-risicosystemen moeten hun datasets wel op vooringenomenheid onderzoeken, maar die plicht komt uit artikel 10 lid 2, punten f en g. Naar onze lezing verplicht ook artikel 10 niet om daarvoor bijzondere persoonsgegevens te gebruiken. Dat u moet kunnen aantonen dat u niet discrimineert, kan wel uit de AVG volgen; het gemeentestuk gaat daarop in.
Geen vrijbrief. De grondslag geldt alleen voor zover de verwerking strikt noodzakelijk is om vooringenomenheid op te sporen en te corrigeren; het model beter laten voorspellen of mensen indelen valt er naar onze lezing niet onder. En het artikel gaat alleen over AI-systemen en AI-modellen. Vaste beslisregels die geen AI-systeem zijn, vallen erbuiten.
De AVG blijft gelden. Artikel 2 lid 7 laat de AVG onverlet, "onverminderd artikel 4 bis en artikel 59". Naar onze lezing hebt u daarnaast een grondslag uit artikel 6 lid 1 AVG nodig, gelden de beginselen van artikel 5 AVG en de informatieplicht, en is bij grootschalige verwerking een gegevensbeschermingseffectbeoordeling (DPIA) vereist (artikel 35 lid 3 onder b AVG). Artikel 4 bis regelt ook niet hoe u aan de gegevens komt; dat moet zelf rechtmatig zijn.
Geen uitzondering op een verbod. Artikel 4 bis heft geen verbod van artikel 5 op. Biometrische categorisering die personen individueel indeelt om onder meer hun ras of religieuze overtuiging af te leiden, blijft verboden (artikel 5 lid 1 onder g). Dat punt zondert zelf het labelen of filteren van rechtmatig verkregen biometrische datasets uit. Naar onze lezing maakt het woord biastoets een verboden systeem niet toegestaan; of het labelen van een bestaande dataset onder die uitzondering valt, toetst u per geval.
Verhouding tot artikel 9 AVG
Artikel 9 lid 1 AVG verbiedt de verwerking van bijzondere persoonsgegevens. Lid 2 onder g maakt een uitzondering voor verwerking die noodzakelijk is om redenen van zwaarwegend algemeen belang, op grond van Unierecht of lidstatelijk recht dat evenredig is met het doel, de kern van het recht op bescherming van persoonsgegevens eerbiedigt en passende en specifieke maatregelen bevat.
Overweging 9 van Verordening (EU) 2026/1744 legt de verbinding. Opsporing en correctie van vooringenomenheid zijn een zwaarwegend algemeen belang, omdat zij mensen beschermen tegen onder meer discriminatie. De grondslag staat onder dezelfde beperkingen, voorwaarden en waarborgen als het toen bestaande, nu geschrapte artikel 10 lid 5, "waardoor de naleving van artikel 9, lid 2, punt g), van Verordening (EU) 2016/679" gewaarborgd is. Naar onze lezing is artikel 4 bis daarmee het Unierecht waar artikel 9 lid 2 onder g AVG om vraagt, en zijn de zes voorwaarden de passende en specifieke maatregelen.
Het geschrapte artikel 10 lid 5
De oorspronkelijke AI Act gaf deze grondslag alleen aan aanbieders van hoog-risicosystemen, in het inmiddels geschrapte artikel 10 lid 5 (zie ook overweging 70 van de AI Act). Verordening (EU) 2026/1744 schrapte dat lid (artikel 1 punt 9) en voegde artikel 4 bis in hoofdstuk I in (artikel 1 punt 6). Overweging 9 geeft de reden: vooringenomenheid kan ook ontstaan door wat gebruiksverantwoordelijken van AI-systemen met een hoog risico doen, en bij andere AI-systemen en -modellen. De zes voorwaarden zijn inhoudelijk gelijk gebleven.
Artikel 10 verwijst nu zelf naar artikel 4 bis, lid 1 (artikel 10 lid 1 en lid 6). Verwijst uw register, DPIA of beleid nog naar het geschrapte artikel 10 lid 5, vervang dat door artikel 4 bis.
Artikel 59 is een aparte route, alleen binnen een AI-testomgeving voor regelgeving.
Sinds wanneer het geldt
Verordening (EU) 2026/1744 trad op 27 juli 2026 in werking en noemt geen aparte toepassingsdatum. Artikel 4 bis staat in hoofdstuk I, dat volgens artikel 113 sinds 2 februari 2025 geldt. Overweging 9 zegt dat de grondslag moet gelden vanaf de datum waarop de AI Act van toepassing werd. Naar onze lezing kan een ingevoegd artikel niet eerder gelden dan de dag waarop het in werking trad; wij gaan uit van 27 juli 2026.
De eisen voor hoog-risicosystemen uit bijlage III, waaronder artikel 10, gelden vanaf 2 december 2027 (artikel 113, onder c). Een aanbieder kan artikel 4 bis dus nu al gebruiken om zijn datasets voor te bereiden.
Eén kanttekening. Artikel 2 lid 8 bepaalt dat de AI Act niet van toepassing is op onderzoeks-, test- en ontwikkelingsactiviteiten vóór het in de handel brengen of in gebruik stellen; die activiteiten moeten in overeenstemming zijn met het toepasselijke Unierecht. Of artikel 4 bis in die fase toch als grondslag dient, zegt de tekst niet. Naar onze lezing wel, omdat overweging 9 van Verordening (EU) 2026/1744 aanbieders juist in staat wil stellen dit werk ter voorbereiding op artikel 10 rechtmatig te doen. Zeker is dat niet; leg in de DPIA vast op welke grondslag u in de ontwikkelfase werkt.
Voorbeeld: een uitvoeringsorganisatie die zelf bouwt
Een landelijke uitvoeringsorganisatie bouwt zelf een model dat aanvragen voor een uitkering rangschikt voor extra controle, en gebruikt het onder eigen naam. Bijlage III, punt 5 onder a, noemt systemen die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of mensen in aanmerking komen voor essentiële overheidsuitkeringen, of om die te beperken, in te trekken of terug te vorderen. Zo'n systeem is in beginsel hoog risico, tenzij artikel 6 lid 3 een uitzondering geeft. Naar onze lezing valt dit model daaronder, en omdat het aanvragers rangschikt op basis van hun gegevens, voert het profilering uit; dan geldt de uitzondering van artikel 6 lid 3 niet (derde alinea). Een verbod van artikel 5 speelt naar onze lezing niet, zolang het model geen sociale score geeft als bedoeld in artikel 5 lid 1 onder c en niet uitsluitend op basis van profilering voorspelt of iemand een strafbaar feit pleegt (artikel 5 lid 1 onder d).
De organisatie is aanbieder en gebruiksverantwoordelijke tegelijk. Als aanbieder kan zij zich op lid 1 beroepen voor de beoordeling van haar datasets voor training, validatie en tests. Komen uitkomsten van controles terug als trainingsdata, dan is dat het geval dat artikel 10 lid 2 onder f noemt, en kan zij zich ook daarvoor als aanbieder op lid 1 beroepen. Meet zij alleen tijdens het gebruik of het model een groep vaker selecteert, dan kan zij zich naar onze lezing ook als gebruiksverantwoordelijke op lid 2 beroepen. De zes voorwaarden zijn dezelfde. Een extern bureau kan de gegevens over afkomst niet zelf analyseren (voorwaarde d).
Daarnaast registreert de organisatie zich als aanbieder voordat zij het systeem in gebruik stelt (artikel 49 lid 1), en als overheidsinstantie die het gebruikt (artikel 49 lid 3 en artikel 26 lid 8). Vanaf 2 december 2027 doet zij als gebruiksverantwoordelijke ook de beoordeling van de gevolgen voor de grondrechten van artikel 27. Is het systeem vóór die datum al in de handel gebracht of in gebruik gesteld, dan geldt de AI Act ervoor pas na een aanzienlijke wijziging van het ontwerp. Voor systemen die bedoeld zijn voor gebruik door overheidsinstanties geldt hij in elk geval uiterlijk op 2 augustus 2030 (artikel 111 lid 2).
Voorbeeld: een bank met een kredietmodel
Een AI-systeem voor het beoordelen van de kredietwaardigheid van natuurlijke personen is in beginsel hoog risico (bijlage III, punt 5 onder b), behalve als het dient om financiële fraude op te sporen. Bouwt de bank het model zelf en gebruikt zij het onder eigen naam, dan is zij aanbieder en gebruiksverantwoordelijke. Koopt zij het van een leverancier, dan is de leverancier aanbieder (lid 1) en de bank gebruiksverantwoordelijke (lid 2).
Stel dat de bank vermoedt dat het model aanvragers met een chronische ziekte vaker afwijst. Om dat te toetsen heeft zij gezondheidsgegevens nodig. Eerst stelt zij vast dat een toets zonder die gegevens niet volstaat (voorwaarde a) en legt zij de redenen vast in het register (voorwaarde f). De leverancier krijgt de gezondheidsgegevens niet (voorwaarde d), wel totalen per groep. Traint de bank het model zelf opnieuw om de vooringenomenheid te corrigeren en is dat een substantiële wijziging (artikel 3 punt 23), dan wordt zij aanbieder (artikel 25 lid 1 onder b). Als gebruiksverantwoordelijke van zo'n systeem doet de bank vanaf 2 december 2027 vóór het eerste gebruik ook een beoordeling van de gevolgen voor de grondrechten (artikel 27 lid 1).
Kort: HR
Een werkgever die een AI-systeem van een leverancier gebruikt om sollicitaties te filteren of kandidaten te beoordelen, gebruikt in beginsel een hoog-risicosysteem (bijlage III, punt 4 onder a). De werkgever valt als gebruiksverantwoordelijke onder lid 2, de leverancier als aanbieder onder lid 1. Wil de werkgever weten of kandidaten met een bepaalde afkomst lager scoren, dan gelden dezelfde zes voorwaarden, en de leverancier krijgt de bijzondere gegevens niet. Leidt het systeem emoties af uit video-interviews, dan valt dat naar onze lezing onder het verbod op emotieherkenning op de werkplek, behalve als het om medische of veiligheidsredenen wordt ingevoerd (artikel 5 lid 1 onder f).
Wat u vastlegt
- Rol en lid. Aanbieder, gebruiksverantwoordelijke of beide, hoog risico of niet, en dus lid 1, lid 2 of beide.
- De vooringenomenheid. Welke mogelijke vooringenomenheid u onderzoekt, en waarom die gezondheid, veiligheid, grondrechten of het discriminatieverbod raakt.
- Waarom andere data niet volstaan. Wat u zonder bijzondere gegevens hebt geprobeerd, en waarom dat niet doeltreffend was.
- De waarborgen. Pseudonimisering, beperkingen op hergebruik, wie toegang heeft en het logboek.
- Geen andere partijen. Waar de gegevens staan, dat leverancier en externe bureaus ze niet krijgen of kunnen inzien, en wat u wel deelt.
- Het wismoment. Correctie of einde bewaartermijn, als dat eerder is, en wie het wissen bewaakt.
- Register en DPIA. De onderbouwing van voorwaarde f in het register, de grondslag uit de AVG en de DPIA.
Welke plichten en welke rol bij uw toepassing horen, ziet u in de casus-check.
Veelgestelde vragen over artikel 4 bis van de AI Act
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven