Mag een gemeente gegevens over afkomst gebruiken om haar algoritme op discriminatie te toetsen?

Stel: u bent functionaris gegevensbescherming (FG) bij een gemeente. De afdeling Werk en Inkomen gebruikt een model van een leverancier om bijstandsdossiers te selecteren voor een heronderzoek. Na het rapport van de Autoriteit Persoonsgegevens (AP) over de Belastingdienst wil de afdeling weten of het model inwoners met een migratieachtergrond vaker selecteert. De data-analist zegt: "Dat kan ik alleen meten als ik weet wie een migratieachtergrond heeft." Dat gegeven staat niet in de dossiers van de afdeling. Het geboorteland van inwoners en van hun ouders staat wel in de Basisregistratie Personen (BRP), maar de gemeente mag het in beginsel niet voor dit doel gebruiken.

Dit is het dilemma van elke discriminatietoets: om te zien of een systeem een groep benadeelt, moet u weten wie tot die groep hoort. Sinds 27 juli 2026 biedt de AI-verordening daar een grondslag voor. Die is smal, en zij vraagt meer dan de meeste samenvattingen laten zien.

Les 1: weet welk gegeven bijzonder is, en welk niet

Artikel 9 lid 1 AVG verbiedt de verwerking van persoonsgegevens waaruit ras of etnische afkomst, politieke opvattingen, religieuze of levensbeschouwelijke overtuigingen of het lidmaatschap van een vakbond blijken, en van genetische gegevens, biometrische gegevens met het oog op unieke identificatie, gezondheidsgegevens en gegevens over seksueel gedrag of seksuele gerichtheid.

Nationaliteit en postcode staan niet in die lijst. Toetsen of een model naar nationaliteit of wijk anders uitpakt, vraagt dus in beginsel geen uitzondering op artikel 9, wel een gewone grondslag en een verenigbaar doel. Dat verandert als u die kenmerken juist gebruikt om afkomst af te leiden: volgens het Hof van Justitie vallen ook gegevens waaruit gevoelige informatie via een denkstap blijkt onder artikel 9 (OT, C-184/20). En zulke kenmerken kunnen als plaatsvervanger werken. Dat liet de DUO-zaak zien: volgens de kabinetsreactie van 1 maart 2024 werden afkomstgegevens niet gebruikt, maar hadden studenten in buurten met veel inwoners met een migratieachtergrond een grotere kans op controle, net als studenten die dichter bij hun ouders woonden, terwijl kinderen van ouders met een migratieachtergrond vaak dichterbij blijven wonen. Het kabinet sprak van indirecte discriminatie.

Migratieachtergrond (het geboorteland van iemand of van diens ouders) staat niet letterlijk in artikel 9, maar kan etnische afkomst doen blijken. In artikel 25 onder b, onder 2°, UAVG gebruikt de wetgever het geboorteland van de betrokkene, diens ouders of grootouders als een van de criteria om vast te stellen of iemand tot een etnische of culturele minderheidsgroep behoort. Dat wijst erop dat zulke gegevens etnische afkomst kunnen doen blijken. Naar onze lezing behandelt u migratieachtergrond daarom als bijzonder persoonsgegeven.

Les 2: de UAVG lost het niet op

De UAVG kent twee uitzonderingen die in de buurt komen. Artikel 25 UAVG staat de verwerking van gegevens over ras of etnische afkomst toe voor identificatie, voor zover dat onvermijdelijk is, of om personen uit een etnische of culturele minderheidsgroep een bevoorrechte positie te geven om feitelijke nadelen op te heffen of te verminderen. Een biastoets is naar onze lezing geen van beide: zij kent niemand een bevoorrechte positie toe.

Artikel 24 UAVG staat verwerking toe als die noodzakelijk is voor wetenschappelijk of historisch onderzoek of statistische doeleinden met de waarborgen van artikel 89 lid 1 AVG, het onderzoek een algemeen belang dient, het vragen van uitdrukkelijke toestemming onmogelijk is of een onevenredige inspanning kost, en de persoonlijke levenssfeer niet onevenredig wordt geschaad. Dat kan in een enkel geval passen, maar het is geschreven voor onderzoek en niet voor het doorlopend toetsen en bijstellen van een selectie-instrument. Toestemming van inwoners is bij een gemeente zelden een bruikbare route, omdat zij afhankelijk zijn van haar besluiten.

Les 3: artikel 4 bis geeft een gemeente een smalle grondslag, via lid 2

Verordening (EU) 2026/1744 schrapte artikel 10 lid 5 van de AI-verordening en voegde de grondslag in als artikel 4 bis, in hoofdstuk I. Daarmee werd de kring van partijen breder. Lid 1 geldt alleen voor aanbieders van hoog-risico-AI-systemen. Lid 2 geldt voor aanbieders en gebruiksverantwoordelijken van andere AI-systemen en -modellen en voor gebruiksverantwoordelijken van hoog-risicosystemen. Een gemeente die het model van een leverancier gebruikt, is gebruiksverantwoordelijke en valt dus onder lid 2. Let op: brengt de gemeente zelf een substantiële wijziging aan in een hoog-risicosysteem, bijvoorbeeld door het model opnieuw te trainen om de vooringenomenheid te corrigeren, dan kan zij aanbieder worden (artikel 25 lid 1 onder b AI-verordening), met alle aanbiedersplichten van dien.

Artikel 4 bis werkt als de Unierechtelijke basis voor de uitzondering van artikel 9 lid 2 onder g AVG (overweging 9). De AVG blijft daarnaast volledig gelden: u hebt ook een grondslag uit artikel 6 lid 1 AVG nodig, voor een gemeente doorgaans onder e. En artikel 4 bis regelt niet waar de gegevens vandaan komen; ook het verkrijgen ervan, bijvoorbeeld uit de BRP, moet passen binnen de AVG en de Wet BRP.

Lid 2 heeft een eigen drempel. De verwerking moet strikt noodzakelijk zijn om vooringenomenheid op te sporen en te corrigeren die waarschijnlijk gevolgen heeft voor de gezondheid en veiligheid van personen, nadelige effecten heeft op de grondrechten of leidt tot discriminatie die op grond van het Unierecht verboden is. Overweging 9 van Verordening (EU) 2026/1744 noemt als voorbeeld vooringenomenheid in toelatings- of risicobeoordelingsinstrumenten bij aanvragen voor overheidsvergunningen of -licenties, die rechten kunnen beperken of groepen in feite de toegang tot openbare diensten kunnen ontzeggen. Een selectie-instrument voor bijstandsheronderzoek past naar onze lezing in dat beeld.

Twee grenzen. Artikel 4 bis gaat alleen over AI-systemen en -modellen. Een set vaste beslisregels die geen AI-systeem is (zie ons artikel over de definitie van een AI-systeem), valt erbuiten; dan blijft u aangewezen op de AVG en de UAVG. En de grondslag geldt alleen voor opsporen en corrigeren van vooringenomenheid, niet voor ander gebruik van dezelfde gegevens.

Les 4: begin bij de vraag of het zonder kan

De zes voorwaarden van lid 1 gelden via lid 2 onder b ook voor de gemeente, allemaal tegelijk. De eerste is de belangrijkste: de opsporing en correctie van vooringenomenheid kunnen niet doeltreffend worden vervuld met andere data, waaronder synthetische of geanonimiseerde data.

Leg dus eerst vast wat u zonder bijzondere gegevens kunt meten. Bijvoorbeeld: werkt het model per wijk of per leeftijdsgroep anders uit, en welke invoerkenmerken hangen samen met afkomst? Het DUO-vervolgonderzoek laat een andere route zien: volgens DUO leverde het CBS gegevens over de migratieachtergrond van studenten, die werden gekoppeld aan de gegevens van DUO over de controlestappen, waarna stichting Algorithm Audit de gekoppelde data analyseerde. Dat gebeurde in 2024, vóór artikel 4 bis bestond. Die route is geen "andere data" in de zin van voorwaarde a: ook daar worden bijzondere gegevens verwerkt, maar door andere partijen en op een eigen grondslag, buiten artikel 4 bis. Vraag na of zo'n analyse via het CBS voor uw instrument mogelijk is, en onder welke voorwaarden. Kiest u voor artikel 4 bis, dan mag een extern bureau de gegevens niet zelf analyseren (voorwaarde d). Pas als u kunt onderbouwen dat geen van die routes volstaat, komt artikel 4 bis in beeld.

Les 5: de gegevens blijven binnen de gemeente

Voorwaarde d zegt dat de bijzondere persoonsgegevens niet worden verzonden, doorgegeven of anderszins geraadpleegd door andere partijen. Dat raakt de manier waarop veel gemeenten werken. De leverancier van het model kan de gegevens over afkomst niet krijgen om het model bij te stellen, en een extern bureau dat de toets voor u uitvoert, kan ze naar de veilige lezing ook niet inzien, ook niet als verwerker (zie hieronder). Wat u wel kunt delen, zijn uitkomsten die geen persoonsgegevens meer zijn, zoals totalen per groep die niet tot personen te herleiden zijn.

Of een verwerker, bijvoorbeeld de partij die uw analyseomgeving host, ook een "andere partij" is, is niet uitgemaakt. De AVG rekent een verwerker niet tot de derden (artikel 4 punt 10 AVG), maar artikel 4 bis spreekt van andere partijen, niet van derden. De veilige lezing is dat geen externe partij de gegevens ontvangt of kan inzien. Bij hosting betekent dat in elk geval versleuteling waarbij de hoster geen toegang heeft. Wijkt u daarvan af, leg dan in de DPIA vast waarom.

De andere voorwaarden zijn praktisch: technische beperkingen op hergebruik en pseudonimisering (b), strikte toegangscontrole met documentatie en geheimhouding (c), verwijderen zodra de vooringenomenheid is gecorrigeerd of de bewaartermijn eindigt, als dat eerder is (e), en in het verwerkingsregister de reden waarom de verwerking strikt noodzakelijk was en waarom andere data niet volstonden (f).

Les 6: artikel 4 bis verplicht niets, de toets is wel nodig

Lid 2 eindigt met de zin dat het geen verplichting schept om vooringenomenheid op te sporen en te corrigeren. Daaruit volgt niet dat u mag stilzitten. Dat u moet kunnen aantonen dat een selectie niet discrimineert, volgt uit de AVG (rechtmatigheid en behoorlijkheid in artikel 5 lid 1 onder a, de verantwoordingsplicht in artikel 5 lid 2 en artikel 24) in samenhang met het discriminatieverbod (artikel 1 Grondwet, artikel 21 Handvest). Toetsen is de manier om dat aan te tonen. De AP schreef bij de Belastingdienst dat wie met selectiecriteria werkt, het onderscheid moet onderbouwen en moet testen of de uitkomst niet onbedoeld oneerlijk uitpakt, en dat zonder die onderbouwing al snel sprake is van een discriminerende en dus onrechtmatige verwerking.

Is het model een hoog-risicosysteem uit bijlage III, dan komt de AI-verordening erbij. Een gebruiksverantwoordelijke zorgt dat de inputdata waarover hij controle heeft, relevant en voldoende representatief zijn (artikel 26 lid 4), en een publiekrechtelijk orgaan doet vóór het eerste gebruik een FRIA (artikel 27). Die plichten gelden vanaf 2 december 2027. Is het systeem vóór die datum al in de handel gebracht of in gebruik gesteld, dan gelden ze pas na een aanzienlijke wijziging in het ontwerp. Voor systemen die bedoeld zijn voor gebruik door overheidsinstanties is 2 augustus 2030 in elk geval de uiterste datum (artikel 111 lid 2). In ons artikel over AI voor fraudesignalen in de bijstand staat waarom zo'n selectie-instrument naar onze lezing onder bijlage III valt.

Een DPIA blijft nodig. Artikel 4 bis levert een grondslag, geen risicoafweging, en het verwerken van gegevens over afkomst van een groot deel van uw bijstandsgerechtigden is een verwerking met een hoog risico (artikel 35 lid 1 en lid 3 onder b AVG). Informeer de betrokkenen ook over deze verwerking (artikelen 13 en 14 AVG).

Ook voor banken en scholen

Een bank die het kredietmodel van een leverancier gebruikt, zit in dezelfde positie als de gemeente: gebruiksverantwoordelijke, dus lid 2. Ontwikkelt de bank het model zelf en is het een hoog-risicosysteem voor de kredietwaardigheid van natuurlijke personen (bijlage III punt 5 onder b), dan is zij aanbieder en loopt de route ook via lid 1, met de verwijzing naar de eisen aan data in artikel 10 lid 2 onder f en g. Ook een bank doet als gebruiksverantwoordelijke van zo'n systeem een FRIA (artikel 27 lid 1). Voor een school of hogeschool die een AI-systeem voor toelating of beoordeling gebruikt, geldt hetzelfde als voor de gemeente.

Ruim oude verwijzingen op

Verwerkingsregisters, DPIA's en beleidsstukken die nog naar artikel 10 lid 5 van de AI-verordening verwijzen, verwijzen sinds 27 juli 2026 naar een geschrapte bepaling. Vervang die voor lopende en nieuwe verwerkingen door artikel 4 bis. Ook artikel 2 lid 7 is vervangen: waar het de AVG onverlet liet "onverminderd artikel 10, lid 5, en artikel 59", staat nu "onverminderd artikel 4 bis en artikel 59".

Wat u nu doet

1. Maak per selectie-instrument een lijst van de kenmerken waarop u wilt toetsen, en bepaal per kenmerk of het een bijzonder persoonsgegeven is.
2. Stel vast of het instrument een AI-systeem is. Zo niet, dan geldt artikel 4 bis niet.
3. Leg vast welke toets u zonder bijzondere gegevens kunt doen, en of een analyse via het CBS mogelijk is.
4. Is artikel 4 bis toch nodig: doe eerst de DPIA, richt een afgeschermde omgeving in waar alleen bevoegde medewerkers bij kunnen, en geef de leverancier alleen totalen.
5. Zet het wismoment als bewaakte termijn en neem de onderbouwing op in het verwerkingsregister.
6. Wilt u snel zien welke plichten bij uw instrument horen? Doe de casus-check.