AI voor fraudesignalen in de bijstand: DPIA, FRIA en wat de AI Act verbiedt

Stel: u bent functionaris gegevensbescherming (FG) bij een gemeente. De afdeling Werk en Inkomen wil voor het heronderzoek van bijstandsdossiers niet langer willekeurig kiezen, maar met een model. De leverancier biedt een "slimme risicoselectie": een score per dossier die aangeeft hoe groot de kans is dat iemand te veel bijstand krijgt. De dossiers met de hoogste score gaan als eerste naar een handhaver. De manager vraagt u: moeten we een DPIA doen, valt dit onder de AI Act, en mag het eigenlijk wel?

Op die vraag bestaat geen kort antwoord met één wetsartikel. Er spelen drie lagen: de AVG, de verboden van de AI-verordening die al gelden, en de regels voor hoog-risico-AI die vanaf 2 december 2027 gelden. Dit artikel zet ze op een rij.

Les 1: de DPIA is verplicht, en wel vooraf

De AVG verplicht tot een gegevensbeschermingseffectbeoordeling (DPIA) als een verwerking waarschijnlijk een hoog risico inhoudt, en wel voordat u met de verwerking begint (artikel 35 lid 1 AVG). Voor fraudeselectie in de bijstand hoeft u daar niet lang over na te denken. De AP heeft een lijst vastgesteld van verwerkingen waarvoor het uitgangspunt is dat een DPIA verplicht is (Stcrt. 2019, 64418). Categorie 3 is "fraudebestrijding": grootschalige verwerkingen en/of stelselmatige monitoring in het kader van fraudebestrijding, met als voorbeeld uitdrukkelijk "fraudebestrijding door sociale diensten". Categorie 15 is profilering, met onder meer de beoordeling van iemands economische situatie, betrouwbaarheid of gedrag. Wisselt u in een samenwerkingsverband gevoelige gegevens uit, zoals over schulden, zorg of armoede, dan telt ook categorie 8 mee.

Daarnaast noemt de AVG zelf een systematische en uitgebreide beoordeling van persoonlijke aspecten op basis van geautomatiseerde verwerking, waaronder profilering, waarop besluiten met rechtsgevolgen worden gebaseerd (artikel 35 lid 3 onder a). Blijft na de DPIA een hoog risico over dat u niet kunt beperken, dan raadpleegt u eerst de AP (artikel 36 lid 1).

Les 2: welke gegevens het model gebruikt, bepaalt bijna alles

Een gemeente heeft voor haar taken geen gerechtvaardigd belang als grondslag (artikel 6 lid 1, laatste alinea AVG). De grondslag is de wettelijke taak (artikel 6 lid 1 onder e en lid 3). Het college is bevoegd onderzoek te doen naar de juistheid en volledigheid van de verstrekte gegevens en zo nodig naar andere gegevens die noodzakelijk zijn voor het verlenen of voortzetten van bijstand, en kan op grond daarvan de bijstand herzien of intrekken (artikel 53a lid 6 Participatiewet). Samen met dataminimalisatie (artikel 5 lid 1 onder c AVG) is dat de grens voor het model: gegevens die voor de bijstand niet nodig zijn, horen niet in de score.

Hoe streng de rechter hier kijkt, liet de SyRI-zaak zien. In ECLI:NL:RBDHA:2020:865 (5 februari 2020) oordeelde de rechtbank Den Haag dat de wetgeving voor het Systeem Risico Indicatie (SyRI), een wettelijk instrument om fraude op te sporen op onder meer het terrein van uitkeringen, toeslagen en belastingen, in strijd was met artikel 8 lid 2 EVRM. De inzet was volgens de rechtbank "onvoldoende inzichtelijk en controleerbaar". De rechtbank betrok daarbij de beginselen van transparantie, doelbinding en dataminimalisatie uit de AVG en verklaarde artikel 65 Wet SUWI en hoofdstuk 5a Besluit SUWI onverbindend. Voor een gemeentelijk model is de les: leg vast welke indicatoren het model gebruikt, waarom elke indicator iets zegt over het recht op bijstand, en wie dat kan controleren.

Les 3: de grens van het verbod op sociale scoring

Het verbod op sociale scoring geldt sinds 2 februari 2025, ook voor overheden (artikel 5 lid 1 onder c AI Act). Het verbiedt het beoordelen of indelen van mensen op basis van hun sociale gedrag of persoonlijke kenmerken als de score leidt tot een nadelige behandeling in een context die niets te maken heeft met de context waarin de gegevens zijn verzameld, of tot een behandeling die ongerechtvaardigd is of onevenredig met dat gedrag of de ernst ervan.

De Commissie werkt dit in haar richtsnoeren over verboden AI (C(2025) 5052 final) uit met voorbeelden die dicht bij de bijstand liggen. Punt (166) noemt een sociale dienst die de kans op fraude met uitkeringen schat met kenmerken zonder duidelijk verband met fraude, zoals een partner met een bepaalde nationaliteit of etnische afkomst, het hebben van een internetverbinding, gedrag op sociale platforms of prestaties op het werk. Dat valt onder het verbod. Volgens hetzelfde punt kunnen gegevens die relevant zijn voor de toekenning van de uitkering en rechtmatig zijn verzameld wel worden gebruikt om het frauderisico te bepalen, omdat een overheid een legitiem doel heeft om na te gaan of uitkeringen juist worden toegekend.

Punt (167) noemt een gemeente die inwoners een betrouwbaarheidsscore geeft op basis van gedrag in allerlei contexten, zoals te laat teruggebrachte bibliotheekboeken of afval dat op de verkeerde dag buiten staat, en die score gebruikt om uitkeringen in te trekken. Punt (168) beschrijft een belastingdienst die kinderopvangtoeslag op fraude controleert met criteria als laag inkomen en dubbele nationaliteit. Beide zijn verboden. Tegelijk zegt punt (175) dat fraudepreventie en -opsporing niet als zodanig verboden zijn, als ze rechtmatig zijn en in lijn met de AI Act en ander recht. Ook met relevante gegevens blijft wel de eis dat de nadelige behandeling gerechtvaardigd en evenredig is (punt (176)). De vraag voor uw DPIA is dus per indicator: heeft dit gegeven een aantoonbaar verband met het recht op bijstand, en is de gevolgtrekking evenredig?

Les 4: het verbod op het voorspellen van strafbare feiten raakt de bijstand meestal niet

Artikel 5 lid 1 onder d AI Act verbiedt risicobeoordelingen die voorspellen of iemand een strafbaar feit pleegt, uitsluitend op basis van profilering of persoonlijkheidskenmerken. De Commissie leest dat verbod als beperkt tot strafbare feiten. Een overheid die in een bestuurlijk onderzoek met AI het risico op onregelmatigheden in uitgavenprocessen beoordeelt, valt er volgens punt (217) van de richtsnoeren niet onder, ook niet als daarbij informatie boven tafel komt over mogelijke strafbare feiten. Het niet nakomen van de inlichtingenplicht in de bijstand leidt in de regel tot een bestuurlijke boete van het college (artikel 18a Participatiewet).

Twee kanttekeningen. Punt (218) zegt dat de nationale indeling van een overtreding niet doorslaggevend is: "strafbaar feit" heeft een eigen Europese betekenis, en een boete die kan oplopen tot het volle benadelingsbedrag is daarom niet vanzelf buiten beeld. Dat het verbod de bijstand meestal niet raakt, is dus onze lezing. En gebruikt de gemeente de score ook om dossiers voor een aangifte te selecteren, toets het model dan alsnog aan punt d.

Les 5: naar onze lezing een hoog-risicosysteem

Bijlage III punt 5 onder a noemt AI-systemen die door of namens overheidsinstanties worden gebruikt om te beoordelen of mensen in aanmerking komen voor essentiële overheidsuitkeringen en -diensten, "of om dergelijke uitkeringen en diensten te verlenen, te beperken, in te trekken of terug te vorderen" (bijlage III AI Act). Een model dat bepaalt welke dossiers worden heronderzocht, met intrekken en terugvorderen als mogelijke uitkomst, ligt daar dicht bij.

De Commissie wijst dezelfde kant op. Volgens randnummer (290) van haar ontwerprichtsnoeren kan het recht op een uitkering ook na de toekenning opnieuw worden beoordeeld, wat kan leiden tot terugbetalen. In diezelfde ontwerprichtsnoeren over de indeling van hoog-risico-AI van 19 mei 2026 noemt zij bij bijlage III punt 5 onder a als voorbeeld een systeem dat aanvragen voor uitkeringen analyseert op onregelmatigheden of fraude-indicatoren en ze markeert voor nader onderzoek, waarna een medewerker beoordeelt of er sprake is van fraude. Dat systeem is volgens de Commissie hoog risico, omdat het markeren bepaalt of een aanvraag extra wordt gecontroleerd, wordt vertraagd, opgeschort of mogelijk geweigerd. Volgens randnummer (291) kunnen alle beslissingen over verlenen, beperken, intrekken en terugvorderen hieronder vallen, en via overweging 58 ook weigeren. De ontwerprichtsnoeren zijn niet bindend en nog niet definitief; de Commissie had ze uiterlijk 2 februari 2026 moeten vaststellen (artikel 6 lid 5). Het voorbeeld gaat over aanvragen, maar dezelfde redenering past op het selecteren van lopende dossiers voor heronderzoek.

De uitzondering van artikel 6 lid 3 voor een "voorbereidende taak" helpt hier niet. De laatste alinea van dat lid bepaalt dat een systeem uit bijlage III altijd hoog risico is als het natuurlijke personen profileert, en een risicoscore per bijstandsgerechtigde is profilering.

Wat volgt er vanaf 2 december 2027 voor de gemeente als gebruiksverantwoordelijke (artikel 26)? Gebruik volgens de gebruiksaanwijzing, menselijk toezicht door mensen met de nodige bekwaamheid, opleiding en autoriteit (lid 2), inputdata die relevant en voldoende representatief zijn voor zover u die beheert (lid 4), de werking bewaken en ernstige incidenten melden (lid 5), logs bewaren van ten minste zes maanden (lid 6), registratie in de EU-databank (lid 8) en bijstandsgerechtigden laten weten dat het systeem op hen wordt toegepast (lid 11). Als publiekrechtelijk orgaan voert u vóór het eerste gebruik een beoordeling van de gevolgen voor de grondrechten uit, de FRIA (artikel 27). Daarin mag u verwijzen naar de delen die uw DPIA al dekt (lid 4), en de uitkomst meldt u aan de markttoezichthouder (lid 3). Wie door een besluit met rechtsgevolgen op basis van zo'n systeem wordt geraakt, krijgt aanvullend op de AVG een recht op uitleg over de rol van het systeem (artikel 86).

Draait het model al vóór 2 december 2027, dan gelden die plichten pas bij een aanzienlijke wijziging van het ontwerp. Voor systemen die bedoeld zijn voor gebruik door overheidsinstanties geldt in elk geval uiterlijk 2 augustus 2030 (artikel 111 lid 2). De AVG-plichten en de verboden van artikel 5 gelden nu al, ook voor een systeem dat al draait.

Les 6: de handhaver beslist, niet de score

Een score die alleen bepaalt wie een heronderzoek krijgt, is meestal nog geen besluit over de bijstand. Dat besluit volgt pas na het onderzoek. Maar artikel 22 AVG gaat ook over besluiten die iemand anderszins in aanmerkelijke mate treffen. Volgt uit de selectie direct een opschorting van de betaling of een ingrijpend onderzoek, of beslist de score in feite, dan komt artikel 22 in beeld. Het Hof van Justitie oordeelde in het SCHUFA-arrest (C-634/21, 7 december 2023) dat een score ook een geautomatiseerd besluit kan zijn als een ander het uiteindelijke besluit neemt, maar die score daarbij een doorslaggevende rol speelt. Die zaak ging over een score van een ander bedrijf; binnen één gemeente is het een vergelijking, maar de Commissie verwijst in haar richtsnoeren naar hetzelfde arrest.

De Nederlandse uitzondering van artikel 40 UAVG voor geautomatiseerde besluiten bij een wettelijke taak geldt niet voor besluiten op basis van profilering. Richt het proces dus zo in dat de handhaver de feiten zelf onderzoekt en vastlegt, dat een besluit tot intrekken of terugvorderen op die feiten rust en niet op de score, en dat de handhaver weet wat de score wel en niet zegt. Dat sluit ook aan bij het menselijk toezicht uit artikel 26 lid 2 AI Act.

Les 7: wat u van de leverancier vraagt

De leverancier is meestal aanbieder in de zin van de AI Act en verwerker in de zin van de AVG. Vraag hem nu al om de lijst met indicatoren en de herkomst van elk gegeven, de testresultaten op fouten (hoe vaak wijst het model ten onrechte iemand aan, en verschilt dat tussen groepen), en een verwerkersovereenkomst die het gebruik van de gegevens voor andere doelen uitsluit (artikel 28 AVG). Zorg ook dat de handhavers en de medewerkers die het model inrichten weten hoe het werkt: artikel 4 AI Act vraagt maatregelen die de AI-geletterdheid van uw personeel ondersteunen.

Voor banken en verzekeraars die fraude opsporen geldt een deel van dezelfde regels, maar met een belangrijk verschil: bijlage III punt 5 onder b zondert AI voor het opsporen van financiële fraude uit van de hoog-risicocategorie kredietwaardigheid.

Wat u nu doet

1. Maak de DPIA vóór de proef, met AP-categorieën 3 en 15 als vertrekpunt.
2. Leg per indicator vast welk verband die heeft met het recht op bijstand; schrap wat dat verband mist.
3. Toets het model aan artikel 5 lid 1 onder c met de voorbeelden uit de punten (166) tot en met (168) van de richtsnoeren.
4. Leg vast dat de score alleen selecteert, en dat besluiten rusten op feiten uit het onderzoek.
5. Bereid de FRIA en de registratie voor, met 2 december 2027 voor een nieuw systeem; een bestaand systeem bij een aanzienlijke wijziging en in elk geval uiterlijk 2 augustus 2030.
6. Vraag de leverancier om indicatoren, testresultaten en een verwerkersovereenkomst.
7. Zet het systeem in het algoritmeregister van de gemeente, zodat inwoners kunnen zien dat het bestaat.

Wilt u voor uw eigen toepassing nagaan welke plichten onder de AVG en de AI Act gelden, gebruik dan de gratis casus-check. Meer over de DPIA-plicht leest u bij wanneer is een DPIA verplicht.

Wat open blijft

• De richtsnoeren over hoog risico. De richtsnoeren van artikel 6 lid 5 zijn nog een ontwerp (19 mei 2026). Het voorbeeld over het markeren van aanvragen voor fraudeonderzoek kan in de definitieve tekst nog veranderen, en het gaat over aanvragen, niet uitdrukkelijk over het heronderzoek van lopende dossiers.
• Wijzigingen van de Participatiewet. Op wetten.overheid.nl staan wijzigingen van de Participatiewet die nog geen datum van inwerkingtreding hebben. Controleer de actuele tekst van de artikelen 18a en 53a voordat u ze in uw DPIA aanhaalt.
• De status van de richtsnoeren. De richtsnoeren van de Commissie zijn niet bindend; de bindende uitleg van de AI Act is aan het Hof van Justitie.