Social scoring (sociale scoring) is het beoordelen of indelen van mensen over een bepaalde periode op basis van hun sociale gedrag of hun persoonlijke kenmerken, waarbij de score die daaruit volgt leidt tot een nadelige of ongunstige behandeling. De AI Act verbiedt dat voor AI-systemen sinds 2 februari 2025, voor overheden én bedrijven, in twee situaties: als de nadelige behandeling plaatsvindt in een context die geen verband houdt met de context waarin de gegevens zijn gegenereerd of verzameld, of als die behandeling ongerechtvaardigd of onevenredig is met het gedrag of de ernst ervan (artikel 5 lid 1 onder c AI Act). Niet elke score is verboden. Een kredietscore op basis van relevante financiële gegevens of een fraudecontrole op relevante gegevens valt er in beginsel buiten, maar is vaak wel een hoog-risicosysteem.
Stel: een gemeente geeft bijstandsgerechtigden met een model een risicoscore, op basis van onder meer de wijk waar ze wonen, de taal die ze spreken en de samenstelling van hun huishouden. Wie hoog scoort, krijgt als eerste een heronderzoek. Is dat verboden social scoring, of gewone fraudebestrijding?
In het kort
Het verbod geldt voor wie een AI-systeem voor social scoring in de handel brengt, in gebruik stelt of gebruikt, dus voor aanbieders en gebruiksverantwoordelijken. Volgens de richtsnoeren van de Commissie gelden drie voorwaarden tegelijk: een AI-systeem, een beoordeling of indeling van mensen over een bepaalde periode op basis van gedrag of kenmerken, en een score die tot een nadelige behandeling leidt of kan leiden in een van de twee situaties van het verbod (punten (149) en (150)). Ook extra controle zonder verdere schade telt als ongunstige behandeling (punt (165)). Wettige scores voor een specifiek doel, zoals kredietbeoordeling, fraudebestrijding en verzekeringen, zijn niet als zodanig verboden, zolang de gegevens relevant zijn en de gevolgen gerechtvaardigd en evenredig (punten (175) tot en met (177)). De Digital Omnibus heeft dit verbod niet gewijzigd. Het boeteplafond is 35 miljoen euro of, voor een onderneming, 7 procent van de wereldwijde jaaromzet als dat hoger is (artikel 99 lid 3). Naast de AI Act gelden de AVG-regels voor profilering, geautomatiseerde besluiten en de DPIA.
Wat artikel 5 lid 1 onder c verbiedt
Het verbod luidt, kort weergegeven: verboden is het in de handel brengen, in gebruik stellen of gebruiken van AI-systemen voor de evaluatie of classificatie van natuurlijke personen of groepen personen gedurende een bepaalde periode op basis van hun sociale gedrag of bekende, afgeleide of voorspelde persoonlijke of persoonlijkheidskenmerken, waarbij de sociale score een of beide van deze gevolgen heeft:
- een nadelige of ongunstige behandeling in een sociale context die geen verband houdt met de context waarin de gegevens oorspronkelijk zijn gegenereerd of verzameld;
- een nadelige of ongunstige behandeling die ongerechtvaardigd of onevenredig is met het sociale gedrag of de ernst daarvan.
Overweging 31 AI Act geeft de reden: zulke systemen, van publieke of private actoren, kunnen leiden tot discriminatie en de uitsluiting van groepen, en kunnen het recht op waardigheid en non-discriminatie schenden. Dezelfde overweging trekt ook de grens: het verbod "mag geen afbreuk doen aan wettige praktijken voor de evaluatie van natuurlijke personen die worden verricht voor een specifiek doeleinde in overeenstemming met het Unierecht en het nationale recht".
Het verbod geldt sinds 2 februari 2025 (artikel 113, derde alinea, onder a AI Act). De Digital Omnibus, Verordening (EU) 2026/1744, voegde aan artikel 5 lid 1 twee nieuwe verboden toe (onder b bis en b ter, over niet-consensueel intiem materiaal en materiaal van seksueel kindermisbruik, vanaf 2 december 2026). Punt c bleef ongewijzigd; in de geconsolideerde tekst van 27 juli 2026 staat het nog in de oorspronkelijke formulering.
Wat de Commissie onder een social score verstaat
De Commissie heeft het verbod uitgewerkt in haar richtsnoeren over verboden AI-praktijken, gepubliceerd op 4 februari 2025; de versie die nu op de pagina van de Commissie staat, is C(2025) 5052 final van 29 juli 2025. Hoofdstuk 4 gaat over social scoring. De richtsnoeren zijn niet bindend; de bindende uitleg is aan het Hof van Justitie. De belangrijkste punten:
- Drie voorwaarden tegelijk. Een AI-systeem dat in de handel wordt gebracht, in gebruik wordt gesteld of wordt gebruikt; een beoordeling of indeling van personen of groepen over een bepaalde periode op basis van sociaal gedrag of persoonlijke kenmerken; en een score die tot een nadelige of ongunstige behandeling leidt of kan leiden in een van de twee situaties van het verbod (punten (149) en (150)). Het verbod geldt voor aanbieders en gebruiksverantwoordelijken, elk binnen hun eigen verantwoordelijkheid (punt (150)).
- Elke vorm van score telt. Een getal tussen 0 en 1, een rangorde of een label (punt (151)). Indelen is breder dan beoordelen en kan ook een indeling zonder oordeel zijn (punt (153)). Profilering in de zin van de AVG is een vorm van evaluatie en kan onder het verbod vallen als het met een AI-systeem gebeurt (punt (154)); de Commissie verwijst daarbij naar het SCHUFA-arrest over kredietscores.
- Over een bepaalde periode. Een eenmalige beoordeling op gegevens uit één specifieke situatie valt er in beginsel niet onder, maar de Commissie wil die voorwaarde per geval toetsen om omzeiling te voorkomen (punt (155)).
- Gedrag en kenmerken, ruim opgevat. Sociaal gedrag omvat ook het betalen van schulden en het contact met overheid, politie en justitie (punt (157)). Persoonlijke kenmerken zijn onder meer etniciteit, gezinssituatie, adres, inkomen, huishoudleden, beroep en schulden (punt (158)).
- De score moet de behandeling veroorzaken. De AI-uitkomst hoeft niet de enige oorzaak te zijn, maar moet een voldoende belangrijke rol spelen, ook als een mens het besluit neemt (punten (160) en (161)). Een score die een andere organisatie heeft gemaakt, telt ook (punt (162)).
- Ongunstig is genoeg. Een ongunstige behandeling vraagt geen schade: wie door een score wordt uitgekozen voor extra controle bij een fraudevermoeden, wordt al ongunstig behandeld. Nadelig betekent dat iemand schade lijdt (punt (165)). Ook een voordeel voor sommigen, zoals voorrang bij huisvesting, kan een ongunstige behandeling van anderen zijn (punt (169)).
De twee situaties van het verbod
| Situatie | Toets | Voorbeeld uit de richtsnoeren |
|---|---|---|
| 1. Een niet-verwante context (onder i) | De gegevens komen uit een context die niets te maken heeft met het doel van de score, of leiden tot algemene surveillance | Een sociale dienst die de kans op toeslagfraude schat met de nationaliteit of etnische afkomst van een partner, een internetverbinding of gedrag op sociale media (punt (166)) |
| 2. Ongerechtvaardigd of onevenredig (onder ii) | De gevolgen staan niet in verhouding tot de ernst van het gedrag, of hebben geen legitiem doel | Een gemeente die inwoners een betrouwbaarheidsscore geeft op basis van te laat teruggebrachte bibliotheekboeken, afval op de verkeerde dag en een te late betaling van gemeentelijke belastingen, en die score gebruikt om uitkeringen in te trekken (punt (167)) |
| Beide tegelijk | Niet-verwante gegevens en onevenredige gevolgen | Een belastingdienst die fraude met kinderopvangtoeslag opspoort met criteria als laag inkomen en dubbele nationaliteit, waarna toeslagen worden stopgezet en teruggevorderd (punt (168)) |
De twee situaties zijn alternatieven en kunnen samen voorkomen; per geval moet worden vastgesteld of er minstens één is (punt (164)). Bij het voorbeeld van de kinderopvangtoeslag verwijst de Commissie in een voetnoot naar de Nederlandse toeslagenaffaire.
Publiek en privaat
Het verbod geldt ongeacht of het systeem of de score door een publieke of een private partij wordt aangeboden of gebruikt (punt (170)). De Commissie noemt twee private voorbeelden: een verzekeraar die bestedings- en andere financiële gegevens van een bank gebruikt om de premie voor een levensverzekering te bepalen of een contract te weigeren, terwijl die gegevens niets zeggen over de vraag of iemand voor die verzekering in aanmerking komt; en een kredietbureau dat met AI de kredietwaardigheid voor een woonlening bepaalt op basis van niet-verwante persoonlijke kenmerken.
Bij een controle door de markttoezichtautoriteit moeten aanbieder en gebruiksverantwoordelijke volgens de Commissie aantonen dat hun praktijk legitiem en gerechtvaardigd is: met uitleg over de werking van het systeem, over de soorten gegevens en de bronnen, en over de vraag of alleen gegevens uit de context van de score worden gebruikt en of de gevolgen evenredig zijn (punt (171)). Wie een score inzet, moet dat dus kunnen onderbouwen.
Wat geen social scoring is
- Scores van organisaties. Het verbod gaat over natuurlijke personen. Het beoordelen van rechtspersonen valt er in beginsel buiten, tenzij de score een optelsom is van het gedrag van mensen en die mensen direct raakt, zoals alle werknemers van een bedrijf of de leerlingen van een school (punt (173)).
- Gewone beoordelingen door gebruikers, zoals sterren voor een chauffeur of verhuurder, zolang er geen AI-analyse met andere gegevens bij komt (punt (174)).
- Wettige scores voor een specifiek doel. Kredietbeoordeling, risicoscores en acceptatie bij verzekeraars, efficiëntere claimafhandeling, specifieke beoordelingen van werknemers, fraudepreventie en -opsporing, rechtshandhaving en het scoren van gedrag op onlineplatforms zijn niet als zodanig verboden, als ze rechtmatig zijn en in lijn met de AI Act en ander recht (punt (175)). Dat geldt zolang de gegevens uit de context van de score komen en de gevolgen gerechtvaardigd en evenredig zijn (punt (176)).
- Concrete voorbeelden buiten het verbod (punt (177)): een kredietscore op basis van inkomen, uitgaven en andere financiële omstandigheden die voldoet aan het consumentenrecht; een fraudecontrole op transactiegegevens en andere objectief relevante bronnen; een autoverzekeraar die de premie evenredig verhoogt bij gevaarlijk rijgedrag dat een telematicakastje vastlegt; een webwinkel die klanten met weinig retouren een sneller retourproces geeft, terwijl anderen het gewone proces houden.
- Geen AI-systeem. Het verbod geldt alleen voor AI-systemen in de zin van artikel 3 punt 1 AI Act. Systemen die alleen werken met regels die uitsluitend door mensen zijn vastgesteld, vallen niet onder die definitie (overweging 12 AI Act). De AVG blijft dan wel volledig gelden.
Voorbeeld 1: de gemeente en de bijstand
Terug naar de gemeente uit de inleiding. Het model is getraind op oude dossiers en geeft per bijstandsgerechtigde een score; dat is een AI-systeem. Het beoordeelt mensen over een bepaalde periode op persoonlijke kenmerken, en een hoge score leidt tot een heronderzoek. Dat is al een ongunstige behandeling (punt (165)), en als het onderzoek uitmondt in een terugvordering ook een nadelige.
Dan de gegevens. Gegevens die relevant zijn voor de toekenning van de bijstand en rechtmatig zijn verzameld, mag een overheid volgens de Commissie gebruiken om het frauderisico te bepalen (punt (166)). De samenstelling van het huishouden kan naar onze lezing zo'n relevant gegeven zijn, omdat zij meebepaalt op welke bijstand iemand recht heeft. De wijk waar iemand woont en de taal die iemand spreekt zeggen op zichzelf niets over het recht op bijstand. Ze werken bovendien als vervanger voor afkomst of nationaliteit. Een model dat mensen op grond daarvan uitkiest voor heronderzoek, loopt naar onze lezing een groot risico onder situatie 1 te vallen, en door de onevenredige gevolgen mogelijk ook onder situatie 2. Ook als de gemeente alleen relevante gegevens gebruikt, moeten de gevolgen gerechtvaardigd en evenredig blijven (punt (176)). Een uitgewerkte toets per indicator staat in AI voor fraudesignalen in de bijstand.
Wat de Nederlandse rechtspraak en de AP al zeiden. Deze uitspraken en besluiten gaan niet over de AI Act, die er toen nog niet was. Ze laten wel zien waar de grens ligt onder het recht dat al gold.
- In de SyRI-zaak (ECLI:NL:RBDHA:2020:865, 5 februari 2020) toetste de rechtbank Den Haag de wetgeving voor het Systeem Risico Indicatie aan artikel 8 lid 2 EVRM, het recht op respect voor het privéleven. De rechtbank zag het risico dat met SyRI onbedoeld verbanden worden gelegd op basis van bias, zoals een lagere sociaaleconomische status of een immigratieachtergrond, en stelde vast dat SyRI tot dan toe alleen in zogenoemde probleemwijken was ingezet (rechtsoverweging 6.93). Of dat risico was ondervangen, kon zij niet beoordelen bij gebrek aan inzicht in de risico-indicatoren en het risicomodel (6.94 en 6.95). Zij verklaarde art. 65 Wet SUWI en hoofdstuk 5a Besluit SUWI onverbindend wegens strijd met artikel 8 lid 2 EVRM (7.2). Of een risicomelding een geautomatiseerd besluit onder de AVG is, liet de rechtbank uitdrukkelijk in het midden (6.60).
- De Autoriteit Persoonsgegevens legde de Belastingdienst op 7 december 2021 een boete van 2,75 miljoen euro op, onder meer omdat de nationaliteit van aanvragers van kinderopvangtoeslag als indicator diende in een systeem dat aanvragen automatisch als risicovol aanwees. Volgens de AP was die verwerking onrechtmatig en discriminerend.
- Op 12 april 2022 volgde een boete van 3,7 miljoen euro voor de Fraude Signalering Voorziening, een zwarte lijst met fraudesignalen over ongeveer 270.000 mensen. De AP stelde onder meer vast dat er geen grondslag was en dat gegevens vaak onjuist waren. Uit eigen onderzoek van de Belastingdienst bleek volgens de AP dat medewerkers de instructie kregen het frauderisico mede te baseren op nationaliteit en uiterlijk.
Hoog risico en FRIA. Valt het systeem niet onder het verbod, dan is het naar onze lezing een hoog-risicosysteem uit bijlage III punt 5 onder a AI Act (beoordelen, verlenen, beperken, intrekken of terugvorderen van overheidsuitkeringen). Dan gelden vanaf 2 december 2027 de plichten voor gebruiksverantwoordelijken (artikel 26 AI Act) en voert de gemeente vóór het eerste gebruik een grondrechteneffectbeoordeling (FRIA) uit (artikel 27 AI Act). Is het systeem vóór die datum in de handel gebracht of in gebruik gesteld, dan gelden die plichten pas als het vanaf die datum aanzienlijk in ontwerp wordt gewijzigd; aanbieders en gebruiksverantwoordelijken van systemen die bedoeld zijn voor overheidsinstanties moeten in elk geval uiterlijk 2 augustus 2030 voldoen (artikel 111 lid 2 AI Act). Die overgangsregel geldt uitdrukkelijk onverminderd artikel 5: een bestaand systeem ontsnapt niet aan het verbod.
Voorbeeld 2: de bank en de verzekeraar
Een bank die de kredietwaardigheid van particulieren beoordeelt op inkomen, uitgaven, schulden en andere financiële omstandigheden, valt volgens de Commissie buiten het verbod, als die gegevens relevant zijn voor het doel en de bank het consumentenrecht volgt (punt (177)). De consumentenkredietrichtlijn, Richtlijn (EU) 2023/2225, schrijft in art. 18 lid 3 voor dat de kredietwaardigheidsbeoordeling rust op relevante en juiste informatie over inkomen, uitgaven en andere financiële en economische omstandigheden; volgens de Commissie verbiedt die richtlijn ook bijzondere persoonsgegevens en gegevens van sociale netwerken in die beoordeling (punt (182)). Gebruikt de bank of haar kredietbureau ook niet-verwante persoonlijke kenmerken, zoals naar onze lezing de wijk, de nationaliteit of gedrag op sociale media, dan komt het verbod in beeld (vergelijk punt (170)).
Valt de kredietscore buiten het verbod, dan is hij wel een hoog-risicosysteem: bijlage III punt 5 onder b noemt AI om de kredietwaardigheid van natuurlijke personen te beoordelen of hun kredietscore vast te stellen, met uitzondering van AI om financiële fraude op te sporen. Een verzekeraar die AI gebruikt voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen valt onder punt 5 onder c. Voor beide gelden de hoog-risicoplichten vanaf 2 december 2027, en ook private gebruiksverantwoordelijken van punt 5 onder b en c moeten dan een FRIA doen (artikel 27 lid 1). Volgens de Commissie kan het naleven van de hoog-risico-eisen ook helpen voorkomen dat zo'n systeem in verboden social scoring overgaat (punt (172)). Meer over de kredietbeslissing zelf staat in van scoringsalgoritme naar transparante kredietbeslissing.
Een fraudecontrole op transactiegegevens, de voorgeschiedenis en andere objectief relevante bronnen valt volgens de Commissie buiten het verbod, zolang een nadelige behandeling gerechtvaardigd en evenredig is (punt (177)). De AVG en, waar van toepassing, de regels voor hoog-risicosystemen blijven gelden. Gebruikt een verzekeraar bestedingsgegevens van een bank die niets zeggen over het risico van een levensverzekering, dan noemt de Commissie dat juist als verboden voorbeeld (punt (170)).
Voorbeeld 3: werkgever en onderwijs, kort
Een werkgever die werknemers beoordeelt op hun werkprestaties voor een specifiek doel, zoals een beoordelingsgesprek, valt niet als zodanig onder het verbod (punt (175)). Een score die ook gedrag buiten het werk meeweegt, zoals activiteit op sociale media, en die bepaalt wie promotie krijgt of wie wordt ontslagen, kan er wel onder vallen. De Commissie noemt in een van haar voorbeelden uitdrukkelijk het nadeel dat ontstaat als kansen op werk afhangen van activiteit op sociale media (punt (168)). Buiten het verbod is AI voor besluiten over promotie, ontslag, taakverdeling en het beoordelen van prestaties en gedrag hoog risico (bijlage III punt 4 onder b). Zie ook AI bij werving en selectie.
Voor scholen geldt hetzelfde: AI voor toelating en voor het beoordelen van leerresultaten is hoog risico (bijlage III punt 3), maar een score over gedrag buiten school die tot nadeel binnen school leidt, kan onder het verbod vallen. Ook een score voor een hele school die direct de leerlingen raakt, kan meetellen (punt (173)). Voor emotieherkenning op het werk en in het onderwijs geldt een apart verbod; zie mag emotieherkenning op de werkplek.
Afbakening: strafbare feiten, hoog risico en de FRIA
Artikel 5 lid 1 onder d verbiedt AI die het risico voorspelt dat iemand een strafbaar feit pleegt, uitsluitend op basis van profilering of persoonlijkheidskenmerken; het verbod geldt niet voor AI die een menselijke beoordeling ondersteunt die al rust op objectieve, controleerbare feiten. Dat verbod is smaller en specifieker dan het verbod op social scoring: het gaat alleen over strafbare feiten (richtsnoeren, voetnoot bij punt (146)). Scores van politie en andere rechtshandhavers op basis van relevante gegevens vallen buiten punt c als ze passen binnen het straf- en politierecht, maar moeten dan wel aan punt d worden getoetst (punt (177)).
Hoog risico. Een systeem dat buiten het verbod valt, is vaak hoog risico, en een hoog-risicosysteem kan in een concreet geval toch verboden zijn als alle voorwaarden van artikel 5 zijn vervuld (richtsnoeren punt (37)). Een AI-systeem uit bijlage III dat mensen profileert, is altijd hoog risico (artikel 6 lid 3 AI Act, laatste alinea).
FRIA. Voor overheden is de FRIA de plek om vooraf vast te leggen welke gegevens het systeem gebruikt, welke groepen het raakt en welke maatregelen er zijn. De FRIA mag verwijzen naar delen die de DPIA al dekt (artikel 27 lid 4). Een FRIA maakt een verboden praktijk niet toegestaan. Een sjabloon staat in de FRIA-template.
Wat de AVG eraan toevoegt
Social scoring is vrijwel altijd een verwerking van persoonsgegevens, en volgens de Commissie kan zij ook de AVG schenden, bijvoorbeeld op grondslag, dataminimalisatie, behoorlijkheid en transparantie (richtsnoeren punt (180)). Vier punten.
Een score kan een geautomatiseerd besluit zijn. Artikel 22 AVG geeft het recht niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking, waaronder profilering, is gebaseerd en dat iemand rechtsgevolgen geeft of anderszins in aanmerkelijke mate treft. Volgens het SCHUFA-arrest van het Hof van Justitie (C-634/21, 7 december 2023) is het geautomatiseerd vaststellen van een waarschijnlijkheidswaarde door een kredietinformatiebureau al zo'n besluit, als een derde aan wie de score wordt doorgegeven er in sterke mate van laat afhangen of hij een overeenkomst sluit, uitvoert of beëindigt. Rust het besluit op een uitzondering van artikel 22 lid 2 AVG, dan mag het niet op bijzondere persoonsgegevens worden gebaseerd, tenzij uitdrukkelijke toestemming of een zwaarwegend algemeen belang geldt en er passende maatregelen zijn (artikel 22 lid 4 AVG).
Recht op uitleg. In Dun & Bradstreet Austria (C-203/22, 27 februari 2025) oordeelde het Hof dat iemand bij geautomatiseerde besluitvorming op grond van artikel 15 lid 1 onder h AVG mag verlangen dat de verwerkingsverantwoordelijke begrijpelijk uitlegt welke procedure en beginselen concreet zijn toegepast om tot een resultaat zoals een kredietprofiel te komen. Meent de organisatie dat daarbij bedrijfsgeheimen of gegevens van derden in het geding zijn, dan legt zij die informatie voor aan de toezichthouder of de rechter, die de belangen afweegt.
Een DPIA is vrijwel altijd verplicht. De AVG vraagt een DPIA vooraf bij een waarschijnlijk hoog risico (artikel 35 AVG). De lijst van de AP (Stcrt. 2019, 64418) noemt fraudebestrijding, bijvoorbeeld door sociale diensten of verzekeraars (categorie 3), creditscores (categorie 4) en profilering, zoals de beoordeling van economische situatie, betrouwbaarheid of gedrag (categorie 15). Hoe u dat per toepassing toetst, leest u in staat uw AI-toepassing op de AP-lijst.
Gevoelige kenmerken. Gegevens over ras of etnische afkomst, gezondheid, religie of seksuele gerichtheid zijn bijzondere persoonsgegevens die u in beginsel niet mag verwerken (artikel 9 AVG). Nationaliteit staat niet in die lijst, maar de AP vond het gebruik ervan als risico-indicator wel discriminerend en daardoor onbehoorlijk. Een score die zulke kenmerken direct of via een vervanger zoals wijk of taal meeweegt, raakt ook het non-discriminatierecht (richtsnoeren punt (181)).
Boetes en toezicht
Voor een verboden praktijk geldt het hoogste boeteplafond: tot 35 miljoen euro of, voor een onderneming, tot 7 procent van de wereldwijde jaaromzet als dat hoger is (artikel 99 lid 3 AI Act). Voor kmo's en start-ups geldt het laagste van beide (lid 6). Voor kleine midcapondernemingen geldt die verlaging alleen bij de boetes van de leden 4 en 5, dus niet bij een verboden praktijk (lid 6 bis). De lidstaten stellen de sanctieregels vast (lid 1) en bepalen zelf of overheidsinstanties een boete kunnen krijgen (lid 8); afhankelijk van het rechtsstelsel kan ook een rechter de boete opleggen (lid 9). De sanctiebepalingen gelden sinds 2 augustus 2025 (artikel 113, derde alinea, onder b).
In Nederland is nog geen markttoezichtautoriteit voor de AI Act aangewezen. Volgens de planningsbrief van 31 augustus 2026 wil de staatssecretaris het wetsvoorstel Uitvoeringswet AI-verordening in het tweede kwartaal van 2027 bij de Tweede Kamer indienen (Kamerstuk 26643, nr. 1554). Het verbod geldt intussen rechtstreeks, en de AP kan bij een onrechtmatige verwerking van persoonsgegevens nu al optreden onder de AVG, zoals de boetes aan de Belastingdienst laten zien. Meer in toezicht op de AI Act in Nederland en boetes onder de AI Act en de AVG voor gemeenten.
Wat u nu doet
Gemeente of andere overheid
- Maak een lijst van alle modellen die inwoners een score, rangorde of label geven, ook als een medewerker het besluit neemt.
- Leg per indicator vast welk verband die heeft met het doel van de score en waar het gegeven vandaan komt. Haal indicatoren zonder aantoonbaar verband eruit, en kijk extra kritisch naar wijk, taal, nationaliteit en andere vervangers voor afkomst.
- Doe of actualiseer de DPIA, en bereid voor hoog-risicosystemen de FRIA voor.
Bank of verzekeraar
- Controleer dat de kredietscore alleen financiële en economische gegevens gebruikt die de consumentenkredietregels toestaan, en dat er geen gegevens van sociale netwerken of bijzondere persoonsgegevens in zitten.
- Leg vast hoe u klanten de logica van een score uitlegt (artikel 15 lid 1 onder h AVG) en hoe menselijke tussenkomst werkt (artikel 22 AVG).
- Bereid de hoog-risicoplichten en de FRIA voor die vanaf 2 december 2027 gelden.
Werkgever of onderwijsinstelling
- Gebruik voor beoordelingen alleen gegevens uit de werk- of leercontext die bij het doel horen.
- Sluit gedrag buiten werk of school, zoals sociale media, uit als input voor besluiten over promotie, ontslag of toelating.
Twijfelt u over uw eigen toepassing? Met de casus-check beschrijft u de toepassing in een paar vragen en ziet u welke AI Act- en AVG-plichten in beeld komen.
Veelgestelde vragen over social scoring
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven