De meeste artikelen van de AI Act zeggen wat een organisatie moet doen. Artikel 79 tot en met 82 zeggen wat er gebeurt als de toezichthouder vindt dat het misgaat. Artikel 79 regelt de procedure op nationaal niveau voor AI-systemen die een risico vormen. Artikel 80 gaat over een systeem dat de aanbieder als geen hoog risico heeft ingedeeld terwijl het dat wel is. Artikel 81 regelt wat er gebeurt als een andere lidstaat of de Commissie het niet eens is met een nationale maatregel. Artikel 82 gaat over het lastigste geval: een systeem met een hoog risico dat aan de verordening voldoet en toch een risico vormt.
Stel: het is voorjaar 2028. Een gemeente gebruikt sinds kort een systeem dat elke bijstandsaanvraag een score geeft voor de kans dat een heronderzoek nodig is. De leverancier bracht het systeem in januari 2028 op de markt; een consulent beslist. Een belangenorganisatie dient een klacht in bij de markttoezichtautoriteit: aanvragers met een deeltijdbaan en wisselende uren krijgen opvallend vaak een hoge score. Twee weken later vraagt de toezichthouder de gemeente om informatie. De teamleider wil weten wat er nu gaat gebeuren, wat de gemeente zelf moet doen en wat de leverancier boven het hoofd hangt. Het voorbeeld is verzonnen.
In het kort
Een AI-systeem vormt een risico als het een "product dat een risico vormt" is in de zin van artikel 3, punt 19, van Verordening (EU) 2019/1020, voor zover het een risico vormt voor de gezondheid, de veiligheid of de grondrechten van personen (artikel 79 lid 1). Heeft een markttoezichtautoriteit voldoende reden om dat aan te nemen, dan evalueert zij of het systeem aan alle eisen en verplichtingen van de verordening voldoet, met bijzondere aandacht voor kwetsbare groepen (lid 2). Voldoet het niet, dan gelast zij de betrokken operator het systeem conform te maken, uit de handel te nemen of terug te roepen, in elk geval binnen 15 werkdagen of een kortere termijn uit sectorale wetgeving. Blijft dat uit, dan verbiedt of beperkt zij het systeem op haar markt en meldt zij dat aan de Commissie en de andere lidstaten (lid 5). Artikel 80 laat de toezichthouder een indeling als geen hoog risico onder artikel 6 lid 3 toetsen, met boetes als de aanbieder de eisen wilde omzeilen (lid 7). Artikel 81 geeft de Commissie het laatste woord als een lidstaat bezwaar maakt. Artikel 82 laat de toezichthouder ook ingrijpen bij een systeem met een hoog risico dat aan de verordening voldoet maar toch een risico vormt. De vier artikelen staan in hoofdstuk IX en gelden sinds 2 augustus 2026; de hoog-risico-eisen waaraan de toezichthouder toetst, gelden voor bijlage III vanaf 2 december 2027. De Digitale omnibus inzake AI liet artikel 79 tot en met 82 ongemoeid. Nederland heeft de markttoezichtautoriteiten nog niet bij wet aangewezen.
Dit stuk gaat over de procedure aan de kant van de toezichthouder, en over wat dat betekent voor de aanbieder en de gebruiksverantwoordelijke. Wat de aanbieder zelf moet doen als hij een gebrek ontdekt, staat in corrigerende maatregelen onder artikel 20. Wanneer de gebruiksverantwoordelijke het gebruik moet onderbreken, leest u in de plichten onder artikel 26. Het melden van een ernstig incident is een eigen route: zie artikel 73. Welke boetes er zijn en of een gemeente er een kan krijgen, staat in boetes onder de AI Act.
Waar deze artikelen staan
Artikel 79 tot en met 82 staan in hoofdstuk IX, afdeling 3, "Handhaving". De afdeling opent met artikel 74: Verordening (EU) 2019/1020 over markttoezicht en productconformiteit is van toepassing op AI-systemen, waarbij "marktdeelnemer" moet worden gelezen als elke operator en "product" als elk AI-systeem binnen de reikwijdte van de AI Act (lid 1). Een operator is een aanbieder, productfabrikant, gebruiksverantwoordelijke, gemachtigde, importeur of distributeur (artikel 3, punt 8). Een gemeente die een systeem gebruikt, is dus ook een operator.
Volgens overweging 156 geldt het markttoezichtsysteem van Verordening (EU) 2019/1020 volledig, en mogen toezichthouders maatregelen nemen ten aanzien van alle AI-systemen die een risico vormen, ook al gelden voor de meeste AI-systemen geen specifieke eisen. Overweging 157 zegt voor welke systemen de procedure is bedoeld: systemen met een hoog risico die een risico inhouden, verboden systemen die in strijd met artikel 5 zijn gebruikt of op de markt gebracht, en systemen die in strijd met de transparantievereisten beschikbaar zijn gemaakt en een risico inhouden. Daarna volgen nog artikel 83, over formele non-conformiteit zoals een ontbrekende CE-markering, conformiteitsverklaring, registratie of technische documentatie, en artikel 84 over de ondersteunende teststructuren van de Unie.
Een uitzondering staat in artikel 74 lid 4. Gaat het om AI-systemen bij producten onder de harmonisatiewetgeving van bijlage I, afdeling A, en voorziet die wetgeving al in procedures met een gelijkwaardig niveau van bescherming en hetzelfde doel, dan gelden de sectorale procedures in plaats van artikel 79 tot en met 83.
Wanneer vormt een AI-systeem een risico?
Artikel 79 lid 1 leent de definitie uit Verordening (EU) 2019/1020. Een product dat een risico vormt, is daar een product dat een ongunstige invloed kan hebben op onder meer de gezondheid en veiligheid van personen, consumentenbescherming en andere openbare belangen die de harmonisatiewetgeving beschermt, "in een mate die verder gaat dan wat redelijk en aanvaardbaar wordt geacht" in verhouding tot het beoogde gebruik of bij normale of redelijkerwijs voorzienbare omstandigheden van gebruik (artikel 3, punt 19, van Verordening (EU) 2019/1020). De AI Act beperkt dat tot risico's voor de gezondheid, de veiligheid of de grondrechten van personen.
Twee dingen volgen daaruit. Niet elk gebrek is een risico in deze zin: de lat ligt bij wat redelijk en aanvaardbaar is voor het beoogde gebruik. En een risico voor de grondrechten telt even zwaar als een risico voor de veiligheid. Een systeem dat structureel een groep aanvragers benadeelt, kan dus een risico vormen zonder dat iemand fysiek gevaar loopt.
Hetzelfde begrip "risico in de zin van artikel 79 lid 1" komt elders terug. De aanbieder van een systeem met een hoog risico onderzoekt bij zo een risico onmiddellijk de oorzaken en informeert de markttoezichtautoriteit (artikel 20 lid 2). De gebruiksverantwoordelijke die redenen heeft om aan te nemen dat het gebruik volgens de gebruiksaanwijzingen tot zo een risico kan leiden, informeert zonder onnodige vertraging de aanbieder of distributeur en de markttoezichtautoriteit, en onderbreekt het gebruik (artikel 26 lid 5). Ook importeurs en distributeurs hebben plichten bij dit risico; zie artikel 23 en 24.
Artikel 79: de procedure op nationaal niveau
De aanleiding. Een markttoezichtautoriteit heeft "voldoende reden" om van mening te zijn dat een AI-systeem een risico vormt (artikel 79 lid 2). Die reden kan uit eigen onderzoek komen, uit een melding van een aanbieder of gebruiksverantwoordelijke, of uit een klacht. Elke natuurlijke of rechtspersoon die redenen heeft om aan te nemen dat de verordening is geschonden, kan een klacht indienen bij de relevante markttoezichtautoriteit, die de klacht meeneemt in haar markttoezicht (artikel 85). Verordening (EU) 2019/1020 noemt klachten van consumenten en andere informatie die op non-conformiteit kan wijzen als factor bij de keuze welke controles een toezichthouder doet, en verplicht toezichthouders procedures vast te stellen voor de behandeling van klachten of meldingen over risico's of non-conformiteit (artikel 11 lid 3 onder e en lid 7 onder a van die verordening). Een klacht geeft de klager naar onze lezing geen recht op een bepaalde uitkomst; zij is wel een gebruikelijke aanleiding voor een evaluatie.
De evaluatie. De toezichthouder evalueert het systeem op overeenstemming met "alle eisen en verplichtingen" van de verordening, met bijzondere aandacht voor systemen die een risico vormen voor kwetsbare groepen (lid 2, eerste alinea). Stelt zij risico's voor de grondrechten vast, dan informeert zij de nationale overheidsinstanties of -organen van artikel 77 lid 1 en verleent zij hun haar volledige medewerking. Dat zijn de instanties die de nakoming van Unierecht ter bescherming van de grondrechten controleren of handhaven, waaronder het recht op non-discriminatie. De relevante gebruiksverantwoordelijken werken voor zover noodzakelijk samen met de toezichthouder en met die instanties.
De corrigerende maatregel. Stelt de toezichthouder vast dat het systeem niet aan de verordening voldoet, dan gelast zij de betrokken operator zonder onnodige vertraging passende corrigerende maatregelen te nemen om het systeem conform te maken, uit de handel te nemen of terug te roepen. Zij kan een termijn stellen, "en in elk geval binnen 15 werkdagen", of binnen een kortere termijn uit de relevante harmonisatiewetgeving (lid 2, tweede alinea). Zij informeert de aangemelde instantie, als die er is (derde alinea). De operator zorgt ervoor dat de maatregel geldt voor alle betrokken systemen die hij op de Uniemarkt heeft aangeboden (lid 4), dus ook bij andere klanten en in andere lidstaten. Blijft de non-conformiteit niet beperkt tot het eigen grondgebied, dan informeert de toezichthouder de Commissie en de andere lidstaten (lid 3).
De rechten van de operator. Op de maatregelen van lid 2 is artikel 18 van Verordening (EU) 2019/1020 van toepassing (lid 2, derde alinea). Elke maatregel vermeldt nauwkeurig de gronden, wordt onverwijld meegedeeld met de rechtsmiddelen en termijnen naar nationaal recht, en vóór de maatregel krijgt de operator de gelegenheid om binnen een passende termijn van ten minste tien werkdagen te worden gehoord, tenzij de urgentie dat onmogelijk maakt; dan volgt het horen zo spoedig mogelijk daarna (artikel 18 van Verordening (EU) 2019/1020).
Als de operator niet corrigeert. Neemt de operator binnen de termijn geen doeltreffende corrigerende actie, dan neemt de toezichthouder alle passende voorlopige maatregelen om het op de markt aanbieden of in gebruik stellen van het systeem te verbieden of te beperken, of om het uit de handel te nemen of terug te roepen. Zij meldt dat zonder onnodige vertraging aan de Commissie en de andere lidstaten (lid 5). De melding bevat alle bekende bijzonderheden, de argumenten van de operator, en de reden van de non-conformiteit: een verboden praktijk (artikel 5), een systeem met een hoog risico dat niet aan de eisen van hoofdstuk III, afdeling 2, voldoet, tekortkomingen in geharmoniseerde normen of gemeenschappelijke specificaties, of schending van artikel 50 (lid 6).
De andere lidstaten. Andere toezichthouders melden hun eigen maatregelen en informatie, en hun bezwaren als zij het niet eens zijn (lid 7). Komt er binnen drie maanden geen bezwaar van een andere lidstaat of de Commissie, dan geldt de voorlopige maatregel als gerechtvaardigd; bij een verboden praktijk is die termijn dertig dagen (lid 8). Alle toezichthouders zorgen dan zonder onnodige vertraging voor passende beperkende maatregelen op hun markt (lid 9). Zo wordt een nationale maatregel in de praktijk een Europese.
| Stap | Wie | Wat | Bepaling |
|---|---|---|---|
| Aanleiding | Toezichthouder | Voldoende reden om een risico aan te nemen, bijvoorbeeld na een klacht | Artikel 79 lid 2, artikel 85 |
| Evaluatie | Toezichthouder, grondrechteninstanties, gebruiksverantwoordelijke | Toetsing aan alle eisen; aandacht voor kwetsbare groepen | Artikel 79 lid 2, eerste alinea |
| Corrigerende maatregel | Operator | Conform maken, uit de handel nemen of terugroepen, in elk geval binnen 15 werkdagen | Artikel 79 lid 2 en 4 |
| Voorlopige maatregel | Toezichthouder | Verbod, beperking, uit de handel nemen of terugroepen; melding aan Commissie en lidstaten | Artikel 79 lid 5 en 6 |
| Reactie lidstaten | Andere toezichthouders, Commissie | Bezwaar binnen drie maanden (dertig dagen bij artikel 5), anders gerechtvaardigd | Artikel 79 lid 7 tot en met 9 |
| Bij bezwaar | Commissie | Evaluatie en besluit binnen zes maanden (zestig dagen bij artikel 5) | Artikel 81 |
Artikel 80: ten onrechte als geen hoog risico ingedeeld
Een systeem uit bijlage III is in beginsel hoog risico (artikel 6 lid 2), maar niet als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt, bijvoorbeeld omdat het alleen een beperkte procedurele taak of een voorbereidende taak uitvoert (artikel 6 lid 3, met vier voorwaarden onder a tot en met d). Voert het systeem profilering van natuurlijke personen uit, dan is het altijd hoog risico (slotalinea van lid 3). Een aanbieder die vindt dat zijn bijlage III-systeem geen hoog risico inhoudt, documenteert die beoordeling voordat het systeem op de markt komt, registreert het in de EU-databank (artikel 49 lid 2) en geeft de documentatie op verzoek aan de bevoegde autoriteiten (artikel 6 lid 4).
Artikel 80 is de controle op die eigen indeling. Heeft een toezichthouder voldoende reden om aan te nemen dat een zo ingedeeld systeem wel hoog risico is, dan toetst zij de indeling aan de voorwaarden van artikel 6 lid 3 en aan de richtsnoeren van de Commissie (artikel 80 lid 1). Die richtsnoeren moest de Commissie volgens artikel 6 lid 5 uiterlijk op 2 februari 2026 verstrekken. Op 19 november 2026 stonden zij op de pagina van de Commissie nog als ontwerp. Wat die ontwerprichtsnoeren zeggen, leest u in het filter van artikel 6 lid 3.
Is het systeem toch hoog risico, dan eist de toezichthouder dat de aanbieder het in overeenstemming brengt met de verordening en passende corrigerende maatregelen neemt binnen een termijn die de toezichthouder kan voorschrijven (lid 2). Doet de aanbieder dat niet binnen die termijn, dan krijgt hij boetes overeenkomstig artikel 99 (lid 4), en is artikel 79 lid 5 tot en met 9 van toepassing (lid 6), dus de voorlopige maatregelen en de Europese afstemming. Stelt de toezichthouder vast dat de aanbieder het systeem ten onrechte als geen hoog risico heeft ingedeeld "om de toepassing van de vereisten van hoofdstuk III, afdeling 2, te omzeilen", dan krijgt hij ook daarvoor boetes (lid 7). Bij haar controles kan de toezichthouder vooral de informatie in de EU-databank van artikel 71 gebruiken (lid 8).
Het verschil tussen lid 4 en lid 7 is naar onze lezing dit: lid 4 bestraft het niet herstellen na de vaststelling, lid 7 de opzet bij de indeling zelf. Een aanbieder die zijn afweging zorgvuldig en eerlijk documenteert, loopt bij een verkeerde inschatting het risico van lid 2 en lid 4, maar maakt het naar onze lezing moeilijk om aan te nemen dat hij de eisen wilde omzeilen (lid 7). Dat maakt de documentatie van artikel 6 lid 4 in de praktijk tot het belangrijkste stuk in zo een procedure.
Artikel 81: de vrijwaringsprocedure van de Unie
Maakt een toezichthouder van een andere lidstaat binnen drie maanden na de melding van artikel 79 lid 5 bezwaar tegen een nationale maatregel, of binnen dertig dagen bij een verboden praktijk, of vindt de Commissie de maatregel in strijd met het Unierecht, dan treedt de Commissie in overleg met de toezichthouder en de operator en evalueert zij de maatregel (artikel 81 lid 1). Zij besluit binnen zes maanden na de melding, of binnen zestig dagen bij een verboden praktijk, of de maatregel gerechtvaardigd is. Is hij dat, dan nemen alle lidstaten passende beperkende maatregelen; is hij dat niet, dan trekt de lidstaat de maatregel in (lid 2).
Wordt de nationale maatregel gerechtvaardigd geacht en ligt de non-conformiteit aan tekortkomingen in een geharmoniseerde norm of gemeenschappelijke specificatie, dan past de Commissie de procedure van artikel 11 van Verordening (EU) nr. 1025/2012 toe (lid 3). Dat is de procedure voor formele bezwaren tegen een norm. Zo kan een individuele zaak uiteindelijk gevolgen hebben voor de norm zelf. Wat een norm wel en niet bewijst, staat in artikel 40 tot en met 42.
Artikel 82: conform, en toch een risico
Artikel 82 gaat verder dan de rest. Stelt een toezichthouder na een evaluatie onder artikel 79, en na raadpleging van de grondrechteninstantie van artikel 77 lid 1, vast dat een systeem met een hoog risico "weliswaar voldoet aan deze verordening" maar toch een risico inhoudt voor de gezondheid of veiligheid, voor de grondrechten of voor andere aspecten van de bescherming van algemene belangen, dan schrijft zij de operator voor dat hij binnen een termijn die zij kan vaststellen alle passende maatregelen neemt om dat risico weg te nemen (artikel 82 lid 1). De aanbieder of andere operator voert die maatregelen uit voor alle betrokken systemen op de Uniemarkt (lid 2). De lidstaat meldt de vaststelling onmiddellijk aan de Commissie en de andere lidstaten (lid 3); de Commissie overlegt, evalueert en besluit of de maatregel gerechtvaardigd is, en stelt zo nodig andere maatregelen voor (lid 4 en 5).
Drie dingen vallen op. Artikel 82 geldt alleen voor systemen met een hoog risico. Het vraagt een eerdere evaluatie onder artikel 79, dus het systeem moet eerst als risico in beeld zijn gekomen. En het betekent dat naleving van de eisen geen vrijbrief is: wie aan alle eisen voldoet, kan toch maatregelen opgelegd krijgen. Daarom is het vermoeden van conformiteit uit een geharmoniseerde norm ook geen eindpunt.
Wat de Digitale omnibus inzake AI veranderde
Aan artikel 79 tot en met 82 niets. Artikel 1 van Verordening (EU) 2026/1744 noemt deze artikelen niet, en in de geconsolideerde tekst van 27 juli 2026 staan ze als oorspronkelijke tekst. Twee wijzigingen in dezelfde afdeling werken wel door.
- De grondrechteninstanties. Artikel 77 kreeg een nieuwe titel en een nieuw lid 1, en de leden 1 bis en 1 ter werden ingevoegd (artikel 1, punt 34, van Verordening (EU) 2026/1744). Die instanties kunnen informatie en documentatie elektronisch en in een machineleesbaar formaat opvragen bij de markttoezichtautoriteit, die hun toegang verleent en zo nodig de stukken onverwijld bij de aanbieder of gebruiksverantwoordelijke opvraagt; beide werken nauw samen. Omdat artikel 79 lid 2 en artikel 82 lid 1 naar deze instanties verwijzen, wordt hun rol in de procedure daarmee naar onze lezing steviger.
- Het AI-bureau. Het AI-bureau is exclusief bevoegd voor toezicht en handhaving bij AI-systemen die gebaseerd zijn op een AI-model voor algemene doeleinden van dezelfde aanbieder of onderneming, met uitzonderingen onder meer voor bijlage I, voor kritieke infrastructuur en voor systemen van financiële instellingen onder artikel 74 lid 6, en bij systemen die een zeer groot onlineplatform of een zeer grote onlinezoekmachine vormen of daarin zijn geïntegreerd (artikel 75 lid 1, zoals vervangen door artikel 1, punt 31). Voor die systemen heeft het AI-bureau alle bevoegdheden van een markttoezichtautoriteit uit deze afdeling, en kan het ook optreden na een klacht onder artikel 85 (artikel 75 bis lid 1 en 2, ingevoegd door artikel 1, punt 32). Meer daarover in het AI-bureau.
Wie is in Nederland de markttoezichtautoriteit?
Dat ligt nog niet bij wet vast. Het kabinet stelde op 20 april 2026 een stelsel voor waarin bestaande toezichthouders binnen hun eigen domein toezicht houden op AI, met de Autoriteit Persoonsgegevens (AP) waar er geen duidelijke toezichthouder is, en met de AP en de Rijksinspectie Digitale Infrastructuur (RDI) als coördinatoren (Rijksoverheid, 20 april 2026). Het conceptwetsvoorstel Uitvoeringswet AI-verordening lag tot en met 1 juni 2026 in internetconsultatie. Volgens de Planningsbrief Digitale Zaken staat de indiening bij de Tweede Kamer gepland voor het tweede kwartaal van 2027 (Kamerstuk 26643, nr. 1554).
Wat het concept regelt, is relevant voor deze procedure:
- De aanwijzing. Voor hoofdstuk IX, afdeling 1 tot en met 4, en dus ook voor artikel 79 tot en met 82 en de klachten van artikel 85, wijst het concept per gebied van bijlage III een markttoezichtautoriteit aan, voor AI-systemen met een hoog risico als bedoeld in artikel 6 lid 2: de AP voor onder meer punt 5 onder a (overheidsuitkeringen en -diensten), en de Autoriteit Financiële Markten (AFM), De Nederlandsche Bank (DNB) en de AP voor punt 5 onder b en c (kredietwaardigheid en levens- en ziektekostenverzekering), waarbij een ministeriële regeling hun aanwijzing beperkt tot daarbij aan te wijzen categorieën van operatoren (artikel 2.2 lid 1 onder c en lid 2 van het concept).
- De maatregelen. De toezichthouder wordt bevoegd tot de maatregelen van artikel 79 lid 2, 5 en 9, artikel 80 lid 2, artikel 81 lid 2, artikel 82 lid 1 en artikel 83 lid 2, en wie zo een maatregel krijgt, moet zich eraan houden (artikel 3.5 van het concept); daarbij komt een last onder bestuursdwang (artikel 3.6).
- De boetes. Het concept maakt onder meer artikel 79 lid 2, eerste alinea, laatste volzin (de samenwerkingsplicht van de gebruiksverantwoordelijke), artikel 79 lid 4, artikel 80 lid 5 en artikel 82 lid 2 beboetbaar tot het maximum van artikel 99 lid 4 (artikel 3.7 lid 2 onder b van het concept).
Dat is een concept en nog geen wet. Tot de Uitvoeringswet geldt, heeft Nederland geen markttoezichtautoriteiten bij wet aangewezen en ontbreken de nationale bevoegdheden en boeteregels. Alleen bij hoog-risicosystemen van financiële instellingen en bij producten uit bijlage I wijst de AI Act zelf een autoriteit aan (artikel 74 lid 3 en 6). Naar onze lezing kan een nationale procedure onder artikel 79 tot en met 82 daardoor nu vooral bij die autoriteiten op gang komen, naast het AI-bureau waar dat bevoegd is.
Hoofdvoorbeeld: de gemeente en de klacht over het bijstandssysteem
De rollen. Het systeem beoordeelt mee of iemand in aanmerking komt voor bijstand, een essentiële overheidsuitkering; dat valt onder bijlage III punt 5 onder a. Het geeft een score per aanvrager, en dat is naar onze lezing profilering; het systeem is dan altijd hoog risico (slotalinea van artikel 6 lid 3). De leverancier is aanbieder, de gemeente gebruiksverantwoordelijke. Omdat de leverancier het systeem in januari 2028 op de markt bracht, na 2 december 2027, gelden de hoog-risico-eisen volledig en speelt het overgangsrecht van artikel 111 lid 2 niet. Had het systeem al vóór die datum gedraaid, dan golden de eisen pas bij een aanzienlijke wijziging in het ontwerp, en uiterlijk op 2 augustus 2030.
Wat de toezichthouder doet. De klacht geeft naar onze lezing voldoende reden voor een evaluatie onder artikel 79 lid 2: aanvragers met wisselende inkomsten zijn een groep die extra aandacht verdient, en een systematisch hogere score kan een risico voor het recht op non-discriminatie zijn. De toezichthouder toetst het systeem aan alle eisen, zoals de data (artikel 10), de nauwkeurigheid (artikel 15) en het menselijk toezicht (artikel 14), en betrekt de grondrechteninstantie. Ze kan bij de leverancier de documentatie en datasets opvragen (artikel 74 lid 12), en vraagt de gemeente, die moet meewerken, om de logs en de werkinstructie. Stelt zij een tekortkoming vast, dan gelast zij de leverancier het systeem binnen hoogstens 15 werkdagen te corrigeren, na hem eerst te hebben gehoord. Die correctie geldt voor alle gemeenten die het systeem gebruiken (lid 4).
Wat de gemeente zelf moet doen. Naar onze lezing deze vier dingen:
- Meewerken. De gemeente werkt voor zover noodzakelijk samen met de toezichthouder en de grondrechteninstantie (artikel 79 lid 2, eerste alinea). Zij levert de logs die zij bewaart (artikel 26 lid 6), de werkinstructie voor consulenten en de cijfers over hoe vaak consulenten van de score afwijken. In het concept van de Uitvoeringswet is weigeren beboetbaar; of een overheid een boete kan krijgen, bepaalt de lidstaat zelf (artikel 99 lid 8).
- Beoordelen of zij het gebruik onderbreekt. Heeft de gemeente redenen om aan te nemen dat het gebruik volgens de gebruiksaanwijzingen tot een risico in de zin van artikel 79 lid 1 kan leiden, dan informeert zij de leverancier en de toezichthouder en onderbreekt zij het gebruik (artikel 26 lid 5). Naar onze lezing is een onderbouwde klacht met cijfers zo een reden zodra de gemeente die cijfers zelf herkent; zij wacht dan niet op de uitkomst van de evaluatie.
- Kijken naar de besluiten die al genomen zijn. De AI Act zegt niet wat er met eerdere besluiten moet gebeuren; dat is bestuursrecht. Naar onze lezing gaat de gemeente na welke besluiten op een hoge score volgden en of die opnieuw moeten worden bekeken. Een aanvrager kan bovendien uitleg vragen over de rol van het systeem in zijn besluit; zie het recht op uitleg onder artikel 86.
- De AVG-route niet vergeten. De klacht over de AI Act loopt naast de AVG. Een aanvrager die vindt dat de verwerking van zijn persoonsgegevens de AVG schendt, kan een klacht indienen bij de AP als toezichthoudende autoriteit (artikel 77 AVG), en artikel 85 AI Act geldt "onverminderd andere administratieve of gerechtelijke rechtsmiddelen". De DPIA en de grondrechteneffectbeoordeling (artikel 27) zijn in zo een procedure naar onze lezing de eerste stukken die een toezichthouder wil zien; zie de FRIA voor gemeenten.
Als het systeem voldoet en toch een risico vormt. Stel dat de leverancier laat zien dat het systeem binnen de opgegeven nauwkeurigheid blijft en aan alle eisen voldoet, maar dat juist die nauwkeurigheid bij deze groep tot veel onnodige heronderzoeken leidt. Dan kan de toezichthouder, na raadpleging van de grondrechteninstantie, onder artikel 82 lid 1 maatregelen voorschrijven om dat risico weg te nemen, bijvoorbeeld een aanpassing van het model of van de gebruiksaanwijzingen. De Commissie beoordeelt die maatregel daarna (lid 4).
In het contract. Omdat de maatregelen bij de leverancier landen maar het gebruik bij de gemeente, is het naar onze lezing verstandig in het contract vast te leggen dat de leverancier de gemeente onverwijld informeert over een evaluatie, een gelaste maatregel of een voorlopige maatregel, en dat hij meewerkt aan een herbeoordeling van eerdere uitkomsten. Zie AI-inkoopcontracten.
Voorbeeld 2: een bank en een documentcheck die geen hoog risico zou zijn
Stel: het is 2028, dus na 2 december 2027, de datum waarop artikel 6 lid 3 voor bijlage III gaat gelden. Een bank gebruikt bij aanvragen voor consumentenkrediet een systeem van een externe leverancier dat controleert of de aangeleverde stukken compleet en leesbaar zijn. De leverancier heeft het systeem onder artikel 6 lid 3 als geen hoog risico ingedeeld, omdat het een beperkte procedurele taak zou uitvoeren, en het in de EU-databank geregistreerd. In de praktijk geeft het systeem elke aanvraag een label "aandacht nodig", en de acceptatieafdeling wijst aanvragen met dat label vaker af. Een consumentenorganisatie dient een klacht in. Ook dit voorbeeld is verzonnen.
De toezichthouder. Voor systemen met een hoog risico die financiële instellingen gebruiken, is de markttoezichtautoriteit de nationale autoriteit voor het financiële toezicht op die instelling, voor zover het gebruik rechtstreeks verband houdt met de financiële dienst (artikel 74 lid 6); een lidstaat kan in gerechtvaardigde omstandigheden een andere autoriteit aanwijzen (lid 7). Overweging 158 licht dat toe. In het Nederlandse concept zijn voor bijlage III punt 5 onder b de AFM, DNB en de AP aangewezen. Het AI-bureau speelt hier naar onze lezing geen rol: zijn exclusieve bevoegdheid onder artikel 75 lid 1 geldt voor systemen op basis van een AI-model voor algemene doeleinden van dezelfde aanbieder of onderneming en voor zeer grote onlineplatforms en zoekmachines, en daarvan is in dit voorbeeld geen sprake. Ook bij een systeem op basis van zo een model zondert artikel 75 lid 1 onder a, punt iii, AI-systemen uit die door financiële instellingen worden aangeboden, voor zover die onder artikel 74 lid 6 vallen.
De procedure. Naar onze lezing heeft de toezichthouder voldoende reden voor een toetsing onder artikel 80 lid 1: een label dat de uitkomst van de kredietbeslissing beïnvloedt, is moeilijk te rijmen met een beperkte procedurele taak, en rangschikt het systeem aanvragers op hun persoonlijke kenmerken, dan is het profilering en altijd hoog risico. Kredietwaardigheid valt onder bijlage III punt 5 onder b. De toezichthouder vergelijkt de documentatie van artikel 6 lid 4 met de registratie in de EU-databank (artikel 80 lid 8) en met hoe het systeem werkelijk wordt gebruikt. Is het systeem hoog risico, dan moet de leverancier het binnen de gestelde termijn aan alle eisen laten voldoen (lid 2), met de boetes van lid 4 als dat niet lukt. Blijkt de indeling bedoeld om de eisen te omzeilen, dan volgen boetes onder lid 7.
Wat de bank doet. De procedure richt zich op de leverancier, maar de bank draagt de gevolgen. Wordt het systeem hoog risico, dan heeft de bank als gebruiksverantwoordelijke de plichten van artikel 26, en doet zij een grondrechteneffectbeoordeling (artikel 27 lid 1). Naar onze lezing vraagt de bank bij elk systeem dat zij onder artikel 6 lid 3 als geen hoog risico krijgt aangeboden, om de documentatie van artikel 6 lid 4, en toetst zij die aan het eigen gebruik. Gebruikt de bank het label anders dan de leverancier bedoelde, dan kan zij bovendien zelf aanbieder worden als zij het beoogde doel zo wijzigt dat het systeem een AI-systeem met een hoog risico wordt (artikel 25 lid 1 onder c). Zie ook AI bij kredietbeslissingen.
Vanaf wanneer?
Artikel 79 tot en met 82 staan in hoofdstuk IX. Zij vallen niet onder de uitzonderingen in de derde alinea van artikel 113 (uit hoofdstuk IX staat daar alleen artikel 78, dat sinds 2 augustus 2025 geldt), en zijn dus van toepassing sinds 2 augustus 2026, de algemene datum van de tweede alinea. Dat zegt nog niet waaraan een toezichthouder kan toetsen:
- Verboden praktijken en artikel 50. Artikel 5 geldt sinds 2 februari 2025, met uitzondering van de verboden in artikel 5 lid 1, eerste alinea, onder b bis en b ter, en lid 1 bis en 1 ter, die vanaf 2 december 2026 gelden (artikel 113, derde alinea, onder a, zoals vervangen door de Omnibus). Artikel 50 geldt sinds 2 augustus 2026; aanbieders van systemen die synthetische inhoud genereren en vóór 2 augustus 2026 in de handel zijn gebracht, hebben voor artikel 50 lid 2 tot 2 december 2026 (artikel 111 lid 4). Bij die bepalingen kan de procedure van artikel 79 dus nu al lopen, met de kortere termijnen van dertig dagen en zestig dagen bij een verboden praktijk.
- Systemen met een hoog risico. De eisen van hoofdstuk III, afdeling 1 tot en met 3, gelden vanaf 2 december 2027 voor systemen via artikel 6 lid 2 en bijlage III, en vanaf 2 augustus 2028 voor systemen via artikel 6 lid 1 en bijlage I (artikel 113, derde alinea, punt c, zoals vervangen door artikel 1, punt 40, van Verordening (EU) 2026/1744). Pas vanaf die datums kan een evaluatie onder artikel 79 aan die eisen toetsen, kan artikel 80 een indeling onder artikel 6 lid 3 toetsen en kan artikel 82 spelen. Voor systemen die al vóór die datum op de markt of in gebruik waren, geldt artikel 111 lid 2.
- In Nederland. Tot de Uitvoeringswet geldt, heeft Nederland geen markttoezichtautoriteiten bij wet aangewezen en ontbreken de nationale bevoegdheden en boeteregels. Alleen bij hoog-risicosystemen van financiële instellingen en bij producten uit bijlage I wijst de AI Act zelf een autoriteit aan (artikel 74 lid 3 en 6); daarnaast is het AI-bureau bevoegd voor de systemen van artikel 75 lid 1.
Wat u nu doet
Als gebruiksverantwoordelijke, zoals een gemeente:
- Leg vast wanneer iets een risico in de zin van artikel 79 lid 1 is, wie dat besluit en wie dan de aanbieder en de toezichthouder informeert (artikel 26 lid 5).
- Houd de stukken klaar die een toezichthouder vraagt: logs, werkinstructies, cijfers over afwijkingen van de uitkomst, de DPIA en de grondrechteneffectbeoordeling.
- Regel in het contract dat de leverancier u informeert over evaluaties en maatregelen en meewerkt aan een herbeoordeling.
- Richt een route in voor klachten en vragen van inwoners, ook voor uitleg onder artikel 86, zodat een signaal bij u binnenkomt voordat het bij de toezichthouder ligt.
Als aanbieder:
- Documenteer een indeling als geen hoog risico zorgvuldig (artikel 6 lid 4) en houd de registratie in de EU-databank in lijn met het werkelijke gebruik; dat is uw verdediging onder artikel 80.
- Zorg dat u binnen 15 werkdagen kunt corrigeren, voor alle klanten in de Unie (artikel 79 lid 2 en 4). Weet welke versie waar draait.
- Leg vast hoe u een gehoor gebruikt (artikel 18 van Verordening (EU) 2019/1020): wie de reactie schrijft en met welke stukken.
- Ga er niet van uit dat naleving het einde is. Artikel 82 maakt maatregelen mogelijk bij een conform systeem dat toch een risico vormt; monitoring na het in de handel brengen (artikel 72) is de manier om dat eerder te zien dan de toezichthouder.
Wilt u weten welke AI Act- en AVG-plichten bij uw toepassing in beeld komen en welke rol u hebt? Met de casus-check beschrijft u de toepassing in een paar vragen.
Veelgestelde vragen over AI-systemen die een risico vormen
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven