Wie een AI-systeem met een hoog risico bouwt of gebruikt, krijgt vroeg of laat een brief van een toezichthouder. Vier artikelen bepalen wat die brief mag vragen. Artikel 74 regelt wie markttoezicht houdt en met welke bevoegdheden, tot en met de trainingsdata en de broncode. Artikel 77 geeft autoriteiten die grondrechten beschermen, zoals een gelijkebehandelingsorgaan, toegang tot documentatie en een recht om een systeem te laten testen. Artikel 78 legt vast hoe al die autoriteiten met de verkregen informatie omgaan. En artikel 85 geeft iedereen het recht om een klacht in te dienen.
Stel: het is voorjaar 2028. Een gemeente gebruikt een systeem dat bij elke aanvraag voor bijstand een score geeft voor de kans dat een heronderzoek nodig is; een consulent beslist. De leverancier bracht het systeem in januari 2028 op de markt. Een inwoner wiens aanvraag na een hoge score langer duurde, dient een klacht in bij de markttoezichtautoriteit. Een maand later krijgt de gemeente een brief: de toezichthouder vraagt de logs, de werkinstructie voor consulenten en de grondrechteneffectbeoordeling, en meldt dat ook het College voor de Rechten van de Mens om stukken heeft gevraagd. De privacyjurist van de gemeente wil weten wat zij moet leveren, wat zij mag weigeren en wat er met de stukken gebeurt. Het voorbeeld is verzonnen.
In het kort
Verordening (EU) 2019/1020 over markttoezicht geldt voor AI-systemen; elke operator, ook een gebruiksverantwoordelijke, is daarbij een marktdeelnemer (artikel 74 lid 1). De markttoezichtautoriteit kan dus documenten en informatie opvragen, inspecteren en, ook onder een valse identiteit, een systeem verkrijgen, en sommige bevoegdheden op afstand gebruiken (lid 5). Aanbieders van AI-systemen met een hoog risico geven haar volledige toegang tot de documentatie en tot de datasets voor trainen, valideren en testen, voor zover dat nodig is (lid 12). De broncode alleen op een met redenen omkleed verzoek, als die nodig is om de eisen van hoofdstuk III, afdeling 2, te toetsen en de tests en audits op basis van de gegevens van de aanbieder zijn uitgeput of ontoereikend gebleken (lid 13). Voor AI-systemen met een hoog risico van financiële instellingen is, voor zover het gebruik rechtstreeks verband houdt met de financiële dienst, de financiële toezichthouder de markttoezichtautoriteit (lid 6). Autoriteiten die grondrechten beschermen, vragen informatie en documentatie sinds de Digitale omnibus inzake AI op bij de markttoezichtautoriteit, die hun toegang verleent en de stukken zo nodig onverwijld bij de aanbieder of gebruiksverantwoordelijke opvraagt; zij kunnen ook vragen het systeem te testen (artikel 77). Alle betrokken autoriteiten houden de informatie vertrouwelijk, vragen alleen wat strikt noodzakelijk is en wissen het als het niet meer nodig is (artikel 78). Iedereen die meent dat de AI Act is geschonden, kan een klacht indienen bij de relevante markttoezichtautoriteit (artikel 85). Artikel 74, 77 en 85 gelden sinds 2 augustus 2026, artikel 78 sinds 2 augustus 2025. Nederland heeft de markttoezichtautoriteiten nog niet bij wet aangewezen; de grondrechtenautoriteiten staan op een voorlopige lijst van 19 november 2024.
Dit stuk gaat over de bevoegdheden en over wat u ermee doet. Wat er gebeurt als de toezichthouder vindt dat een systeem een risico vormt, staat in artikel 79 tot en met 82. Wanneer het AI-bureau in Brussel de toezichthouder is, leest u in het AI-bureau. Het recht van een inwoner op uitleg over een besluit staat in artikel 86. Een overzicht van het Nederlandse toezicht vindt u in wie gaat er toezicht houden.
Wie is de markttoezichtautoriteit?
Een markttoezichtautoriteit is de nationale autoriteit die de activiteiten verricht en maatregelen neemt van Verordening (EU) 2019/1020 (artikel 3, punt 26). In de regel wijst de lidstaat haar aan (artikel 70 lid 1). Voor een aantal gevallen wijst artikel 74 zelf de autoriteit aan, of legt het de keuze vast:
| Situatie | Markttoezichtautoriteit volgens de AI Act | Lid |
|---|---|---|
| AI-systemen met een hoog risico bij producten uit bijlage I, afdeling A | De autoriteit die markttoezicht houdt onder die productwetgeving; de lidstaat kan in passende omstandigheden een andere aanwijzen, met coördinatie | 3 |
| AI-systemen met een hoog risico van financiële instellingen, voor zover het gebruik rechtstreeks verband houdt met de financiële dienst | De nationale autoriteit voor het financiële toezicht op die instellingen; de lidstaat kan in gerechtvaardigde omstandigheden een andere aanwijzen, met coördinatie | 6 en 7 |
| Bijlage III punt 1 (biometrie) bij gebruik voor rechtshandhaving, grenstoezicht, rechtsbedeling en democratie, en bijlage III punt 6, 7 en 8 | De toezichthouder voor gegevensbescherming onder Verordening (EU) 2016/679 of Richtlijn (EU) 2016/680, of een andere autoriteit die onder dezelfde voorwaarden van de artikelen 41 tot en met 44 van die richtlijn is aangewezen | 8 |
| Instellingen, organen en instanties van de Unie | De Europese Toezichthouder voor gegevensbescherming, behalve voor het Hof van Justitie in zijn rechterlijke hoedanigheid | 9 |
| Alle andere gevallen, zoals bijlage III punt 5 onder a (overheidsuitkeringen en -diensten) | De autoriteit die de lidstaat aanwijst | Artikel 70 lid 1 |
Twee bijzonderheden horen bij lid 7 en lid 8. Een toezichthouder op banken die deelneemt aan het gemeenschappelijk toezichtsmechanisme, meldt de Europese Centrale Bank onverwijld alle informatie uit het markttoezicht die van belang kan zijn voor het prudentiële toezicht van de ECB (lid 7, tweede alinea). En het markttoezicht mag geen afbreuk doen aan de onafhankelijkheid van rechterlijke instanties wanneer die rechtspreken (lid 8, slotzin). Het AI-bureau is exclusief bevoegd voor AI-systemen die gebaseerd zijn op een AI-model voor algemene doeleinden van dezelfde aanbieder of onderneming, met uitzonderingen die alleen voor die systemen gelden, onder meer voor financiële instellingen onder lid 6, en voor AI-systemen die een zeer groot onlineplatform of een zeer grote onlinezoekmachine vormen of daarin zijn geïntegreerd. Die exclusieve bevoegdheid geldt voor de aanbieders van die systemen, en voor gebruiksverantwoordelijken alleen als zij ook aanbieder zijn of tot dezelfde onderneming behoren (artikel 75 lid 1).
In Nederland. Bij wet is nog geen markttoezichtautoriteit aangewezen. Het conceptwetsvoorstel Uitvoeringswet AI-verordening lag tot en met 1 juni 2026 in internetconsultatie; de indiening bij de Tweede Kamer is gepland voor het tweede kwartaal van 2027 (Kamerstuk 26643, nr. 1554). Voor systemen met een hoog risico uit bijlage III wijst het concept onder meer aan: de Autoriteit Persoonsgegevens (AP) voor bijlage III punt 1, 3, 4, 5 onder a en d, 6, 7 en 8 onder b; de Autoriteit Financiële Markten (AFM), De Nederlandsche Bank (DNB) en de AP voor punt 5 onder b en c, met een ministeriële regeling die per toezichthouder de categorieën operatoren afbakent; en voor AI-systemen van de rechtspraak de procureur-generaal bij de Hoge Raad of de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State (artikel 2.2 lid 1 onder c en lid 2 van het concept). Volgens de ontwerp-memorie van toelichting worden de AFM en DNB toezichthouder voor de financiële instellingen waarop zij nu al toezien, en de AP voor aanbieders en gebruiksverantwoordelijken die geen financiële instelling zijn. Dat is een concept en nog geen wet. Tot de Uitvoeringswet geldt, wijst alleen de AI Act zelf een autoriteit aan (lid 3, 6 en 9), maar ontbreken de nationale bevoegdheden en boeteregels; bij lid 6 bepaalt de AI Act bovendien niet of dat de AFM of DNB is. Overweging 158 spreekt van de financiële toezichthouders "binnen hun respectieve bevoegdheden".
Artikel 74: wat de markttoezichtautoriteit mag
De bevoegdheden van Verordening (EU) 2019/1020. Artikel 74 lid 1 verklaart die verordening van toepassing op AI-systemen. Verwijzingen naar een marktdeelnemer gelden voor alle operatoren van artikel 2 lid 1, en verwijzingen naar een product voor alle AI-systemen binnen de reikwijdte. Een operator is een aanbieder, productfabrikant, gebruiksverantwoordelijke, gemachtigde, importeur of distributeur (artikel 3, punt 8). Artikel 14 lid 4 van Verordening (EU) 2019/1020 noemt de bevoegdheden die de lidstaat zijn markttoezichtautoriteit ten minste moet verlenen (artikel 14 lid 1 van die verordening): marktdeelnemers gelasten relevante documenten, technische specificaties, gegevens of informatie over de conformiteit en technische aspecten te verstrekken (onder a), onaangekondigd inspecties ter plaatse en fysieke controles verrichten (onder d), bedrijfsruimten betreden (onder e), op eigen initiatief onderzoeken instellen (onder f) en, ook onder een valse identiteit, productmonsters verkrijgen en onderzoeken (onder j). In Nederland regelt het concept van de Uitvoeringswet dat in artikel 3.1 tot en met 3.3, naast de bevoegdheden van de Algemene wet bestuursrecht. Een gemeente die een systeem gebruikt, valt daar dus ook onder, en niet alleen de leverancier.
Op afstand. De toezichthouder kan de bevoegdheden onder d en j, de inspecties en het verkrijgen van monsters, ook op afstand uitoefenen (artikel 74 lid 5). Bij een systeem dat in de cloud draait, is dat naar verwachting een gangbare route.
Volledige toegang tot documentatie en datasets. Aanbieders verlenen de markttoezichtautoriteit volledige toegang tot de documentatie en tot de datasets voor het trainen, valideren en testen die zijn gebruikt voor de ontwikkeling van AI-systemen met een hoog risico, in voorkomend geval en met beveiligingswaarborgen via API's of andere technische middelen voor toegang op afstand (lid 12). Drie begrenzingen staan in de tekst zelf: de plicht rust op de aanbieder, zij geldt alleen bij systemen met een hoog risico, en de toegang is er "voor zover relevant en beperkt tot wat nodig is" voor de taken van de toezichthouder. Volgens de ontwerp-memorie van toelichting kan die toegang in voorkomende gevallen ook persoonsgegevens omvatten, waaronder bijzondere en strafrechtelijke persoonsgegevens (paragraaf 4.5.2.1). Daarnaast verstrekt de aanbieder op een met redenen omkleed verzoek alle informatie en documentatie die nodig is om de overeenstemming met afdeling 2 aan te tonen, en toegang tot de logs die onder zijn controle vallen (artikel 21 lid 1 en 2).
De broncode. Toegang tot de broncode krijgt de toezichthouder alleen op een met redenen omkleed verzoek en alleen als beide voorwaarden gelden (lid 13):
- de toegang is noodzakelijk om te beoordelen of het systeem overeenstemt met de eisen van hoofdstuk III, afdeling 2; en
- de test- of auditprocedures en verificaties op basis van de gegevens en documentatie van de aanbieder zijn uitgeput of ontoereikend gebleken.
De broncode is dus de laatste stap, niet de eerste. Een aanbieder die zijn documentatie, datasets en testtoegang op orde heeft, maakt het naar onze lezing moeilijk om aan de tweede voorwaarde te voldoen.
De rest van artikel 74. Toezichthouders brengen jaarlijks verslag uit aan de Commissie en de mededingingsautoriteiten over informatie die voor het mededingingsrecht van belang kan zijn, en aan de Commissie over het gebruik van verboden praktijken en de genomen maatregelen (lid 2). De procedures van artikel 79 tot en met 83 gelden niet voor producten uit bijlage I, afdeling A, als de productwetgeving al gelijkwaardige procedures kent (lid 4). Lidstaten faciliteren de coördinatie tussen de toezichthouders op de AI Act en andere relevante toezichthouders (lid 10). Toezichthouders en de Commissie kunnen gezamenlijke activiteiten en onderzoeken voorstellen bij systemen met een hoog risico die in twee of meer lidstaten een ernstig risico blijken te vormen, met coördinerende ondersteuning van het AI-bureau (lid 11). En alles wat de toezichthouder verkrijgt, valt onder artikel 78 (lid 14).
| Bevoegdheid | Tegenover wie | Bron |
|---|---|---|
| Documenten, specificaties, gegevens en informatie opvragen | Elke operator, ook de gebruiksverantwoordelijke | Artikel 74 lid 1; artikel 14 lid 4 onder a Verordening (EU) 2019/1020 |
| Inspecties en monsters, ook op afstand en onder valse identiteit | Elke operator | Artikel 74 lid 5; artikel 14 lid 4 onder d en j Verordening (EU) 2019/1020 |
| Volledige toegang tot documentatie en datasets, ook via API | Aanbieder van een systeem met een hoog risico | Artikel 74 lid 12 |
| Informatie, documentatie en logs op verzoek | Aanbieder van een systeem met een hoog risico | Artikel 21 |
| Broncode, onder twee voorwaarden | Aanbieder van een systeem met een hoog risico | Artikel 74 lid 13 |
| Medewerking bij maatregelen | Gebruiksverantwoordelijke van een systeem met een hoog risico | Artikel 26 lid 12 |
Wie op zo een verzoek onjuiste, onvolledige of misleidende informatie geeft aan een nationale bevoegde autoriteit, riskeert een boete tot 7,5 miljoen euro of, voor een onderneming, 1 procent van de wereldwijde jaaromzet als dat hoger is (artikel 99 lid 5); voor kmo's en, sinds de Digitale omnibus inzake AI, kleine midcapondernemingen geldt het lagere van beide (artikel 99 lid 6 en lid 6 bis). Of een overheidsorgaan een boete kan krijgen, bepaalt de lidstaat (artikel 99 lid 8); volgens de ontwerp-memorie van toelichting sluit het concept dat niet uit.
Artikel 77: autoriteiten die grondrechten beschermen
Wie het zijn. Het gaat om nationale overheidsinstanties of -organen die de nakoming van Unierecht ter bescherming van de grondrechten controleren of handhaven, waaronder het recht op non-discriminatie (artikel 77 lid 1). Elke lidstaat moest die instanties uiterlijk op 2 november 2024 vaststellen en de lijst openbaar maken, en houdt de lijst bij (lid 2). Als grondrechtenautoriteit zijn zij geen markttoezichtautoriteit: zij houden toezicht op hun eigen wetgeving, en de AI Act geeft hun toegang tot wat onder de AI Act wordt vastgelegd. Overweging 157 zegt dat de verordening hun bekwaamheid, taken, bevoegdheden en onafhankelijkheid onverlet laat, en noemt instanties voor gelijke behandeling en gegevensbeschermingsautoriteiten als voorbeeld.
De Nederlandse lijst. Nederland stelde op 19 november 2024 een voorlopige lijst vast:
- voor de grondrechten in brede zin: het College voor de Rechten van de Mens, als nationaal instituut voor de rechten van de mens en als gelijkebehandelingsorgaan;
- voor het gegevensbeschermingsrecht (AVG en Richtlijn (EU) 2016/680): de AP;
- voor het toezicht in het kader van de uitoefening van gerechtelijke taken: de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State, en de gerechtsbesturen van de Centrale Raad van Beroep en het College van Beroep voor het bedrijfsleven.
Volgens de Kamerbrief van dezelfde dag (Kamerstuk 22112, nr. 3979) is de lijst een "levend document" en wordt nog onderzocht of andere autoriteiten moeten worden toegevoegd. Een latere versie hebben wij op 19 november 2026 niet gevonden. Het concept van de Uitvoeringswet maakt de minister van Binnenlandse Zaken en Koninkrijksrelaties verantwoordelijk voor de lijst (artikel 2.4 van het concept). De AP heeft daardoor, als het concept wet wordt, twee rollen: grondrechtenautoriteit en, voor onder meer overheidsuitkeringen en biometrie, markttoezichtautoriteit.
Wat zij mogen. Sinds de Digitale omnibus inzake AI luidt artikel 77:
- Opvragen via de markttoezichtautoriteit. De instanties zijn bevoegd om informatie of documentatie die onder de AI Act is opgesteld of bijgehouden, in een toegankelijke taal en een machineleesbaar formaat, elektronisch op te vragen en in te zien bij de relevante markttoezichtautoriteit, als dat nodig is voor het doeltreffend uitoefenen van hun mandaat binnen hun rechtsgebied (lid 1).
- De markttoezichtautoriteit verleent toegang. Zij geeft de instantie toegang, en vraagt de stukken zo nodig onverwijld op bij de aanbieder of de gebruiksverantwoordelijke (lid 1 bis).
- Samenwerking. Beide werken nauw samen en verlenen elkaar wederzijdse bijstand, onder meer door informatie uit te wisselen (lid 1 ter).
- Testen. Is de documentatie onvoldoende om vast te stellen of grondrechten zijn geschonden, dan kan de instantie de markttoezichtautoriteit met een met redenen omkleed verzoek vragen het systeem met een hoog risico met technische middelen te testen. De toezichthouder organiseert die test binnen een redelijke termijn, met nauwe betrokkenheid van de instantie (lid 3).
- Vertrouwelijk. Wat de instantie zo verkrijgt, valt onder artikel 78 (lid 4).
De instanties hebben daarnaast een rol in andere procedures. Na een melding van een ernstig incident dat een inbreuk op grondrechten inhoudt, informeert de markttoezichtautoriteit hen (artikel 73 lid 7). Stelt zij bij een systeem dat een risico vormt risico's voor de grondrechten vast, dan informeert zij hen en werkt zij volledig met hen samen (artikel 79 lid 2). En voordat zij ingrijpt bij een systeem dat aan de verordening voldoet maar toch een risico vormt, raadpleegt zij hen (artikel 82 lid 1).
Artikel 78: vertrouwelijkheid
De Commissie, de markttoezichtautoriteiten, de aangemelde instanties en alle andere natuurlijke of rechtspersonen die bij de toepassing van de AI Act betrokken zijn, eerbiedigen de vertrouwelijke aard van informatie en gegevens die zij bij hun taken verkrijgen, met name ter bescherming van (artikel 78 lid 1):
- intellectuele-eigendomsrechten, vertrouwelijke bedrijfsinformatie en bedrijfsgeheimen, waaronder de broncode, uitgezonderd de gevallen van artikel 5 van Richtlijn (EU) 2016/943 (onder a);
- de doeltreffende uitvoering van de verordening, met name bij inspecties, onderzoeken of audits (onder b);
- publieke en nationale veiligheidsbelangen (onder c);
- het voeren van strafrechtelijke of administratieve procedures (onder d);
- gerubriceerde informatie (onder e).
Lid 2 is voor wie stukken moet aanleveren het belangrijkste. De autoriteiten verzoeken alleen om gegevens die strikt noodzakelijk zijn om het risico van AI-systemen te beoordelen en hun bevoegdheden uit te oefenen, nemen passende cyberbeveiligingsmaatregelen, en wissen de verzamelde gegevens zodra die niet meer nodig zijn voor het doel waarvoor zij zijn verkregen. Dat is naar onze lezing een eigen toets naast de AVG: ook een verzoek om bedrijfsgegevens zonder persoonsgegevens moet strikt noodzakelijk zijn.
Lid 3 bevat de regels voor rechtshandhaving, grenstoezicht, migratie en asiel. Informatie die bevoegde autoriteiten vertrouwelijk uitwisselen, wordt niet openbaar gemaakt zonder voorafgaand overleg met de autoriteit waarvan zij komt en met de gebruiksverantwoordelijke, als systemen uit bijlage III punt 1, 6 of 7 worden gebruikt door die diensten en openbaarmaking de openbare en nationale veiligheid in gevaar zou brengen. Zijn rechtshandhavingsinstanties of immigratie- of asielautoriteiten zelf aanbieder van zo een systeem, dan blijft de technische documentatie van bijlage IV in hun gebouwen. Zij zorgen dat de markttoezichtautoriteit van artikel 74 lid 8 en 9 op verzoek onmiddellijk toegang krijgt of een kopie ontvangt, en alleen medewerkers van de toezichthouder met een passende veiligheidsmachtiging mogen de documentatie inzien. Lid 4 laat de uitwisseling van informatie en waarschuwingen tussen autoriteiten en de plichten onder het strafrecht onverlet, en lid 5 maakt uitwisseling met toezichthouders in derde landen mogelijk als er een vertrouwelijkheidsovereenkomst is. Overweging 167 legt het doel uit: een betrouwbare en constructieve samenwerking tussen autoriteiten.
Naar onze lezing is artikel 78 geen weigeringsgrond voor de aanbieder of gebruiksverantwoordelijke. Het begrenst wat de autoriteiten vragen en wat zij met de stukken doen; een bedrijfsgeheim is geen reden om documentatie of datasets niet te geven. Wat wel helpt, is bij het aanleveren aangeven welke delen vertrouwelijke bedrijfsinformatie of bedrijfsgeheimen bevatten, zodat de autoriteit weet wat zij onder lid 1 onder a moet beschermen.
Artikel 85: het recht om een klacht in te dienen
Onverminderd andere administratieve of gerechtelijke rechtsmiddelen kan elke natuurlijke of rechtspersoon die redenen heeft om aan te nemen dat de AI Act is geschonden, een klacht indienen bij de relevante markttoezichtautoriteit. Volgens Verordening (EU) 2019/1020 worden zulke klachten meegenomen in het markttoezicht, en behandeld volgens de procedures die de toezichthouders daarvoor vaststellen (artikel 85). Die verordening verplicht toezichthouders zulke procedures vast te stellen en klachten mee te wegen bij de keuze welke controles zij doen (artikel 11 lid 3 en lid 7 onder a van Verordening (EU) 2019/1020). Overweging 170 spreekt van een "met redenen omklede" klacht.
Het recht is breed en tegelijk dun. Breed, omdat iedereen kan klagen: een inwoner, een belangenorganisatie, een concurrent of een vakbond, en niet alleen wie persoonsgegevens heeft laten verwerken. Dun, omdat de AI Act de klager geen recht op een onderzoek, op een uitkomst of op terugkoppeling geeft. Dat verschilt van een klacht onder de AVG:
| Artikel 85 AI Act | Artikel 77 AVG | |
|---|---|---|
| Wie | Elke natuurlijke of rechtspersoon | De betrokkene van wie persoonsgegevens worden verwerkt |
| Waarover | Elke vermeende inbreuk op de AI Act | Een verwerking van de eigen persoonsgegevens die de AVG schendt |
| Bij wie | De relevante markttoezichtautoriteit | Een toezichthoudende autoriteit, zoals de AP |
| Wat de klager terugkrijgt | De AI Act regelt geen terugkoppeling; de klacht gaat het markttoezicht in | Informatie over voortgang en resultaat, en een rechtsmiddel tegen de toezichthouder (artikel 77 lid 2 en artikel 78 AVG) |
Hoe het in Nederland uitwerkt. Volgens de ontwerp-memorie van toelichting werkt artikel 85 rechtstreeks en is er geen uitvoeringsregel nodig. Een klacht onder artikel 85 is iets anders dan een klacht in de zin van de Algemene wet bestuursrecht, die over het gedrag van een bestuursorgaan gaat. Afhankelijk van de inhoud kan de klacht wel een verzoek om handhaving zijn, als zij concreet genoeg is en de indiener belanghebbende is; dan geldt een beginselplicht tot handhaving met herstelsancties, is de schriftelijke reactie van de toezichthouder een besluit en staan bezwaar en beroep open (paragraaf 4.5.5.2 van de ontwerp-memorie). Voor klachten over AI in de rechtspraak stelt het concept een eigen route voor via de procureur-generaal bij de Hoge Raad (artikel 8.7 van het concept). Ook dit is een concept en nog geen wet. Wie de relevante markttoezichtautoriteit is, staat in Nederland dus nog niet vast, behalve in de gevallen waarin de AI Act haar zelf aanwijst.
Wat de Digitale omnibus inzake AI veranderde
Verordening (EU) 2026/1744, in werking sinds 27 juli 2026, wijzigde van deze vier artikelen alleen artikel 77 (artikel 1, punt 34). Artikel 74, 78 en 85 staan in de geconsolideerde tekst van 27 juli 2026 als oorspronkelijke tekst. De wijziging van artikel 77:
- De titel werd "Bevoegdheden van de autoriteiten voor de bescherming van de grondrechten en samenwerking met markttoezichtautoriteiten".
- De route. In de oorspronkelijke tekst vroeg de instantie de documentatie zelf op en stelde zij de markttoezichtautoriteit daarvan in kennis. Nu loopt het verzoek via de markttoezichtautoriteit, die toegang verleent en zo nodig de stukken onverwijld opvraagt (lid 1 en 1 bis).
- De reikwijdte. De oorspronkelijke tekst beperkte de kring van instanties tot wie toezicht houdt op het gebruik van systemen met een hoog risico uit bijlage III, en sprak van "documentatie". Die beperking verviel; daardoor vallen meer instanties onder artikel 77. De nieuwe tekst spreekt van informatie of documentatie die onder de verordening is opgesteld of bijgehouden, en voegt toe dat het elektronisch en machineleesbaar moet. Naar onze lezing kunnen de instanties daardoor ook stukken over andere systemen vragen, zoals de documentatie van een aanbieder die zijn systeem onder artikel 6 lid 3 niet als hoog risico indeelde. Het testverzoek van lid 3 blijft beperkt tot systemen met een hoog risico.
- Samenwerking in beide richtingen werd een plicht (lid 1 ter).
Volgens overweging 36 van de Omnibus houdt artikel 77 geen beperking in van de bevoegdheden die deze instanties op grond van ander Unie- of nationaal recht hebben: zij kunnen op grond van hun eigen mandaat nog steeds rechtstreeks informatie bij operatoren opvragen. Voor de AP betekent dat: onder de AVG kan zij een verwerkingsverantwoordelijke zelf gelasten informatie te verstrekken (artikel 58 lid 1 onder a AVG); de route via de markttoezichtautoriteit is er voor wat onder de AI Act is vastgelegd.
Eén andere wijziging raakt artikel 74 en 85 indirect. Het AI-bureau kan voor de systemen waarvoor het exclusief bevoegd is, de bevoegdheden van artikel 74 lid 12 en 13 uitoefenen bij eenvoudig verzoek of bij besluit, en kan optreden naar aanleiding van een klacht onder artikel 85 (artikel 75 bis lid 2 en 3, ingevoegd door artikel 1, punt 32).
Hoofdvoorbeeld: de gemeente, de brief en de klacht
De rollen. Het systeem beoordeelt mee of iemand in aanmerking komt voor bijstand; dat valt onder bijlage III punt 5 onder a. Omdat het elke aanvrager een score geeft, is dat naar onze lezing profilering, en dan is het systeem altijd hoog risico (slotalinea van artikel 6 lid 3). De leverancier is aanbieder, de gemeente gebruiksverantwoordelijke. Omdat het systeem in januari 2028 op de markt kwam, gelden de hoog-risico-eisen volledig. Voor punt 5 onder a wijst de AI Act zelf geen toezichthouder aan; in het concept is dat de AP.
Wat de gemeente moet leveren. De verplichtingen van artikel 74 lid 12 en 13 rusten op de leverancier, niet op de gemeente. Toch moet de gemeente meewerken. De toezichthouder kan haar als operator gelasten documenten en informatie te verstrekken (artikel 74 lid 1 met artikel 14 lid 4 onder a van Verordening (EU) 2019/1020), en als gebruiksverantwoordelijke werkt zij samen bij de maatregelen van de toezichthouder (artikel 26 lid 12). De gevraagde stukken liggen bij haar: de logs die zij bewaart (artikel 26 lid 6), de werkinstructie voor consulenten, en de grondrechteneffectbeoordeling, waarvan zij de resultaten al aan de markttoezichtautoriteit moest melden (artikel 27 lid 3). Naar onze lezing is ook de DPIA een stuk dat de toezichthouder zal willen zien, al is die onder de AVG opgesteld en niet onder de AI Act.
Wat de gemeente mag vragen. Naar onze lezing mag de gemeente bij een ruim verzoek vragen om welk doel en welke bepaling het gaat, en voorstellen de logs eerst gepseudonimiseerd of als steekproef te leveren als dat voor de beoordeling volstaat; artikel 78 lid 2 verplicht de toezichthouder alleen strikt noodzakelijke gegevens te vragen. Weigeren omdat er persoonsgegevens in staan, kan naar onze lezing niet: de toezichthouder mag die gegevens verwerken voor zover nodig, en volgens de ontwerp-memorie is de verwerking van bijzondere persoonsgegevens daarbij gerechtvaardigd op grond van artikel 9 lid 2 onder g AVG (paragraaf 4.5.2.1). Artikel 78 lid 2 bindt wel de toezichthouder, niet de gemeente, en bij een klacht van een herkenbare inwoner volstaan gepseudonimiseerde logs vaak niet. Blijft de toezichthouder bij het volledige verzoek, dan levert de gemeente tijdig en volledig; vertraging of een onvolledige levering riskeert de boete van artikel 99 lid 5. De grondslag voor die levering is de wettelijke plicht (artikel 6 lid 1 onder c AVG), voor bijzondere persoonsgegevens met artikel 9 lid 2 onder g AVG. De gemeente legt vast wat zij heeft geleverd, aan wie en waarom, en markeert vertrouwelijke onderdelen, zoals de technische informatie van de leverancier.
Het verzoek van het College voor de Rechten van de Mens. Het College staat als grondrechtenautoriteit op de Nederlandse lijst. Het kan de onder de AI Act opgestelde stukken via de markttoezichtautoriteit opvragen, die ze zo nodig onverwijld bij de gemeente of de leverancier opvraagt (artikel 77 lid 1 en 1 bis). Het kan ook zelf inlichtingen en bescheiden bij de gemeente vorderen die het voor zijn taak redelijkerwijs nodig heeft, en iedereen moet die volledig en naar waarheid verstrekken (artikel 6 van de Wet College voor de rechten van de mens); artikel 77 lid 1, tweede volzin, en overweging 36 van de Omnibus laten die eigen bevoegdheid intact. De gemeente kan de vraag dus langs beide wegen krijgen. Daarnaast werkt zij, als de toezichthouder een systeem evalueert dat een risico vormt, voor zover noodzakelijk samen met de markttoezichtautoriteit en met de grondrechtenautoriteiten (artikel 79 lid 2). Blijken de stukken onvoldoende om vast te stellen of aanvragers met wisselende inkomsten worden benadeeld, dan kan het College de toezichthouder vragen het systeem te laten testen (artikel 77 lid 3). Wat het College via artikel 77 krijgt, verwerkt het volgens artikel 78 (artikel 77 lid 4).
De klacht van de inwoner. De inwoner heeft naar onze lezing vier routes, die naast elkaar lopen:
- Een klacht bij de markttoezichtautoriteit (artikel 85). Die kan aanleiding zijn voor een evaluatie onder artikel 79. Of de inwoner daarop een besluit met bezwaar en beroep krijgt, hangt er in Nederland van af of de klacht als handhavingsverzoek geldt; dat staat in de ontwerp-memorie en is nog geen wet.
- Een klacht bij de AP onder de AVG (artikel 77 AVG), als hij vindt dat de verwerking van zijn persoonsgegevens de AVG schendt. De AP is daarvoor nu al bevoegd.
- Uitleg over het besluit onder artikel 86, als het besluit gebaseerd is op de output van het systeem; zie het recht op uitleg.
- Bezwaar en beroep tegen het besluit zelf onder de Algemene wet bestuursrecht. Artikel 85 laat die rechtsmiddelen uitdrukkelijk onverlet.
Naar onze lezing doet de gemeente er goed aan zelf een loket in te richten waar zulke signalen eerst binnenkomen. Komt een onderbouwde klacht bij haar binnen en herkent zij het risico, dan informeert zij de leverancier en de markttoezichtautoriteit en onderbreekt zij het gebruik (artikel 26 lid 5); zie artikel 79 tot en met 82.
In het contract. Omdat de toezichthouder bij de leverancier de datasets en mogelijk de broncode opvraagt, maar de gemeente de gevolgen draagt, is het naar onze lezing verstandig vast te leggen dat de leverancier de gemeente informeert over een verzoek van een toezichthouder over dit systeem, en dat hij meewerkt als de gemeente stukken moet leveren. Zie AI-inkoopcontracten.
Voorbeeld 2: een bank met een eigen kredietmodel
Stel: het is 2028. Een bank heeft zelf een model gebouwd dat de kredietwaardigheid van consumenten beoordeelt, en gebruikt het voor haar eigen leningen. Ook dit voorbeeld is verzonnen.
De rollen en de toezichthouder. Kredietwaardigheid valt onder bijlage III punt 5 onder b. De bank heeft het systeem zelf ontwikkeld en onder eigen naam in gebruik gesteld, en is dus aanbieder en gebruiksverantwoordelijke tegelijk. Omdat het gebruik rechtstreeks verband houdt met de financiële dienst, is de markttoezichtautoriteit de autoriteit die financieel toezicht op de bank houdt (artikel 74 lid 6); overweging 158 licht toe dat zo het toezicht kan aansluiten bij bestaande toezichtsmechanismen. De AI Act bepaalt niet of dat de AFM of DNB is; overweging 158 spreekt van de bevoegde autoriteiten "binnen hun respectieve bevoegdheden". En zolang de Uitvoeringswet niet geldt, ontbreken de nationale bevoegdheden en boeteregels. In het concept zijn het de AFM en DNB, volgens de ontwerp-memorie met DNB voor de significante banken waar de ECB toezicht houdt op de beheerste en integere bedrijfsvoering. Houdt DNB, die deelneemt aan het gemeenschappelijk toezichtsmechanisme, het markttoezicht, dan meldt zij de ECB onverwijld informatie die van belang kan zijn voor diens prudentiële toezichtstaken (artikel 74 lid 7, tweede alinea).
Wat de bank als aanbieder moet geven. Anders dan de gemeente heeft de bank de plichten van artikel 74 lid 12: volledige toegang tot de documentatie en de datasets voor trainen, valideren en testen, zo nodig via een API. Naar onze lezing richt de bank daar vooraf een afgeschermde omgeving voor in, zodat zij niet onder tijdsdruk kopieën van klantgegevens hoeft te maken. Vraagt de toezichthouder de broncode, dan toetst de bank of het verzoek met redenen is omkleed en of beide voorwaarden van lid 13 zijn vervuld: is de broncode nodig voor de toetsing aan afdeling 2, en zijn de tests op basis van haar documentatie en data uitgeput of ontoereikend gebleken? Zo niet, dan kan de bank naar onze lezing eerst aanvullende tests of documentatie aanbieden. De broncode is een bedrijfsgeheim dat de toezichthouder onder artikel 78 lid 1 onder a beschermt.
De grondrechtenautoriteit. Stel dat het College voor de Rechten van de Mens signalen krijgt dat het model aanvragers van een bepaalde afkomst vaker afwijst. Het kan de grondrechteneffectbeoordeling (artikel 27 lid 1), de documentatie over de data (artikel 10) en de testresultaten opvragen via de financiële toezichthouder, die ze bij de bank opvraagt (artikel 77 lid 1 en 1 bis), maar kan ook zelf inlichtingen en bescheiden bij de bank vorderen (artikel 6 van de Wet College voor de rechten van de mens). Zijn de stukken onvoldoende, dan kan het College om een test vragen (artikel 77 lid 3). De AP kan voor de verwerking van persoonsgegevens daarnaast onder de AVG zelf informatie vragen. Zie ook AI bij kredietbeslissingen.
Een klacht van een consumentenorganisatie. Een consumentenorganisatie kan zonder eigen persoonsgegevens in het spel een klacht indienen onder artikel 85, bij de financiële toezichthouder als relevante markttoezichtautoriteit. Een individuele consument kan daarnaast bij de AP klagen onder artikel 77 AVG, en, bij een besluit op basis van de output van het systeem, uitleg vragen onder artikel 86.
Vanaf wanneer?
- Artikel 74, 77 en 85 staan in hoofdstuk IX en gelden sinds 2 augustus 2026, de algemene datum van artikel 113, tweede alinea. De nieuwe tekst van artikel 77 trad op 27 juli 2026 in werking (artikel 4 van Verordening (EU) 2026/1744), en geldt dus vanaf 2 augustus 2026. Voor de lijst van artikel 77 lid 2 gold een eigen termijn: 2 november 2024.
- Artikel 78 geldt sinds 2 augustus 2025 (artikel 113, derde alinea, onder b).
- Waar de bevoegdheden op zien. Artikel 74 lid 12 en 13 en artikel 77 lid 3 gaan over systemen met een hoog risico. De eisen en plichten waaraan de toezichthouder toetst, waaronder de technische documentatie en de eisen aan de data, gelden vanaf 2 december 2027 voor bijlage III en vanaf 2 augustus 2028 voor bijlage I (artikel 113, derde alinea, onder c, zoals vervangen door artikel 1, punt 40, van Verordening (EU) 2026/1744). Voor systemen die al vóór die datum op de markt of in gebruik waren, gelden de eisen pas bij een aanzienlijke wijziging in het ontwerp; systemen die bedoeld zijn voor gebruik door overheidsinstanties moeten uiterlijk op 2 augustus 2030 voldoen (artikel 111 lid 2). Voor verboden praktijken en artikel 50 gelden de bevoegdheden van Verordening (EU) 2019/1020 en het klachtrecht al, voor zover een lidstaat een toezichthouder heeft aangewezen en bevoegd gemaakt; in Nederland is dat voor deze bepalingen nog niet gebeurd.
- In Nederland. De markttoezichtautoriteiten zijn nog niet bij wet aangewezen; de indiening van het wetsvoorstel is gepland voor het tweede kwartaal van 2027. Tot dan wijst alleen de AI Act zelf een toezichthouder aan bij financiële instellingen, producten uit bijlage I en EU-instellingen (artikel 74 lid 3, 6 en 9), maar ontbreken de nationale bevoegdheden en boeteregels; bij lid 6 bepaalt de AI Act bovendien niet of dat de AFM of DNB is. De grondrechtenautoriteiten staan op de voorlopige lijst van 19 november 2024.
Wat u nu doet
Als gebruiksverantwoordelijke, zoals een gemeente:
- Weet welke stukken u bewaart en waar: logs (artikel 26 lid 6), werkinstructies, de grondrechteneffectbeoordeling en de DPIA. Dat zijn de eerste stukken die een toezichthouder vraagt.
- Leg vast wie een verzoek van een toezichthouder behandelt, hoe u toetst of het gevraagde strikt noodzakelijk is (artikel 78 lid 2), en hoe u vertrouwelijke onderdelen markeert.
- Richt een loket in voor klachten en vragen van inwoners, ook voor uitleg onder artikel 86, en vertel inwoners welke routes er zijn: de markttoezichtautoriteit, de AP onder de AVG en bezwaar tegen het besluit.
- Regel in het contract dat de leverancier u informeert over verzoeken en onderzoeken van toezichthouders over het systeem.
Als aanbieder, zoals een leverancier of een bank met een eigen model:
- Zorg dat u toegang kunt geven tot documentatie en datasets, ook op afstand en met beveiligingswaarborgen (artikel 74 lid 12), zonder dat u kopieën van persoonsgegevens rondstuurt.
- Maak de broncode de laatste stap. Houd test- en auditmogelijkheden op orde, zodat de toezichthouder de conformiteit zonder broncode kan toetsen (artikel 74 lid 13), en toets elk verzoek om broncode aan die twee voorwaarden.
- Markeer bedrijfsgeheimen bij het aanleveren, zodat de autoriteit weet wat zij onder artikel 78 lid 1 onder a beschermt; weiger niet op die grond.
- Geef juiste en volledige antwoorden. Onjuiste, onvolledige of misleidende informatie is zelf beboetbaar (artikel 99 lid 5).
Wilt u weten welke AI Act- en AVG-plichten bij uw toepassing in beeld komen en welke rol u hebt? Met de casus-check beschrijft u de toepassing in een paar vragen.
Veelgestelde vragen over de bevoegdheden van toezichthouders onder de AI Act
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven