Over de AI Act wordt veel geschreven als over een poort: een AI-systeem met een hoog risico doorloopt de conformiteitsbeoordeling, krijgt een verklaring en een CE-markering, en mag dan de markt op. Maar een systeem dat de poort door is, kan later toch niet blijken te voldoen. Een update verandert het gedrag, de praktijk wijkt af van de testgegevens, of de monitoring laat een fout zien die niemand had voorzien. Voor dat moment heeft de verordening drie korte artikelen voor de aanbieder: artikel 18 over het bewaren van de documentatie, artikel 20 over corrigerende maatregelen en de plicht om anderen te informeren, en artikel 21 over de samenwerking met de autoriteiten.
Stel: een gemeente gebruikt een systeem dat consulenten helpt bij de beoordeling van aanvragen voor bijzondere bijstand. Op een maandagochtend ligt er een brief van de leverancier: "Wij hebben vastgesteld dat versie 4.2 het inkomen van aanvragers met wisselende inkomsten onjuist inschat. Wij hebben de inkomensmodule uitgeschakeld en brengen het systeem terug naar versie 4.1. Wij hebben de toezichthouder geïnformeerd." De teamleider vraagt: "Mogen we het systeem nog gebruiken? Moeten we zelf iets melden? En wat doen we met de besluiten van de afgelopen weken?" Het voorbeeld is verzonnen.
In het kort
De aanbieder van een AI-systeem met een hoog risico houdt tien jaar na het in de handel brengen of in gebruik stellen vijf stukken ter beschikking van de nationale bevoegde autoriteiten: de technische documentatie, de documentatie van het systeem voor kwaliteitsbeheer, de door aangemelde instanties goedgekeurde wijzigingen en hun besluiten (waar van toepassing) en de EU-conformiteitsverklaring (artikel 18 lid 1). De lidstaten regelen wat er gebeurt bij faillissement of stopzetting (lid 2); financiële instellingen bewaren de technische documentatie bij hun documentatie onder het financiële recht (lid 3). Meent de aanbieder, of heeft hij redenen om aan te nemen, dat zijn systeem niet aan de verordening voldoet, dan neemt hij onmiddellijk de nodige corrigerende maatregelen: het systeem in overeenstemming brengen, uit de handel nemen, deactiveren of terugroepen. Hij informeert de distributeurs en, waar van toepassing, de gebruiksverantwoordelijken, de gemachtigden en importeurs (artikel 20 lid 1). Vormt het systeem een risico in de zin van artikel 79 lid 1, voor de gezondheid, de veiligheid of de grondrechten, dan onderzoekt hij onmiddellijk de oorzaken en informeert hij de markttoezichtautoriteit en, waar van toepassing, de aangemelde instantie (lid 2). Op een met redenen omkleed verzoek geeft hij de bevoegde autoriteit alle informatie en documentatie om de overeenstemming aan te tonen, en toegang tot de logs onder zijn controle; de autoriteit behandelt die vertrouwelijk volgens artikel 78 (artikel 21). De gebruiksverantwoordelijke die redenen heeft om aan te nemen dat het systeem een risico vormt, informeert de aanbieder of distributeur en de markttoezichtautoriteit en onderbreekt het gebruik (artikel 26 lid 5). De Digital Omnibus (Verordening (EU) 2026/1744) wijzigde artikel 18 tot en met 21 niet. De plichten gelden voor bijlage III-systemen vanaf 2 december 2027 en voor systemen bij producten uit bijlage I, afdeling A, vanaf 2 augustus 2028.
Dit stuk gaat over wat de aanbieder moet als het misgaat, en over wat dat voor de gebruiksverantwoordelijke betekent. Hoe de aanbieder fouten op het spoor komt, staat in monitoring na het in de handel brengen onder artikel 72. Hoe een ernstig incident wordt gemeld, staat in een ernstig incident melden onder artikel 73. De plichten van de gebruiksverantwoordelijke staan in de plichten van de gebruiksverantwoordelijke.
Waar deze artikelen staan
Artikel 18 tot en met 21 staan in afdeling 3 van hoofdstuk III, de afdeling met de plichten van aanbieders, gebruiksverantwoordelijken en andere partijen. Ze werken de lijst van artikel 16 uit. De aanbieder van een AI-systeem met een hoog risico bewaart de documentatie van artikel 18 (onder d) en de logs van artikel 19 als hij daar controle over heeft (onder e), neemt de corrigerende maatregelen en geeft de informatie van artikel 20 (onder j), en toont op een met redenen omkleed verzoek van een nationale bevoegde autoriteit aan dat het systeem aan de eisen van afdeling 2 voldoet (onder k).
Alle vier de artikelen richten zich tot de aanbieder. Voor de gemachtigde, de importeur en de distributeur gelden eigen, vergelijkbare plichten in artikel 22, 23 en 24; zie importeur en distributeur onder artikel 23 en 24. De gebruiksverantwoordelijke heeft zijn eigen meld- en bewaarplichten in artikel 26 lid 5 en 6. Wie zijn naam of merk zet op een AI-systeem met een hoog risico dat al in de handel is gebracht of in gebruik is gesteld, het systeem substantieel wijzigt of het beoogde doel zo verandert dat het hoog risico wordt, is zelf aanbieder en krijgt deze plichten erbij (artikel 25 lid 1).
Artikel 18: tien jaar bewaren
Vijf stukken. De aanbieder houdt gedurende tien jaar nadat het systeem in de handel is gebracht of in gebruik is gesteld de volgende elementen ter beschikking van de nationale bevoegde autoriteiten (lid 1):
- de technische documentatie van artikel 11 (onder a);
- de documentatie over het systeem voor kwaliteitsbeheer van artikel 17 (onder b);
- in voorkomend geval de documentatie over de wijzigingen die aangemelde instanties hebben goedgekeurd (onder c);
- in voorkomend geval de besluiten en andere documenten van de aangemelde instanties (onder d);
- de EU-conformiteitsverklaring van artikel 47 (onder e).
"Ter beschikking houden" is meer dan ergens opslaan. Naar onze lezing betekent het dat de aanbieder de stukken binnen redelijke tijd kan leveren als een autoriteit erom vraagt, in een vorm die de autoriteit kan lezen. Dat sluit aan bij artikel 21 lid 1, dat hieronder aan bod komt. Wat er in de technische documentatie staat, leest u in technische documentatie onder artikel 11 en bijlage IV; het kwaliteitsbeheer staat in het systeem voor kwaliteitsbeheer onder artikel 17; de verklaring in de EU-conformiteitsverklaring en de CE-markering.
Vanaf wanneer loopt de termijn, en voor welke versie? In het productrecht van de EU rekent de Commissie per afzonderlijk product: "in de handel brengen" slaat op elk afzonderlijk product, niet op een type, en de bewaartermijn van de technische documentatie wordt berekend vanaf het moment dat het afzonderlijke product dat onder die documentatie valt, in de handel wordt gebracht (Blauwe Gids van 2022, punt 2.3 en 4.3). De AI Act definieert het in de handel brengen op dezelfde manier, als het voor het eerst in de Unie op de markt aanbieden (artikel 3 punt 9). De technische documentatie moet bovendien actueel worden gehouden (artikel 11 lid 1). Hoe dat uitpakt bij software die vaak wordt bijgewerkt of als dienst wordt geleverd, zegt artikel 18 niet. Naar onze lezing bewaart de aanbieder elke versie van de documentatie die hoort bij een versie van het systeem die in de handel is gebracht, en loopt de termijn van tien jaar voor die documentatie vanaf de laatste levering van die versie. Anders kan hij bij een vraag over een besluit van drie jaar geleden niet laten zien hoe het systeem toen werkte. Na een substantiële wijziging volgt een nieuwe conformiteitsbeoordeling (artikel 43 lid 4) en een nieuwe verklaring, en daarmee naar onze lezing ook een nieuw begin van de termijn voor die versie.
Faillissement of stopzetting. Elke lidstaat stelt de voorwaarden vast waaronder de documentatie de volle tien jaar ter beschikking blijft als een aanbieder of zijn op het grondgebied van die lidstaat gevestigde gemachtigde failliet gaat of zijn activiteiten vóór het verstrijken van die termijn staakt (lid 2). Nederland heeft dat nog niet bij wet geregeld. Het conceptwetsvoorstel Uitvoeringswet AI-verordening, dat van 20 april tot en met 1 juni 2026 in internetconsultatie lag, bepaalt in artikel 7.1 dat de aanbieder ervoor zorgt dat de documentatie van artikel 18 lid 1 de hele termijn ter beschikking blijft van de nationale bevoegde autoriteiten, ook als hij vóór het verstrijken van die termijn failliet wordt verklaard of zijn activiteiten staakt. Voor de gemachtigde neemt het concept geen aparte regel op, omdat de bewaarplicht van artikel 18 lid 1 alleen voor aanbieders geldt (concept-memorie van toelichting, paragraaf 4.9.2). Het is een concept en nog geen wet: de indiening bij de Tweede Kamer staat gepland voor het tweede kwartaal van 2027 (Kamerstuk 26643, nr. 1554). Een plicht die op een failliete aanbieder rust, biedt een gebruiksverantwoordelijke naar onze lezing weinig houvast. Dat is een reden om in het contract iets af te spreken over toegang tot de documentatie als de leverancier verdwijnt, bijvoorbeeld via een escrowregeling.
Financiële instellingen. Aanbieders die als financiële instelling onder eisen voor interne governance uit het Unierecht voor financiële diensten vallen, bewaren de technische documentatie als onderdeel van de documentatie die zij onder dat recht al bijhouden (lid 3). Het lid zegt waar de documentatie wordt bewaard. Naar onze lezing laat het de termijn van tien jaar uit lid 1 ongemoeid.
Wie bewaart nog meer? De verordening laat de bewaarplicht niet alleen bij de aanbieder liggen.
| Partij | Wat | Hoe lang | Bepaling |
|---|---|---|---|
| Aanbieder | Technische documentatie, kwaliteitsbeheer, goedkeuringen en besluiten van aangemelde instanties, EU-conformiteitsverklaring | Tien jaar na in de handel brengen of in gebruik stellen | Artikel 18 lid 1 |
| Aanbieder | Automatisch gegenereerde logs, voor zover onder zijn controle | Passend voor het doel, ten minste zes maanden | Artikel 19 lid 1 |
| Gemachtigde | Contactgegevens van de aanbieder, kopie van de verklaring, de technische documentatie en zo nodig het certificaat | Tien jaar | Artikel 22 lid 3 onder b |
| Importeur | Kopie van het certificaat, de gebruiksaanwijzing en de verklaring | Tien jaar | Artikel 23 lid 5 |
| Gebruiksverantwoordelijke | Automatisch gegenereerde logs, voor zover onder zijn controle | Passend voor het doel, ten minste zes maanden | Artikel 26 lid 6 |
Artikel 19 in het kort: de logs
Naast de documentatie bewaart de aanbieder de logs die zijn systeem automatisch genereert (artikel 12 lid 1), voor zover die onder zijn controle vallen, gedurende een periode die past bij het beoogde doel en ten minste zes maanden, tenzij in het toepasselijke Unierecht of nationale recht anders is bepaald, met name in het Unierecht inzake de bescherming van persoonsgegevens (artikel 19 lid 1). Financiële instellingen bewaren de logs bij hun documentatie onder het financiële recht (lid 2). Hoe die termijn zich verhoudt tot de AVG, staat in logboeken bij hoog-risico-AI. Voor dit stuk is één ding van belang: zonder logs kan een aanbieder bij een fout de oorzaak niet onderzoeken, en kan hij een autoriteit op grond van artikel 21 lid 2 geen toegang geven.
Artikel 20: corrigerende maatregelen en de plicht om te informeren
Wanneer. Artikel 20 lid 1 begint bij de aanbieder die "van mening is of redenen heeft om aan te nemen" dat een systeem dat hij in de handel heeft gebracht of in gebruik heeft gesteld, niet in overeenstemming is met de verordening. Het gaat om de hele verordening, niet alleen om de eisen van afdeling 2. Een vaststaande overtreding is niet nodig; redenen om het aan te nemen zijn genoeg. Die redenen kunnen uit de eigen monitoring komen (artikel 72), uit een melding van een gebruiksverantwoordelijke, uit klachten of uit een vraag van een autoriteit.
Wat. De aanbieder neemt dan onmiddellijk de nodige corrigerende maatregelen om het systeem, naargelang het geval:
- in overeenstemming te brengen, bijvoorbeeld met een herstelde versie of een aangepaste gebruiksaanwijzing;
- uit de handel te nemen: een maatregel die voorkomt dat een systeem dat zich in de toeleveringsketen bevindt, nog op de markt wordt aangeboden (artikel 3 punt 17), dus geen nieuwe leveringen;
- te deactiveren, in de Engelse tekst "to disable it", bijvoorbeeld door een functie op afstand uit te zetten;
- terug te roepen: een maatregel gericht op het retourneren aan de aanbieder, het buiten gebruik stellen of het onbruikbaar maken van een systeem dat al bij gebruiksverantwoordelijken is (artikel 3 punt 16).
Welke maatregel nodig is, zegt de verordening niet; "naargelang het geval" laat dat aan de aanbieder. Naar onze lezing hangt de keuze af van de ernst: een fout in de gebruiksaanwijzingen vraagt iets anders dan een model dat stelselmatig verkeerde uitkomsten geeft voor een groep mensen.
Wie hij informeert. De aanbieder stelt de distributeurs van het systeem in kennis, en, indien van toepassing, de gebruiksverantwoordelijken, de gemachtigden en importeurs (lid 1). Het woord "onmiddellijk" in lid 1 hoort bij de corrigerende maatregelen. Voor de kennisgeving noemt lid 1 geen eigen termijn, en over de inhoud zegt het alleen dat de aanbieder de anderen "dienovereenkomstig" in kennis stelt. Naar onze lezing volgt uit het doel dat de ontvanger moet kunnen begrijpen welke versie het betreft, wat er mis is, welke maatregel is genomen en wat hij zelf moet doen. Een gebruiksverantwoordelijke die alleen hoort dat "er een update komt", kan zijn eigen plicht uit artikel 26 lid 5 niet beoordelen.
Bij een risico: onderzoeken en de toezichthouder informeren. Vormt het systeem een risico in de zin van artikel 79 lid 1 en neemt de aanbieder daarvan kennis, dan onderzoekt hij onmiddellijk de oorzaken, in voorkomend geval samen met de gebruiksverantwoordelijke die het risico heeft gemeld. Hij informeert de markttoezichtautoriteiten die voor het systeem bevoegd zijn en, in voorkomend geval, de aangemelde instantie die een certificaat heeft afgegeven volgens artikel 44, met name over de aard van de non-conformiteit en de genomen corrigerende maatregelen (lid 2).
Een "AI-systeem dat een risico vormt" is een "product dat een risico vormt" in de zin van artikel 3 punt 19 van Verordening (EU) 2019/1020, voor zover het een risico vormt voor de gezondheid, de veiligheid of de grondrechten van personen (artikel 79 lid 1). Bij een systeem dat beslissingen over uitkeringen, krediet of sollicitanten ondersteunt, gaat het in de praktijk vooral om de grondrechten, zoals gelijke behandeling en non-discriminatie.
Het verschil met artikel 73 en artikel 79. Artikel 20 is de eigen route van de aanbieder. Daarnaast bestaan twee andere routes, en die lopen vaak tegelijk.
| Artikel 20 lid 1 | Artikel 20 lid 2 | Artikel 73 | Artikel 79 lid 2 | |
|---|---|---|---|---|
| Aanleiding | Redenen om aan te nemen dat het systeem niet voldoet | Het systeem vormt een risico (artikel 79 lid 1) | Een ernstig incident (artikel 3 punt 49) | De markttoezichtautoriteit heeft voldoende reden om aan te nemen dat het systeem een risico vormt |
| Wie handelt | Aanbieder | Aanbieder | Aanbieder | Markttoezichtautoriteit |
| Wat | Corrigerende maatregel nemen, keten informeren | Oorzaken onderzoeken, markttoezichtautoriteit en aangemelde instantie informeren | Melden bij de markttoezichtautoriteit, onderzoek, corrigerende maatregelen | Evaluatie; bij non-conformiteit de operator gelasten corrigerende maatregelen te nemen |
| Termijn | Maatregel onmiddellijk; voor de kennisgeving geen eigen termijn | Onmiddellijk | Onmiddellijk en uiterlijk 15 dagen; twee dagen bij een wijdverbreide inbreuk of kritieke infrastructuur, tien dagen bij overlijden | Door de autoriteit vast te stellen, in elk geval binnen 15 werkdagen |
Leidt het systeem tot een ernstig incident, dan meldt de aanbieder dat binnen de termijnen van artikel 73; een ernstig incident omvat ook een schending van verplichtingen uit het Unierecht ter bescherming van de grondrechten (artikel 3 punt 49 onder c). Let dan op artikel 73 lid 6, tweede alinea: de aanbieder verricht geen onderzoek waarbij het systeem wordt gewijzigd op een wijze die van invloed kan zijn op de latere evaluatie van de oorzaken van het incident, zonder de bevoegde autoriteiten daarvan vooraf in kennis te stellen. Naar onze lezing kan ook een snelle terugzetting naar een vorige versie zo'n wijziging zijn, en stelt de aanbieder de autoriteiten daar dan vooraf van in kennis. Komt de markttoezichtautoriteit zelf in actie, dan kan zij de operator corrigerende maatregelen opleggen (artikel 79 lid 2) en, als die uitblijven, het op de markt aanbieden of in gebruik stellen van het systeem op haar nationale markt verbieden of beperken, of het uit de handel nemen of terugroepen (lid 5). En een systeem dat wel aan de verordening voldoet maar toch een risico inhoudt, kan ook leiden tot een opdracht om maatregelen te nemen (artikel 82 lid 1). Naar onze lezing houdt een aanbieder die zelf op tijd handelt onder artikel 20 meer greep op de maatregel dan een aanbieder die wacht tot de toezichthouder hem een maatregel oplegt.
Artikel 21: samenwerking met de autoriteiten
Informatie en documentatie op verzoek. Op een met redenen omkleed verzoek van een bevoegde autoriteit verstrekt de aanbieder alle informatie en documentatie die nodig is om aan te tonen dat het systeem aan de eisen van afdeling 2 voldoet, in een officiële taal van de instellingen van de Unie die de betrokken lidstaat kiest en die de autoriteit gemakkelijk begrijpt (lid 1). De documentatie die de aanbieder onder artikel 18 tien jaar bewaart, is precies wat hij dan moet kunnen leveren.
Toegang tot de logs. Op een met redenen omkleed verzoek geeft de aanbieder de verzoekende autoriteit, indien van toepassing, toegang tot de automatisch gegenereerde logs van artikel 12 lid 1, voor zover die onder zijn controle vallen (lid 2). Bij een systeem dat als dienst draait, zijn de logs vaak in handen van de aanbieder. Bij een systeem dat in de eigen omgeving van de gebruiksverantwoordelijke draait, kunnen ze juist bij de gebruiksverantwoordelijke liggen. Dat is een reden om in het contract vast te leggen wie welke logs bewaart.
Vertrouwelijkheid. De autoriteit behandelt wat zij zo krijgt volgens de vertrouwelijkheidsplichten van artikel 78 (lid 3). Artikel 78 lid 1 beschermt onder meer intellectuele-eigendomsrechten, vertrouwelijke bedrijfsinformatie en bedrijfsgeheimen, waaronder de broncode (voor toegang tot de broncode zelf gelden de voorwaarden van artikel 74 lid 13, zie hieronder), en de doeltreffende uitvoering van inspecties, onderzoeken en audits. De autoriteiten vragen alleen om gegevens die strikt noodzakelijk zijn om het risico te beoordelen en hun bevoegdheden uit te oefenen, beveiligen die gegevens en wissen ze zodra ze niet meer nodig zijn (artikel 78 lid 2). Naar onze lezing kan een aanbieder een verzoek daarom niet afdoen met een beroep op bedrijfsgeheimen: artikel 21 kent die uitzondering niet, en de bescherming zit in de manier waarop de autoriteit met de gegevens omgaat.
Meer bevoegdheden in artikel 74. Artikel 21 is niet het enige middel van de toezichthouder. Markttoezichtautoriteiten krijgen, voor zover relevant en nodig voor hun taken, volledige toegang tot de documentatie en tot de datasets voor training, validatie en testen, ook op afstand (artikel 74 lid 12). Toegang tot de broncode krijgen zij alleen op een met redenen omkleed verzoek, als dat nodig is om de overeenstemming met afdeling 2 te beoordelen en de tests, audits en controles op basis van de gegevens en documentatie van de aanbieder zijn uitgeput of ontoereikend gebleken (lid 13).
Welke autoriteit? Een nationale bevoegde autoriteit is een aanmeldende autoriteit of een markttoezichtautoriteit (artikel 3 punt 48). Sinds de Digital Omnibus is het AI-bureau van de Commissie exclusief bevoegd voor toezicht en handhaving bij AI-systemen die gebaseerd zijn op een AI-model voor algemene doeleinden van dezelfde aanbieder of dezelfde onderneming, en bij AI-systemen die een zeer groot onlineplatform of een zeer grote onlinezoekmachine vormen of daarin zijn geïntegreerd. Voor de eerste groep gelden uitzonderingen, onder meer voor systemen bij producten uit bijlage I, voor kritieke infrastructuur (bijlage III punt 2) en voor systemen van financiële instellingen die onder artikel 74 lid 6 vallen (artikel 75 lid 1, zoals vervangen door artikel 1, punt 31, onder b, van Verordening (EU) 2026/1744). Voor een aanbieder in die situatie is het AI-bureau dus het loket; een aanbieder van een AI-systeem met een hoog risico die onder het AI-bureau valt, meldt ook ernstige incidenten bij het AI-bureau (artikel 75 lid 1 bis). In Nederland is nog geen markttoezichtautoriteit voor de AI Act aangewezen; de toezichthouders moeten worden aangewezen in de Uitvoeringswet AI-verordening, waarvan de indiening bij de Tweede Kamer gepland staat in het tweede kwartaal van 2027 (Kamerstuk 26643, nr. 1554).
Wat de Digital Omnibus veranderde
Verordening (EU) 2026/1744, de Digital Omnibus inzake AI, somt in artikel 1 de bepalingen van de AI Act op die zij wijzigt. Artikel 18, 19, 20 en 21 staan daar niet bij, en artikel 78 en 79 ook niet. In de geconsolideerde tekst van 27 juli 2026 staan bij deze artikelen geen wijzigingsmarkeringen. Er is in deze artikelen dus geen vereenvoudiging voor kmo's bijgekomen: ook een kleine aanbieder bewaart tien jaar en neemt onmiddellijk corrigerende maatregelen.
Wel gewijzigd, en relevant voor wat de aanbieder bewaart en met wie hij te maken krijgt:
- Vereenvoudigde technische documentatie. Kmo's, met inbegrip van start-ups, en kleine midcapondernemingen mogen de elementen van bijlage IV op vereenvoudigde wijze verstrekken, met een formulier dat de Commissie opstelt (artikel 11 lid 1, tweede alinea, zoals vervangen door artikel 1, punt 10). Artikel 18 maakt geen onderscheid; naar onze lezing geldt de bewaartermijn van tien jaar ook voor die vereenvoudigde documentatie.
- Evenredig kwaliteitsbeheer. De uitvoering van het systeem voor kwaliteitsbeheer is evenredig aan de omvang van de organisatie, met name bij kmo's, start-ups en kleine midcapondernemingen (artikel 17 lid 2, zoals vervangen door artikel 1, punt 11). Wat er van dat systeem wordt bewaard onder artikel 18 lid 1 onder b, kan dus kleiner zijn; de plicht om het te bewaren blijft.
- Bijlage I-systemen. Via het nieuwe artikel 2 lid 13 kan de toepassing van specifieke eisen of plichten uit de artikelen 9 tot en met 15 en 17 tot en met 25, en dus ook uit artikel 18 tot en met 21, worden beperkt voor bijlage I-systemen, voor zover de harmonisatiewetgeving van bijlage I, afdeling A, een gelijkwaardige of hogere bescherming biedt en het algemene beschermingsniveau niet wordt aangetast. De Commissie stelt daarvoor uiterlijk 2 augustus 2027 gedelegeerde handelingen vast (artikel 1, punt 3). Voor bijlage III-systemen verandert dat niets.
- Het AI-bureau als toezichthouder voor een deel van de systemen (artikel 75, gewijzigd door artikel 1, punt 31), zie hierboven.
- De toepassingsdata in artikel 113, derde alinea, punt c (artikel 1, punt 40), en de boeteregel voor kleine midcapondernemingen in artikel 99 lid 6 bis (artikel 1, punt 38), zie hieronder.
Wie in de Omnibus de woorden "aan artikel 20 wordt het volgende lid toegevoegd" tegenkomt: dat gaat over artikel 20 van de Machineverordening (EU) 2023/1230, dat een nieuw lid 10 krijgt over het vermoeden van overeenstemming (artikel 3, punt 2, van Verordening (EU) 2026/1744). Het is geen wijziging van artikel 20 van de AI Act.
Hoofdvoorbeeld: de gemeente krijgt een melding van haar leverancier
Terug naar de gemeente. Het systeem helpt consulenten bij de beoordeling of iemand recht heeft op bijzondere bijstand. Dat valt onder bijlage III punt 5 onder a: AI-systemen die door of namens overheidsinstanties worden gebruikt om te beoordelen of natuurlijke personen in aanmerking komen voor essentiële overheidsuitkeringen en -diensten. De leverancier is een Nederlands bedrijf dat het systeem zelf heeft ontwikkeld en onder eigen naam levert: de aanbieder. De gemeente koopt rechtstreeks, zonder importeur of distributeur, en is gebruiksverantwoordelijke. Om de overgangsregel van artikel 111 lid 2 buiten beschouwing te laten, gaan we ervan uit dat het systeem in 2028 voor het eerst in de handel is gebracht, zodat de plichten van hoofdstuk III gelden.
De monitoring van de aanbieder liet zien dat versie 4.2 bij aanvragers met wisselende inkomsten, zoals zzp'ers en flexwerkers, het inkomen te hoog inschatte en vaker een afwijzing voorstelde. De aanbieder concludeerde dat de nauwkeurigheid niet meer voldeed aan wat hij in de gebruiksaanwijzingen had opgegeven (artikel 15) en dat het systeem een risico voor de grondrechten van die aanvragers vormde. Hij schakelde de inkomensmodule uit (deactiveren), zette het systeem terug naar versie 4.1 (in overeenstemming brengen), en informeerde de gebruiksverantwoordelijken (artikel 20 lid 1) en de markttoezichtautoriteit (lid 2).
Wat de gemeente naar onze lezing doet:
- De melding lezen op vier vragen. Welke versie en welke periode? Wat is er mis? Welke maatregel is genomen? Wat moet de gemeente zelf doen? Ontbreekt een antwoord, dan vraagt zij het meteen na. Zonder die informatie kan zij haar eigen plichten niet beoordelen.
- Beoordelen of zij het gebruik onderbreekt. Heeft de gemeente redenen om aan te nemen dat het gebruik overeenkomstig de gebruiksaanwijzingen ertoe kan leiden dat het systeem een risico vormt in de zin van artikel 79 lid 1, dan informeert zij zonder onnodige vertraging de aanbieder of distributeur en de markttoezichtautoriteit, en onderbreekt zij het gebruik van het systeem (artikel 26 lid 5). Een melding van de aanbieder dat het systeem een risico voor de grondrechten vormt, is naar onze lezing zo'n reden. De tekst spreekt van het gebruik "van dat systeem", niet van één module. Naar onze lezing onderbreekt de gemeente het gebruik totdat zij heeft vastgesteld dat de herstelde versie het risico wegneemt, en legt zij vast waarom en wanneer zij het gebruik hervat.
- Zelf melden, ook al heeft de aanbieder dat gedaan. Artikel 26 lid 5 maakt geen uitzondering voor het geval dat de aanbieder de markttoezichtautoriteit al heeft geïnformeerd. Naar onze lezing doet de gemeente haar eigen melding, kort en met een verwijzing naar die van de aanbieder. Dat kost weinig en laat zien dat zij haar plicht kent.
- Nagaan of er een ernstig incident is. Zijn aanvragen ten onrechte afgewezen doordat consulenten op de uitkomst van het systeem vertrouwden, dan kan sprake zijn van een schending van verplichtingen ter bescherming van de grondrechten (artikel 3 punt 49 onder c). Stelt de gemeente een ernstig incident vast, dan informeert zij onmiddellijk eerst de aanbieder en daarna de importeur of distributeur, als die er is, en de markttoezichtautoriteit (artikel 26 lid 5). Kan zij de aanbieder niet bereiken, dan is artikel 73 van overeenkomstige toepassing (artikel 26 lid 5). Hoe dat verder loopt, staat in een ernstig incident melden.
- De logs bewaren en meewerken. De gemeente bewaart de logs onder haar controle ten minste zes maanden (artikel 26 lid 6) en zorgt dat logs uit de betrokken periode niet automatisch worden gewist. Heeft de gemeente het risico zelf gemeld, dan onderzoekt de aanbieder de oorzaken in samenwerking met haar (artikel 20 lid 2). Ook als de aanbieder het zelf ontdekte, heeft hij de gegevens van de gemeente vaak nodig om te zien welke aanvragen zijn geraakt.
- Kijken naar de besluiten die al zijn genomen. De AI Act zegt niets over besluiten die al op advies van het systeem zijn genomen; dat is een vraag voor het bestuursrecht. Daarnaast vraagt de AVG dat persoonsgegevens juist zijn en zo nodig worden geactualiseerd (artikel 5 lid 1 onder d AVG). Naar onze lezing maakt de gemeente een lijst van de aanvragen die in de betrokken periode met versie 4.2 zijn beoordeeld, zodat zij kan nagaan welke besluiten op een onjuiste inschatting kunnen berusten.
- De grondrechteneffectbeoordeling bijwerken. De gemeente is als publiekrechtelijke instelling met een bijlage III-systeem verplicht tot een grondrechteneffectbeoordeling (artikel 27). Ziet zij tijdens het gebruik dat een element daarvan is gewijzigd of niet meer actueel is, dan werkt zij de informatie bij (artikel 27 lid 2). Een bekend geworden risico voor zzp'ers en flexwerkers is naar onze lezing zo'n element. Zie de FRIA onder artikel 27.
- Het menselijk toezicht aanscherpen. De gemeente draagt het menselijk toezicht op aan mensen met de nodige bekwaamheid, opleiding en autoriteit (artikel 26 lid 2). Naar onze lezing is een melding als deze het moment om de consulenten te vertellen wat er misging, zodat zij bij de herstelde versie weten waar zij op letten.
Welke markttoezichtautoriteit de gemeente informeert, staat in Nederland nog niet vast. Het kabinet stelde op 20 april 2026 voor het toezicht per domein te beleggen bij bestaande toezichthouders, met de Autoriteit Persoonsgegevens (AP) waar er geen is (Rijksoverheid, 20 april 2026). In het conceptwetsvoorstel Uitvoeringswet AI-verordening is de AP de markttoezichtautoriteit voor onder meer systemen uit bijlage III punt 5 onder a (artikel 2.2 lid 1 onder c, onder 1°, van het concept). Dat is een concept en nog geen wet. Tot de wet geldt, is het contract het belangrijkste middel. Wat de gemeente daarin naar onze lezing regelt:
- Een vast contactpunt in beide richtingen, voor meldingen van de aanbieder op grond van artikel 20 en voor meldingen van de gemeente op grond van artikel 26 lid 5.
- De inhoud van een melding: versie, periode, aard van de non-conformiteit, genomen maatregel, gevolgen voor eerdere uitkomsten en wat de gemeente moet doen.
- Een termijn. Artikel 20 lid 1 eist dat de maatregel onmiddellijk wordt genomen, maar noemt geen eigen termijn voor de kennisgeving. Leg vast binnen hoeveel uren of werkdagen de aanbieder u informeert.
- Gegevens voor het herstel: welke aanvragen zijn geraakt, met de logs en uitkomsten die de gemeente nodig heeft om haar eigen besluiten na te lopen.
- Wie welke logs bewaart, hoe lang, en hoe een autoriteit er toegang toe krijgt (artikel 19, artikel 21 lid 2 en artikel 26 lid 6).
- Toegang tot de documentatie gedurende de tien jaar van artikel 18, ook na het einde van het contract en bij faillissement van de leverancier.
- Geen stille wijzigingen. De aanbieder meldt elke corrigerende maatregel, ook een die hij als onderhoud ziet.
Meer over de inkoopkant staat in AI-inkoopcontracten. Voor dit soort systemen in het bijzonder: fraudesignalen in de bijstand.
Voorbeeld 2: de bank met een eigen kredietmodel
Een bank ontwikkelt zelf een model dat de kredietwaardigheid van particulieren beoordeelt en gebruikt het in haar eigen acceptatieproces. Dat is bijlage III punt 5 onder b, met een uitzondering voor systemen die financiële fraude opsporen. Omdat de bank het systeem zelf ontwikkelt en onder eigen naam in gebruik stelt, is zij aanbieder (artikel 3 punt 3) en tegelijk gebruiksverantwoordelijke. Ook dit voorbeeld is verzonnen.
Voor de bank gelden de bijzondere regels voor financiële instellingen. Zij bewaart de technische documentatie en de logs als onderdeel van de documentatie die zij onder het financiële recht al bijhoudt (artikel 18 lid 3 en artikel 19 lid 2). De markttoezichtautoriteit is voor deze systemen de nationale autoriteit die verantwoordelijk is voor het financiële toezicht op de instelling, voor zover het gebruik rechtstreeks verband houdt met de financiële dienst (artikel 74 lid 6); een lidstaat kan in gerechtvaardigde omstandigheden een andere autoriteit aanwijzen (lid 7). In het conceptwetsvoorstel Uitvoeringswet AI-verordening zijn voor bijlage III punt 5 onder b en c de Autoriteit Financiële Markten (AFM), De Nederlandsche Bank (DNB) en de AP aangewezen als markttoezichtautoriteit, waarbij een ministeriële regeling hun aanwijzing beperkt tot daarbij aan te wijzen categorieën operatoren (artikel 2.2 lid 1 onder c, onder 3°, en lid 2 onder a, van het concept). Welke van de drie bij een verzoek onder artikel 21 aanklopt, volgt dus pas uit die regeling. Ook dit is nog geen wet.
Artikel 20 geldt voor de bank volledig. Blijkt uit de monitoring dat het model voor een groep klanten structureel afwijkt, dan neemt de bank onmiddellijk de nodige corrigerende maatregelen en informeert zij bij een risico de markttoezichtautoriteit. Omdat aanbieder en gebruiksverantwoordelijke dezelfde partij zijn, is de kennisgeving aan de gebruiksverantwoordelijke een interne stap. Naar onze lezing legt de bank die net zo vast als een externe melding: het modelteam meldt aan de afdeling die kredietbeslissingen neemt welke versie het betreft, wat er mis is en welke maatregel geldt. Voor financiële instellingen geldt de monitoringsplicht van artikel 26 lid 5 als vervuld als zij de regels voor interne governance uit het financiële recht naleven (artikel 26 lid 5, tweede alinea). Naar onze lezing gaat die regel alleen over het monitoren, niet over het onderbreken van het gebruik en de meldingen bij een risico of een ernstig incident. Hoe het model zich verder tot het bankrecht verhoudt, staat in AI bij kredietbeslissingen.
Vanaf wanneer?
Artikel 18 tot en met 21 staan in afdeling 3 van hoofdstuk III. Die afdeling is van toepassing vanaf 2 december 2027 voor AI-systemen die via artikel 6 lid 2 en bijlage III hoog risico zijn, en vanaf 2 augustus 2028 voor AI-systemen die via artikel 6 lid 1 en bijlage I hoog risico zijn (artikel 113, derde alinea, punt c, zoals vervangen door artikel 1, punt 40, van Verordening (EU) 2026/1744). Voor AI-systemen bij producten die onder de harmonisatiewetgeving van bijlage I, afdeling B, vallen, gelden zij niet; daar zijn uitsluitend de bepalingen van toepassing die artikel 2 lid 2 noemt (artikel 2 lid 2, zoals vervangen door artikel 1, punt 2).
Artikel 78 over vertrouwelijkheid geldt al sinds 2 augustus 2025 (artikel 113, derde alinea, punt b). Naar onze lezing krijgt het voor de informatie uit artikel 21 pas betekenis zodra artikel 21 zelf geldt.
Is een systeem vóór die datum in de handel gebracht of in gebruik gesteld, dan geldt de verordening voor de operatoren van dat systeem pas als het daarna aanzienlijke wijzigingen in zijn ontwerp ondergaat. Aanbieders en gebruiksverantwoordelijken van systemen die bedoeld zijn voor gebruik door overheidsinstanties, moeten uiterlijk op 2 augustus 2030 aan de verordening voldoen (artikel 111 lid 2, zoals vervangen door artikel 1, punt 39, van Verordening (EU) 2026/1744). Voor de gemeente uit het voorbeeld betekent dat: draait het systeem al vóór 2 december 2027, dan moeten aanbieder en gemeente uiterlijk op 2 augustus 2030 aan artikel 20 en artikel 26 lid 5 voldoen, en eerder als het systeem daarvoor aanzienlijk in ontwerp wordt gewijzigd.
Boetes
Op de niet-naleving van de plichten van aanbieders op grond van artikel 16 staan administratieve geldboeten tot 15 miljoen euro of, voor een onderneming, tot 3 procent van de wereldwijde jaaromzet in het voorafgaande boekjaar als dat hoger is (artikel 99 lid 4 onder a). Onder artikel 16 vallen het bewaren van de documentatie (onder d), de corrigerende maatregelen en de informatie van artikel 20 (onder j) en het aantonen van de overeenstemming op verzoek (onder k). Artikel 21 zelf staat niet in de opsomming van lid 4; naar onze lezing valt de kern ervan, het aantonen van de overeenstemming op verzoek, via artikel 16 onder k onder lid 4 onder a. Wie de autoriteiten op een verzoek onjuiste, onvolledige of misleidende informatie geeft, riskeert een boete tot 7,5 miljoen euro of 1 procent (lid 5).
Voor kmo's en start-ups geldt het laagste van het bedrag en het percentage (lid 6), sinds de Omnibus ook voor kleine midcapondernemingen bij de boetes van lid 4 en 5 (lid 6 bis). De gemeente als gebruiksverantwoordelijke valt voor artikel 26 onder lid 4 onder e. In hoeverre aan overheidsinstanties boetes kunnen worden opgelegd, bepaalt elke lidstaat (lid 8). Volgens de concept-memorie van toelichting bij de Uitvoeringswet AI-verordening (paragraaf 4.5.4.2) sluit het wetsvoorstel boetes aan overheidsinstanties niet uit: een bestuurlijke boete wordt opgelegd aan de overtreder, en dat is op grond van artikel 5:1 lid 2 Awb degene die de overtreding pleegt of medepleegt, ook een overheidsinstantie. Ook dat is nog geen wet voor de AI Act. Zie ook boetes onder de AI Act en de AVG voor gemeenten.
Wat u nu doet
Als aanbieder:
- Richt een bewaarregime in voor tien jaar, per versie van het systeem, met de vijf stukken van artikel 18 lid 1, en regel dat ze ook bij faillissement of overname beschikbaar blijven.
- Leg een procedure voor corrigerende maatregelen vast in uw kwaliteitsbeheersysteem: wie besluit, welke maatregel bij welke ernst, en hoe snel.
- Houd een actuele lijst bij van uw distributeurs, importeurs, gemachtigde en gebruiksverantwoordelijken, met contactpunten, zodat u ze zonder uitstel kunt informeren.
- Maak een sjabloon voor de kennisgeving met versie, periode, non-conformiteit, maatregel en wat de ontvanger moet doen.
- Bepaal wanneer een non-conformiteit een risico in de zin van artikel 79 lid 1 is, en wie dan de markttoezichtautoriteit en de aangemelde instantie informeert.
- Zorg dat u op een verzoek onder artikel 21 kunt leveren: documentatie in een taal die de autoriteit begrijpt, en toegang tot de logs onder uw controle.
Als gebruiksverantwoordelijke:
- Leg in het contract vast hoe en hoe snel de aanbieder u informeert, en welke gegevens u krijgt om eerdere uitkomsten na te lopen.
- Maak een draaiboek voor een melding onder artikel 20: lezen, beoordelen of u het gebruik onderbreekt, zelf melden, nagaan of er een ernstig incident is, logs veiligstellen, eerdere besluiten nalopen, de FRIA bijwerken.
- Bewaar uw logs ten minste zes maanden en zorg dat ze niet automatisch worden gewist zolang een melding loopt.
Twijfelt u of uw systeem hoog risico is en welke rol u hebt? Met de casus-check beschrijft u de toepassing in een paar vragen en ziet u welke AI Act- en AVG-plichten in beeld komen.
Veelgestelde vragen over corrigerende maatregelen en bewaring onder de AI Act
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven