Vanaf 2 december 2027 moet een aanbieder van een AI-systeem met een hoog risico uit bijlage III technische documentatie hebben opgesteld voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld, en die documentatie actueel houden (artikel 11 lid 1 AI Act). De documentatie moet aantonen dat het systeem aan de eisen van hoofdstuk III, afdeling 2, voldoet, en bevat ten minste de onderdelen van bijlage IV. De aanbieder zorgt dat zijn systeem aan die eisen voldoet en bewaart de documentatie (artikel 16 onder a en d). Een organisatie die een ingekocht systeem alleen gebruikt, de gebruiksverantwoordelijke, stelt geen technische documentatie op. Zij heeft haar eigen plichten in artikel 26.
Stel: een gemeente ontwikkelt met een extern IT-bureau een model dat aanvragen voor een Wmo-voorziening, zoals huishoudelijke ondersteuning, voorsorteert. Het model leest het aanvraagformulier en eerdere dossiers, en geeft de consulent per aanvraag een advies: eenvoudig af te handelen, of eerst een uitgebreid gesprek. Voor het lezen van de vrije tekst gebruikt het bureau een vooraf getraind taalmodel van een derde partij. Het systeem draait onder de naam van de gemeente. De projectleider vraagt: "We hebben een DPIA, een architectuurplaat en de handleiding van het bureau. Is dat niet al de technische documentatie?" Het antwoord: nee. De gemeente is hier aanbieder, en artikel 11 vraagt één samenhangend dossier waarin de toezichthouder kan nalezen hoe het systeem is gebouwd, getest en bewaakt. Het voorbeeld is verzonnen.
In het kort
Artikel 11 heeft drie leden. Lid 1 verplicht de aanbieder van een hoog-risicosysteem om vóór het in de handel brengen of in gebruik stellen technische documentatie op te stellen en die actueel te houden, op zo'n manier dat de naleving van afdeling 2 wordt aangetoond en dat nationale bevoegde autoriteiten en aangemelde instanties de informatie helder en begrijpelijk krijgen. De documentatie bevat ten minste de negen onderdelen van bijlage IV. Kmo's, start-ups en sinds de Digital Omnibus (Verordening (EU) 2026/1744) ook kleine midcapondernemingen mogen die onderdelen op vereenvoudigde wijze verstrekken, met een formulier dat de Commissie daarvoor opstelt. Lid 2 vraagt één documentatieset bij producten uit bijlage I, afdeling A. Lid 3 laat de Commissie bijlage IV bij gedelegeerde handeling aanpassen. De aanbieder bewaart de documentatie tien jaar ter beschikking van de nationale bevoegde autoriteiten (artikel 18). Een gebruiksverantwoordelijke heeft onder de AI Act geen eigen recht op dat dossier; zij krijgt de gebruiksinstructies van artikel 13 en kan de rest contractueel afspreken. Voor bijlage III geldt artikel 11 vanaf 2 december 2027, voor bijlage I, afdeling A, vanaf 2 augustus 2028.
Dit stuk gaat over artikel 11, bijlage IV en wat een aanbieder ermee doet. Hoe het proces eromheen eruitziet, staat in het systeem voor kwaliteitsbeheer van artikel 17. Hoe de documentatie in de conformiteitsbeoordeling wordt gebruikt, staat in interne controle of een aangemelde instantie. Wanneer u aanbieder wordt, staat in wanneer word je aanbieder.
Wie de technische documentatie opstelt
De plicht rust op de aanbieder. Dat is ook een overheidsinstantie die een AI-systeem ontwikkelt of laat ontwikkelen en het onder eigen naam in gebruik stelt (artikel 3 punt 3). De gemeente uit het voorbeeld is dus aanbieder, ook al schrijft het IT-bureau de code. Wie het werk doet, maakt niet uit; wie het systeem onder eigen naam in gebruik stelt, wel.
Een organisatie die een systeem koopt en volgens de gebruiksaanwijzing inzet, is gebruiksverantwoordelijke en stelt geen technische documentatie op. Zet zij haar naam op het systeem, wijzigt zij het substantieel of verandert zij het beoogde doel zo dat het hoog risico wordt, dan wordt zij aanbieder (artikel 25 lid 1). De oorspronkelijke aanbieder moet dan nauw met haar samenwerken. Sinds de Digital Omnibus staat daar uitdrukkelijk bij dat dit, waar relevant, het beschikbaar stellen omvat van technische documentatie die toereikend is om de naleving van de vereisten van artikel 16 te beoordelen, informatie over bekende beperkingen en potentiële fouten, en gerichte technische toegang voor testen en validatie (artikel 25 lid 2, zoals gewijzigd door artikel 1, punt 12, van Verordening (EU) 2026/1744). Dat geldt niet als de oorspronkelijke aanbieder duidelijk heeft aangegeven dat zijn systeem niet tot een hoog-risicosysteem mag worden omgebouwd.
Wanneer en hoe: opstellen vóór de markt, daarna bijhouden
Artikel 11 lid 1 kent twee momenten. De documentatie wordt opgesteld vóórdat het systeem in de handel wordt gebracht of in gebruik wordt gesteld, en wordt daarna geactualiseerd. Overweging 71 zegt waarom: begrijpelijke informatie over hoe een systeem is ontwikkeld en presteert, is nodig voor traceerbaarheid, voor de controle op naleving en voor de monitoring na het in de handel brengen, en de documentatie moet gedurende de hele levensduur passend worden bijgehouden.
Bijhouden is meer dan een versienummer ophogen. Bijlage IV vraagt een beschrijving van de relevante wijzigingen die de aanbieder tijdens de levensduur aanbrengt (punt 6). Bij een substantiële wijziging moet de conformiteitsbeoordeling opnieuw. Voor systemen die blijven leren nadat ze in de handel zijn gebracht of in gebruik zijn gesteld, zijn veranderingen die de aanbieder bij de eerste conformiteitsbeoordeling vooraf heeft bepaald en in de technische documentatie heeft beschreven (bijlage IV, punt 2 onder f), geen substantiële wijziging (artikel 43 lid 4). Naar onze lezing beperkt goede documentatie vooraf zo het risico dat een geplande verandering later als substantiële wijziging een nieuwe conformiteitsbeoordeling vraagt.
De documentatie heeft twee lezers: nationale bevoegde autoriteiten en aangemelde instanties. Zij moeten de informatie "op heldere en begrijpelijke wijze" krijgen (lid 1). Een map met ruwe exports en notebooks voldoet daar naar onze lezing niet aan, ook als alle informatie er ergens in zit.
Bijlage IV: de negen onderdelen
Bijlage IV noemt de informatie die de technische documentatie ten minste bevat, "zoals van toepassing op het betreffende AI-systeem". Dat laatste is naar onze lezing geen vrijbrief: een onderdeel valt alleen weg als het voor dit systeem werkelijk niet speelt, zoals de externe kenmerken van een product (punt 1 onder f) bij een systeem dat geen component van een product is.
| Punt | Wat bijlage IV vraagt | Wat dat voor de gemeente betekent (onze vertaling) |
|---|---|---|
| 1 | Een algemene beschrijving: beoogd doel, naam van de aanbieder, versie en verband met eerdere versies, interactie met andere hard- en software en andere AI-systemen, softwareversies, vormen waarin het systeem wordt aangeboden, hardware, gebruikersinterface en gebruiksinstructies voor de gebruiksverantwoordelijke | Waarvoor het model wel en niet bedoeld is, welke versie draait, hoe het aan het zaaksysteem gekoppeld is en wat de consulent op het scherm ziet |
| 2 | Een gedetailleerde beschrijving van de elementen en het ontwikkelproces: methoden en stappen, inclusief vooraf getrainde systemen of hulpmiddelen van derden (a), ontwerpspecificaties en ontwerpkeuzes met hun motivering en aannames (b), systeemarchitectuur en rekenhulpmiddelen (c), datavereisten en informatiebladen over training en trainingsdata (d), de beoordeling van menselijk toezicht (e), vooraf bepaalde wijzigingen (f), validatie- en testprocedures met statistieken voor nauwkeurigheid, robuustheid en mogelijk discriminerende gevolgen, en gedateerde en ondertekende testverslagen (g), en cyberbeveiligingsmaatregelen (h) | Welk taalmodel het bureau gebruikt en hoe het is aangepast, waarom bepaalde dossiervelden niet meetellen, welke historische aanvragen zijn gebruikt en hoe ze zijn gelabeld, en wie de testverslagen heeft ondertekend |
| 3 | Gedetailleerde informatie over monitoring, werking en controle: mogelijkheden en beperkingen, nauwkeurigheid voor specifieke personen of groepen en in het algemeen, voorzienbare onbedoelde resultaten en risico's voor gezondheid, veiligheid, grondrechten en discriminatie, menselijk toezicht en specificaties van inputdata | Of het advies even goed werkt voor ouderen, mensen met een licht verstandelijke beperking en aanvragers die het formulier in gebrekkig Nederlands invullen |
| 4 | Een beschrijving van de geschiktheid van de prestatiestatistieken voor dit systeem | Waarom de gemeente juist deze maatstaf kiest, en niet alleen een gemiddelde over alle aanvragen |
| 5 | Een gedetailleerde beschrijving van het systeem voor risicobeheer van artikel 9 | De risicoanalyse en de maatregelen, niet alleen de DPIA |
| 6 | Een beschrijving van de relevante wijzigingen tijdens de levensduur | Een wijzigingslog per modelversie |
| 7 | De toegepaste geharmoniseerde normen, of, waar die niet zijn toegepast, een gedetailleerde beschrijving van de gekozen oplossingen voor de eisen van afdeling 2, met de andere toegepaste normen en technische specificaties | Welke normen het bureau volgt, en hoe de gemeente de eisen onderbouwt waar geen norm is |
| 8 | Een exemplaar van de EU-conformiteitsverklaring van artikel 47 | De ondertekende verklaring van de gemeente zelf |
| 9 | Een gedetailleerde beschrijving van het systeem voor de evaluatie van de prestaties na het in de handel brengen (artikel 72), met het monitoringplan van artikel 72 lid 3 | Hoe vaak de adviezen worden vergeleken met de uiteindelijke besluiten, en wat er gebeurt als ze uit elkaar lopen |
De rechterkolom is onze praktische vertaling, geen tekst uit de verordening. Ze laat wel zien waar de projectleider uit het voorbeeld de mist in gaat. De DPIA raakt punt 2 onder d en een deel van punt 3 en 5. De architectuurplaat raakt punt 2 onder c. De handleiding van het bureau is hooguit een begin van punt 1. Wat ontbreekt, is naar onze verwachting juist wat een toezichthouder het eerst vraagt: de testverslagen, de nauwkeurigheid per groep, het wijzigingslog en het monitoringplan.
Twee onderdelen verdienen extra aandacht bij de gemeente. Punt 2 onder a vraagt hoe de aanbieder vooraf getrainde systemen of hulpmiddelen van derden heeft gebruikt, geïntegreerd of aangepast. Daarvoor heeft de gemeente informatie nodig van de leverancier van het taalmodel. Artikel 25 lid 4 verplicht de aanbieder van een hoog-risicosysteem en de derde die een AI-systeem, AI-model, instrumenten, diensten, onderdelen of processen levert, om schriftelijk af te spreken welke informatie, capaciteiten, technische toegang en andere bijstand de aanbieder nodig heeft om aan de verordening te voldoen. Dat geldt niet voor derden die andere instrumenten, diensten, processen of onderdelen dan AI-modellen voor algemene doeleinden onder een kosteloze en opensource licentie toegankelijk maken voor het publiek. Het AI-bureau kan vrijwillige modelvoorwaarden voor zulke contracten aanbevelen. Is het taalmodel een AI-model voor algemene doeleinden, dan moet de aanbieder van dat model bovendien zelf informatie en documentatie opstellen, actueel houden en beschikbaar stellen aan aanbieders die het model in hun AI-systeem willen integreren, met ten minste de elementen van bijlage XII (artikel 53 lid 1 onder b). Die plicht geldt niet voor bepaalde modellen die onder een vrije en opensource licentie worden vrijgegeven, tenzij het model een systeemrisico heeft (artikel 53 lid 2). Punt 8, de conformiteitsverklaring, kan pas aan het eind van de rit: het dossier is pas compleet na de conformiteitsbeoordeling.
Kmo's en kleine midcaps: het vereenvoudigde formulier
Kmo's, met inbegrip van start-ups, mochten de elementen van bijlage IV al op vereenvoudigde wijze verstrekken. Oorspronkelijk stelde de Commissie daarvoor een vereenvoudigd formulier op "dat is afgestemd op de behoeften van kleine en micro-ondernemingen". De Digital Omnibus verving die alinea (artikel 1, punt 10, van Verordening (EU) 2026/1744). Sinds 27 juli 2026 mogen ook kleine midcapondernemingen de vereenvoudigde weg kiezen, en is het formulier afgestemd op de behoeften van kmo's, start-ups en kleine midcaps. Op 18 november 2026 vonden wij dat formulier nog niet bij de Commissie; ga na of het er inmiddels is. Het begrip kmo volgt Aanbeveling 2003/361/EG, het begrip kleine midcaponderneming Aanbeveling (EU) 2025/1099 (artikel 3, punten 14 bis en 14 ter). Overweging 6 van de Omnibus legt uit waarom: ondernemingen die net boven de kmo-grens uitgroeien, lopen tegen dezelfde administratieve last aan.
Drie dingen veranderden niet. Wie de vereenvoudigde weg kiest, moet het formulier van de Commissie gebruiken. Aangemelde instanties moeten het formulier aanvaarden voor de conformiteitsbeoordeling. En de elementen van bijlage IV blijven dezelfde: de verordening vereenvoudigt de manier van verstrekken, niet wat er aangetoond moet worden. Naar onze lezing betekent dat ook dat de eisen van afdeling 2 zelf, zoals de nauwkeurigheid per groep en het risicobeheer, voor een kleine aanbieder niet lichter worden.
Verwar dit niet met artikel 63. Dat artikel laat bepaalde kmo's elementen van het systeem voor kwaliteitsbeheer vereenvoudigd invullen, en bepaalt in lid 2 dat dit geen vrijstelling is van andere plichten, uitdrukkelijk ook niet van artikel 11. Hoe dat werkt, staat in ons stuk over artikel 17.
Een gemeente is geen onderneming in de zin van de kmo-aanbeveling. Het vereenvoudigde formulier is naar onze lezing dus niet voor haar bedoeld. Dat het IT-bureau dat voor haar bouwt zelf een kmo is, verandert daar naar onze lezing niets aan: het bureau is hier geen aanbieder, en de keuze voor de vereenvoudigde weg ligt bij de aanbieder.
Lid 2: één documentatieset bij producten uit bijlage I, afdeling A
Hoort het hoog-risicosysteem bij een product dat onder de harmonisatiewetgeving van bijlage I, afdeling A, valt, dan wordt één technisch document opgesteld met alle informatie van lid 1 en de informatie die die productwetgeving vereist (lid 2). Een fabrikant van een medisch hulpmiddel met een AI-component maakt dus geen tweede dossier naast de technische documentatie onder de MDR, maar één dossier waarin beide zitten. Het past bij artikel 43 lid 3: de eisen van afdeling 2 worden beoordeeld binnen de conformiteitsbeoordeling van de productwetgeving. Ook de conformiteitsverklaring wordt dan één verklaring voor al het toepasselijke Unierecht (artikel 47 lid 3). Hoe dat bij medische AI uitpakt, staat in medische AI onder de AI Act en de MDR.
De Omnibus schrapte de machinerichtlijn (Richtlijn 2006/42/EG) uit afdeling A en nam de machineverordening (Verordening (EU) 2023/1230) op in afdeling B van bijlage I (artikel 1, punt 41). Voor systemen onder afdeling B gelden alleen artikel 6 lid 1, artikel 60 bis en de artikelen 102 tot en met 112, en de artikelen 57, 58 en 59 voor zover de eisen van de AI Act in die productwetgeving zijn opgenomen (artikel 2 lid 2, zoals gewijzigd door artikel 1, punt 2). Artikel 11 lid 2 speelt daar dus niet. Voor systemen onder afdeling A geldt artikel 11 vanaf 2 augustus 2028.
Voor hoog-risicosystemen van artikel 6 lid 1 kan bovendien de toepassing van specifieke eisen of verplichtingen van de artikelen 9 tot en met 15 en 17 tot en met 25, en dus ook van artikel 11, worden beperkt, als en voor zover de harmonisatiewetgeving van bijlage I, afdeling A, eisen bevat met een gelijkwaardig of hoger niveau van bescherming en de beperking geen afbreuk doet aan het algemene beschermingsniveau van de AI Act (artikel 2 lid 13, toegevoegd door artikel 1, punt 3, van de Omnibus). De Commissie stelt uiterlijk op 2 augustus 2027 gedelegeerde handelingen vast die bepalen om welke systemen en eisen het gaat, onder welke voorwaarden de beperking geldt en hoe ver zij reikt.
Bewaren: tien jaar, en wie erin mag kijken
De aanbieder houdt de technische documentatie tien jaar nadat het systeem in de handel is gebracht of in gebruik is gesteld ter beschikking van de nationale bevoegde autoriteiten (artikel 18 lid 1). Dat geldt ook voor de documentatie over het systeem voor kwaliteitsbeheer, de door aangemelde instanties goedgekeurde wijzigingen en hun besluiten, en de EU-conformiteitsverklaring. Lid 1 noemt de twee startmomenten naast elkaar zonder te kiezen. Naar onze lezing is tellen vanaf het latere van de twee de veilige keuze, omdat u dan onder geen van beide lezingen te kort bewaart.
Drie aanvullingen zijn de moeite waard. Lid 2 laat de lidstaten regelen wat er met de documentatie gebeurt als een aanbieder of zijn gemachtigde failliet gaat of stopt. Is de aanbieder buiten de EU gevestigd, dan houdt ook zijn gemachtigde de technische documentatie tien jaar beschikbaar (artikel 22 lid 3 onder b). En de logs die het systeem automatisch genereert, vallen niet onder artikel 18 maar onder artikel 19, met een eigen termijn van ten minste zes maanden.
Wie mag erin kijken? Op een met redenen omkleed verzoek van een bevoegde autoriteit verstrekt de aanbieder alle informatie en documentatie die nodig is om de overeenstemming met afdeling 2 aan te tonen, in een officiële taal van de instellingen van de Unie die de autoriteit eenvoudig begrijpt en die de betrokken lidstaat heeft gekozen (artikel 21 lid 1). Markttoezichtautoriteiten krijgen, voor zover relevant en beperkt tot wat nodig is voor hun taken, volledige toegang tot de documentatie en de datasets voor training, validatie en tests, waar passend op afstand (artikel 74 lid 12). Toegang tot de broncode krijgen zij alleen op een met redenen omkleed verzoek, als dat nodig is en als tests en controles op basis van de documentatie zijn uitgeput of ontoereikend bleken (lid 13). Wat de autoriteit zo verkrijgt, valt onder de geheimhoudingsplicht van artikel 78. Een goede technische documentatie is dus ook een manier om te voorkomen dat een toezichthouder dieper moet graven.
Hoe artikel 11 samenhangt met artikel 9, 10, 12, 13, 15, 17, 43, 47 en 72
Artikel 11 voegt weinig nieuwe inhoudelijke eisen toe. Het vraagt dat de aanbieder laat zien hoe hij aan de andere eisen voldoet. Daarom lees je bijlage IV het best als een inhoudsopgave van afdeling 2 en de plichten eromheen.
Artikel 9: risicobeheer (punt 5). Het systeem voor risicobeheer is een doorlopend en iteratief proces over de hele levensduur (artikel 9). Bijlage IV vraagt er een gedetailleerde beschrijving van, en punt 3 vraagt de voorzienbare onbedoelde resultaten en risicobronnen. Zie het risicobeheersysteem van artikel 9.
Artikel 10: data (punt 2 onder d). De informatiebladen over training en trainingsdata, de herkomst en selectie van data, labeling en opschoning zijn de neerslag van het databeheer van artikel 10. De Omnibus verplaatste de uitzondering voor bijzondere categorieën van persoonsgegevens om vooringenomenheid op te sporen naar artikel 4 bis. Zie ook data governance onder artikel 10.
Artikel 12: logging (punt 2 onder g). Bijlage IV vraagt logbestanden over tests en ondertekende testverslagen. Dat zijn andere logs dan de automatische registratie van gebeurtenissen tijdens het gebruik die artikel 12 technisch mogelijk moet maken. Naar onze lezing hoort de beschrijving van die loggingfunctie wel in het dossier, onder punt 2 onder c (architectuur) en punt 3 (werking en controle). Zie logboeken bij hoog-risico-AI.
Artikel 13: gebruiksinstructies (punt 1 onder h, punt 2 onder e en punt 3). De gebruiksinstructies voor de gebruiksverantwoordelijke zijn zelf onderdeel van de technische documentatie, en punt 2 onder e verwijst naar artikel 13 lid 3 onder d voor de maatregelen die de interpretatie van de output vergemakkelijken. Het verschil: de technische documentatie is voor de toezichthouder, de gebruiksinstructies zijn voor de gebruiker. Zie gebruiksinstructies onder artikel 13. Voor menselijk toezicht zelf: artikel 14.
Artikel 15: nauwkeurigheid, robuustheid en cyberbeveiliging (punt 2 onder g en h, en punt 3 en 4). De statistieken voor nauwkeurigheid en robuustheid, de cyberbeveiligingsmaatregelen en de geschiktheid van de prestatiestatistieken onderbouwen artikel 15. Zie ons stuk over artikel 15.
Artikel 17: kwaliteitsbeheer. Het kwaliteitssysteem is het proces, de technische documentatie is wat dat proces per systeem oplevert. Artikel 17 lid 1 vraagt onder meer systemen en procedures voor de registratie van alle relevante documentatie (punt k), en bijlage IV, punt 7, sluit aan op de normen en specificaties van punt e. Zie het systeem voor kwaliteitsbeheer.
Artikel 43: conformiteitsbeoordeling. Bij interne controle onderzoekt de aanbieder de informatie in de technische documentatie om te beoordelen of het systeem aan afdeling 2 voldoet, en controleert hij of het ontwerp- en ontwikkelproces en de monitoring na het in de handel brengen met die documentatie overeenstemmen (bijlage VI, punten 3 en 4). Bij de route met een aangemelde instantie beoordeelt die instantie de technische documentatie (bijlage VII, punt 4). Voor de gemeente geldt de interne controle: bijlage III punt 5 valt onder artikel 43 lid 2.
Artikel 47: de EU-conformiteitsverklaring (punt 8). Een exemplaar van de verklaring hoort in het dossier. De verklaring zelf heeft een eigen bewaartermijn van tien jaar en moet op verzoek aan de autoriteiten worden overgelegd (artikel 47 lid 1).
Artikel 72: monitoring na het in de handel brengen (punt 9). Het monitoringplan maakt deel uit van de technische documentatie, en de Commissie stelt uiterlijk 2 september 2027 richtsnoeren met een model voor dat plan vast (artikel 72 lid 3, zoals gewijzigd door artikel 1, punt 30, van de Omnibus). Zie monitoring onder artikel 72.
Wat een gebruiksverantwoordelijke wel en niet van de leverancier kan vragen
Stel dat een buurgemeente een vergelijkbaar Wmo-systeem koopt bij een leverancier. Zij is gebruiksverantwoordelijke. Kan zij de technische documentatie opvragen?
Wat niet. De AI Act geeft de gebruiksverantwoordelijke geen recht op het dossier van bijlage IV. Artikel 11 lid 1 noemt als lezers de nationale bevoegde autoriteiten en de aangemelde instanties, en artikel 18 en artikel 21 regelen de beschikbaarheid voor autoriteiten. De verplichting tot samenwerking met het overhandigen van technische documentatie in artikel 25 lid 2 geldt pas als de gebruiksverantwoordelijke zelf aanbieder wordt.
Wat wel, op grond van de verordening. Het systeem gaat vergezeld van gebruiksinstructies met beknopte, volledige, juiste en duidelijke informatie (artikel 13 lid 2 en 3). Daarin staat veel van wat ook in bijlage IV staat: de nauwkeurigheid en de maatstaven waartegen het systeem is getest, waar passend de prestaties voor specifieke personen of groepen, de vooraf bepaalde wijzigingen, de maatregelen voor menselijk toezicht, de benodigde rekenkracht en verwachte levensduur, en hoe de logs kunnen worden verzameld en gelezen. Het systeem draagt de CE-markering, en importeurs en distributeurs controleren dat het vergezeld gaat van (een kopie van) de EU-conformiteitsverklaring (artikel 23 lid 1 onder c, artikel 24 lid 1). Is de gebruiksverantwoordelijke een overheidsinstantie, dan gebruikt zij geen systeem dat niet in de EU-databank is geregistreerd (artikel 26 lid 8).
Wat zij zelf moet doen. De gebruiksverantwoordelijke gebruikt het systeem volgens de gebruiksinstructies, wijst menselijk toezicht toe, zorgt waar zij de inputdata beheert dat die relevant en voldoende representatief zijn, en monitort de werking (artikel 26 lid 1, 2, 4 en 5). Zij gebruikt de informatie van artikel 13 voor haar DPIA (artikel 26 lid 9). Als overheidsinstantie registreert zij zichzelf en haar gebruik van het systeem in de EU-databank (artikel 26 lid 8 en artikel 49 lid 3). Een gemeente maakt als gebruiksverantwoordelijke van een bijlage III punt 5-systeem ook een grondrechteneffectbeoordeling (artikel 27); zie het FRIA-sjabloon. De gemeente uit het eerste voorbeeld is aanbieder én gebruiksverantwoordelijke: als aanbieder registreert zij zichzelf en het systeem (artikel 49 lid 1), als gebruiksverantwoordelijke registreert zij haar gebruik (artikel 49 lid 3) en maakt zij zelf een grondrechteneffectbeoordeling (artikel 27).
Wat zij contractueel kan afspreken. Alles wat verder gaat, is een inkoopvraag. Naar onze lezing zijn dit redelijke vragen aan een leverancier: een samenvatting van de testverslagen met de nauwkeurigheid per relevante groep, melding vooraf van nieuwe versies en substantiële wijzigingen, medewerking als een toezichthouder bij de gemeente vragen stelt over het systeem, en een regeling voor de documentatie als de leverancier stopt of failliet gaat. Artikel 18 lid 2 laat de lidstaten in dat geval alleen regelen dat de documentatie ter beschikking van de nationale bevoegde autoriteiten blijft, niet van de gebruiksverantwoordelijke. Een leverancier mag bedrijfsgeheimen beschermen; inzage onder geheimhouding is dan een middenweg. Een leverancier die geen van deze vragen kan beantwoorden, zegt naar onze lezing iets over de staat van zijn dossier. Zie ook een AI-leverancier beoordelen bij inkoop.
De AVG: verantwoording, register en DPIA
De AI Act laat de AVG onverlet, onverminderd artikel 4 bis en artikel 59 (artikel 2 lid 7, zoals gewijzigd door de Omnibus). De gemeente uit het voorbeeld verwerkt persoonsgegevens, ook gezondheidsgegevens, om het model te ontwikkelen en te gebruiken. Drie AVG-plichten lopen dan parallel aan artikel 11.
- Artikel 5 lid 2 AVG, de verantwoordingsplicht: de verwerkingsverantwoordelijke is verantwoordelijk voor de naleving van de beginselen en kan die aantonen (artikel 5 AVG). Dezelfde gedachte als bij artikel 11: het gaat niet alleen om doen, maar om kunnen laten zien.
- Artikel 30 AVG, het register van verwerkingsactiviteiten, met onder meer de doeleinden en de categorieën van betrokkenen en persoonsgegevens (artikel 30 AVG). Naar onze lezing kan de gemeente de beschrijving van de trainingsdata onder bijlage IV, punt 2 onder d, en haar register op elkaar laten aansluiten.
- Artikel 35 AVG, de gegevensbeschermingseffectbeoordeling. Die is met name vereist bij een systematische en uitgebreide beoordeling van persoonlijke aspecten op basis van geautomatiseerde verwerking, waaronder profilering, waarop besluiten worden gebaseerd met rechtsgevolgen of vergelijkbaar wezenlijke gevolgen (artikel 35 lid 3 onder a AVG), en bij grootschalige verwerking van bijzondere categorieën van persoonsgegevens, zoals gezondheidsgegevens (onder b). Een DPIA is geen technische documentatie, en de technische documentatie is geen DPIA. Wel kan de DPIA putten uit punt 2 en 3 van bijlage IV, en kan het risicobeheer van punt 5 de uitkomsten van de DPIA meenemen.
De training zelf vraagt ook een AVG-toets. Naar onze lezing is het trainen van het model met eerdere Wmo-dossiers verdere verwerking voor een ander doel dan waarvoor die gegevens zijn verzameld. Berust die niet op toestemming of op een wettelijke bepaling, dan beoordeelt de gemeente of het nieuwe doel verenigbaar is met het oorspronkelijke (artikel 6 lid 4 AVG). Voor de gezondheidsgegevens in die dossiers geldt bovendien het verwerkingsverbod van artikel 9 lid 1 AVG, zodat de gemeente een uitzondering uit artikel 9 lid 2 nodig heeft. Artikel 4 bis lid 1 AI Act laat aanbieders bij wijze van uitzondering bijzondere categorieën van persoonsgegevens verwerken, maar alleen voor zover dat strikt noodzakelijk is om vooringenomenheid op te sporen en te corrigeren, en onder de voorwaarden van dat lid. Naar onze lezing is dat geen grondslag voor de training als geheel.
Volgt de consulent het advies in de praktijk vrijwel altijd, dan kan het advies naar onze lezing zelf onder artikel 22 AVG vallen. Volgens het SCHUFA-arrest van het Hof van Justitie (C-634/21, 7 december 2023) kan een geautomatiseerd vastgestelde score al een besluit zijn als een ander er in sterke mate van laat afhangen wat hij beslist.
Naar onze lezing doet de gemeente veel werk dus één keer, maar ze vult twee verschillende dossiers voor twee verschillende toezichthouders.
Vanaf wanneer?
Artikel 11 staat in hoofdstuk III, afdeling 2. Voor hoog-risicosystemen uit bijlage III geldt die afdeling vanaf 2 december 2027, voor systemen onder bijlage I, afdeling A, vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c, zoals gewijzigd door Verordening (EU) 2026/1744). Het systeem van de gemeente beoordeelt of inwoners in aanmerking komen voor een essentiële overheidsdienst en valt naar onze lezing onder bijlage III punt 5 onder a. Omdat het model aanvragers profileert, kan de gemeente zich naar onze lezing niet beroepen op de uitzondering van artikel 6 lid 3 (laatste alinea). Ook wie meent dat een bijlage III-systeem geen hoog risico inhoudt, moet documenteren: de aanbieder legt die beoordeling vast voordat het systeem in de handel komt of in gebruik wordt gesteld, en verstrekt haar op verzoek (artikel 6 lid 4).
Is het systeem vóór 2 december 2027 in de handel gebracht of in gebruik gesteld, dan gelden de hoog-risicoplichten pas als het vanaf die datum aanzienlijke wijzigingen in zijn ontwerp ondergaat; voor systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, moeten aanbieders en gebruiksverantwoordelijken uiterlijk op 2 augustus 2030 aan de verordening voldoen (artikel 111 lid 2, zoals gewijzigd door artikel 1, punt 39, van Verordening (EU) 2026/1744). Voor een gemeente die nu bouwt, is dat geen reden om te wachten. Testverslagen die u vandaag niet dateert en ondertekent, kunt u in 2030 niet meer reconstrueren.
Voorbeeld 2: de bank
Een bank die zelf een model ontwikkelt om de kredietwaardigheid van particulieren te beoordelen, is aanbieder van een hoog-risicosysteem uit bijlage III punt 5 onder b. Zij stelt de volledige technische documentatie van bijlage IV op. De verordening kent voor financiële instellingen een eigen regel over het bewaren, niet over de inhoud: de bank bewaart de technische documentatie als onderdeel van de documentatie die zij onder het financiële Unierecht bijhoudt (artikel 18 lid 3). De uitzondering voor financiële instellingen in artikel 17 lid 4 gaat over het systeem voor kwaliteitsbeheer, niet over de technische documentatie.
Naar onze lezing kan de bank veel hergebruiken uit de modeldocumentatie die zij al heeft, maar bijlage IV vraagt dingen die daar niet vanzelf in staan: de nauwkeurigheid voor specifieke personen of groepen (punt 3), de statistieken voor mogelijk discriminerende gevolgen (punt 2 onder g) en een beschrijving van menselijk toezicht met de maatregelen die de interpretatie van de output vergemakkelijken (punt 2 onder e). Gebruikt de bank een extern model of een AI-model voor algemene doeleinden als bouwsteen, dan vraagt punt 2 onder a hoe zij dat heeft geïntegreerd of aangepast, en spreekt zij met de leverancier schriftelijk af welke informatie zij daarvoor krijgt (artikel 25 lid 4). Als gebruiksverantwoordelijke van haar eigen model maakt de bank daarnaast een grondrechteneffectbeoordeling (artikel 27 lid 1).
Een fintech die hetzelfde soort model bouwt en een kmo of kleine midcaponderneming is, mag de elementen van bijlage IV op vereenvoudigde wijze verstrekken met het formulier van de Commissie, zodra de Commissie dat formulier heeft gepubliceerd. Een fintech die niet onder governance-eisen uit het financiële Unierecht valt, bewaart naar onze lezing volgens de gewone regel van artikel 18 lid 1. Hoe bestaande bankregels zich verder tot de AI Act verhouden, staat in de EBA-mapping voor de financiële sector.
Wat u nu doet
- Stel vast of u aanbieder bent. Bouwt u een hoog-risicosysteem zelf, laat u het bouwen en zet u het onder uw naam in gebruik, of wijzigt u het substantieel? Dan stelt u de technische documentatie op. Gebruikt u alleen een gekocht systeem, dan niet.
- Leg uw bestaande stukken naast bijlage IV. Markeer per punt 1 tot en met 9 wat er al is (DPIA, architectuur, testrapporten, modeldocumentatie) en wat ontbreekt.
- Regel de informatie van derden. Leg met de leverancier van een vooraf getraind model of component schriftelijk vast welke informatie u krijgt (artikel 25 lid 4), want zonder die informatie kunt u punt 2 onder a niet invullen.
- Documenteer vooraf bepaalde wijzigingen. Blijft uw systeem leren nadat het in de handel is gebracht of in gebruik is gesteld, beschrijf dan bij de eerste conformiteitsbeoordeling welke veranderingen van het systeem en zijn prestaties u vooraf bepaalt (punt 2 onder f). Zulke vooraf bepaalde veranderingen zijn geen substantiële wijziging (artikel 43 lid 4); elke andere substantiële wijziging vraagt een nieuwe conformiteitsbeoordeling.
- Bepaal uw omvang en status. Bent u een kmo, start-up of kleine midcap? Leg die toets vast. Tel daarbij partner- en verbonden ondernemingen mee (Aanbeveling 2003/361/EG). Volg of de Commissie het vereenvoudigde formulier al heeft gepubliceerd voordat u die weg kiest.
- Regel de bewaring voor tien jaar. Wijs een bewaarplaats aan, leg de datum van in de handel brengen en van in gebruik stellen vast, en reken vanaf het latere moment.
- Bent u gebruiksverantwoordelijke? Vraag de gebruiksinstructies, de conformiteitsverklaring en de registratie in de EU-databank, en spreek in het contract af wat u verder nodig hebt.
Twijfelt u of uw systeem hoog risico is en of u aanbieder of gebruiksverantwoordelijke bent? Met de casus-check beschrijft u de toepassing in een paar vragen en ziet u welke AI Act- en AVG-plichten in beeld komen.
Veelgestelde vragen over artikel 11 en bijlage IV AI Act
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven