Ga naar de hoofdinhoud
Praxikon

Het systeem voor kwaliteitsbeheer bij hoog-risico-AI: wat artikel 17 van de AI Act van aanbieders vraagt

··23 min leestijd

Vanaf 2 december 2027 moet een aanbieder van een AI-systeem met een hoog risico uit bijlage III een systeem voor kwaliteitsbeheer hebben dat de naleving van de AI Act waarborgt. Dat systeem wordt systematisch en ordelijk gedocumenteerd in schriftelijke beleidslijnen, procedures en instructies, en omvat ten minste dertien onderdelen (artikel 17 lid 1 AI Act). De plicht staat in het rijtje van de aanbieder (artikel 16 onder c). Een organisatie die een ingekocht systeem alleen gebruikt, de gebruiksverantwoordelijke, hoeft geen systeem voor kwaliteitsbeheer in te richten. Zij heeft haar eigen plichten in artikel 26.

Stel: een middelgrote gemeente ontwikkelt met haar eigen datateam een model dat aanvragen voor bijzondere bijstand voorsorteert. Het model geeft de consulent per aanvraag een advies: direct toekennen of eerst nader onderzoek. Het draait onder de naam van de gemeente, en er is geen leverancier die het systeem op de markt brengt. De projectleider vraagt: "We hebben toch al een privacybeleid en een DPIA? Wat moet er nog bij?" Het antwoord: de gemeente is hier zelf aanbieder, en artikel 17 vraagt een kwaliteitssysteem rond het hele systeem, van ontwerp tot incidentmelding. Het voorbeeld is verzonnen.

In het kort

Artikel 17 heeft vier leden. Lid 1 verplicht aanbieders van hoog-risicosystemen tot een gedocumenteerd systeem voor kwaliteitsbeheer met ten minste de onderdelen a tot en met m: van een nalevingsstrategie en wijzigingsbeheer tot databeheer, risicobeheer (artikel 9), monitoring na het in de handel brengen (artikel 72), het melden van ernstige incidenten (artikel 73) en een verantwoordingskader. Lid 2 maakt de uitvoering evenredig aan de omvang van de organisatie, sinds de Digital Omnibus (Verordening (EU) 2026/1744) met name voor kmo's, start-ups en kleine midcapondernemingen, zonder korting op de striktheid. Lid 3 laat aanbieders met een kwaliteitssysteem onder sectoraal Unierecht de onderdelen daarin opnemen. Lid 4 bepaalt dat financiële instellingen met governance-eisen uit het financiële Unierecht de plicht vervullen door die eisen na te leven, behalve voor risicobeheer, monitoring en incidentmelding (onder g, h en i). Sinds 14 oktober 2026 is EN 18286:2026 een geharmoniseerde norm voor kwaliteitsbeheer. Het besluit noemt geen artikelen, en artikel 40 lid 1 spreekt over de eisen van afdeling 2, terwijl artikel 17 in afdeling 3 staat; hoe ver het vermoeden van conformiteit voor artikel 17 reikt, staat naar onze lezing niet vast. Voor bijlage III geldt artikel 17 vanaf 2 december 2027, voor bijlage I, afdeling A, vanaf 2 augustus 2028.

Dit stuk gaat over artikel 17 en wat een aanbieder ermee doet. Wanneer u aanbieder wordt, staat in wanneer word je aanbieder. Hoe het kwaliteitssysteem in de conformiteitsbeoordeling terugkomt, staat in interne controle of een aangemelde instantie. Wat ISO/IEC 42001 wel en niet afdekt, staat in ISO 42001 en de AI Act.

Wie een systeem voor kwaliteitsbeheer moet hebben

De adressant is de aanbieder. Dat is ook een overheidsinstantie die een AI-systeem ontwikkelt of laat ontwikkelen en het onder eigen naam in gebruik stelt (artikel 3 punt 3). De gemeente uit het voorbeeld is dus aanbieder. Een bedrijf of gemeente die een systeem koopt en volgens de gebruiksaanwijzing inzet, is gebruiksverantwoordelijke en valt niet onder artikel 17. Dat verandert als zij haar naam op het systeem zet, het substantieel wijzigt of het beoogde doel zo verandert dat het hoog risico wordt; dan wordt zij aanbieder (artikel 25 lid 1).

Een gebruiksverantwoordelijke kan wel vragen naar het kwaliteitssysteem van haar leverancier. Dat is een inkoopvraag, geen eigen plicht: naar onze lezing zegt een leverancier die zijn wijzigingsbeheer, tests en incidentprocedure niet kan laten zien, iets over de betrouwbaarheid van de cijfers in zijn gebruiksaanwijzing. Hoe een gemeente die cijfers leest en in het contract zet, staat in ons stuk over artikel 15.

Lid 1: de dertien onderdelen

Het systeem moet een systeem zijn "dat de naleving van deze verordening waarborgt". Dat is breder dan productkwaliteit: het gaat om alle plichten die de aanbieder heeft. Lid 1 noemt de onderdelen die er ten minste in zitten.

PuntWat de verordening vraagtWat dat voor de gemeente betekent (onze vertaling)
aStrategie voor naleving, inclusief de conformiteitsbeoordeling en het beheer van wijzigingen aan het systeemWie besluit over een nieuwe modelversie, en wanneer is een wijziging zo groot dat de beoordeling opnieuw moet (artikel 43 lid 4)?
bTechnieken, procedures en systematische maatregelen voor ontwerp, ontwerpcontrole en ontwerpverificatieVastgelegde ontwerpkeuzes, zoals welke gegevens het model wel en niet gebruikt, en wie die keuzes toetst
cIdem voor ontwikkeling, kwaliteitscontrole en kwaliteitsborgingCode-review, versiebeheer en een vierogenprincipe voor wat in productie gaat
dProcedures voor inspectie, testen en valideren vóór, tijdens en na de ontwikkeling, en hoe vaakEen testplan met vaste momenten, ook na ingebruikname
eTechnische specificaties en normen, en de middelen om aan afdeling 2 te voldoen waar geharmoniseerde normen niet volledig worden toegepast of niet alles dekkenWelke normen de gemeente volgt, en hoe zij de eisen onderbouwt waar geen norm is
fSystemen en procedures voor databeheer, van verwerving en labeling tot opslag, zuivering en bewaringWaar de historische dossiers vandaan komen, wie ze labelt, en hoe lang ze worden bewaard
gHet systeem voor risicobeheer van artikel 9Het risicobeheer maakt deel uit van het kwaliteitssysteem
hOpzetten, toepassen en onderhouden van monitoring na het in de handel brengen (artikel 72)Hoe de gemeente bijhoudt of het model in de praktijk blijft presteren
iProcedures voor het melden van ernstige incidenten (artikel 73)Wie een incident vaststelt, wie meldt en binnen welke termijn
jCommunicatie met nationale bevoegde autoriteiten, andere relevante autoriteiten (ook die toegang tot data verlenen of ondersteunen), aangemelde instanties, andere operatoren, klanten en andere belanghebbendenEen vast aanspreekpunt voor de toezichthouder en een route voor signalen van inwoners en consulenten
kSystemen en procedures voor de registratie van alle relevante documentatie en informatieEén plek waar de documentatie staat, met versies
lBeheer van hulpmiddelen, inclusief voorzieningszekerheidGenoeg mensen, rekenkracht en budget, en wat er gebeurt als een externe component wegvalt
mEen verantwoordingskader met de verantwoordelijkheden van management en personeel voor alle onderdelenWie in het college, de directie en het team waarvoor tekent

De rechterkolom is onze praktische vertaling, geen tekst uit de verordening. Ze laat wel zien waar de projectleider uit het voorbeeld de mist in gaat: een privacybeleid en een DPIA raken punt f en een deel van punt g, maar zeggen niets over ontwerpverificatie, wijzigingsbeheer of incidentmelding.

"Systematisch en ordelijk gedocumenteerd" heeft gevolgen. De aanbieder bewaart de documentatie over het kwaliteitssysteem tien jaar nadat het systeem in de handel is gebracht of in gebruik is gesteld, ter beschikking van de nationale bevoegde autoriteiten (artikel 18 lid 1 onder b). Bij de conformiteitsbeoordeling op basis van interne controle controleert de aanbieder eerst of het kwaliteitssysteem aan artikel 17 voldoet (bijlage VI, punt 2). Volgt de aanbieder de route met een aangemelde instantie, dan beoordeelt die instantie het kwaliteitssysteem en houdt zij er toezicht op (bijlage VII, punten 3 en 5). Voor de gemeente geldt de interne controle: bijlage III punt 5 valt onder artikel 43 lid 2.

Hoe artikel 17 samenhangt met artikel 9, 10, 11, 12, 72 en 73

Artikel 17 voegt weinig nieuwe inhoudelijke eisen toe. Het verplicht de aanbieder vooral om de andere plichten in een beheerst proces te gieten. Drie onderdelen verwijzen rechtstreeks naar een ander artikel.

Artikel 9: risicobeheer (punt g). Het systeem voor risicobeheer is een doorlopend en iteratief proces over de hele levensduur (artikel 9). Artikel 17 maakt het onderdeel van het kwaliteitssysteem, zodat de uitkomsten van het risicobeheer terugkomen in ontwerp, tests en wijzigingsbeheer. Hoe u het risicobeheer zelf inricht, staat in het risicobeheersysteem van artikel 9.

Artikel 72: monitoring na het in de handel brengen (punt h). De aanbieder richt monitoring in die evenredig is aan de aard van de technologie en de risico's, en die actief en systematisch gegevens verzamelt, documenteert en analyseert over de prestaties gedurende de levensduur (artikel 72 lid 1 en 2). Het monitoringplan maakt deel uit van de technische documentatie; de Commissie stelt uiterlijk 2 september 2027 richtsnoeren met een model vast (lid 3). Bij de gemeente is dat concreet: hoe vaak worden de adviezen vergeleken met de uiteindelijke besluiten, en wat gebeurt er als ze uit elkaar gaan lopen?

Artikel 73: ernstige incidenten (punt i). De aanbieder meldt een ernstig incident aan de markttoezichtautoriteit van de lidstaat waar het zich voordeed, onmiddellijk nadat zij een (redelijk waarschijnlijk) verband heeft vastgesteld, en uiterlijk 15 dagen nadat zij of, waar van toepassing, de gebruiksverantwoordelijke van het incident kennis kreeg; bij een wijdverbreide inbreuk of een ernstige en onomkeerbare verstoring van kritieke infrastructuur uiterlijk 2 dagen, en bij overlijden uiterlijk 10 dagen na die kennisname (artikel 73 lid 1 tot en met 4). Het kwaliteitssysteem legt vast wie dat beoordeelt en meldt. Hoe die keten werkt, staat in ernstig incident melden.

De andere drie artikelen lopen via de onderdelen van lid 1.

Artikel 10: data (punt f). Datasets voor training, validatie en tests moeten aan de kwaliteitscriteria van artikel 10 lid 2 tot en met 4 en artikel 4 bis lid 1 voldoen (artikel 10). Punt f vraagt de procedures waarmee de aanbieder dat borgt. Let op een wijziging door de Omnibus: de uitzondering voor het verwerken van bijzondere categorieën van persoonsgegevens om vooringenomenheid op te sporen en te corrigeren, stond in artikel 10 lid 5 en staat nu in artikel 4 bis. Zie ook data governance onder artikel 10.

Artikel 11: technische documentatie (punten a, d, e en k). De technische documentatie toont aan dat het systeem aan de eisen voldoet (artikel 11 lid 1) en bevat onder meer de toegepaste geharmoniseerde normen of, waar die niet zijn toegepast, de gekozen oplossingen (bijlage IV, punt 7), de relevante wijzigingen tijdens de levensduur (punt 6) en het monitoringplan (punt 9). Het kwaliteitssysteem is het proces; de technische documentatie is wat dat proces per systeem oplevert.

Artikel 12: logging (punten d en k). Een hoog-risicosysteem moet technisch automatische registratie van gebeurtenissen mogelijk maken (artikel 12), en de aanbieder bewaart de logs die onder zijn controle vallen ten minste zes maanden (artikel 19 lid 1). Naar onze lezing hoort het testen of die logging werkt bij punt d, en hoort de bewaring bij punt k. Voor de gemeente, die aanbieder en gebruiksverantwoordelijke tegelijk is, staat het samenspel met de AVG in logboeken bij hoog-risico-AI.

Lid 2: evenredig aan de omvang, en wat de Omnibus veranderde

Lid 2 zegt dat de uitvoering van de onderdelen van lid 1 evenredig is aan de omvang van de organisatie van de aanbieder. De tweede zin is minstens zo belangrijk: aanbieders voldoen hoe dan ook aan de striktheid en het beschermingsniveau die nodig zijn om te garanderen dat hun systemen aan de verordening voldoen. Een kleine aanbieder mag dus een lichter ingericht systeem hebben, maar geen systeem dat minder bereikt.

De Digital Omnibus inzake AI, Verordening (EU) 2026/1744, van kracht sinds 27 juli 2026, veranderde hier drie dingen. Wij hebben ze nagelezen in de tekst van de Omnibus en in de geconsolideerde tekst van de AI Act.

  1. Artikel 17 lid 2 kreeg een toevoeging (artikel 1, punt 11, van de Omnibus). De evenredigheid geldt nu "met name als de aanbieder een kmo is, met inbegrip van een start-up, of een kleine midcaponderneming". Het begrip kmo volgt Aanbeveling 2003/361/EG, het begrip kleine midcaponderneming Aanbeveling (EU) 2025/1099 (artikel 3, punten 14 bis en 14 ter). De zin over striktheid en beschermingsniveau bleef staan.
  2. Artikel 63 lid 1 werd breder (artikel 1, punt 26). Vóór 27 juli 2026 mochten alleen micro-ondernemingen bepaalde elementen van het kwaliteitssysteem op vereenvoudigde wijze invullen. Nu geldt dat voor kmo's, met inbegrip van start-ups, mits zij geen partnerondernemingen of verbonden ondernemingen hebben in de zin van Aanbeveling 2003/361/EG (artikel 63; overweging 28 van de Omnibus). Kleine midcaps staan daar niet in. Welke elementen vereenvoudigd mogen worden, werkt de Commissie uit in richtsnoeren; die kennen wij bij het schrijven van dit stuk nog niet. Lid 2 van artikel 63 bepaalt dat dit geen vrijstelling is van andere plichten, uitdrukkelijk ook niet van de artikelen 9, 10, 11, 12, 13, 14, 15, 72 en 73.
  3. Het vereenvoudigde formulier voor de technische documentatie werd verbreed (artikel 1, punt 10). Kmo's en start-ups mochten de elementen van bijlage IV al op vereenvoudigde wijze verstrekken met een formulier van de Commissie; nu geldt dat ook voor kleine midcaps (artikel 11 lid 1, tweede alinea). Dat is geen onderdeel van artikel 17, maar het raakt punt k direct.

Een gemeente is geen onderneming in de zin van de kmo-aanbeveling. Artikel 63 helpt haar dus naar onze lezing niet. De evenredigheid van lid 2 geldt wel voor elke aanbieder, en overweging 81 geeft overheidsinstanties die een hoog-risicosysteem voor eigen gebruik in gebruik stellen, de ruimte om de regels voor het kwaliteitssysteem op te nemen in een kwaliteitssysteem dat op nationaal of regionaal niveau is goedgekeurd. Een overweging is geen zelfstandige plicht of uitzondering. Naar onze lezing wijst ze er wel op dat een overheidsinstantie de regels voor het kwaliteitssysteem mag onderbrengen in een kwaliteitssysteem dat op nationaal of regionaal niveau is goedgekeurd. Een eigen intern kwaliteitskader van de gemeente valt daar niet vanzelf onder, en alle onderdelen van lid 1 moeten er hoe dan ook in terugkomen.

Lid 3: een bestaand sectoraal kwaliteitssysteem

Valt de aanbieder al onder een plicht tot kwaliteitsbeheer uit sectoraal Unierecht, dan mag hij de onderdelen van lid 1 opnemen in dat bestaande systeem (lid 3). Het duidelijkste voorbeeld is een fabrikant van medische hulpmiddelen, die onder artikel 10 lid 9 van de MDR (Verordening (EU) 2017/745) al een kwaliteitsmanagementsysteem moet opzetten, documenteren, toepassen en onderhouden. Lid 3 schrapt niets: alle onderdelen van lid 1 moeten er nog steeds in zitten, ze mogen alleen in één systeem. Voor producten uit bijlage I, afdeling A, wordt het kwaliteitssysteem van artikel 17 beoordeeld binnen de conformiteitsbeoordeling van de productwetgeving, met toepassing van onderdelen van bijlage VII (artikel 43 lid 3, zoals gewijzigd door de Omnibus). De Commissie publiceert uiterlijk 1 augustus 2027 richtsnoeren over de praktische toepassing van onder meer artikel 17 lid 3 in verhouding tot die productwetgeving (artikel 96 lid 1 onder g). Hoe dat bij medische AI uitpakt, staat in medische AI onder de AI Act en de MDR.

Normen: artikel 40, EN 18286:2026 en ISO/IEC 42001

Punt e vraagt de aanbieder vast te leggen welke technische specificaties en normen hij toepast. Sinds 14 oktober 2026 is er een geharmoniseerde norm die rechtstreeks over dit onderwerp gaat: EN 18286:2026, "Artificial intelligence: Quality management system for EU AI Act regulatory purposes", waarvan de referentie is bekendgemaakt bij Uitvoeringsbesluit (EU) 2026/2274. Volgens dat besluit is de norm opgesteld onder het standaardisatieverzoek over kwaliteitssystemen voor aanbieders, inclusief processen voor monitoring na het in de handel brengen (overweging 3), en voldoet zij aan de eisen die zij beoogt te dekken (overweging 5).

Wat dat juridisch oplevert, is minder eenvoudig dan het lijkt. Artikel 40 lid 1 geeft een vermoeden van conformiteit met "de in afdeling 2 van dit hoofdstuk beschreven eisen", voor zover de norm die dekt. Artikel 17 staat in afdeling 3. Het besluit noemt geen artikelen en zet geen beperking bij de referentie. Hoe ver het vermoeden voor artikel 17 reikt, staat daarmee naar onze lezing niet vast. De Omnibus voegde wel aan artikel 40 lid 2 toe dat de Commissie normen vraagt die, voor aanbieders die ook onder de productwetgeving van bijlage I vallen, het vermoeden van conformiteit met hoofdstuk III, afdelingen 2 en 3, vergemakkelijken (artikel 1, punt 17, en overweging 21 van de Omnibus). De wetgever rekent dus op normen voor afdeling 3, maar artikel 40 lid 1 zelf is niet aangepast. Wij schrijven dus niet dat wie EN 18286 volgt, aan artikel 17 voldoet. Naar onze lezing is de norm wel het meest gezaghebbende houvast dat er nu is, en lid 4 bepaalt uitdrukkelijk dat bij financiële instellingen rekening wordt gehouden met geharmoniseerde normen. Vraagt een leverancier u om vertrouwen op een EN 18286-claim, vraag dan welke clausules hij toepast, voor welk systeem en met welk bewijs.

ISO/IEC 42001 is een internationale norm voor een AI-managementsysteem op organisatieniveau. Het is geen geharmoniseerde norm onder de AI Act; het uitvoeringsbesluit noemt alleen EN 18286:2026. Het Joint Research Centre van de Europese Commissie schreef in een beleidsnotitie dat ISO/IEC 42001 in doelstellingen en aanpak niet is afgestemd op de AI Act, maar wel relevante clausules op technisch en organisatorisch niveau bevat (JRC139430, 2024). Naar onze lezing kan een bestaand ISO/IEC 42001-systeem dus een begin zijn, maar geen vervanging van de onderdelen van artikel 17 per hoog-risicosysteem.

De AVG: verantwoordingsplicht, ontwerp en beveiliging

De AI Act laat de AVG onverlet, behoudens artikel 4 bis en artikel 59 (artikel 2 lid 7, zoals gewijzigd door de Omnibus). Verwerkt de aanbieder persoonsgegevens om het systeem te ontwikkelen, zoals de gemeente met haar historische bijstandsdossiers, dan lopen drie AVG-bepalingen parallel aan artikel 17.

  • Artikel 24 AVG verplicht de verwerkingsverantwoordelijke tot passende technische en organisatorische maatregelen om te waarborgen en te kunnen aantonen dat de verwerking aan de AVG voldoet; waar dat in verhouding staat, hoort daar passend gegevensbeschermingsbeleid bij (artikel 24 AVG). De gedachte is dezelfde als bij artikel 17: beleid op papier en kunnen aantonen dat het werkt.
  • Artikel 25 AVG vraagt gegevensbescherming door ontwerp, al bij de bepaling van de verwerkingsmiddelen (artikel 25 AVG). Dat sluit aan op de ontwerpprocedures van punt b en het databeheer van punt f.
  • Artikel 32 AVG vraagt een op het risico afgestemd beveiligingsniveau en een procedure om de maatregelen op gezette tijden te testen (artikel 32 AVG). Dat raakt de testprocedures van punt d en het beheer van hulpmiddelen van punt l.

Naar onze lezing kan de gemeente veel van dit werk één keer doen: een register van verwerkingen, een DPIA en een beveiligingsbeleid die al bestaan, horen in de documentatie van het kwaliteitssysteem. Ze vervangen het niet, omdat artikel 17 ook gaat over onderwerpen waar de AVG niets over zegt, zoals conformiteitsbeoordeling en incidentmelding aan de markttoezichthouder.

Vanaf wanneer?

Artikel 17 staat in hoofdstuk III, afdeling 3. Voor hoog-risicosystemen uit bijlage III geldt die afdeling vanaf 2 december 2027, voor systemen onder bijlage I, afdeling A, vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c, zoals gewijzigd door Verordening (EU) 2026/1744). Het systeem van de gemeente beoordeelt of inwoners in aanmerking komen voor een essentiële overheidsuitkering en valt naar onze lezing onder bijlage III punt 5 onder a. Omdat het model aanvragers profileert, kan de gemeente zich naar onze lezing ook niet beroepen op de uitzondering van artikel 6 lid 3 (laatste alinea).

Is het systeem vóór 2 december 2027 in gebruik gesteld, dan gelden de hoog-risicoplichten pas als het vanaf die datum aanzienlijke wijzigingen in zijn ontwerp ondergaat; voor systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, moeten aanbieders en gebruiksverantwoordelijken uiterlijk op 2 augustus 2030 aan de verordening voldoen (artikel 111 lid 2). Voor een gemeente die nu bouwt, is dat geen reden om te wachten: een kwaliteitssysteem achteraf om een bestaand systeem heen leggen, is lastiger dan het meebouwen.

Voorbeeld 2: de bank en lid 4

Een bank die zelf een model ontwikkelt om de kredietwaardigheid van particulieren te beoordelen, is aanbieder van een hoog-risicosysteem uit bijlage III punt 5 onder b. Voor haar is lid 4 de kern. Een aanbieder die als financiële instelling onder eisen voor interne governance, regelingen of processen uit het financiële Unierecht valt, wordt geacht de plicht tot een kwaliteitssysteem te vervullen door die governance-regels na te leven. Overweging 158 noemt in dit verband onder meer kredietinstellingen onder Richtlijn 2013/36/EU, verzekeraars onder Richtlijn 2009/138/EG en verzekeringstussenpersonen onder Richtlijn (EU) 2016/97.

Drie onderdelen zijn uitgezonderd, en die moet de bank dus wel zelf onder de AI Act inrichten:

  • Punt g, risicobeheer. Artikel 9 lid 10 staat toe dat de aspecten van het risicobeheer deel uitmaken van of worden gecombineerd met de risicobeheerprocedures die de bank al heeft onder ander Unierecht. Combineren mag; overslaan niet.
  • Punt h, monitoring na het in de handel brengen. Voor systemen uit bijlage III punt 5 van financiële instellingen mag de bank de elementen van artikel 72 integreren in haar bestaande systemen en plannen, mits het beschermingsniveau gelijkwaardig is (artikel 72 lid 4, tweede alinea).
  • Punt i, ernstige incidenten. De meldprocedure van artikel 73 moet er komen. Artikel 73 lid 9 beperkt de meldplicht voor aanbieders die onder Unierecht met gelijkwaardige meldplichten vallen. Of dat voor een bank geldt, zegt de verordening niet met zoveel woorden; dat vraagt een eigen beoordeling.

Daarnaast bewaart de bank de technische documentatie en de logs als onderdeel van de documentatie onder het financiële recht (artikel 18 lid 3 en artikel 19 lid 2). Lid 4 geldt alleen voor instellingen die echt onder zulke governance-eisen vallen. Een fintech zonder die status valt naar onze lezing onder het volledige artikel 17, met de evenredigheid van lid 2 en, als het een zelfstandige kmo is, artikel 63. Als gebruiksverantwoordelijke van haar eigen model heeft de bank daarnaast eigen plichten, waaronder een grondrechteneffectbeoordeling (artikel 27 lid 1). Hoe de bestaande bankregels zich tot de AI Act verhouden, staat in de EBA-mapping voor de financiële sector.

Wat u nu doet

  1. Stel vast of u aanbieder bent. Bouwt u een hoog-risicosysteem zelf, laat u het bouwen en zet u het onder uw naam in gebruik, of wijzigt u het substantieel? Dan geldt artikel 17 voor u. Gebruikt u alleen een gekocht systeem, dan niet.
  2. Leg uw bestaande systemen naast lid 1. Kwaliteitsbeleid, informatiebeveiliging, privacybeleid, een sectoraal kwaliteitssysteem of bancaire governance: markeer per punt a tot en met m wat er al is en wat ontbreekt.
  3. Richt de drie koppelingen expliciet in. Risicobeheer (artikel 9), monitoring (artikel 72) en incidentmelding (artikel 73) zijn ook voor banken niet uitbesteed aan bestaande regels.
  4. Bepaal uw omvang en status. Bent u een kmo zonder partnerondernemingen of verbonden ondernemingen, of een kleine midcap? Leg die toets vast, en volg de richtsnoeren van de Commissie onder artikel 63 zodra die er zijn.
  5. Kies uw normen bewust. Leg vast of en hoe u EN 18286:2026 toepast, en hoe u de eisen onderbouwt waar een norm ontbreekt (punt e).
  6. Wijs eigenaren aan. Het verantwoordingskader van punt m is pas iets waard als er namen bij staan.

Twijfelt u of uw systeem hoog risico is en of u aanbieder of gebruiksverantwoordelijke bent? Met de casus-check beschrijft u de toepassing in een paar vragen en ziet u welke AI Act- en AVG-plichten in beeld komen.

Veelgestelde vragen over artikel 17 AI Act

Nieuwsbrief

Elke dinsdag de AI Act-week vooruit in 5 minuten

Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.

Praktisch en kort · Geen spam · Met één klik uitschrijven

Geschreven door

Zahed Ashkara, freelance AI- en privacyconsultant en jurist

Zahed Ashkara

Freelance AI- en privacyconsultant en jurist · AI-governance en -veiligheid

Zahed Ashkara is freelance AI- en privacyconsultant en jurist voor de AVG en de EU AI Act. Organisaties huren hem in als AI governance consultant, privacyjurist, externe FG of AI-governance lead, laten een DPIA, FRIA of AI Act-classificatie door hem uitvoeren, of boeken een incompany-training. Hij richt zich op AI-governance en -veiligheid, ook van AI-agents. Hij werkt uitsluitend als zelfstandige, via Embed AI (handelsnaam Praxikon). Hij is Certified AI Compliance Officer (CAICO) en sinds juli 2026 lid van de NEN-normcommissie Artificial Intelligence & Big Data.

Volg via LinkedInBekijk expertprofiel

Gebruik deze bronnen ook in uw AI-assistent: Praxikon in Claude en andere assistenten

Praktijkverhalen

Ontdek hoe organisaties dit in de praktijk toepassen

Gerelateerde artikelen

Monitoring na het in de handel brengen: wat artikel 72 AI Act van aanbieders van hoog-risico-AI vraagt

Een aanbieder van een AI-systeem met een hoog risico moet een systeem voor monitoring na het in de handel brengen vaststellen en documenteren, dat de hele levensduur actief en systematisch gegevens over de prestaties verzamelt en analyseert, ook gegevens van gebruiksverantwoordelijken (artikel 72 AI Act). Het systeem rust op een plan in de technische documentatie. Sinds de Digital Omnibus stelt de Commissie daarvoor uiterlijk 2 september 2027 richtsnoeren met een model vast, in plaats van een uitvoeringshandeling. Wat lid 1 tot en met 4 vragen, hoe artikel 72 samenhangt met artikel 9, 12, 17, 19, 26 en 73 en met de AVG, en wat een gemeente als aanbieder of als gebruiksverantwoordelijke regelt, met een bank als tweede voorbeeld.

EU AI ActArtikel 72Monitoring na het in de handel brengen

Logboeken bij hoog-risico-AI: hoe lang bewaart u ze onder de AI Act, en mag dat van de AVG?

Vanaf 2 december 2027 (voor systemen die al draaien uiterlijk 2 augustus 2030) bewaart een gemeente die een hoog-risico-AI-systeem gebruikt, de automatisch gegenereerde logs die onder haar controle vallen gedurende een periode die past bij het doel, en minstens zes maanden (artikel 26 lid 6 AI Act). De AVG verbiedt dat in beginsel niet, maar bepaalt wel hoe lang langer mag en hoe u de logs beveiligt. Wat artikel 12, 19 en 26 vragen, wat de logs moeten vastleggen, en hoe u de bewaartermijn onderbouwt, met een gemeente en een bank als voorbeeld.

EU AI ActLoggingLogboeken

Nauwkeurigheid, robuustheid en cyberbeveiliging van hoog-risico-AI: wat artikel 15 van de AI Act van aanbieder en gemeente vraagt

Een AI-systeem met een hoog risico moet een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging halen en dat zijn hele levensduur volhouden (artikel 15 AI Act). Die eis ligt bij de aanbieder, maar de gemeente die het systeem gebruikt, moet de nauwkeurigheidscijfers uit de gebruiksaanwijzing kunnen lezen, het systeem volgens die aanwijzing gebruiken en de werking monitoren. Wat lid 1 tot en met 5 vragen, hoe het samenhangt met artikel 9, 10, 26 en 42, de Cyberweerbaarheidsverordening en de AVG, en wat een gemeente in de aanbesteding, het contract en haar eigen proces zet, met een bank als tweede voorbeeld.

EU AI ActArtikel 15Nauwkeurigheid