Een AI-systeem met een hoog risico gaat vergezeld van gebruiksinstructies die beknopt, volledig, juist en duidelijk zijn, met ten minste zes onderdelen: wie de aanbieder is, wat het systeem kan en niet kan, welke wijzigingen vooraf zijn bepaald, welke maatregelen voor menselijk toezicht erbij horen, wat onderhoud vraagt en hoe u de logs verzamelt en leest (artikel 13 AI Act). Die plicht ligt bij de aanbieder. Voor de gebruiksverantwoordelijke, de organisatie die het systeem gebruikt, zijn de instructies de maatstaf van haar eigen plichten: gebruik volgens de instructies, menselijk toezicht, monitoring, logs en de DPIA (artikel 26 AI Act) en, als die geldt, de FRIA (artikel 27 AI Act). Voor systemen uit bijlage III gelden die plichten vanaf 2 december 2027. Wie nu inkoopt, legt goede instructies daarom nu al vast in het contract.
Stel: een gemeente koopt een systeem dat bijstandsaanvragen analyseert en de consulent adviseert of de aanvrager waarschijnlijk recht heeft. De handleiding van de leverancier gaat over inloggen en rapportages; over nauwkeurigheid staat er alleen "hoge betrouwbaarheid". Genoeg?
In het kort
Artikel 13 lid 3 AI Act schrijft zes onderdelen voor. De gebruiksverantwoordelijke gebruikt het systeem volgens de instructies, monitort op basis ervan, bewaart de logs ten minste zes maanden en gebruikt de informatie voor de DPIA (artikel 26 lid 1, 5, 6 en 9 AI Act). De instructies zijn iets anders dan de technische documentatie (artikel 11 AI Act) en dan de informatie aan betrokkenen (artikel 13 en 14 AVG). Voor bijlage III gelden de plichten vanaf 2 december 2027; voor systemen die al eerder in de handel of in gebruik waren, geldt artikel 111 lid 2 AI Act.
Wat gebruiksinstructies zijn
Gebruiksinstructies zijn de door de aanbieder verstrekte informatie om de gebruiksverantwoordelijke te informeren over met name het beoogde doel en juiste gebruik van een AI-systeem (artikel 3 punt 15 AI Act). Ze moeten de gebruiksverantwoordelijke in staat stellen de output te interpreteren en passend te gebruiken (artikel 13 lid 1 en lid 2 AI Act). Volgens overweging 72 helpen ze hem ook het juiste systeem te kiezen en het beoogde en uitgesloten gebruik te kennen, waar passend met voorbeelden, in een taal die hij gemakkelijk begrijpt, zoals bepaald door de betrokken lidstaat. Dat staat in een overweging, niet in een bepaling, en Nederland heeft die taal voor zover bekend nog niet geregeld. Een handleiding die alleen de knoppen uitlegt, voldoet niet. Artikel 26 noemt hetzelfde document "gebruiksaanwijzingen".
Wat er minimaal in moet staan (artikel 13 lid 3 AI Act)
| Artikel 13 lid 3 AI Act | Wat de aanbieder vermeldt | Waar u het voor gebruikt |
|---|---|---|
| a | Identiteit en contactgegevens van de aanbieder en zijn eventuele gemachtigde | Risico's en ernstige incidenten melden (artikel 26 lid 5 AI Act) |
| b, i | Het beoogde doel | Toetsen of uw gebruik daarbinnen blijft |
| b, ii | Nauwkeurigheid met de beoordelingsmaatstaven, robuustheid en cyberbeveiliging waarop is getest, en wat daar invloed op heeft | Bepalen of de prestaties passen bij uw beslissingen |
| b, iii | Te voorziene omstandigheden, ook bij redelijkerwijs te voorzien misbruik, die risico's voor gezondheid, veiligheid of grondrechten kunnen geven | Risicoanalyse in DPIA en FRIA |
| b, iv | In voorkomend geval: de mogelijkheden om de output toe te lichten | Uitleg aan betrokkenen |
| b, v | In voorkomend geval: prestaties voor specifieke personen of groepen | Toetsen op ongelijke uitkomsten |
| b, vi | In voorkomend geval: specificaties voor de inputdata en informatie over de datasets | Controleren of uw inputdata passen (artikel 26 lid 4 AI Act) |
| b, vii | In voorkomend geval: informatie om de output te interpreteren | Werkinstructies en opleiding |
| c | Wijzigingen die bij de eerste conformiteitsbeoordeling vooraf zijn bepaald | Weten welke updates verwacht zijn |
| d | De maatregelen voor menselijk toezicht uit artikel 14 AI Act | Het toezicht inrichten (artikel 26 lid 2 AI Act) |
| e | Rekenkracht, hardware, verwachte levensduur en onderhoud, ook voor software-updates | Beheer en updatebeleid |
| f | In voorkomend geval: hoe u de logs verzamelt, opslaat en interpreteert (artikel 12 AI Act) | Logbeheer (artikel 26 lid 6 AI Act) |
Naar onze lezing betekent "in voorkomend geval" dat een punt vervalt als het niet speelt, niet dat de aanbieder vrij mag kiezen. En "hoge betrouwbaarheid" zonder maatstaf en foutmarge is geen nauwkeurigheid in de zin van onderdeel b, ii.
Wat u als gebruiksverantwoordelijke met de instructies doet
Deze plichten gelden zodra hoofdstuk III voor uw systeem van toepassing is, voor bijlage III vanaf 2 december 2027 (zie "Vanaf wanneer").
Gebruik en toezicht. U neemt passende technische en organisatorische maatregelen om het systeem te gebruiken volgens de gebruiksaanwijzingen (artikel 26 lid 1 AI Act), en draagt het toezicht op aan mensen met de nodige bekwaamheid, opleiding en autoriteit (lid 2). De aanbieder bepaalt de toezichtmaatregelen; u bepaalt wie ze uitvoert en hoe (lid 3). Hij moet het systeem zo leveren dat die mensen, waar passend en evenredig, de beperkingen begrijpen, bedacht blijven op te veel vertrouwen in de output, de output kunnen negeren of terugdraaien en het systeem kunnen stoppen (artikel 14 lid 4 AI Act). Zie menselijk toezicht onder artikel 14.
Inputdata. Hebt u er controle over, dan zorgt u dat de inputdata relevant en voldoende representatief zijn (lid 4).
Monitoren en ingrijpen. U monitort op basis van de gebruiksaanwijzingen (lid 5). Kan gebruik volgens de instructies leiden tot een risico in de zin van artikel 79 lid 1 AI Act, dan informeert u zonder onnodige vertraging de aanbieder of distributeur en de markttoezichtautoriteit, en onderbreekt u het gebruik. Bij een ernstig incident informeert u onmiddellijk eerst de aanbieder en vervolgens de importeur of distributeur en de markttoezichtautoriteiten; is de aanbieder niet bereikbaar, dan is artikel 73 AI Act van overeenkomstige toepassing.
Logs. U bewaart de logs die onder uw controle vallen gedurende een periode die past bij het beoogde doel, ten minste zes maanden, tenzij ander recht, in het bijzonder het gegevensbeschermingsrecht, anders bepaalt (lid 6). Welke gebeurtenissen worden gelogd, volgt uit artikel 12 AI Act.
DPIA. Indien van toepassing gebruikt u de informatie uit artikel 13 AI Act voor uw DPIA onder artikel 35 AVG (lid 9).
Voor de informatie aan betrokkenen (lid 11) en de uitleg van artikel 86 AI Act hebt u onderdeel b, iv en vii nodig.
Niet hetzelfde: instructies, technische documentatie en artikel 13 AVG
Technische documentatie. De aanbieder stelt haar op om aan te tonen dat het systeem aan de eisen voldoet, voor autoriteiten en aangemelde instanties (artikel 11 lid 1 AI Act), en houdt haar tien jaar ter beschikking van de nationale bevoegde autoriteiten (artikel 18 AI Act). De gebruiksinstructies zijn er een onderdeel van (bijlage IV punt 1 onder h AI Act). Een recht van de gebruiksverantwoordelijke op die documentatie kent de AI Act niet. Alleen wie via artikel 25 lid 1 zelf aanbieder wordt, kan van de oorspronkelijke aanbieder technische documentatie verlangen die toereikend is om de naleving van artikel 16 te beoordelen, tenzij die aanbieder duidelijk heeft aangegeven dat zijn systeem niet tot hoog-risicosysteem mag worden gewijzigd (artikel 25 lid 2 AI Act). Wat u nodig hebt, moet dus in de instructies of het contract staan.
Artikel 13 en 14 AVG. Dit zijn de informatieplichten van de verwerkingsverantwoordelijke tegenover de betrokkene (artikel 13 AVG als u de gegevens bij de betrokkene verzamelt, artikel 14 AVG als ze ergens anders vandaan komen), met bij geautomatiseerde besluitvorming in de zin van artikel 22 AVG nuttige informatie over de onderliggende logica (artikel 13 lid 2 onder f AVG en artikel 14 lid 2 onder g AVG). De richting is andersom: artikel 13 AI Act loopt van aanbieder naar gebruiksverantwoordelijke, artikel 13 AVG van verwerkingsverantwoordelijke naar burger, klant of sollicitant.
Het verband zit in de inhoud. Een kredietscore die een kredietinformatiebureau geautomatiseerd vaststelt, kan zelf een geautomatiseerd besluit zijn als een derde er in hoofdzaak van laat afhangen of hij een overeenkomst sluit (C-634/21, SCHUFA, 7 december 2023). In een zaak over het inzagerecht van artikel 15 lid 1 onder h AVG, dat volgens het Hof een geheel vormt met artikel 13 lid 2 onder f en artikel 14 lid 2 onder g AVG, oordeelde het Hof dat nuttige informatie over de onderliggende logica uitleg vraagt over de concreet toegepaste procedure en beginselen; een formule of een beschrijving van alle stappen volstaat niet (C-203/22, Dun & Bradstreet Austria, 27 februari 2025, ECLI:EU:C:2025:117, punten 46, 58, 59 en 61). Die uitleg vraagt informatie van de aanbieder.
De DPIA en de FRIA
Een DPIA beschrijft onder meer de verwerkingen, de risico's voor betrokkenen en de maatregelen daartegen (artikel 35 lid 7 AVG). De instructies vullen precies die onderdelen. Zie een DPIA voor AI-systemen: wanneer verplicht.
De FRIA geldt alleen voor hoog-risicosystemen uit bijlage III (artikel 27 lid 1 verwijst naar artikel 6 lid 2), niet voor bijlage I, en alleen voor publiekrechtelijke organen, particuliere entiteiten die openbare diensten verlenen en gebruiksverantwoordelijken van systemen voor kredietwaardigheid en voor levens- en ziektekostenverzekeringen (bijlage III punt 5 onder b en c); kritieke infrastructuur (punt 2) is uitgezonderd. U houdt daarin rekening met de informatie uit artikel 13 AI Act en beschrijft het toezicht volgens de gebruiksaanwijzing (artikel 27 lid 1 onder d en e AI Act). Dekt de DPIA al een deel, dan mag u ernaar verwijzen (lid 4). Zie de FRIA-template en DPIA en FRIA naast elkaar.
Inkoop: wat u vastlegt, en wat als de instructies tekortschieten
De aanbieder zorgt dat zijn systeem aan artikel 13 AI Act voldoet (artikel 16 onder a AI Act); importeurs en distributeurs controleren dat de instructies meegaan (artikel 23 lid 1 onder c en artikel 24 lid 1 AI Act). In het contract legt u vast:
- Volledige instructies vóór de keuze, in het Nederlands (een eigen afspraak).
- Meetbare nauwkeurigheid: maatstaven, foutmarges en prestaties per groep.
- Bijgewerkte instructies bij elke update.
- Toezicht en logs: output negeren, het systeem stoppen, logs exporteren.
- Steun bij DPIA en FRIA, en een verwerkersovereenkomst onder artikel 28 AVG als de leverancier persoonsgegevens voor u verwerkt.
- Informatie voor uitleg aan betrokkenen (artikel 15 lid 1 onder h AVG en artikel 86 AI Act).
- Een vast contactpunt voor meldingen onder artikel 26 lid 5 AI Act.
Publieke inkopers kunnen beginnen bij de niet-bindende modelcontractbepalingen voor AI op het Public Buyers Community-platform van de Europese Commissie, met een versie voor hoog-risicosystemen. Ze dateren van 5 maart 2025, van vóór de Digital Omnibus; leg ze dus tegen de huidige tekst. Zie ook een AI-leverancier beoordelen.
Ontbreken de instructies of schieten ze tekort? Vanaf 2 december 2027 (bijlage III), of zodra de plichten voor uw systeem gelden, kunt u zonder instructies artikel 26 lid 1 AI Act niet nakomen en voldoet het systeem niet aan artikel 13 AI Act; voor systemen die al eerder in de handel of in gebruik waren, geldt artikel 111 lid 2. Neem zo'n systeem dan niet in gebruik en vraag schriftelijk om aanvulling; een aanbieder die redenen heeft om aan te nemen dat zijn systeem niet in overeenstemming is, neemt onmiddellijk corrigerende maatregelen (artikel 20 lid 1 AI Act). Artikel 85 AI Act geeft het recht een klacht in te dienen bij de markttoezichtautoriteit, maar in Nederland is die nog niet aangewezen: het kabinet stelde toezicht per domein voor, met de AP waar nog geen toezichthouder is (Rijksoverheid, 20 april 2026). Tot de plichten gelden, is het contract uw belangrijkste middel.
Vul gaten ook niet op door het systeem buiten het beoogde doel te gebruiken. Zodra artikel 26 lid 1 geldt, is dat daarmee in strijd. Een wijziging van het beoogde doel waarvoor het systeem is beoordeeld, kan bovendien een substantiële wijziging zijn (artikel 3 punt 23 AI Act); blijft het systeem hoog risico, dan wordt u daarvan aanbieder (artikel 25 lid 1 onder b AI Act). Zie wanneer word je aanbieder. De Commissie moet richtsnoeren ontwikkelen over onder meer de artikelen 8 tot en met 15, 25 en 26 en over de substantiële wijziging (artikel 96 lid 1 onder a en c AI Act); kijk of die er al zijn.
Vanaf wanneer
Artikel 13 en artikel 26 AI Act staan in hoofdstuk III, afdelingen 2 en 3. Die gelden voor bijlage III vanaf 2 december 2027 en voor bijlage I vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c, AI Act, zoals gewijzigd door Verordening (EU) 2026/1744). Was een hoog-risicosysteem al eerder in de handel of in gebruik, dan gelden de plichten pas na aanzienlijke wijzigingen in het ontwerp; systemen voor overheidsinstanties moeten uiterlijk op 2 augustus 2030 voldoen (artikel 111 lid 2 AI Act). Of dat ook geldt voor een organisatie die na 2 december 2027 een licentie neemt op een systeem dat de aanbieder al eerder in de handel bracht, is niet uitgemaakt. In het Europese productrecht wordt elk afzonderlijk product in de handel gebracht (Blauwe Gids 2022, paragraaf 2.3); hoe dat voor software onder de AI Act uitpakt, staat niet vast. Reken er dus niet op. De DPIA-plicht van artikel 35 AVG geldt nu al.
Drie voorbeelden
De voorbeelden zijn verzonnen.
Gemeente. Een systeem dat door of namens een overheidsinstantie beoordeelt of mensen in aanmerking komen voor essentiële overheidsuitkeringen, staat in bijlage III punt 5 onder a AI Act. Het voorspelt per aanvrager op basis van persoonsgegevens of hij recht heeft en evalueert daarmee zijn economische situatie; dat is profilering (artikel 3 punt 52 AI Act en artikel 4 punt 4 AVG), dus de uitzondering van artikel 6 lid 3 AI Act geldt niet (slotalinea). De gemeente vraagt om foutmarges en prestaties per groep; consulenten mogen het advies negeren. Zij doet een DPIA en, als publiekrechtelijk orgaan, een FRIA, waarvan zij de resultaten meldt aan de markttoezichtautoriteit (artikel 27 lid 3 AI Act). Zij registreert haar gebruik in de EU-databank (artikel 26 lid 8 en artikel 49 lid 3 AI Act) en informeert aanvragers (artikel 26 lid 11 AI Act), naast de informatie onder artikel 13 AVG en, omdat een deel van de gegevens uit andere bronnen komt, artikel 14 AVG. Draaide het systeem al vóór 2 december 2027, dan geldt artikel 111 lid 2 AI Act. Over selectie op fraude: AI voor fraudesignalen in de bijstand.
Bank. Een bank beoordeelt met het systeem van een leverancier de kredietwaardigheid van particulieren (bijlage III punt 5 onder b AI Act) en doet dus een FRIA. Het beoogde doel is consumptief krediet; de bank wil het ook voor hypotheken gebruiken. Ook dat valt onder punt 5 onder b, dus het systeem blijft hoog risico; valt hypotheekkrediet buiten het beoogde doel waarvoor het is beoordeeld, dan kan dat een substantiële wijziging zijn en wordt de bank aanbieder (artikel 25 lid 1 onder b met artikel 3 punt 23 AI Act). Beslist zij in feite op basis van de score, zonder betekenisvolle menselijke beoordeling, dan kan er een geautomatiseerd besluit in de zin van artikel 22 AVG zijn. Omdat zij onder de governance-eisen van het Unierecht inzake financiële diensten valt, geldt haar monitoringplicht uit artikel 26 lid 5 AI Act als vervuld; de plicht om risico's en ernstige incidenten te melden en het gebruik zo nodig te onderbreken blijft. De logs bewaart zij bij de documentatie onder dat recht (lid 6). Zie van scoringsalgoritme naar transparante kredietbeslissing.
Werkgever. Een platform dat sollicitaties analyseert en kandidaten rangschikt, valt onder bijlage III punt 4 onder a AI Act. De instructies melden dat het minder nauwkeurig is bij cv's met loopbaanonderbrekingen. Recruiters beoordelen die cv's zelf en worden getraind op het risico van te veel vertrouwen op de rangschikking (artikel 26 lid 2 en artikel 4 AI Act). De werkgever zorgt dat de inputdata die hij aanlevert, zoals functie-eisen en vacaturegegevens, relevant en voldoende representatief zijn voor het beoogde doel (artikel 26 lid 4 AI Act), en informeert vooraf werknemersvertegenwoordigers en betrokken werknemers (lid 7). Een FRIA hoeft hij als private werkgever zonder openbare dienst niet te doen, een DPIA wel als de verwerking waarschijnlijk een hoog risico inhoudt. Zie AI bij werving en selectie.
Zes stappen
- Stel vast of het systeem hoog risico is, bijvoorbeeld met de casus-check.
- Toets de instructies vóór de keuze; zie de verplichtingenpagina over artikel 13.
- Vertaal ze naar werkinstructies, ook voor afwijken van de output.
- Richt monitoring en logbeheer in.
- Voed de DPIA en de FRIA met de instructies.
- Houd alles actueel: nieuwe instructies bij elke update, de DPIA bij een verandering van het risico (artikel 35 lid 11 AVG) en de FRIA als een van haar onderdelen verandert (artikel 27 lid 2 AI Act).
Veelgestelde vragen over gebruiksinstructies onder artikel 13 AI Act
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven