Ga naar de hoofdinhoud
Praxikon

De plichten van de gebruiksverantwoordelijke bij hoog-risico-AI: wat artikel 26 van de AI Act vraagt

··28 min leestijd

Vanaf 2 december 2027 heeft een organisatie die een AI-systeem met een hoog risico uit bijlage III gebruikt, twaalf leden aan eigen plichten: artikel 26 AI Act. Dat zijn de plichten van de gebruiksverantwoordelijke, de organisatie die het systeem niet maakt maar onder eigen verantwoordelijkheid inzet. De aanbieder heeft een ander rijtje, in artikel 16. De Digital Omnibus inzake AI, Verordening (EU) 2026/1744, heeft de tekst van artikel 26 niet gewijzigd. Zij heeft wel de datum verschoven en de artikelen eromheen aangepast.

Stel: een middelgrote gemeente koopt bij een leverancier een systeem dat aanvragen voor bijzondere bijstand voorsorteert. Het geeft de consulent per aanvraag een advies: direct toekennen of eerst nader onderzoek. De leverancier heeft het systeem gebouwd en brengt het onder zijn eigen naam op de markt; hij is de aanbieder. De afdelingsmanager vraagt: "De leverancier moet toch aan de AI Act voldoen? Wij gebruiken het alleen." Het antwoord: de leverancier draagt de plichten voor het systeem, de gemeente draagt de plichten voor het gebruik, en die zijn niet licht. Het voorbeeld is verzonnen. In ons stuk over artikel 17 bouwde dezelfde gemeente zo'n systeem zelf en was zij aanbieder; hier koopt zij het.

In het kort

Artikel 26 heeft twaalf leden. De gebruiksverantwoordelijke gebruikt het systeem volgens de gebruiksaanwijzing (lid 1), draagt het menselijk toezicht op aan mensen met de nodige bekwaamheid, opleiding, autoriteit en ondersteuning (lid 2), zorgt dat inputdata waarover zij controle heeft relevant en voldoende representatief zijn (lid 4), monitort de werking, meldt een risico of een ernstig incident en onderbreekt het gebruik bij een risico (lid 5), bewaart de logs onder haar controle ten minste zes maanden (lid 6), informeert werknemers en hun vertegenwoordigers vóór gebruik op de werkplek (lid 7), registreert als overheidsinstantie haar gebruik (lid 8, met artikel 49), gebruikt de informatie uit artikel 13 voor haar DPIA (lid 9), volgt strenge regels bij biometrische identificatie op afstand achteraf (lid 10), informeert de mensen over wie het systeem beslissingen neemt of helpt nemen (lid 11) en werkt samen met de autoriteiten (lid 12). Voor financiële instellingen geldt de monitoringsplicht als vervuld via hun governanceregels en bewaren zij de logs in hun financiële documentatie (lid 5 en lid 6, telkens de tweede alinea). De Digital Omnibus liet de tekst van artikel 26 ongemoeid, maar verschoof de datum: vanaf 2 december 2027 voor bijlage III en vanaf 2 augustus 2028 voor bijlage I, afdeling A. Voor systemen die vóór die datum in de handel zijn gebracht of in gebruik zijn gesteld, gelden de plichten pas bij een aanzienlijke wijziging in het ontwerp, en voor systemen bedoeld voor gebruik door overheidsinstanties uiterlijk vanaf 2 augustus 2030 (artikel 111 lid 2). Daarnaast komen de grondrechteneffectbeoordeling (artikel 27) voor een deel van de gebruiksverantwoordelijken en het recht op uitleg (artikel 86).

Dit stuk is het overzicht. Voor de details per onderwerp verwijzen we naar eerdere stukken: wanneer u gebruiksverantwoordelijke bent, wat er in de gebruiksinstructies staat, menselijk toezicht onder artikel 14, logboeken en hun bewaartermijn, registratie in de EU-databank, de FRIA en het recht op uitleg.

Wie gebruiksverantwoordelijke is, en wanneer u aanbieder wordt

Gebruiksverantwoordelijke is een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij het gaat om een persoonlijke niet-beroepsactiviteit (artikel 3, punt 4). De gemeente uit het voorbeeld is dat. Of een organisatie het systeem zelf heeft gebouwd of heeft gekocht, maakt voor artikel 26 niet uit: een gemeente die zelf bouwt en zelf gebruikt, is aanbieder en gebruiksverantwoordelijke tegelijk.

De rol kan verschuiven. Een gebruiksverantwoordelijke wordt aanbieder van een hoog-risicosysteem als zij haar naam of merk op het systeem zet, het substantieel wijzigt terwijl het hoog risico blijft, of het beoogde doel van een systeem zo wijzigt dat het hoog risico wordt (artikel 25 lid 1). De Omnibus liet lid 1 staan, maar herschreef lid 2. De samenwerkingsplicht van de oorspronkelijke aanbieder en de uitzondering daarop stonden er al: hij moet de nieuwe aanbieder helpen, behalve als hij duidelijk heeft aangegeven dat zijn systeem niet in een hoog-risicosysteem mag worden gewijzigd. De Omnibus werkte die plicht uit (technische documentatie, bekende beperkingen en potentiële fouten, gerichte technische toegang) en maakte overtreding beboetbaar (artikel 99 lid 4 onder d bis). Hoe die routes werken, staat in wanneer word je aanbieder.

Het verschil tussen de twee rollen in één tabel:

OnderwerpAanbiederGebruiksverantwoordelijke
KwaliteitsbeheerSysteem voor kwaliteitsbeheer (artikel 17)Geen eigen plicht
InstructiesLevert gebruiksinstructies mee (artikel 13)Gebruikt het systeem volgens die instructies (lid 1)
Menselijk toezichtOntwerpt het systeem zo dat toezicht mogelijk is (artikel 14)Wijst bekwame mensen aan met mandaat (lid 2)
DataTrainings-, validatie- en testdata (artikel 10)Inputdata, voor zover onder haar controle (lid 4)
LogsSysteem moet loggen (artikel 12); bewaart de logs onder zijn controle (artikel 19)Bewaart de logs onder haar controle (lid 6)
Monitoring en incidentenMonitoring na het in de handel brengen (artikel 72); meldt ernstige incidenten (artikel 73)Monitort het gebruik, informeert de aanbieder, onderbreekt bij risico (lid 5)
RegistratieRegistreert zichzelf en het systeem (artikel 49 lid 1)Overheidsinstantie registreert het gebruik (artikel 49 lid 3, lid 8)
GrondrechtenGeen FRIAFRIA voor een deel van de gebruiksverantwoordelijken (artikel 27)

Lid 1 tot en met 3: gebruik volgens de instructies, toezicht door bekwame mensen

Lid 1 vraagt passende technische en organisatorische maatregelen om het systeem te gebruiken volgens de gebruiksaanwijzing die erbij hoort. Die instructies zijn het scharnier tussen beide rollen: wat de aanbieder daar niet levert, kan de gebruiksverantwoordelijke niet waarmaken. Voor de gemeente betekent het concreet: vastleggen voor welk doel het systeem wordt gebruikt, voor welke groepen aanvragers het is gevalideerd en waar het niet voor is bedoeld. Zet zij het in voor iets wat de instructies uitsluiten, zoals het terugvorderen van uitkeringen, dan gebruikt zij het niet meer volgens de instructies; afhankelijk van de wijziging kan zij zelfs aanbieder worden. Wat er minimaal in de instructies moet staan, staat in ons stuk over artikel 13.

Lid 2 verplicht de gebruiksverantwoordelijke het menselijk toezicht op te dragen aan natuurlijke personen die over de nodige bekwaamheid, opleiding en autoriteit beschikken en de nodige ondersteuning krijgen. De aanbieder moet het systeem zo leveren dat die personen de capaciteiten en beperkingen begrijpen, bedacht blijven op de neiging om te veel op de output te vertrouwen, de output juist interpreteren, kunnen besluiten de output te negeren of terug te draaien, en kunnen ingrijpen of het systeem stilzetten met een stopknop of een vergelijkbare procedure (artikel 14 lid 4, onder a tot en met e). Lid 2 legt de andere helft bij de gebruiksverantwoordelijke: iemand met naam, kennis en beslisruimte. Bij de gemeente is dat de consulent die van het advies mag afwijken, en een teamleider die dat afwijken niet afstraft. Naar onze lezing schiet een werkproces tekort waarin afwijken van het advies extra werk of extra verantwoording kost, terwijl volgen niets kost. Dat raakt ook artikel 22 AVG en het aftekenen van algoritme-uitkomsten.

Lid 2 is iets anders dan artikel 4. Artikel 4 geldt al sinds 2 februari 2025 en sinds 27 juli 2026 in de formulering van de Omnibus: aanbieders en gebruiksverantwoordelijken nemen maatregelen die de ontwikkeling van AI-geletterdheid ondersteunen van hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, zonder een bepaald individueel niveau te hoeven garanderen. Lid 2 vraagt per hoog-risicosysteem aanwijsbare mensen met mandaat. Een algemene e-learning maakt van een medewerker nog geen toezichthouder; zie ook het verschil tussen bewustwordingstraining en AI-geletterdheid.

Lid 3 bepaalt dat de leden 1 en 2 geen afbreuk doen aan andere plichten uit het Unie- of nationale recht, en dat de gebruiksverantwoordelijke vrij blijft om haar eigen middelen en activiteiten te organiseren voor de toezichtsmaatregelen die de aanbieder aangeeft. De aanbieder bepaalt welk toezicht nodig is; de gemeente bepaalt wie het doet en hoe.

Lid 4: inputdata

Voor zover de gebruiksverantwoordelijke controle heeft over de inputdata, zorgt zij dat die relevant en voldoende representatief zijn voor het beoogde doel van het systeem. Dat is een andere plicht dan die van de aanbieder over trainings-, validatie- en testdata in artikel 10. Het gaat om wat de gemeente het systeem in de praktijk voedt. Haalt zij de velden uit haar eigen cliëntsysteem, dan moet zij nagaan of die velden betekenen wat het systeem verwacht. Valt een nieuwe groep aanvragers, bijvoorbeeld zelfstandigen, buiten de groep waarvoor de instructies het systeem gevalideerd noemen, dan is de input naar onze lezing niet voldoende representatief voor het beoogde doel. Lid 4 en lid 1 grijpen hier in elkaar.

Lid 5: monitoren, melden en onderbreken

De gebruiksverantwoordelijke monitort de werking van het systeem op basis van de gebruiksaanwijzing en informeert, waar relevant, de aanbieder overeenkomstig artikel 72. Die informatie heeft de aanbieder nodig voor zijn eigen monitoring na het in de handel brengen; zie monitoring onder artikel 72.

Daarna komen twee drempels, met elk een vaste volgorde.

  • Risico. Heeft de gebruiksverantwoordelijke redenen om aan te nemen dat gebruik volgens de instructies ertoe kan leiden dat het systeem een risico vormt in de zin van artikel 79 lid 1 (een risico voor de gezondheid, de veiligheid of de grondrechten van personen), dan informeert zij zonder onnodige vertraging de aanbieder of distributeur en de betreffende markttoezichtautoriteit, en onderbreekt zij het gebruik. Onderbreken is geen keuze; de tekst zegt "en onderbreken zij het gebruik".
  • Ernstig incident. Stelt zij een ernstig incident vast, dan informeert zij onmiddellijk eerst de aanbieder en vervolgens de importeur of distributeur en de betreffende markttoezichtautoriteiten. Kan zij de aanbieder niet bereiken, dan is artikel 73 van overeenkomstige toepassing. Hoe die keten werkt en welke termijnen de aanbieder heeft, staat in ernstig incident melden.

De meldplicht geldt niet voor gevoelige operationele gegevens van gebruiksverantwoordelijken die rechtshandhavingsinstanties zijn. Voor de gemeente betekent lid 5 een vaste regel: wie mag het systeem stilzetten, wie belt de leverancier, en hoe gaat het werk door zonder het systeem. Dat laatste is geen detail. Een gemeente die het gebruik moet onderbreken, moet de aanvragen ook zonder advies kunnen behandelen. Welke autoriteit in Nederland de markttoezichtautoriteit wordt, is nog niet geregeld; zie de handhaving loopt, het Nederlandse toezicht nog niet.

Lid 6: logs ten minste zes maanden

De gebruiksverantwoordelijke bewaart de automatisch gegenereerde logs voor zover die onder haar controle vallen, gedurende een periode die past bij het beoogde doel en ten minste zes maanden, tenzij het Unie- of nationale recht, in het bijzonder het Unierecht over de bescherming van persoonsgegevens, anders bepaalt. "Onder haar controle" is bij een systeem dat de leverancier als dienst levert de kernvraag: staan de logs bij de leverancier, regel dan in het contract dat de gemeente erbij kan en dat ze lang genoeg blijven staan. Hoe de bewaartermijn zich verhoudt tot de AVG, staat in logboeken bij hoog-risico-AI.

Lid 7: werknemers informeren vóór gebruik op de werkplek

Voordat een hoog-risicosysteem op de werkplek in gebruik wordt gesteld of wordt gebruikt, informeert een gebruiksverantwoordelijke die werkgever is de werknemersvertegenwoordigers en de betrokken werknemers dat zij aan het gebruik van het systeem zullen worden onderworpen. Waar van toepassing gebeurt dat volgens de regels en de praktijk van het Unie- en nationale recht over informatie aan werknemers en hun vertegenwoordigers.

In Nederland is dat in de eerste plaats de Wet op de ondernemingsraden. Artikel 27 lid 1 onder l WOR geeft de ondernemingsraad instemmingsrecht bij een regeling over voorzieningen die gericht zijn op of geschikt zijn voor waarneming van of controle op aanwezigheid, gedrag of prestaties van de in de onderneming werkzame personen. Naar onze lezing valt een systeem dat prestaties of gedrag van werknemers evalueert daar vaak onder, en dan is lid 7 het minimum, niet het hele traject. Bij de gemeente zijn de consulenten niet het onderwerp van het systeem; zij bedienen het. Of lid 7 dan geldt, zegt de tekst niet met zoveel woorden. Naar onze lezing is informeren verstandig, omdat de logs van lid 6 ook hun handelingen vastleggen, zoals wie van het advies afweek.

Lid 8: registratie door overheidsinstanties

Gebruiksverantwoordelijken die overheidsinstanties zijn, of instellingen, organen of instanties van de Unie, leven de registratieplichten van artikel 49 na. Merken zij dat het systeem dat zij willen gebruiken niet in de EU-databank van artikel 71 is geregistreerd, dan gebruiken zij het niet en informeren zij de aanbieder of de distributeur. Artikel 49 lid 3 vraagt de gemeente, of personen die namens haar optreden, zichzelf te registreren, het systeem te selecteren en het gebruik te registreren. Dat geldt niet voor systemen uit bijlage III punt 2 (kritieke infrastructuur). Voor systemen uit de punten 1, 6 en 7 op het gebied van rechtshandhaving, migratie, asiel en grenstoezicht gebeurt de registratie in een beveiligd, niet-openbaar deel van de databank (artikel 49 lid 4).

Wat de gemeente invult, staat in bijlage VIII, afdeling C: onder meer de URL van de registratie door de aanbieder, een samenvatting van de bevindingen van de FRIA en, waar van toepassing, een samenvatting van de DPIA. Punt 5 verwijst daarbij naar artikel 26 lid 8; inhoudelijk gaat het naar onze lezing om de DPIA van lid 9. Vanaf wanneer dit speelt: artikel 49 staat in hoofdstuk III, afdeling 5, en geldt formeel sinds 2 augustus 2026, maar heeft naar onze lezing pas een voorwerp zodra een systeem hoog risico is in de zin van hoofdstuk III, afdeling 1: voor bijlage III vanaf 2 december 2027. Voor een systeem dat vóór die datum in de handel is gebracht of in gebruik is gesteld, geldt het overgangsrecht van artikel 111 lid 2 (voor systemen bedoeld voor gebruik door overheidsinstanties uiterlijk 2 augustus 2030). Wij houden 2 december 2027 aan, zoals in ons stuk over registratie.

Lid 9: de DPIA, met de informatie uit artikel 13

Waar van toepassing gebruikt de gebruiksverantwoordelijke de informatie die de aanbieder op grond van artikel 13 verstrekt, om haar plicht tot een gegevensbeschermingseffectbeoordeling na te komen onder artikel 35 AVG of artikel 27 van Richtlijn (EU) 2016/680. Lid 9 schept die plicht niet; die volgt uit de AVG. Een verwerking die waarschijnlijk een hoog risico inhoudt, vraagt een DPIA, in het bijzonder bij een systematische en uitgebreide beoordeling van persoonlijke aspecten op basis van geautomatiseerde verwerking, waaronder profilering, waarop besluiten worden gebaseerd die rechtsgevolgen hebben of die betrokkenen op vergelijkbare wijze wezenlijk treffen (artikel 35 lid 3 onder a AVG). Het bijstandssysteem van de gemeente profileert aanvragers en stuurt een besluit over een uitkering; naar onze lezing is een DPIA hier verplicht. Zie ook de DPIA-lijst van de AP en wanneer een DPIA voor AI verplicht is.

Wat lid 9 wel doet: het maakt de gebruiksinstructies tot bouwmateriaal voor de DPIA. Capaciteiten en beperkingen, nauwkeurigheid, de specificaties van de inputdata, de toezichtsmaatregelen en de logging horen in de risicoanalyse terug te komen. Ontbreekt die informatie, dan kan de gemeente haar DPIA niet goed maken en is dat een inkoopvraag aan de leverancier.

Lid 10: biometrische identificatie op afstand achteraf

Lid 10 is het meest gespecialiseerde lid en geldt in de praktijk vooral voor politie en justitie. Wie een hoog-risicosysteem gebruikt voor biometrische identificatie op afstand achteraf, in een onderzoek gericht op een persoon die wordt verdacht van of veroordeeld is voor een strafbaar feit, vraagt vooraf, of zonder onnodige vertraging en uiterlijk binnen 48 uur, toestemming aan een gerechtelijke instantie of een bestuurlijke instantie met een bindende beslissing die aan rechterlijke toetsing is onderworpen. Dat hoeft niet bij de eerste identificatie van een potentiële verdachte op basis van objectieve en verifieerbare feiten die rechtstreeks verband houden met het strafbare feit. Elk gebruik blijft beperkt tot wat strikt noodzakelijk is.

Wordt de toestemming geweigerd, dan stopt het gebruik onmiddellijk en worden de bijbehorende persoonsgegevens gewist. Niet-gericht gebruik zonder verband met een strafbaar feit, een strafprocedure, een werkelijke dreiging of de zoektocht naar een specifieke vermiste persoon is uitgesloten. Geen besluit met nadelige rechtsgevolgen mag uitsluitend op de output worden gebaseerd. Elk gebruik wordt vastgelegd in het politiedossier, er gaan jaarverslagen naar de markttoezichtautoriteit en de gegevensbeschermingsautoriteit, en lidstaten mogen strenger zijn. Real-time identificatie in openbare ruimten voor rechtshandhaving is een ander regime: dat valt onder het verbod van artikel 5 lid 1 onder h, met zijn eigen uitzonderingen.

Lid 11: de betrokkenen informeren

Gebruiksverantwoordelijken van bijlage III-systemen die beslissingen over natuurlijke personen nemen of helpen nemen, informeren die personen dat het systeem op hen wordt toegepast. Dat geldt onverminderd artikel 50, dat sinds 2 augustus 2026 geldt en in lid 3 en lid 4 eigen plichten voor gebruiksverantwoordelijken bevat. Voor rechtshandhaving geldt artikel 13 van Richtlijn (EU) 2016/680.

Voor de gemeente is dat een zin in de ontvangstbevestiging of het besluit: bij de behandeling van uw aanvraag is een AI-systeem gebruikt dat een advies gaf. Die mededeling staat naast de informatieplicht van artikel 13 en artikel 14 AVG. Bij geautomatiseerde besluitvorming als bedoeld in artikel 22 AVG vraagt de AVG ook nuttige informatie over de onderliggende logica (artikel 13 lid 2 onder f en artikel 15 lid 1 onder h AVG). Het Hof van Justitie oordeelde in Dun & Bradstreet Austria (C-203/22, 27 februari 2025), over het inzagerecht van artikel 15 lid 1 onder h AVG, dat de verwerkingsverantwoordelijke dan de procedure en de beginselen moet uitleggen die werkelijk zijn toegepast, zo dat de betrokkene begrijpt welke gegevens zijn gebruikt en hoe. Lid 11 vraagt minder: alleen dat de persoon weet dat het systeem wordt gebruikt. De uitleg achteraf komt via artikel 86.

Lid 12: samenwerken met de autoriteiten

Gebruiksverantwoordelijken werken samen met de relevante bevoegde autoriteiten bij elke maatregel die deze autoriteiten nemen met betrekking tot het systeem. Naar onze lezing betekent dat in de praktijk: de documentatie van de leden 1 tot en met 11 op één plek hebben, zodat de gemeente op een verzoek kan laten zien wie toezicht hield, welke logs er zijn en wanneer zij de aanbieder informeerde.

Wat de Digital Omnibus aan artikel 26 veranderde

Wij hebben de wijzigingspunten van artikel 1 van Verordening (EU) 2026/1744 nagelezen. Geen daarvan wijzigt artikel 26, en ook in de geconsolideerde tekst van 27 juli 2026 staat artikel 26 zonder wijzigingsmarkering. De omgeving veranderde wel, op zes punten.

  1. De datum (artikel 1, punt 40). Hoofdstuk III, afdelingen 1 tot en met 3, geldt voor bijlage III-systemen vanaf 2 december 2027 en voor systemen onder bijlage I vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c). Artikel 26 staat in afdeling 3.
  2. Het overgangsrecht (punt 39). Artikel 111 lid 2 verwees naar systemen die vóór 2 augustus 2026 in de handel waren gebracht of in gebruik gesteld, en verwijst nu naar de toepassingsdatum van hoofdstuk III. De datum van 2 augustus 2030 voor systemen bedoeld voor overheidsinstanties bleef staan.
  3. Richtsnoeren (punt 36). De Commissie moet richtsnoeren ontwikkelen over de toepassing van de eisen en verplichtingen van de artikelen 8 tot en met 15 en, sinds de Omnibus, van de artikelen 25 en 26 (artikel 96 lid 1 onder a); vóór de Omnibus stond daar alleen artikel 25. Die richtsnoeren kennen wij bij het schrijven van dit stuk nog niet.
  4. De FRIA (punt 13). Dekt een DPIA al een onderdeel van de FRIA, dan mag de gebruiksverantwoordelijke daarnaar verwijzen of de relevante delen opnemen (artikel 27 lid 4); voorheen moest de FRIA de DPIA aanvullen. Het sjabloon dat het AI-bureau al moest ontwikkelen, moet die verwijzing nu ook mogelijk maken (lid 5).
  5. Het aanbiederschap (punt 12). Artikel 25 lid 2 en lid 4 werden herschreven, zoals hierboven beschreven; de boete voor overtreding kwam via punt 38 in artikel 99 lid 4.
  6. AI-geletterdheid (punt 5). Artikel 4 werd een maatregelenplicht.

Banken en verzekeraars: lid 5 en lid 6

De regels voor de financiële sector staan in de tweede alinea van lid 5 en de tweede alinea van lid 6. In lid 1 tot en met 4 en lid 7 tot en met 12 staat geen aparte regel voor financiële instellingen; naar onze lezing gelden die leden voor hen zoals voor iedereen.

Stel: een bank koopt bij een leverancier een model dat de kredietwaardigheid van particulieren beoordeelt. Dat is een hoog-risicosysteem uit bijlage III punt 5 onder b, en de bank is gebruiksverantwoordelijke. Het voorbeeld is verzonnen.

  • Monitoring (lid 5, tweede alinea). Valt de bank als financiële instelling onder eisen voor interne governance, regelingen of processen uit het financiële Unierecht, dan geldt de monitoringsplicht van de eerste alinea als vervuld door die governanceregels na te leven. De tekst spreekt over "de monitoringsverplichting". Naar onze lezing blijven de plichten om bij een risico te melden en het gebruik te onderbreken, en om een ernstig incident eerst aan de aanbieder te melden, gewoon gelden; zij staan in aparte zinnen van de eerste alinea. Een voorzichtige bank richt die meldregel dus in.
  • Logs (lid 6, tweede alinea). De bank bewaart de logs als onderdeel van de documentatie die zij onder het financiële Unierecht al bijhoudt.
  • Toezicht. Voor hoog-risicosystemen die financiële instellingen gebruiken, is de markttoezichtautoriteit in beginsel de financiële toezichthouder, voor zover het gebruik rechtstreeks verband houdt met de verlening van die financiële diensten (artikel 74 lid 6). Een lidstaat mag in gerechtvaardigde gevallen een andere autoriteit aanwijzen (lid 7).
  • FRIA. Gebruiksverantwoordelijken van systemen uit bijlage III punt 5 onder b (kredietwaardigheid, met uitzondering van fraudeopsporing) en onder c (risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen) moeten een grondrechteneffectbeoordeling maken (artikel 27 lid 1). Dat geldt dus ook voor een verzekeraar die zo'n systeem inkoopt.

Voor de AVG is de kredietscore zelf het aandachtspunt. Het Hof oordeelde in SCHUFA (C-634/21, 7 december 2023) dat het automatisch vaststellen van een kredietscore door een kredietinformatiebureau al een geautomatiseerd besluit in de zin van artikel 22 AVG is als een derde aan wie de score wordt doorgegeven daar sterk op steunt bij het aangaan, uitvoeren of beëindigen van een overeenkomst. Gebruikt de bank de score zelf, dan is de vraag direct of haar besluit uitsluitend op geautomatiseerde verwerking berust. Hoe de bestaande bankregels zich tot de AI Act verhouden, staat in de EBA-mapping voor de financiële sector, en hoe een transparante kredietbeslissing eruitziet in van scoringsalgoritme naar transparante kredietbeslissing.

Werkgevers en onderwijs

De werkgever. Een bedrijf koopt een tool die sollicitaties analyseert en filtert (bijlage III punt 4 onder a). Het voorbeeld is verzonnen. De recruiters zijn de toezichthouders van lid 2; zij moeten een kandidaat kunnen doorlaten die het systeem lager rangschikt. De sollicitanten zijn geen werknemers, dus voor hen geldt lid 11: zij horen dat het systeem op hen wordt toegepast. Lid 7 geldt voor werknemers die aan het systeem worden onderworpen; voor wie het alleen bedient, is informeren naar onze lezing verstandig. Gaat het om een systeem dat prestaties of gedrag van werknemers monitort of evalueert (punt 4 onder b), dan komt naar onze lezing het instemmingsrecht van artikel 27 lid 1 onder l WOR in beeld. Een private werkgever hoeft in beginsel geen FRIA te maken; artikel 27 geldt voor publiekrechtelijke organen, particuliere entiteiten die openbare diensten verlenen en de gebruiksverantwoordelijken uit punt 5 onder b en c. Let op: een systeem dat emoties van werknemers afleidt, is op de werkplek verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f). Meer in AI bij werving en selectie.

Het onderwijs. Een hogeschool gebruikt een systeem dat toetsen beoordeelt (bijlage III punt 3 onder b) of fraude tijdens online toetsen detecteert (punt 3 onder d). De examinatoren zijn de toezichthouders van lid 2 en de studenten worden onder lid 11 geïnformeerd. Docenten die het systeem alleen bedienen, worden er niet aan onderworpen in de zin van lid 7; hen informeren is naar onze lezing wel verstandig. Overweging 96 noemt onderwijs als voorbeeld van openbare diensten die ook particuliere entiteiten kunnen verlenen. Naar onze lezing moet een bekostigde onderwijsinstelling daarom rekenen op de FRIA van artikel 27. Of zij ook een overheidsinstantie is in de zin van lid 8, hangt af van haar rechtsvorm en vraagt een eigen beoordeling. Ook hier geldt het verbod op emotieherkenning, nu in het onderwijs.

De FRIA: artikel 27

Een deel van de gebruiksverantwoordelijken moet vóór de ingebruikname van een hoog-risicosysteem uit bijlage III (artikel 6 lid 2) een grondrechteneffectbeoordeling maken: publiekrechtelijke organen, particuliere entiteiten die openbare diensten verlenen, en gebruiksverantwoordelijken van systemen uit bijlage III punt 5 onder b en c. Systemen uit bijlage III punt 2, kritieke infrastructuur, zijn uitgezonderd (artikel 27 lid 1). Na de beoordeling stelt de gebruiksverantwoordelijke de markttoezichtautoriteit in kennis van de resultaten (lid 3). De gemeente is een publiekrechtelijk orgaan en moet dus een FRIA maken. Veel bouwstenen overlappen met artikel 26: de beschrijving van het menselijk toezicht volgens de gebruiksaanwijzing (artikel 27 lid 1 onder e) is precies wat lid 2 van artikel 26 al vraagt. Hoe u de FRIA invult, staat in de FRIA-template, en hoe zij zich tot de DPIA verhoudt in DPIA en FRIA naast elkaar.

Het recht op uitleg: artikel 86

Wie onderworpen is aan een besluit dat de gebruiksverantwoordelijke neemt op basis van de output van een bijlage III-systeem (behalve punt 2), en dat rechtsgevolgen of vergelijkbare aanzienlijke gevolgen heeft die hij als nadelig voor zijn gezondheid, veiligheid of grondrechten beschouwt, heeft recht op een duidelijke, inhoudelijke uitleg over de rol van het systeem in de besluitvorming en de voornaamste elementen van het besluit (artikel 86 lid 1). Het recht geldt alleen voor zover het Unierecht er niet anderszins in voorziet (lid 3). Die vraag komt bij de gebruiksverantwoordelijke binnen, niet bij de aanbieder. Voor de gemeente betekent het dat zij per besluit moet kunnen zeggen wat het advies was, wat de consulent ermee deed en waarom. Vanaf wanneer het recht precies werkt, is minder eenduidig dan bij artikel 26; de lezingen staan in ons stuk over artikel 86.

Vanaf wanneer?

Artikel 26 staat in hoofdstuk III, afdeling 3. Voor hoog-risicosystemen uit bijlage III geldt het vanaf 2 december 2027, voor systemen onder bijlage I, afdeling A, vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c, zoals gewijzigd door Verordening (EU) 2026/1744). Het systeem van de gemeente beoordeelt of inwoners in aanmerking komen voor een essentiële overheidsuitkering en valt naar onze lezing onder bijlage III punt 5 onder a. Omdat het aanvragers profileert, biedt artikel 6 lid 3 naar onze lezing geen uitweg (laatste alinea).

Is het systeem vóór 2 december 2027 in de handel gebracht of in gebruik gesteld, dan gelden de hoog-risicoplichten pas als het vanaf die datum aanzienlijke wijzigingen in zijn ontwerp ondergaat; voor systemen bedoeld voor gebruik door overheidsinstanties moeten aanbieders en gebruiksverantwoordelijken uiterlijk op 2 augustus 2030 voldoen (artikel 111 lid 2). Overweging 39 van Verordening (EU) 2026/1744 licht toe dat die respijtperiode per type en model werkt: is ten minste één eenheid van een type en model vóór die datum rechtmatig in de handel gebracht of in gebruik gesteld, dan geldt de respijtperiode ook voor andere eenheden van hetzelfde type en model, zolang het ontwerp ongewijzigd blijft. Dat is geen reden om te wachten. Artikel 4 en de AVG gelden nu al, artikel 50 sinds 2 augustus 2026, en een medezeggenschapstraject, een DPIA en een contract met de leverancier kosten maanden.

Wat u nu doet

  1. Stel uw rol per systeem vast. Gebruikt u een gekocht systeem volgens de instructies, dan bent u gebruiksverantwoordelijke. Zet u er uw naam op, wijzigt u het substantieel of zet u het voor een nieuw doel in, kijk dan naar artikel 25.
  2. Vraag de gebruiksinstructies op en lees ze als werkopdracht. Doel, grenzen, gevalideerde groepen, toezichtsmaatregelen en logging bepalen wat u onder lid 1, 2, 4, 6 en 9 moet doen.
  3. Wijs de toezichthouders aan met naam en mandaat. Leg vast dat zij van de output mogen afwijken en hoe u dat ondersteunt.
  4. Maak een meld- en stopregel. Wie zet het systeem stil, wie meldt bij aanbieder en autoriteit, en hoe gaat het werk door (lid 5).
  5. Regel de logs in het contract. Waar staan ze, wie kan erbij, hoe lang blijven ze staan (lid 6).
  6. Plan de medezeggenschap en de mededelingen. Ondernemingsraad en werknemers vóór ingebruikname (lid 7), betrokkenen bij elke beslissing (lid 11).
  7. Overheid: registratie, DPIA en FRIA als één dossier. Registratie (lid 8), DPIA (lid 9) en FRIA (artikel 27) gebruiken grotendeels dezelfde informatie.

Twijfelt u of uw systeem hoog risico is en of u aanbieder of gebruiksverantwoordelijke bent? Met de casus-check beschrijft u de toepassing in een paar vragen en ziet u welke AI Act- en AVG-plichten in beeld komen.

Veelgestelde vragen over artikel 26 AI Act

Nieuwsbrief

Elke dinsdag de AI Act-week vooruit in 5 minuten

Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.

Praktisch en kort · Geen spam · Met één klik uitschrijven

Bijbehorende verplichtingen

Geschreven door

Zahed Ashkara, freelance AI- en privacyconsultant en jurist

Zahed Ashkara

Freelance AI- en privacyconsultant en jurist · AI-governance en -veiligheid

Zahed Ashkara is freelance AI- en privacyconsultant en jurist voor de AVG en de EU AI Act. Organisaties huren hem in als AI governance consultant, privacyjurist, externe FG of AI-governance lead, laten een DPIA, FRIA of AI Act-classificatie door hem uitvoeren, of boeken een incompany-training. Hij richt zich op AI-governance en -veiligheid, ook van AI-agents. Hij werkt uitsluitend als zelfstandige, via Embed AI (handelsnaam Praxikon). Hij is Certified AI Compliance Officer (CAICO) en sinds juli 2026 lid van de NEN-normcommissie Artificial Intelligence & Big Data.

Volg via LinkedInBekijk expertprofiel

Gebruik deze bronnen ook in uw AI-assistent: Praxikon in Claude en andere assistenten

Praktijkverhalen

Ontdek hoe organisaties dit in de praktijk toepassen

Gerelateerde artikelen

Het systeem voor kwaliteitsbeheer bij hoog-risico-AI: wat artikel 17 van de AI Act van aanbieders vraagt

Wie een AI-systeem met een hoog risico aanbiedt, moet een systeem voor kwaliteitsbeheer hebben dat de naleving van de AI Act waarborgt, vastgelegd in schriftelijke beleidslijnen, procedures en instructies (artikel 17). Die plicht rust op de aanbieder, niet op de organisatie die een gekocht systeem alleen gebruikt. Wat de dertien onderdelen van lid 1 vragen, wat de Digital Omnibus veranderde voor kmo's en kleine midcaps, hoe sectorale kwaliteitssystemen en de governance van banken meetellen, wat EN 18286:2026 wel en niet bewijst, en hoe het samenhangt met artikel 9, 10, 11, 12, 72 en 73, met een gemeente die zelf bouwt en een bank als voorbeelden.

EU AI ActArtikel 17Kwaliteitsbeheer

Technische documentatie bij hoog-risico-AI: wat artikel 11 en bijlage IV van de AI Act van aanbieders vragen

Wie een AI-systeem met een hoog risico aanbiedt, stelt technische documentatie op voordat het systeem in de handel komt of in gebruik wordt gesteld, houdt die actueel en bewaart haar tien jaar (artikel 11 en 18). De documentatie bevat ten minste de negen onderdelen van bijlage IV. Wat die onderdelen vragen, wat de Digital Omnibus veranderde voor kmo's en kleine midcaps, hoe één documentatieset werkt bij producten uit bijlage I, hoe het samenhangt met artikel 9, 10, 12, 13, 15, 17, 43, 47 en 72, en wat een gebruiksverantwoordelijke wel en niet van haar leverancier kan vragen, met een gemeente die zelf bouwt en een bank als voorbeelden.

EU AI ActArtikel 11Bijlage IV

EU-conformiteitsverklaring en CE-markering bij hoog-risico-AI: wat artikel 47 en 48 van de AI Act vragen

Na de conformiteitsbeoordeling stelt de aanbieder van een AI-systeem met een hoog risico per systeem een EU-conformiteitsverklaring op en brengt hij de CE-markering aan (artikel 47 en 48). Wat er in de verklaring moet volgens bijlage V, waarom de handtekening verantwoordelijkheid betekent, hoe een digitale CE-markering werkt, wat gemachtigden, importeurs en distributeurs controleren, wat een gemeente bij de inkoop nagaat, vanaf wanneer het geldt en wat er gebeurt als het ontbreekt, met een leverancier van een bijstandsmodel en een bank als voorbeelden.

EU AI ActArtikel 47Artikel 48