Ga naar de hoofdinhoud
Praxikon

Wie test AI-systemen voor de toezichthouder? Ondersteunende AI-teststructuren onder artikel 84 van de AI Act

··12 min leestijd

Een toezichthouder die wil weten of een AI-systeem doet wat de aanbieder belooft, moet het kunnen testen. Niet elke lidstaat heeft daar zelf de kennis en apparatuur voor. Artikel 84 regelt daarom dat de Commissie een of meer ondersteunende AI-teststructuren van de Unie aanwijst. Die werken op verzoek van toezichthouders; aanbieders en gebruiksverantwoordelijken kunnen er naar onze lezing zelf niet terecht. Toch kan hun werk bij u terechtkomen: als een testrapport onderdeel wordt van een onderzoek naar een systeem dat u levert of gebruikt.

Wij gaan uit van de geconsolideerde tekst van 27 juli 2026, met de wijzigingen van Verordening (EU) 2026/1744.

In het kort

De Commissie wijst teststructuren aan die op het gebied van AI de taken uitvoeren van artikel 21 lid 6 van Verordening (EU) 2019/1020: producten testen op verzoek van markttoezichtautoriteiten, het netwerk of de Commissie, onafhankelijk technisch of wetenschappelijk advies geven op verzoek van het netwerk, en nieuwe analysetechnieken en -methoden ontwikkelen. Daarnaast geven zij onafhankelijk technisch of wetenschappelijk advies op verzoek van de AI-board, de Commissie of markttoezichtautoriteiten.

Artikel 84 geldt sinds 2 augustus 2026. Op 19 november 2026 hebben wij geen aanwijzing van een ondersteunende AI-teststructuur gevonden. Dat betekent niet dat er geen komt.

Wat artikel 84 regelt

Het artikel heeft twee leden. Volgens lid 1 wijst de Commissie een of meer ondersteunende AI-teststructuren van de Unie aan om op het gebied van AI de taken van artikel 21 lid 6 van Verordening (EU) 2019/1020 uit te voeren. Dat is de verordening over markttoezicht, die via artikel 74 lid 1 ook voor AI-systemen geldt. Artikel 21 lid 6 noemt drie activiteiten, binnen het bevoegdheidsgebied van de faciliteit:

  1. producten testen op verzoek van markttoezichtautoriteiten, het netwerk of de Commissie;
  2. op verzoek van het netwerk onafhankelijk technisch of wetenschappelijk advies geven;
  3. nieuwe analysetechnieken en -methoden ontwikkelen.

Het netwerk is het Unienetwerk voor productconformiteit uit die verordening. Omdat artikel 74 lid 1 onder b verwijzingen naar een product laat lezen als verwijzingen naar alle AI-systemen die onder de AI Act vallen, gaat het bij het testen naar onze lezing om het testen van AI-systemen.

Lid 2 voegt een taak toe. De teststructuren geven ook onafhankelijk technisch of wetenschappelijk advies op verzoek van de AI-board, de Commissie of markttoezichtautoriteiten. Onder Verordening (EU) 2019/1020 kan alleen het netwerk om advies vragen; onder de AI Act kunnen dus ook de AI-board, de Commissie en de nationale toezichthouder dat.

Overweging 152 geeft het doel: een adequate handhaving van AI-systemen ondersteunen en de capaciteiten van de lidstaten versterken. En artikel 69 lid 3 vraagt de Commissie ervoor te zorgen dat het werk van de teststructuren en dat van de deskundigen van het wetenschappelijk panel efficiënt wordt georganiseerd en de best mogelijke toegevoegde waarde oplevert.

Is er al een teststructuur aangewezen?

Op 19 november 2026 hebben wij geen aanwijzing gevonden. Wij zochten in EUR-Lex op "AI testing support structures": dat geeft vijf resultaten, allemaal de AI Act zelf, de geconsolideerde tekst en voorbereidende documenten. Ook de databank van het Publicatiebureau (Cellar, de bron achter EUR-Lex) bevat op die datum geen handeling met de AI Act als rechtsgrondslag die een teststructuur aanwijst. Op de pagina's van de Commissie over het AI-bureau en over governance en handhaving van de AI Act staat evenmin een aanwijzing, en ons eigen register van uitvoeringshandelingen vermeldt er geen.

Onder Verordening (EU) 2019/1020 zelf wijst de Commissie wel Unietestfaciliteiten aan, bij uitvoeringsbesluit. Voorbeelden, beide na een oproep tot het indienen van blijken van belangstelling, zijn Uitvoeringsbesluit (EU) 2023/733 voor radioapparatuur en speelgoed en Uitvoeringsbesluit (EU) 2026/1481 voor textiel. Een besluit voor AI hebben wij niet gevonden. Artikel 84 zelf zegt niet in welke vorm of wanneer de Commissie aanwijst.

Geen testlab voor aanbieders

Drie dingen lijken op elkaar, maar zijn het niet:

  • Ondersteunende AI-teststructuren (artikel 84) werken voor toezicht: zij testen en adviseren op verzoek van autoriteiten. Een aanbieder kan er naar onze lezing zelf geen test bestellen; artikel 84 en artikel 21 lid 6 van Verordening (EU) 2019/1020 noemen als verzoeker alleen markttoezichtautoriteiten, het netwerk, de AI-board en de Commissie.
  • Test- en experimenteerfaciliteiten (TEF's) komen uit het programma Digitaal Europa. Volgens de Commissie staan zij open voor technologieaanbieders in heel Europa om AI-oplossingen op schaal te testen, en kunnen zij AI-testomgevingen ondersteunen. Dat is innovatiesteun, geen toezicht.
  • AI-testomgevingen voor regelgeving (artikel 57) zijn een gecontroleerd kader waarin een aanbieder onder begeleiding van een bevoegde autoriteit ontwikkelt en test. Zie de regels van de AI-testomgeving.

Vanaf wanneer

Artikel 84 staat in hoofdstuk IX en geldt sinds 2 augustus 2026, de algemene datum van artikel 113. Artikel 69 geldt sinds 2 augustus 2025 (artikel 113 onder b). De eisen voor systemen met een hoog risico uit bijlage III gelden vanaf 2 december 2027, die voor systemen uit bijlage I vanaf 2 augustus 2028 (artikel 113 onder c). Een test op naleving van die eisen ligt naar onze lezing vooral daarna voor de hand.

Wanneer een testrapport in uw dossier belandt

Stel: het is 2028. Een gemeente gebruikt een systeem dat bij elke aanvraag voor bijzondere bijstand een score geeft voor de kans dat de aanvraag onvolledig is; een consulent beslist. De leverancier bracht het systeem in 2028 op de markt. Het voorbeeld is verzonnen. Naar onze lezing valt het systeem onder bijlage III punt 5 onder a. Omdat het op basis van persoonsgegevens, zoals het inkomen, per aanvrager een voorspelling doet, is het naar onze lezing profilering (artikel 3 punt 52, met verwijzing naar artikel 4 punt 4 AVG) en daarom altijd hoog risico, ook als het een voorbereidende taak zou zijn (slotalinea van artikel 6 lid 3). Wij gaan ervan uit dat het geen sociale scoring is in de zin van artikel 5 lid 1 onder c. De leverancier is aanbieder, de gemeente gebruiksverantwoordelijke.

Een inwoner klaagt bij de markttoezichtautoriteit (artikel 85). Die heeft voldoende reden om van mening te zijn dat het systeem een risico vormt en evalueert het (artikel 79 lid 2). De documentatie geeft geen uitsluitsel over hoe vaak aanvragers met wisselend inkomen een hoge score krijgen. De toezichthouder vraagt een teststructuur het systeem te testen en krijgt een rapport. Dat rapport wordt onderdeel van de evaluatie.

Wat de gemeente moet kunnen laten zien:

  • Hoe zij het systeem gebruikt. Volgens de gebruiksaanwijzing (artikel 26 lid 1), met menselijk toezicht door bekwame consulenten (artikel 26 lid 2), en met relevante en voldoende representatieve inputdata voor zover zij die beheert (artikel 26 lid 4). Ook dat zij aanvragers heeft geïnformeerd dat het systeem op hen wordt toegepast (artikel 26 lid 11). Hoe consulenten met de score omgaan, blijkt naar onze lezing niet uit een test van het systeem; dat moet de gemeente zelf aantonen.
  • De logs die onder haar controle vallen, ten minste zes maanden bewaard (artikel 26 lid 6), en haar registratie in de EU-databank (artikel 26 lid 8 en artikel 49 lid 3).
  • De beoordeling van de gevolgen voor de grondrechten (artikel 27) en wat zij met haar monitoring heeft gedaan (artikel 26 lid 5).

De gemeente werkt samen met de toezichthouder (artikel 26 lid 12 en artikel 79 lid 2). Neemt de toezichthouder daarna een maatregel, dan moet zij de gronden nauwkeurig vermelden en krijgt de marktdeelnemer tot wie de maatregel zich richt vooraf ten minste tien werkdagen om te worden gehoord, behalve bij urgentie (artikel 18 lid 1 en 3 van Verordening (EU) 2019/1020, van toepassing via artikel 79 lid 2). Richt de maatregel zich tot de gemeente, dan is dat naar onze lezing het moment om op het testrapport te reageren, bijvoorbeeld als de test is gedaan met een andere configuratie dan de gemeente gebruikt; richt hij zich tot de leverancier, dan ligt die reactie in eerste instantie bij de leverancier. De toezichthouder en de teststructuur moeten wat zij over het systeem te weten komen vertrouwelijk behandelen (artikel 78); naar onze lezing kan dat beperken wat de gemeente van het rapport te zien krijgt, bijvoorbeeld waar het om bedrijfsgeheimen van de leverancier gaat. Hoe de bevoegdheden en documentverzoeken verder lopen, staat in bevoegdheden van de markttoezichtautoriteit en in de procedure voor AI-systemen die een risico vormen.

Tweede voorbeeld: een bank. Een bank bouwt zelf een model dat de kredietwaardigheid van natuurlijke personen beoordeelt (bijlage III punt 5 onder b) en gebruikt het voor haar eigen leningen. Ook dit voorbeeld is verzonnen. De bank is dan aanbieder en gebruiksverantwoordelijke tegelijk (artikel 3 punt 3 en 4). Markttoezichtautoriteit is de autoriteit voor het financiële toezicht op de bank, voor zover het in de handel brengen, in gebruik stellen of gebruik rechtstreeks verband houdt met de financiële dienst (artikel 74 lid 6), tenzij de lidstaat op grond van artikel 74 lid 7 een andere autoriteit aanwijst. Vraagt die toezichthouder een teststructuur om een test of advies, dan moet de bank als aanbieder de toezichthouder, voor zover nodig, toegang kunnen geven tot haar technische documentatie (artikel 11) en de datasets voor trainen, valideren en testen (artikel 74 lid 12). Als gebruiksverantwoordelijke moet de bank ook haar beoordeling van de gevolgen voor de grondrechten kunnen tonen (artikel 27 lid 1 noemt bijlage III punt 5 onder b en c uitdrukkelijk) en haar logs, die zij bewaart als deel van haar documentatie onder het financiële recht (artikel 26 lid 6). Naar onze lezing helpt het als de eigen tests op nauwkeurigheid en robuustheid (artikel 15) herhaalbaar zijn vastgelegd, met de versie van het model en de testdata. Voor een verzekeraar met een systeem voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen (bijlage III punt 5 onder c) werkt het naar onze lezing op dezelfde manier.

In Nederland. Bij wet is nog geen markttoezichtautoriteit voor bijlage III aangewezen; de Uitvoeringswet AI-verordening is een concept. Wat dat concept voorstelt, staat in wie gaat er toezicht houden. Of en hoe een Nederlandse toezichthouder een teststructuur zal inschakelen, staat nog niet vast.

Veelgestelde vragen over ondersteunende AI-teststructuren

Nieuwsbrief

Elke dinsdag de AI Act-week vooruit in 5 minuten

Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.

Praktisch en kort · Geen spam · Met één klik uitschrijven

Geschreven door

Zahed Ashkara, freelance AI- en privacyconsultant en jurist

Zahed Ashkara

Freelance AI- en privacyconsultant en jurist · AI-governance en -veiligheid

Zahed Ashkara is freelance AI- en privacyconsultant en jurist voor de AVG en de EU AI Act. Organisaties huren hem in als AI governance consultant, privacyjurist, externe FG of AI-governance lead, laten een DPIA, FRIA of AI Act-classificatie door hem uitvoeren, of boeken een incompany-training. Hij richt zich op AI-governance en -veiligheid, ook van AI-agents. Hij werkt uitsluitend als zelfstandige, via Embed AI (handelsnaam Praxikon). Hij is Certified AI Compliance Officer (CAICO) en sinds juli 2026 lid van de NEN-normcommissie Artificial Intelligence & Big Data.

Volg via LinkedInBekijk expertprofiel

Gebruik deze bronnen ook in uw AI-assistent: Praxikon in Claude en andere assistenten

Praktijkverhalen

Ontdek hoe organisaties dit in de praktijk toepassen

Gerelateerde artikelen

Als de toezichthouder aanklopt: artikel 79 tot en met 82 van de AI Act over AI-systemen die een risico vormen

Wat gebeurt er als een markttoezichtautoriteit vindt dat een AI-systeem een risico vormt? Artikel 79 regelt de nationale procedure: evaluatie, corrigerende maatregelen binnen een termijn van hoogstens 15 werkdagen, en zo nodig een verbod of terugroeping. Artikel 80 gaat over een systeem dat de aanbieder ten onrechte als geen hoog risico heeft ingedeeld, artikel 81 over de vrijwaringsprocedure van de Unie en artikel 82 over een systeem dat aan de verordening voldoet en toch een risico vormt. Met wie in Nederland de toezichthouder wordt, vanaf wanneer het geldt, een gemeente met een systeem voor bijstandsaanvragen en een bank als voorbeelden.

EU AI ActArtikel 79Artikel 80

Wat mag de toezichthouder? Markttoezicht, grondrechtenautoriteiten, vertrouwelijkheid en klachten onder artikel 74, 77, 78 en 85 van de AI Act

Artikel 74 bepaalt wie markttoezicht houdt op AI-systemen en wat die toezichthouder mag opvragen, tot en met trainingsdata en, onder twee voorwaarden, de broncode. Artikel 77 geeft autoriteiten die grondrechten beschermen toegang tot documentatie en een recht om te laten testen, sinds de Digitale omnibus inzake AI via de markttoezichtautoriteit. Artikel 78 regelt de vertrouwelijkheid en artikel 85 het recht om een klacht in te dienen. Wie dat in Nederland zijn, vanaf wanneer het geldt, en wat een gemeente en een bank doen als de toezichthouder om stukken vraagt of een inwoner klaagt.

EU AI ActArtikel 74Artikel 77

Certificaten en de afwijking in noodgevallen: wat artikel 44, 45 en 46 van de AI Act regelen

Een certificaat van een aangemelde instantie is hoogstens vier of vijf jaar geldig en kan worden geschorst of ingetrokken. En heel soms mag een AI-systeem met een hoog risico al worden gebruikt terwijl de conformiteitsbeoordeling nog loopt. Wat artikel 44, 45 en 46 van de AI Act regelen, wie in Nederland over zo een toelating gaat beslissen, waarom de AVG gewoon blijft gelden, en wat een veiligheidsregio, een gemeente en een bank ermee moeten.

EU AI ActArtikel 44Artikel 45