Een AI-systeem dat in het lab goed scoort, kan in de praktijk anders uitpakken. Daarom wil een aanbieder een systeem vaak eerst uitproberen met echte aanvragen, echte klanten of echte leerlingen, voordat het in gebruik gaat. De AI Act noemt dat testen onder reële omstandigheden. Buiten een AI-testomgeving voor regelgeving, de regulatory sandbox, regelt artikel 60 wie zo een test mag doen en onder welke voorwaarden. Artikel 61 regelt de toestemming van de mensen die meedoen, en artikel 76 wat de markttoezichtautoriteit kan doen als het misgaat.
Stel: het is voorjaar 2028. Een gemeente wil een AI-systeem van een leverancier gebruiken dat aanvragen voor bijzondere bijstand beoordeelt en per aanvraag een advies geeft aan de behandelaar. Het systeem is nog niet in de handel gebracht: de leverancier wil het pas na de proef op de markt brengen. Voordat het systeem echt in gebruik gaat, wil de gemeente drie maanden proefdraaien met lopende aanvragen. Mag de gemeente dat zelf? Wat moet de leverancier regelen? En is de toestemming die aanvragers voor de test geven ook genoeg voor de AVG? Het voorbeeld is verzonnen.
In het kort
Testen onder reële omstandigheden is het tijdelijk testen van een AI-systeem voor zijn beoogde doel buiten een laboratorium of gesimuleerde omgeving. Zo een test geldt niet als het in de handel brengen of in gebruik stellen, maar alleen als aan alle voorwaarden van artikel 57 of artikel 60 is voldaan (artikel 3, punt 57).
Buiten een AI-testomgeving mogen alleen aanbieders en potentiële aanbieders testen, zelf of samen met een of meer gebruiksverantwoordelijken (artikel 60 lid 1, 2 en 4). Een gemeente die het systeem van een leverancier alleen gaat gebruiken, test dus niet zelf onder artikel 60, maar doet mee met de leverancier. Ontwikkelt de gemeente het systeem zelf of laat zij het ontwikkelen, en stelt zij het onder eigen naam in gebruik, dan is zij de potentiële aanbieder.
De voorwaarden staan in artikel 60 lid 4: een plan, goedkeuring door de markttoezichtautoriteit, registratie, vestiging in de Unie, hoogstens zes plus zes maanden, bescherming van kwetsbare proefpersonen, een overeenkomst met de gebruiksverantwoordelijke, geïnformeerde toestemming volgens artikel 61, toezicht door bekwame mensen en uitkomsten die terug te draaien zijn.
De Digitale omnibus inzake AI trok artikel 60 door naar producten uit bijlage I, afdeling A, en voegde artikel 60 bis in voor afdeling B. De toestemming van artikel 61 is geen toestemming in de zin van de AVG (overweging 141): een rechtsgrond en zo nodig een DPIA blijven nodig.
Voor systemen uit bijlage III is in Nederland nog geen markttoezichtautoriteit aangewezen; zolang dat zo is, kan een aanbieder naar onze lezing geen plan indienen en dus niet voldoen aan lid 4 onder a en b. Voor producten uit bijlage I, afdeling A, is de sectorale markttoezichthouder de autoriteit (artikel 74 lid 3), en bij financiële instellingen de financiële toezichthouder (artikel 74 lid 6); welke van AFM en DNB, staat nog niet vast. Het concept van de Uitvoeringswet AI-verordening wijst voor het bijstandsvoorbeeld de Autoriteit Persoonsgegevens aan; dat is nog geen wet.
Dit stuk gaat over testen buiten een testomgeving. Wat een AI-testomgeving is, staat in AI-testomgevingen voor regelgeving, hoe de Nederlandse testomgeving wordt ingericht in de Nederlandse AI-sandbox, en wat de Europese uitvoeringshandeling over testomgevingen regelt in de consultatie over AI-testomgevingen. Waar de twee routes verschillen, ziet u verderop in een tabel.
Wat telt als testen onder reële omstandigheden?
De definitie staat in artikel 3, punt 57: het tijdelijk testen van een AI-systeem voor zijn beoogde doel onder reële omstandigheden, buiten een laboratorium of anderszins gesimuleerde omgeving, om betrouwbare en robuuste gegevens te verkrijgen en te beoordelen of het systeem aan de verordening voldoet. Drie dingen volgen daaruit.
Het is geen vrije ruimte. Onderzoek, testen en ontwikkelen vóór het in de handel brengen vallen buiten de AI Act, maar testen onder reële omstandigheden valt uitdrukkelijk niet onder die uitzondering (artikel 2 lid 8). Wie een hoog-risicosysteem onder reële omstandigheden test, doet dat dus binnen artikel 57, 60 of 60 bis; anders geldt de test als in gebruik stellen.
Het hoort bij het risicobeheer. Hoog-risicosystemen worden getest voordat zij in de handel worden gebracht of in gebruik worden gesteld, en die tests kunnen bestaan uit testen onder reële omstandigheden volgens artikel 60 (artikel 9 lid 7 en 8). Zie het risicobeheersysteem van artikel 9.
Zonder de voorwaarden is het geen test meer. Een test geldt alleen niet als in gebruik stellen "mits aan alle in artikel 57 of artikel 60 vastgestelde voorwaarden is voldaan" (artikel 3, punt 57). Volgens de ontwerp-memorie van toelichting bij de Uitvoeringswet AI-verordening (paragraaf 4.6.3) gelden zonder die voorwaarden in beginsel alle verplichtingen voor aanbieders.
Waar het gesimuleerde ophoudt, zegt de verordening niet. Een proef op oude, afgesloten dossiers is naar onze lezing geen test onder reële omstandigheden. Een proef waarin het systeem meedraait op lopende aanvragen, ook als de behandelaar het advies niet hoeft te volgen, valt naar onze lezing wel onder de definitie, omdat het systeem dan voor zijn beoogde doel en onder echte omstandigheden werkt. Dat staat niet vast: een richtsnoer of uitvoeringshandeling over deze grens hebben wij op 19 november 2026 niet gevonden.
Wie mag testen: de leverancier, de gemeente, of samen?
Artikel 60 lid 1 noemt maar één partij die mag testen: aanbieders of potentiële aanbieders van hoog-risicosystemen uit bijlage III of uit de harmonisatiewetgeving van bijlage I, afdeling A. Zij mogen dat doen "zelf of in samenwerking met een of meer gebruiksverantwoordelijken of potentiële gebruiksverantwoordelijken", op elk moment vóór het in de handel brengen of in gebruik stellen (lid 2). En lid 4 begint met: aanbieders of potentiële aanbieders "mogen alleen testen" als aan alle voorwaarden is voldaan. De plichten rusten dus op de aanbieder.
De gebruiksverantwoordelijke heeft een eigen, kleinere rol. Zij wordt geïnformeerd over alle aspecten van de test die relevant zijn voor haar besluit om mee te doen, krijgt de gebruiksinstructies van artikel 13 en sluit met de aanbieder een overeenkomst over taken en verantwoordelijkheden (lid 4 onder h). Zij houdt via gekwalificeerde mensen mee toezicht op de test (lid 4 onder j). En de markttoezichtautoriteit kan ook haar voorschrijven een aspect van de test te wijzigen (artikel 76 lid 3 onder b).
| Situatie | Rol van de gemeente | Wie test onder artikel 60 |
|---|---|---|
| De leverancier ontwikkelt het systeem, dat nog niet in de handel is gebracht of in gebruik is gesteld, en de gemeente doet mee aan de test | Potentiële gebruiksverantwoordelijke | De leverancier als potentiële aanbieder; de gemeente via de overeenkomst van lid 4 onder h |
| De gemeente ontwikkelt het systeem zelf of laat het ontwikkelen, en stelt het onder eigen naam in gebruik | Potentiële aanbieder: een overheidsinstantie die een systeem ontwikkelt of laat ontwikkelen en onder eigen naam in gebruik stelt, is aanbieder (artikel 3, punt 3), en in gebruik stellen omvat eigen gebruik (punt 11) | De gemeente zelf, met alle voorwaarden van lid 4 |
| De gemeente wil een systeem van een leverancier zelf testen, zonder de leverancier | Gebruiksverantwoordelijke | Artikel 60 geeft de gebruiksverantwoordelijke geen eigen route. Naar onze lezing kan de gemeente zo niet onder artikel 60 testen, tenzij zij zelf aanbieder wordt |
| Het systeem is al in de handel gebracht of in gebruik gesteld, en de gemeente begint met een pilot | Gebruiksverantwoordelijke | Niemand: artikel 60 werkt alleen vóór het in de handel brengen of in gebruik stellen (lid 2). De pilot is gewoon gebruik, met de plichten van artikel 26 en zo nodig artikel 27 |
Over de laatste rij: een gebruiksverantwoordelijke wordt aanbieder van een hoog-risicosysteem als zij er haar naam of merk op zet, het wezenlijk wijzigt of het beoogde doel wijzigt (artikel 25 lid 1). Wanneer dat gebeurt, staat in wanneer word je aanbieder. Het begrip potentiële aanbieder definieert de verordening niet; uit lid 2 volgt naar onze lezing dat het gaat om wie het systeem later in de handel zal brengen of in gebruik zal stellen.
De voorwaarden van artikel 60 lid 4
Alle elf voorwaarden moeten tegelijk vervuld zijn.
| Punt | Voorwaarde | Wat het betekent |
|---|---|---|
| a | Plan | De aanbieder stelt een plan voor tests onder reële omstandigheden op en dient het in bij de markttoezichtautoriteit van de lidstaat waar wordt getest |
| b | Goedkeuring | Die autoriteit keurt de test en het plan goed. Antwoordt zij niet binnen dertig dagen, dan geldt de goedkeuring als gegeven; kent het nationale recht geen stilzwijgende goedkeuring, dan blijft een toestemming nodig |
| c | Registratie | Registratie volgens artikel 71 lid 4 met een Uniebreed uniek identificatienummer en de gegevens van bijlage IX; rechtshandhaving, migratie, asiel en grenzen in het afgeschermde deel van de EU-databank (artikel 49 lid 4 onder d); kritieke infrastructuur (bijlage III punt 2) op nationaal niveau (artikel 49 lid 5) |
| d | Vestiging | De aanbieder is in de Unie gevestigd of heeft een wettelijke vertegenwoordiger in de Unie |
| e | Doorgifte | Testgegevens gaan alleen naar derde landen met passende waarborgen uit het Unierecht |
| f | Duur | Niet langer dan nodig en hoogstens zes maanden, met één verlenging van zes maanden als de aanbieder de autoriteit vooraf informeert en uitlegt waarom |
| g | Kwetsbare groepen | Proefpersonen die door leeftijd of handicap kwetsbaar zijn, worden naar behoren beschermd |
| h | Gebruiksverantwoordelijken | Zij worden geïnformeerd, krijgen de gebruiksinstructies en sluiten een overeenkomst met de aanbieder |
| i | Toestemming | Proefpersonen geven geïnformeerde toestemming volgens artikel 61; alleen bij rechtshandhaving mag het zonder, als toestemming vragen de test onmogelijk maakt, de test geen negatieve gevolgen voor hen heeft en hun gegevens daarna worden gewist |
| j | Toezicht | Aanbieder en gebruiksverantwoordelijke houden daadwerkelijk toezicht via mensen met de nodige kwalificatie, capaciteiten, opleiding en bevoegdheden |
| k | Terugdraaien | Voorspellingen, aanbevelingen en beslissingen van het systeem kunnen daadwerkelijk worden teruggedraaid en genegeerd |
Het plan. Een plan voor tests onder reële omstandigheden beschrijft de doelstellingen, methode, geografische reikwijdte, betrokken personen, duur, monitoring, organisatie en uitvoering van de test (artikel 3, punt 53). De Commissie moet de precieze onderdelen vastleggen in een uitvoeringshandeling (artikel 60 lid 1, tweede alinea). Die hebben wij op 19 november 2026 niet gevonden, en de ontwerp-memorie van toelichting bij de Uitvoeringswet zegt dat zij er bij het opstellen nog niet was (paragraaf 4.6.4). Tot die er is, staat niet vast hoe gedetailleerd een plan moet zijn.
De registratie. Wat er geregistreerd wordt, staat in bijlage IX: het identificatienummer, naam en contactgegevens van de aanbieder en de betrokken gebruiksverantwoordelijken, een korte beschrijving van het systeem en zijn doel, een samenvatting van het plan, en informatie over opschorten of beëindigen. Die gegevens zijn alleen zichtbaar voor markttoezichtautoriteiten en de Commissie, tenzij de aanbieder toestemt in openbaarmaking (artikel 71 lid 4). De registratie is dus in beginsel niet openbaar, ook niet bij een gemeente.
Terugdraaien en negeren. Punt k is in de praktijk de zwaarste eis. Bij het bijstandsvoorbeeld betekent het naar onze lezing dat de behandelaar zelf beslist, dat het advies van het systeem genegeerd kan worden, en dat een besluit dat toch op het advies steunde, kan worden hersteld. Kan dat niet, dan is de proef zo niet toegestaan.
Tijdens en na de test: lid 5 tot en met 9
- Terugtrekken. Een proefpersoon of zijn wettelijke vertegenwoordiger kan zich op elk moment terugtrekken, zonder nadeel en zonder uitleg, door de toestemming in te trekken. Daarna kan hij vragen om onmiddellijke en definitieve verwijdering van zijn persoonsgegevens. Wat al is gedaan, blijft geldig (lid 5).
- Inspecties. De lidstaten geven hun markttoezichtautoriteiten de bevoegdheid om informatie te vorderen, onaangekondigd op afstand of ter plaatse te inspecteren en toezicht te houden op de uitvoering van de test (lid 6, met artikel 75).
- Ernstige incidenten. Een ernstig incident tijdens de test wordt gemeld volgens artikel 73: onmiddellijk en uiterlijk binnen vijftien dagen, tien dagen bij overlijden en twee dagen bij een wijdverbreide inbreuk of een ernstige en onomkeerbare verstoring van kritieke infrastructuur (artikel 3, punt 49, onder b). De aanbieder beperkt het risico meteen of schorst de test tot dat gelukt is, of beëindigt hem, en heeft een procedure om het systeem dan onmiddellijk terug te roepen (lid 7). Zie een ernstig incident melden.
- Melden van het einde. De aanbieder meldt opschorting of beëindiging en de eindresultaten aan de markttoezichtautoriteit (lid 8).
- Schade. Lid 9: de aanbieder of potentiële aanbieder "zijn aansprakelijk op grond van het toepasselijke Unie- en nationale aansprakelijkheidsrecht voor schade die tijdens het testen onder reële omstandigheden wordt veroorzaakt". Over de gebruiksverantwoordelijke zegt lid 9 niets; wat de gemeente en de leverancier onderling dragen, hoort in de overeenkomst van lid 4 onder h.
Een verschil met de testomgeving: binnen een testomgeving leggen de autoriteiten geen administratieve boetes op voor schendingen van de verordening als de deelnemer het plan en de voorwaarden volgt en zich te goeder trouw aan de richtsnoeren houdt (artikel 57 lid 12). Artikel 60 kent zo een regel niet.
Artikel 61: geïnformeerde toestemming
Geïnformeerde toestemming is de vrijelijk gegeven, specifieke, ondubbelzinnige en vrijwillige uiting van de bereidheid van een proefpersoon om aan een bepaalde test deel te nemen, nadat hij is geïnformeerd over alle aspecten die voor zijn besluit van belang zijn (artikel 3, punt 59). Een proefpersoon is een natuurlijk persoon die aan de test deelneemt (punt 58).
De toestemming wordt verkregen vóór de deelname, nadat de proefpersoon beknopte, duidelijke, relevante en begrijpelijke informatie heeft gekregen over (artikel 61 lid 1):
- de aard en doelstellingen van de test en de mogelijke ongemakken;
- de voorwaarden van de test, met de verwachte duur van zijn deelname;
- zijn rechten en garanties, met name het recht om te weigeren en het recht om zich op elk moment terug te trekken, zonder nadeel en zonder uitleg;
- de afspraken om te vragen dat een voorspelling, aanbeveling of beslissing van het systeem wordt teruggedraaid of genegeerd;
- het Uniebrede unieke identificatienummer van de test en de contactgegevens van de aanbieder of zijn wettelijke vertegenwoordiger.
De toestemming wordt gedateerd en gedocumenteerd, en de proefpersoon of zijn wettelijke vertegenwoordiger krijgt een kopie (lid 2).
Bij de gemeente zijn de aanvragers van bijzondere bijstand de proefpersonen. Wie weigert, mag daar geen nadeel van hebben (artikel 61 lid 1 onder c en artikel 60 lid 5). Naar onze lezing betekent dat: de gewone behandeling, met dezelfde termijn, voor iedereen die niet meedoet. Of de behandelaars die met het systeem werken ook proefpersonen zijn (artikel 3, punt 58), zegt de verordening niet. Zij houden toezicht namens de gebruiksverantwoordelijke (lid 4 onder j). Wordt ook hun werk met het systeem getest, dan ligt het naar onze lezing voor de hand ook hun toestemming volgens artikel 61 te vragen, met aandacht voor de vrijwilligheid in een arbeidsrelatie. Dat staat niet vast.
De toestemming van artikel 61 is geen AVG-toestemming
Overweging 141 is daar duidelijk over: de toestemming van proefpersonen om aan een test deel te nemen "staat los van" de toestemming voor de verwerking van persoonsgegevens onder het gegevensbeschermingsrecht en "laat deze onverlet". De AI Act laat de AVG onverlet, behalve waar artikel 4 bis en artikel 59 iets anders bepalen (artikel 2 lid 7). Voor een test buiten de testomgeving betekent dat zes dingen.
1. Een eigen rechtsgrond onder de AVG. De verwerking voor de test heeft een grondslag nodig uit artikel 6 lid 1 AVG. Voor een gemeente ligt de taak van algemeen belang voor de hand (artikel 6 lid 1 onder e AVG), en die grondslag moet in Unierecht of nationaal recht zijn vastgesteld (artikel 6 lid 3 AVG). Toestemming in de zin van de AVG is bij een overheid lastig: zij is geen geldige grondslag als er een duidelijke wanverhouding is tussen betrokkene en verwerkingsverantwoordelijke, "met name wanneer de verwerkingsverantwoordelijke een overheidsinstantie is" (overweging 43 AVG). Of de taak die de gemeente uitvoert, ook het testen van een nieuw systeem dekt, en of hergebruik van bestaande dossiers verenigbaar is met het oorspronkelijke doel (artikel 6 lid 4 AVG), moet de gemeente zelf onderbouwen.
2. Artikel 59 helpt alleen in de testomgeving. Artikel 59 geeft een grondslag om persoonsgegevens die voor andere doelen zijn verzameld verder te verwerken voor de ontwikkeling van bepaalde AI-systemen in het algemeen belang, onder tien cumulatieve voorwaarden. Die grondslag geldt "in de AI-testomgeving voor regelgeving" (artikel 59 lid 1). Daarbuiten, dus bij een test onder artikel 60, biedt de AI Act die grondslag niet. En ook binnen de testomgeving dekt artikel 59 geen verwerking die leidt tot maatregelen of besluiten met gevolgen voor de betrokkenen (artikel 59 lid 1 onder f).
3. Bijzondere persoonsgegevens. Voor bijzondere categorieën van persoonsgegevens geldt artikel 9 AVG. Artikel 4 bis AI Act staat aanbieders, en gebruiksverantwoordelijken van hoog-risicosystemen, bij wijze van uitzondering toe zulke gegevens te verwerken voor het opsporen en corrigeren van vooringenomenheid, als dat strikt noodzakelijk is en aan zes voorwaarden is voldaan. Zie bijzondere persoonsgegevens voor een biastoets.
4. Een DPIA vóór de test. Een DPIA wordt uitgevoerd vóór de verwerking als die waarschijnlijk een hoog risico inhoudt (artikel 35 lid 1 AVG), in elk geval bij een systematische en uitgebreide beoordeling van persoonlijke aspecten waarop besluiten worden gebaseerd met rechtsgevolgen of vergelijkbare wezenlijke gevolgen (artikel 35 lid 3 onder a AVG). De lijst van de AP met verwerkingen waarvoor een DPIA verplicht is (Staatscourant 2019, 64418), noemt onder meer profilering, de financiële situatie en fraudebestrijding, elk met eigen voorwaarden. Bij het bijstandsvoorbeeld is een DPIA naar onze lezing nodig voordat de test begint. De gebruiksverantwoordelijke gebruikt daarvoor de informatie uit artikel 13 (artikel 26 lid 9), en die krijgt zij in de test al (artikel 60 lid 4 onder h). De gemeente vraagt het advies van haar functionaris voor gegevensbescherming (artikel 35 lid 2 en artikel 37 lid 1 onder a AVG). Zie wanneer een DPIA verplicht is.
5. Wie is verwerkingsverantwoordelijke? De gemeente is verwerkingsverantwoordelijke voor de behandeling van de aanvragen. De test zelf dient het doel van de leverancier: beoordelen of zijn systeem voldoet (artikel 3, punt 57). Voor de verwerking voor de test is hij daarom naar onze lezing zelf verwerkingsverantwoordelijke (artikel 4, punt 7, AVG), of samen met de gemeente gezamenlijk verwerkingsverantwoordelijke (artikel 26 AVG), met een eigen grondslag; de gemeente heeft een grondslag nodig om gegevens aan hem te verstrekken. Leg dat vast in de overeenkomst van artikel 60 lid 4 onder h.
6. Rechten, besluiten en doorgifte. Intrekking van de toestemming voor de test geeft recht op een verzoek tot verwijdering (artikel 60 lid 5), en de rechten als betrokkene onder de AVG blijven bestaan (overweging 141). Steunt een besluit uitsluitend op geautomatiseerde verwerking, dan geldt artikel 22 AVG; zie artikel 22 AVG bij algoritmes van gemeenten. Doorgifte buiten de Unie volgt naast artikel 60 lid 4 onder e de regels van hoofdstuk V van de AVG (overweging 141).
En de FRIA? Een overheidsorgaan voert een grondrechteneffectbeoordeling uit voordat een hoog-risicosysteem "in gebruik wordt gesteld" (artikel 27 lid 1). Een test die aan artikel 60 voldoet, geldt niet als in gebruik stellen (artikel 3, punt 57). Naar de Nederlandse tekst lijkt de FRIA dus geen voorwaarde voor de test zelf. De Engelse tekst van artikel 27 spreekt echter van "prior to deploying", een woord dat niet aan het begrip in gebruik stellen is gekoppeld. Ook de andere taalversies lopen uiteen: de Duitse volgt de Nederlandse, de Italiaanse spreekt van "vóór het gebruik", en lid 2 koppelt de plicht aan het eerste gebruik. Of een test met echte aanvragen al onder de FRIA-plicht valt, staat daarom niet vast. Naar onze lezing doet een gemeente er verstandig aan de FRIA vóór de test op te stellen en met de testresultaten bij te werken. Voor het echte gebruik geldt de plicht in elk geval: voor bijlage III vanaf 2 december 2027, en voor een systeem dat al vóór die datum in gebruik was pas bij een aanzienlijke wijziging en uiterlijk op 2 augustus 2030 (artikel 111 lid 2). Zie de FRIA voor gemeenten.
Artikel 76: wat de markttoezichtautoriteit kan doen
| Lid | Bevoegdheid |
|---|---|
| 1 | De markttoezichtautoriteiten hebben de bevoegdheden om te zorgen dat tests onder reële omstandigheden aan de verordening voldoen. Bij een test op grond van artikel 60 bis geldt in plaats van de markttoezichtautoriteit de autoriteit uit de productwetgeving van bijlage I, afdeling B (tweede alinea, ingevoegd door de Omnibus) |
| 2 | Wordt binnen een testomgeving onder reële omstandigheden getest, dan controleert de autoriteit artikel 60 als deel van haar toezicht op de testomgeving. Zij kan dan toestaan dat wordt afgeweken van de maximale duur en de bescherming van kwetsbare groepen (artikel 60 lid 4 onder f en g) |
| 3 | Na een ernstig incident, of als zij andere redenen heeft om aan te nemen dat niet aan artikel 60 en 61 wordt voldaan, kan de autoriteit de test opschorten of beëindigen, of aanbieders en gebruiksverantwoordelijken voorschrijven een aspect van de test te wijzigen |
| 4 | Een besluit onder lid 3 en een bezwaar tegen het plan onder artikel 60 lid 4 onder b vermelden de redenen en hoe de aanbieder ze kan aanvechten |
| 5 | Bij een besluit onder lid 3 informeert de autoriteit de autoriteiten van de andere lidstaten waar volgens het plan wordt getest |
Lid 2 verdient aandacht. Binnen een testomgeving kan de autoriteit dus ruimte geven op de twee punten waar artikel 60 het strengst is: de klok van zes plus zes maanden en de bescherming van kwetsbare groepen. Buiten de testomgeving kan dat niet.
In Nederland is de goedkeuring van een plan volgens de ontwerp-memorie van toelichting een besluit in de zin van artikel 1:3 Awb, net als een besluit om de test op te schorten, te beëindigen of te laten wijzigen; daartegen staan bezwaar en beroep open (paragraaf 4.6.4).
Binnen of buiten de testomgeving?
| In een AI-testomgeving (artikel 57 en 58) | Buiten een testomgeving (artikel 60) | |
|---|---|---|
| Plan | Het testomgevingsplan bevat waar van toepassing het plan voor tests onder reële omstandigheden (artikel 57 lid 5) | Een eigen plan, goedgekeurd door de markttoezichtautoriteit (artikel 60 lid 4 onder a en b) |
| Voorwaarden | De autoriteit spreekt de voorwaarden en waarborgen voor de test met de deelnemers af (artikel 58 lid 4) | De elf voorwaarden van artikel 60 lid 4 |
| Duur en kwetsbare groepen | De autoriteit kan afwijken (artikel 76 lid 2) | Hoogstens zes plus zes maanden; bescherming verplicht |
| Boetes | Geen administratieve boetes bij naleving van plan, voorwaarden en richtsnoeren te goeder trouw (artikel 57 lid 12) | Geen vergelijkbare regel |
| Hergebruik van persoonsgegevens | Grondslag van artikel 59 voor systemen in het algemeen belang, onder meer voor doeltreffendheid en kwaliteit van het openbaar bestuur (artikel 59 lid 1 onder a, punt v), maar niet voor verwerking die leidt tot besluiten met gevolgen voor de betrokkenen (onder f) | Geen grondslag in de AI Act; alleen de AVG |
| Beschikbaar | Elke lidstaat heeft uiterlijk op 2 augustus 2027 een nationale testomgeving (artikel 57 lid 1) | Hoofdstuk VI geldt sinds 2 augustus 2026; zie hieronder voor de vraag waar u in Nederland een plan indient |
Voor een gemeente die een systeem in het algemeen belang wil ontwikkelen of testen met gegevens die zij al heeft, kan de testomgeving dus een route zijn om te overwegen. Let wel: artikel 59 dekt geen verwerking die leidt tot besluiten met gevolgen voor de betrokkenen (artikel 59 lid 1 onder f); voor een proef die meedraait op lopende aanvragen helpt die grondslag dus niet. Het concept van de Uitvoeringswet legt het opzetten daarvan bij de markttoezichtautoriteiten gezamenlijk, en laat de AP adviseren als een aanvrager de grondslag van artikel 59 wil gebruiken (artikel 4.1 lid 1 en 5 van het concept).
Wat de Digitale omnibus inzake AI veranderde
Verordening (EU) 2026/1744 trad op 27 juli 2026 in werking (artikel 4 van Verordening (EU) 2026/1744). Voor het testen onder reële omstandigheden brengt zij deze wijzigingen:
- Artikel 60 geldt ook voor producten uit bijlage I, afdeling A (artikel 1, punt 24, van Verordening (EU) 2026/1744; hierna alleen het punt). Lid 1 en 2 noemden eerst alleen bijlage III; nu ook hoog-risicosystemen onder de harmonisatiewetgeving van bijlage I, afdeling A, zoals medische hulpmiddelen en speelgoed. Volgens overweging 26 van de Omnibus gebeurt dat om innovatie te bevorderen, "met inachtneming van voldoende waarborgen", en laat het ander Unie- of nationaal recht over testen van zulke producten onverlet.
- Nieuw artikel 60 bis voor bijlage I, afdeling B (punt 25), zoals voertuigen, luchtvaart en sinds de Omnibus ook machines. Lidstaten mogen daar testen buiten een testomgeving toestaan om de naleving van artikel 8 tot en met 15 te beoordelen. Wie dat doet, stelt een kader vast en meldt dat vooraf aan de Commissie. Dat kader bevat een plan dat de aanbieder met de bevoegde autoriteit overeenkomt, en waarborgt artikel 60 lid 2 en 3, lid 4 onder d tot en met j en lid 5 tot en met 9. Voor deze systemen gelden uit de AI Act verder alleen artikel 6 lid 1 en de artikelen 102 tot en met 112, en artikel 57 tot en met 59 alleen voor zover de eisen in de productwetgeving zijn opgenomen (artikel 2 lid 2). Volgens overweging 27 zullen die sectorwetten de eisen van artikel 8 tot en met 15 te zijner tijd opnemen.
- Machines verhuisden naar afdeling B (punt 41). De machineverordening (EU) 2023/1230 staat sinds 27 juli 2026 niet meer in afdeling A maar in afdeling B van bijlage I. AI in machines loopt daardoor via artikel 60 bis, niet via artikel 60.
- Artikel 76 lid 1 kreeg een tweede alinea (punt 33), voor tests op grond van artikel 60 bis.
- Het testomgevingsplan neemt het testplan op (punt 22, onder d). Artikel 57 lid 5 bepaalt nu dat het testomgevingsplan waar van toepassing het plan voor tests onder reële omstandigheden van artikel 60 en 60 bis bevat. Volgens overweging 23 van de Omnibus is dat een procedurele vereenvoudiging.
- De testomgevingen zelf. De datum waarop elke lidstaat een nationale testomgeving moet hebben, schoof van 2 augustus 2026 naar 2 augustus 2027 (punt 22, onder a), lid 10 werd vervangen (punt 22, onder f): de betrokkenheid geldt nu voor de bevoegde gegevensbeschermingsautoriteiten; dat zij betrokken zijn, stond al in de oorspronkelijke tekst, en de uitvoeringshandeling van artikel 58 gaat ook over hun betrokkenheid (punt 23).
Artikel 61, artikel 60 lid 3 tot en met 9 en artikel 76 lid 2 tot en met 5 zijn oorspronkelijke tekst.
Twee punten staan nog open. Ten eerste verwijst artikel 60 lid 4 onder c voor de registratie naar artikel 71 lid 4 en bijlage IX, en die gaan over systemen uit bijlage III. Hoe een test met een product uit bijlage I, afdeling A, wordt geregistreerd, staat naar onze lezing niet vast. Lid 4 onder c blijft wel een voorwaarde; leg de route vooraf voor aan de sectorale markttoezichthouder (artikel 74 lid 3). Ten tweede is de ontwerp-memorie van toelichting bij de Uitvoeringswet opgesteld vóór de Omnibus en zegt zij nog dat buiten de testomgeving alleen systemen uit bijlage III kunnen worden getest (paragraaf 4.6.3). Dat is sinds 27 juli 2026 achterhaald.
Wie keurt in Nederland een testplan goed?
Dat ligt nog niet bij wet vast. Het conceptwetsvoorstel Uitvoeringswet AI-verordening lag tot en met 1 juni 2026 in internetconsultatie. Volgens de Planningsbrief Digitale Zaken is de indiening bij de Tweede Kamer gepland voor het tweede kwartaal van 2027 (Kamerstuk 26643, nr. 1554). Wat het concept regelt:
- Wie. Voor hoofdstuk VI, waar artikel 60 in staat, en hoofdstuk IX, afdeling 1 tot en met 4, waar artikel 76 in staat, is de AP de markttoezichtautoriteit voor onder meer bijlage III punt 1, 3, 4 en 5 onder a. Voor kredietwaardigheid en levens- en ziektekostenverzekeringen (punt 5 onder b en c) zijn dat de AFM, DNB en de AP, met een verdeling per categorie operatoren bij ministeriële regeling (artikel 2.2 lid 1 onder c en lid 2 van het concept). Zie wie gaat er toezicht houden.
- Voorschriften. Aan de goedkeuring kunnen voorschriften worden verbonden, en het is verboden daartegen te handelen (artikel 4.2 lid 1 en 2 van het concept). Bij ministeriële regeling kunnen regels komen over kosten en over de onderdelen van het plan (lid 3).
- Stilzwijgende goedkeuring. De regels van de Awb over een positieve fictieve beschikking bij niet tijdig beslissen (paragraaf 4.1.3.3 Awb) gelden voor de aanvraag (artikel 4.2 lid 4 van het concept). Daarmee kiest het concept voor de stilzwijgende goedkeuring na dertig dagen van artikel 60 lid 4 onder b.
- Boetes. Het concept geeft de markttoezichtautoriteiten een boetebevoegdheid tot het maximum van artikel 99 lid 4 voor overtreding van artikel 60 lid 7 en 8, artikel 61 en de voorschriften bij de goedkeuring (artikel 3.7 lid 2 onder b en d van het concept). Of een gemeente als overheidsorgaan een boete kan krijgen, regelt elke lidstaat zelf (artikel 99 lid 8).
Dat is een concept en nog geen wet. Voor systemen uit bijlage III is in Nederland nog geen markttoezichtautoriteit aangewezen; zolang dat zo is, kan een aanbieder naar onze lezing geen plan indienen en dus niet voldoen aan lid 4 onder a en b. Voor producten uit bijlage I, afdeling A, is de sectorale markttoezichthouder de autoriteit (artikel 74 lid 3), en bij financiële instellingen de financiële toezichthouder (artikel 74 lid 6); welke van AFM en DNB, staat nog niet vast.
Hoofdvoorbeeld: de gemeente en het bijstandsadvies
De indeling. Een systeem dat door of namens een overheidsinstantie wordt gebruikt om te beoordelen of iemand in aanmerking komt voor essentiële overheidsuitkeringen, valt onder bijlage III punt 5 onder a. Doet het systeem alleen een beperkte procedurele of voorbereidende taak en profileert het niet, dan kan het buiten het hoge risico vallen (artikel 6 lid 3). Wij gaan uit van een hoog-risicosysteem. Meer over de AVG- en FRIA-kant van zulke systemen staat in AI-fraudesignalen in de bijstand.
De rollen. De leverancier is potentiële aanbieder en draagt de voorwaarden van artikel 60. De gemeente is potentiële gebruiksverantwoordelijke en verwerkingsverantwoordelijke onder de AVG.
De stappen, in volgorde:
- Overeenkomst (lid 4 onder h). Leverancier en gemeente leggen taken en verantwoordelijkheden vast: wie het plan schrijft, wie toezicht houdt, wie incidenten meldt, wie de toestemmingen bewaart, wat ieder bij schade draagt en wie onder de AVG welke rol heeft, met de grondslag van de gemeente om gegevens aan de leverancier te verstrekken.
- DPIA en grondslag. De gemeente onderbouwt haar grondslag onder artikel 6 AVG en voert vóór de start een DPIA uit, met advies van haar functionaris voor gegevensbescherming (artikel 35 lid 2 en artikel 37 lid 1 onder a AVG).
- Plan en goedkeuring (lid 4 onder a en b). De leverancier dient het plan in bij de markttoezichtautoriteit; in het concept is dat voor dit systeem de AP. Zolang die niet bij wet is aangewezen, kan deze stap naar onze lezing niet worden gezet. Hij begint pas na goedkeuring, of na dertig dagen stilte als het nationale recht dat toestaat.
- Registratie (lid 4 onder c). De leverancier registreert de test in de EU-databank. De gegevens zijn niet openbaar, tenzij hij toestemt (artikel 71 lid 4).
- Toestemming (artikel 61). Elke aanvrager die meedoet, krijgt vooraf de informatie van artikel 61 lid 1 en geeft gedateerde, gedocumenteerde toestemming. Wie weigert, krijgt de gewone behandeling.
- Mens beslist (lid 4 onder j en k). De behandelaar beslist zelf en kan het advies negeren; een besluit dat op een fout advies steunde, wordt hersteld. Wie toezicht houdt, is daarvoor opgeleid en bevoegd.
- Klok en incidenten (lid 4 onder f, lid 7 en 8). Drie maanden past binnen de zes; verlengen kan één keer met zes maanden na een vooraf gemotiveerde melding. Een ernstig incident gaat volgens artikel 73 naar de autoriteit, en de leverancier meldt aan het eind de resultaten.
- Daarna. Voor het echte gebruik volgen de gewone plichten: de gemeente doet een FRIA (artikel 27 lid 1) en registreert haar gebruik in de EU-databank (artikel 49 lid 3), en de leverancier heeft zijn conformiteitsbeoordeling afgerond. Zie de plichten van de gebruiksverantwoordelijke.
Als de gemeente het systeem zelf bouwt. Dan is de gemeente de potentiële aanbieder en draagt zij alle voorwaarden zelf: plan, goedkeuring, registratie, toestemming en meldingen. Wil zij daarbij dossiers hergebruiken die voor de gewone uitvoering zijn verzameld, dan is de testomgeving met de grondslag van artikel 59 het overwegen waard, al moet die nationale testomgeving pas uiterlijk op 2 augustus 2027 operationeel zijn en dekt artikel 59 geen verwerking die leidt tot besluiten met gevolgen voor de betrokkenen (artikel 59 lid 1 onder f).
Voorbeeld 2: een bank en een verzekeraar
Stel: het is 2028. Ook dit voorbeeld is verzonnen.
De bank bouwt zelf. Een bank ontwikkelt een eigen model dat de kredietwaardigheid van consumenten beoordeelt (bijlage III punt 5 onder b; systemen voor het opsporen van financiële fraude vallen daar niet onder). De bank stelt het onder eigen naam in gebruik en is dus potentiële aanbieder. Zij wil het vier maanden laten meedraaien op echte aanvragen. Dan gelden alle voorwaarden van artikel 60 lid 4 voor de bank zelf. Elke aanvrager die meedoet, geeft toestemming volgens artikel 61, en wie weigert, krijgt de gewone beoordeling. Het kredietbesluit volgt tijdens de test het bestaande proces, zodat de uitkomst van het model genegeerd kan worden (lid 4 onder k). Onder de AVG kiest de bank een grondslag uit artikel 6 lid 1 AVG; de toestemming van artikel 61 telt daarvoor niet vanzelf mee. Een kredietscore kan zelf een besluit in de zin van artikel 22 AVG zijn als die score doorslaggevend is (HvJ EU, SCHUFA, C-634/21). Bij een financiële instelling is de financiële toezichthouder de markttoezichtautoriteit (artikel 74 lid 6); welke van AFM en DNB, staat nog niet vast. Het concept van de Uitvoeringswet noemt de AFM, DNB en de AP, met een verdeling bij ministeriële regeling. Zie ook AI bij kredietbeslissingen.
De verzekeraar koopt in. Een verzekeraar wil een prijsmodel voor ziektekostenverzekeringen van een leverancier testen (bijlage III punt 5 onder c). Hier is de verzekeraar potentiële gebruiksverantwoordelijke, net als de gemeente: de leverancier draagt de voorwaarden, de verzekeraar sluit de overeenkomst van lid 4 onder h en houdt mee toezicht. Omdat het systeem door een financiële instelling wordt gebruikt, is de financiële toezichthouder naar onze lezing de markttoezichtautoriteit (artikel 74 lid 6); welke van AFM en DNB, staat nog niet vast. Voordat de verzekeraar het systeem daarna echt gebruikt, doet hij een FRIA (artikel 27 lid 1).
Kort over onderwijs. Test een school een systeem dat leerresultaten evalueert (bijlage III punt 3 onder b), dan zijn de proefpersonen vaak minderjarig. De verordening noemt daarvoor de wettelijke vertegenwoordiger (artikel 60 lid 5 en artikel 61 lid 2) en eist bescherming van wie door leeftijd kwetsbaar is (lid 4 onder g). Een test laat de verboden van artikel 5 onverlet (lid 1), dus emotieherkenning in het onderwijs blijft verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f).
Vanaf wanneer?
- Artikel 60 en 61 staan in hoofdstuk VI. Dat hoofdstuk staat niet bij de uitzonderingen van artikel 113, derde alinea, en geldt dus sinds de algemene datum van 2 augustus 2026 (tweede alinea). Artikel 60 bis staat in hetzelfde hoofdstuk.
- Artikel 76 staat in hoofdstuk IX en geldt ook sinds 2 augustus 2026.
- De wijzigingen van de Omnibus traden op 27 juli 2026 in werking; voor hoofdstuk VI gelden ze sinds 2 augustus 2026.
- De eisen waartegen een test toetst (hoofdstuk III, afdeling 1 tot en met 3) gelden vanaf 2 december 2027 voor bijlage III en vanaf 2 augustus 2028 voor bijlage I (artikel 113, derde alinea, onder c, zoals vervangen door artikel 1, punt 40, van Verordening (EU) 2026/1744).
- De nationale testomgeving moet uiterlijk op 2 augustus 2027 operationeel zijn (artikel 57 lid 1).
- De uitvoeringshandeling over het testplan hebben wij op 19 november 2026 niet gevonden; een datum staat niet in de verordening.
Wat u nu doet
Als gemeente, bank of verzekeraar die een systeem inkoopt:
- Zoek uit welke proeven feitelijk tests onder reële omstandigheden zijn. Draait een systeem dat nog niet in de handel is mee op echte aanvragen of klanten, dan is dat een test onder reële omstandigheden en geldt artikel 60 of artikel 57. Is het systeem al in de handel, dan is een pilot gewoon gebruik, met de plichten van artikel 26 en zo nodig 27.
- Test niet alleen. Als gebruiksverantwoordelijke test u samen met de aanbieder. Vraag het plan, de goedkeuring en het identificatienummer, en sluit de overeenkomst van lid 4 onder h.
- Regel de AVG apart. Een grondslag, een DPIA vóór de start, het advies van de functionaris voor gegevensbescherming en een duidelijke rolverdeling met de leverancier. De toestemming van artikel 61 vervangt dat niet.
- Ontwerp voor nee. Wie weigert of zich terugtrekt, krijgt de gewone behandeling, en elk advies van het systeem moet genegeerd en hersteld kunnen worden.
Als aanbieder:
- Kies de route. Binnen een testomgeving met afspraken op maat, boetebescherming bij goede trouw en mogelijk de grondslag van artikel 59, of buiten de testomgeving met de vaste voorwaarden van artikel 60.
- Plan de tijd. Reken op dertig dagen voor de goedkeuring en hoogstens zes plus zes maanden voor de test.
- Leg de toestemming goed vast. De informatie van artikel 61 lid 1, gedateerd, gedocumenteerd en met een kopie voor de proefpersoon.
- Zorg voor een rem. Een procedure voor ernstige incidenten, opschorten en onmiddellijk terugroepen (lid 7).
Wilt u weten welke AI Act- en AVG-plichten bij uw toepassing in beeld komen en welke rol u hebt? Met de casus-check beschrijft u de toepassing in een paar vragen.
Veelgestelde vragen over testen onder reële omstandigheden
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven