Bronherleidbare verbindingen van AI Act-wijzigingen en verplichtingen naar actoren, acties, bewijs, controls en publieke hulpmiddelen.
Vingerafdruk van ons bronrecord (URL, uitgaveversie, controledatum). Geen archiefkopie of inhoudshash van het externe document.
Artikel 60: testen onder reele omstandigheden buiten een testomgeving
Wilt u een AI-systeem met een hoog risico uit bijlage III met echte mensen en echte uitkomsten testen voordat u het in de handel brengt, dan geldt een volwaardig regime: een plan, voorafgaande goedkeuring van de markttoezichtautoriteit, registratie, geinformeerde toestemming en een maximale duur.
Van toepassing wanneer u aanbieder of potentiele aanbieder bent van een AI-systeem met een hoog risico uit bijlage III en u dat systeem buiten een AI-testomgeving voor regelgeving onder reele omstandigheden wilt testen voordat u het in de handel brengt of in gebruik stelt. Bent u buiten de Unie gevestigd, dan eist artikel 60 lid 4, punt d), dat u een in de Unie gevestigde wettelijke vertegenwoordiger aanwijst; dat is een andere figuur dan de gemachtigde van artikel 22.
Artikel 60 lid 1, derde alinea, laat Unie- en nationaal recht over testen onder reele omstandigheden van systemen met een hoog risico bij producten onder de harmonisatiewetgeving van bijlage I onverlet. Artikel 60 lid 4, punt i), kent een uitzondering voor rechtshandhaving: indien het vragen om geinformeerde toestemming het testen onmogelijk zou maken, mag zonder toestemming worden getest, mits de test zelf en het resultaat geen negatieve gevolgen voor de proefpersonen hebben en hun persoonsgegevens na de test worden gewist. Voor de in bijlage III, punten 1, 6 en 7, bedoelde systemen op de gebieden rechtshandhaving, migratie, asiel en grenstoezicht verloopt de registratie via het beveiligde niet-openbare gedeelte van de EU-databank op grond van artikel 49 lid 4, punt d). Voor de in bijlage III, punt 2, bedoelde systemen geldt op grond van artikel 49 lid 5 registratie op nationaal niveau.
Artikel 60 lid 1 bepaalt dat het testen van AI-systemen met een hoog risico onder reele omstandigheden buiten AI-testomgevingen voor regelgeving mag worden uitgevoerd door aanbieders of potentiele aanbieders van in bijlage III vermelde AI-systemen met een hoog risico, in overeenstemming met dit artikel en het plan voor tests onder reele omstandigheden, onverminderd de verbodsbepalingen van artikel 5. De Commissie specificeert de precieze onderdelen van dat plan bij uitvoeringshandeling. De derde alinea van lid 1 bepaalt dat dit lid geen afbreuk doet aan Unie- of nationaal recht voor het testen onder reele omstandigheden van systemen met een hoog risico die verband houden met producten die onder de in bijlage I vermelde harmonisatiewetgeving vallen. Artikel 60 lid 2 staat toe dat aanbieders of potentiele aanbieders op elk moment voor het in de handel brengen of in gebruik nemen testen, zelf of in samenwerking met een of meer gebruiksverantwoordelijken of potentiele gebruiksverantwoordelijken. Artikel 60 lid 3 bepaalt dat dit testen geen afbreuk doet aan de ethische toetsing die op grond van Unie- of nationaal recht is vereist. Artikel 60 lid 4, punt f), begrenst de duur: niet langer dan nodig is om de doelstellingen te verwezenlijken en in geen geval langer dan zes maanden, met een mogelijke verlenging van nog eens zes maanden na voorafgaande kennisgeving aan de markttoezichtautoriteit met uitleg over de noodzaak. Artikel 60 lid 4, punt g), eist dat proefpersonen die tot kwetsbare groepen behoren vanwege leeftijd of handicap naar behoren worden beschermd. Artikel 60 lid 9 stelt uitdrukkelijk vast dat de aanbieder of potentiele aanbieder voor schade die in de loop van het testen onder reele omstandigheden wordt veroorzaakt onverkort onder het toepasselijke Unie- en nationale recht daarover valt. Hoofdstuk VI, waarin artikel 60 staat, valt niet onder de uitzonderingen van artikel 113 en is van toepassing sinds 2 augustus 2026.
Article 60(1)-(4), Article 60(9), Article 113
Veel organisaties noemen wat zij doen een pilot en gaan ervan uit dat zij daarmee buiten de verordening blijven. Artikel 60 laat zien dat dat niet opgaat zodra u een systeem uit bijlage III onder reele omstandigheden test met echte mensen en echte uitkomsten. Dan geldt een volwaardig regime: een plan, voorafgaande goedkeuring, registratie met een Uniebreed uniek identificatienummer, geinformeerde toestemming, en een harde klok van zes maanden met een verlenging van maximaal zes maanden. De zwaarste eis in de praktijk is artikel 60 lid 4, punt k): de voorspellingen, aanbevelingen of beslissingen van het systeem moeten daadwerkelijk kunnen worden teruggedraaid en genegeerd. Test u een selectie-, scoring- of triagesysteem waarvan de uitkomst rechtstreeks in de werkstroom doorwerkt zonder dat iemand die kan terugdraaien, dan voldoet uw opzet niet, hoe zorgvuldig uw toestemmingsformulier ook is. Let ook op de timing, want die is commercieel interessant. Hoofdstuk VI geldt sinds 2 augustus 2026, terwijl de kernverplichtingen voor zelfstandige bijlage III-systemen pas op 2 december 2027 van toepassing worden. De testroute staat dus al open voordat de eisen zelf bijten, en dat is precies het venster om uw ontwerp te valideren in plaats van het achteraf te moeten herbouwen. Tot slot: artikel 60 lid 3 laat ethische toetsing die op grond van ander recht is vereist volledig staan, en artikel 60 lid 9 stelt uitdrukkelijk vast dat u voor schade die tijdens het testen wordt veroorzaakt onverkort onder het toepasselijke recht valt.
Inventariseer welke lopende of geplande proeven feitelijk testen onder reele omstandigheden zijn: echte gebruikers, echte data, uitkomsten die in de werkstroom doorwerken. Toets die eerst op artikel 60 lid 4, punt k): kunt u de uitkomst daadwerkelijk terugdraaien en negeren? Zo niet, herontwerp de proef voordat u iets indient. Kies vervolgens bewust tussen twee routes: testen binnen een testomgeving onder toezicht op grond van artikel 57 lid 5 en artikel 58 lid 4, of buiten een testomgeving onder artikel 60. Plan de zes maanden realistisch en beslis vooraf op welk moment u een verlenging aanvraagt, want die vereist voorafgaande kennisgeving met onderbouwing. Controleer of voor uw domein een ethische toetsing verplicht is en start die parallel, want artikel 60 lid 3 stelt u daar niet van vrij.