Moeten wij logs bewaren van ons AI-systeem?

onderwijs

Logging bij aanmelding en toetsing: wat de hogeschool zelf in handen houdt

Een hogeschool gebruikt een ingekocht AI-systeem dat de aanmelding van studenten rangschikt en daarnaast signalen afgeeft bij digitale toetsing. De logs staan in de omgeving van de leverancier, die ze op verzoek aanlevert. Het onderwijsteam vraagt zich af of de school daarmee klaar is of dat er een eigen bewaarplicht overblijft.

Herkomst: Artikel 12 lid 1 vereist dat een AI-systeem met een hoog risico technisch zo is vormgegeven dat gebeurtenissen gedurende de levenscyclus automatisch worden geregistreerd, en lid 2 verbindt die registratie aan een niveau van traceerbaarheid dat passend is voor het beoogde doel van het systeem. Artikel 26 lid 6 bepaalt dat gebruiksverantwoordelijken de automatisch gegenereerde logs bewaren voor zover die logs onder hun controle vallen, gedurende een periode die passend is voor het beoogde doel of ten minste zes maanden, tenzij toepasselijk Unierecht of nationaal recht anders bepaalt, meer in het bijzonder het Unierecht over de bescherming van persoonsgegevens. Artikel 19 lid 1 legt een overeenkomstige bewaarplicht op aan aanbieders voor de door hun systemen gegenereerde logs die onder hun controle vallen, eveneens voor ten minste zes maanden.

Onze lezing is dat het hosten van de logs door de leverancier de school niet zonder meer buiten artikel 26 lid 6 plaatst: bepalend is of de logs onder haar controle vallen. De verordening definieert dat begrip niet, en in onze lezing is de serverlocatie op zichzelf niet doorslaggevend; het gaat om de vraag of u feitelijk en contractueel over die logs kunt beschikken, en die vraag moet u per inkoop beantwoorden. Spreek daarom bij inkoop af dat de hogeschool de logs kan opvragen, exporteren en gedurende de gekozen termijn zelf kan bewaren, en leg vast welke gebeurtenissen rond aanmelding en toetsing daaronder vallen. Betrek daarbij meteen de gegevensbescherming, want dezelfde bepaling laat toe dat ander Unierecht of nationaal recht de bewaartermijn juist begrenst.

Redactioneel voorbeeld. De regel hierboven staat in de verordening. De situatie is door ons geschreven om te laten zien hoe die regel in deze sector uitpakt, en is niet ontleend aan een uitgewerkt geval uit officiële richtsnoeren.

Artikel 12 lid 1 en 2, artikel 19 lid 1 en artikel 26 lid 6

industrie en productie

Logging op de productielijn: welke logs bewaart de fabrikant en welke de fabriek

Een fabrikant levert een AI-systeem dat als veiligheidscomponent meedraait in de machines van een productielijn en tegelijk de kwaliteitscontrole aanstuurt. De fabriek die de lijn draait, bewaart alleen de meldingen die in de lokale besturing zichtbaar zijn; de rest van de registratie loopt naar de omgeving van de leverancier. De vraag is wie welke logs moet bewaren wanneer achteraf moet worden gereconstrueerd waarom de lijn is stilgelegd.

Herkomst: Artikel 12 lid 1 bepaalt dat AI-systemen met een hoog risico dusdanig technisch zijn vormgegeven dat gebeurtenissen gedurende de levenscyclus van het systeem automatisch worden geregistreerd. Volgens lid 2 maken die loggingfuncties het mogelijk gebeurtenissen te registreren die relevant zijn voor de identificatie van situaties die ertoe kunnen leiden dat het systeem een risico vormt in de zin van artikel 79 lid 1 of dat er een substantiële wijziging optreedt, voor de facilitering van de monitoring na het in de handel brengen bedoeld in artikel 72, en voor de monitoring van de werking van de in artikel 26 lid 5 bedoelde AI-systemen met een hoog risico. Artikel 19 lid 1 verplicht aanbieders die automatisch gegenereerde logs te bewaren voor zover zij onder hun controle vallen, gedurende een periode die passend is voor het beoogde doel van het systeem, van ten minste zes maanden, tenzij toepasselijk Unierecht of nationaal recht anders bepaalt. Artikel 26 lid 6 legt een overeenkomstige bewaarplicht op aan gebruiksverantwoordelijken voor de logs die onder hun controle vallen, met dezelfde ondergrens van zes maanden.

Wij lezen artikel 19 en artikel 26 lid 6 zo dat de fabrikant, die hier als aanbieder optreedt, en de fabriek als gebruiksverantwoordelijke ieder een eigen bewaarplicht houden voor de logs die onder hun controle vallen. De verordening omschrijft niet wanneer logs onder uw controle vallen, en de plek waar de registratie technisch landt is in onze lezing niet vanzelf beslissend; die open vraag moet u per systeem beantwoorden. Voor een productielijn betekent dat in onze lezing dat u vastlegt welke gebeurtenissen in de machinebesturing blijven en welke naar de leverancier gaan, en dat u toegang tot dat tweede deel contractueel regelt voordat u het nodig heeft. Regelt u dat niet, dan loopt u het risico dat u een stilstand of een afkeuring in de kwaliteitscontrole achteraf niet meer kunt herleiden tot het gedrag van het systeem.

Redactioneel voorbeeld. De regel hierboven staat in de verordening. De situatie is door ons geschreven om te laten zien hoe die regel in deze sector uitpakt, en is niet ontleend aan een uitgewerkt geval uit officiële richtsnoeren.

Artikel 12 lid 1 en 2, artikel 19 lid 1 en artikel 26 lid 6

werkvloer en personeel

Logging bij taakverdeling op de werkvloer: bewijs over het systeem of dossier over de werknemer

Een werkgever zet een AI-systeem in dat op de werkvloer taken toewijst aan medewerkers en het functioneren samenvat ten behoeve van het beoordelingsgesprek. Personeelszaken wil weten welke registratie van die uitkomsten bewaard moet blijven wanneer een werknemer maanden later bezwaar maakt tegen een besluit over promotie.

Herkomst: Artikel 12 lid 1 vereist dat AI-systemen met een hoog risico dusdanig technisch zijn vormgegeven dat gebeurtenissen gedurende de levenscyclus automatisch worden geregistreerd. Lid 2, punt c, noemt als een van de doelen van die loggingfuncties de monitoring van de werking van systemen als bedoeld in artikel 26 lid 5, en dat lid verplicht gebruiksverantwoordelijken de werking te monitoren op basis van de gebruiksaanwijzing en in voorkomend geval de aanbieder in kennis te stellen overeenkomstig artikel 72. Artikel 26 lid 6 verplicht gebruiksverantwoordelijken de automatisch gegenereerde logs te bewaren voor zover die onder hun controle vallen, gedurende een periode die passend is voor het beoogde doel of ten minste zes maanden, tenzij toepasselijk Unierecht of nationaal recht anders bepaalt. Artikel 19 lid 1 bevat een overeenkomstige bewaarplicht voor aanbieders, met dezelfde ondergrens van zes maanden.

Wij lezen artikel 12 lid 2 zo dat de loggingfuncties er in de eerste plaats zijn om risico's, substantiële wijzigingen en de werking van het systeem te kunnen volgen, en niet om individuele medewerkers scherper te beoordelen. Of die doelomschrijving ook begrenst waarvoor de bewaarde logs later mogen worden gebruikt, zegt artikel 12 niet: die grens moet u in onze lezing uit het gegevensbeschermingsrecht halen, waarnaar artikel 26 lid 6 zelf verwijst. Voor personeelszaken volgt daaruit een praktische lijn: bewaar wat nodig is om een uitkomst te kunnen herleiden en het toezicht van artikel 26 lid 5 waar te maken, en leg vooraf schriftelijk vast of dezelfde bestanden wel of niet als prestatieregistratie mogen dienen. Houd er daarbij rekening mee dat de ondergrens van zes maanden korter kan zijn dan de termijn waarbinnen een werknemer bezwaar maakt tegen een besluit over promotie; die bewijspositie regelt de verordening niet.

Redactioneel voorbeeld. De regel hierboven staat in de verordening. De situatie is door ons geschreven om te laten zien hoe die regel in deze sector uitpakt, en is niet ontleend aan een uitgewerkt geval uit officiële richtsnoeren.

Artikel 12 lid 1 en lid 2, punt c, artikel 19 lid 1 en artikel 26 lid 5 en 6

werving en selectie

Aanbeveling van een kandidaat die automatisch een besluit wordt

Een werkgever gebruikt een systeem dat sollicitanten rangschikt en een kandidaat voor aanname aanbeveelt. In de ene inrichting weegt een recruiter die aanbeveling mee in een eigen beoordeling; in de andere inrichting wordt de uitkomst automatisch toegepast en valt een kandidaat af zonder dat iemand ernaar kijkt.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Toets uw wervingssysteem op het beoogde doel en niet op de vraag of een recruiter meekijkt, want het toevoegen of weglaten van menselijke tussenkomst verandert de indeling als hoog risico niet.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

Artikel 6 kent twee gescheiden routes naar hoog-risico

De concept-richtsnoeren van de Europese Commissie over de classificatie van hoog-risico AI van 19 mei 2026, die uitdrukkelijk niet bindend zijn, stellen in randnummer (7) dat een AI-systeem in twee scenario's als hoog-risico geldt: ten eerste wanneer het bedoeld is om te worden gebruikt als veiligheidscomponent van een product, of zelf een product is, dat onder de in Bijlage I genoemde harmonisatiewetgeving van de Unie valt en waarvoor een conformiteitsbeoordeling door een derde partij is vereist, en ten tweede wanneer het valt onder een van de gebruikssituaties in de gebieden van Bijlage III. Randnummer (448) van diezelfde concept-richtsnoeren vermeldt dat de toepassingsdatums van artikel 113 met de AI Omnibus zijn verschoven naar 2 december 2027 voor de route van artikel 6 lid 2 en 2 augustus 2028 voor de route van artikel 6 lid 1.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II, randnummer (7); sectie V, randnummer (448)

Breed gepositioneerde en general purpose AI-systemen: een disclaimer is niet genoeg

Volgens de niet-bindende concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI geldt, blijkens randnummer (12), dat wanneer de gebruiksaanwijzing, contractuele afspraken, gebruiksvoorwaarden, gebruiksbeleid, promotie- en verkoopmateriaal of technische documentatie het AI-systeem presenteren als breed toepasbaar over een veelheid van contexten en functies, en de toepassing niet consequent beperken of hoog-risico gebruik niet uitsluiten, het beoogde doel van het systeem geacht wordt ook hoog-risico gebruikssituaties te omvatten, waardoor het systeem als hoog-risico kwalificeert. Dat geldt volgens deze concept-richtsnoeren in het bijzonder wanneer dergelijk gebruik haalbaar en redelijkerwijs te voorzien is gezien de functionaliteiten en capaciteiten van het systeem. Hetzelfde randnummer stelt dat het enkel beweren, bijvoorbeeld in de gebruiksvoorwaarden, dat hoog-risico gebruik is uitgesloten, onvoldoende is wanneer de algehele presentatie, voorbeelden of productpositionering van de aanbieder dat gebruik feitelijk mogelijk maakt of bevordert, en dat beperkingen duidelijk, concreet en coherent in al het materiaal moeten worden beschreven.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II.2, randnummer (12)

Hoog-risico betekent niet verboden, en niet hoog-risico betekent niet toegestaan

De concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI, die niet bindend zijn, stellen in randnummer (3) dat het feit dat een AI-systeem in deze richtsnoeren als voorbeeld is opgenomen niet betekent dat het gebruik ervan automatisch als rechtmatig moet worden beschouwd, aangezien dat gebruik nog steeds moet voldoen aan andere toepasselijke wetgeving, en in randnummer (4) dat het bereik van deze richtsnoeren beperkt is tot de vraag of een systeem hoog-risico is of niet. In het Bijlage III-hoofdstuk van dit concept stelt randnummer (68) dat het als hoog-risico kwalificeren onder artikel 6 lid 2 niet betekent dat het gebruik verboden is, maar dat die systemen aan passende vereisten zijn onderworpen. De randnummers (82) en (83) van dit concept lichten de woorden voor zover het gebruik is toegestaan op grond van toepasselijk Unierecht of nationaal recht toe en stellen dat het vallen onder een gebruikssituatie niet automatisch betekent dat het systeem rechtmatig in dat geval kan worden gebruikt, dat naast de verboden ook andere bepalingen van Unierecht of nationaal recht het gebruik kunnen beperken, en dat de AI-verordening op grond van artikel 2 lid 9 geldt onverminderd regels over consumentenbescherming, productveiligheid en gegevensbescherming.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, randnummers (3) en (4); hoofdstuk Bijlage III, randnummer (68) en sectie 2.6, randnummers (82) en (83)

Opgeknipte en agentische architecturen worden als geheel beoordeeld

De niet-bindende concept-richtsnoeren van 19 mei 2026 bepalen in randnummers 75, 76 en 90 dat wanneer meerdere AI-systemen deel uitmaken van een complexer geheel en hun gecombineerde beoogde doel of gezamenlijke output een individuele beslissing wezenlijk beïnvloedt, die configuratie voor de classificatie als één AI-systeem wordt behandeld. Het concept stelt uitdrukkelijk dat opgeknipte architecturen als geheel worden beoordeeld om omzeiling door systeemontwerp te voorkomen, dat vrijstellingen voor afzonderlijke modules niet gelden wanneer de totale configuratie kernaspecten van de beslissing beïnvloedt, en dat dit ook geldt voor complexe onderling verbonden opstellingen zoals agentische AI-systemen waarvan de gekoppelde handelingen samen een hoog-risicodoel dienen. Volgens hetzelfde concept blijven strikt procedurele of voorbereidende functies wel vrijstelbaar wanneer zij werkelijk scheidbaar zijn van het systeem en geen output structureren of aanleveren die het onderzoek van een individueel geval wezenlijk beïnvloedt.

Sectie IV.2.3, randnummers 75 en 76, en sectie IV.2.7.1 randnummer 90

prEN 18229-1: AI-betrouwbaarheidskader deel 1, logging

prEN 18229-1 (AI trustworthiness framework, Part 1: Logging) is de JTC 21-deliverable onder M/613 voor artikel 12 AI-verordening: hoog-risico AI-systemen moeten technisch in staat zijn gebeurtenissen gedurende hun levensduur automatisch te registreren. De deliverable bevond zich naar de stand van juni 2026 in het Enquiry-stadium. De norm is nog niet als EN gepubliceerd en is niet met referentie in het Publicatieblad bekendgemaakt.