Een gemeente laat een zelfrijdende shuttle over een bedrijventerrein rijden. Een provincie eist in een nieuwe busconcessie bussen met rijhulpsystemen. Een leasemaatschappij koopt auto's die zelf remmen als er een fietser oversteekt. Valt al die AI onder de AI Act? Het antwoord staat verspreid over vier plekken in de verordening: artikel 2 lid 2, artikel 6 lid 1, afdeling B van bijlage I en de artikelen 102 tot en met 110. Samen zeggen ze: ja, maar anders dan u verwacht. Voor AI die een veiligheidscomponent is van zo een product, gelden van de AI Act zelf maar een paar artikelen. De eisen voor AI-systemen met een hoog risico komen via de eigen productwetgeving van die sector binnen. De voorbeelden in dit stuk zijn verzonnen.
In het kort
Afdeling B van bijlage I noemt negen Europese wetten: voor de beveiliging van de burgerluchtvaart, twee- en driewielers en vierwielers, landbouw- en bosbouwvoertuigen, uitrusting van zeeschepen, het spoor, motorvoertuigen (twee wetten), de burgerluchtvaart en, sinds de Digitale omnibus inzake AI (Verordening (EU) 2026/1744), machines.
Is een AI-systeem via artikel 6 lid 1 een systeem met een hoog risico dat verband houdt met een product onder een van die wetten, dan gelden van de AI Act uitsluitend artikel 6 lid 1, artikel 60 bis en de artikelen 102 tot en met 112. De artikelen 57, 58 en 59 over AI-testomgevingen gelden alleen voor zover de eisen van de AI Act in die sectorwet zijn opgenomen (artikel 2 lid 2, zoals vervangen door de omnibus).
De artikelen 102 tot en met 109 wijzigen acht van die wetten. Telkens staat er hetzelfde: als de Commissie op grond van die wet gedelegeerde of uitvoeringshandelingen vaststelt over AI-systemen die veiligheidscomponenten zijn, neemt zij de eisen van hoofdstuk III, afdeling 2, van de AI Act in aanmerking. Dat zijn de eisen van artikel 8 tot en met 15. Voor machines regelt de omnibus het in de machineverordening zelf, met een vaste datum: de gedelegeerde handelingen worden uiterlijk op 2 augustus 2028 van toepassing.
Artikel 110 is iets anders. Het zet de AI Act op de lijst van de Europese richtlijn over representatieve vorderingen, zodat bevoegde instanties namens consumenten kunnen procederen over inbreuken op de AI Act.
Wat wel gewoon blijft gelden: de AI Act voor alle andere AI in dezelfde organisatie en voor AI in het voertuig die geen veiligheidscomponent is, en altijd de AVG als er persoonsgegevens worden verwerkt.
Dit stuk gaat over de producten van afdeling B. Voor AI in producten van afdeling A, zoals medische hulpmiddelen en speelgoed, geldt de AI Act wel volledig, naast de productwetgeving. Zie daarvoor medische AI onder de AI Act en de MDR en conformiteitsbeoordeling: interne controle of een aangemelde instantie. Over testen op de openbare weg of in de lucht gaat testen onder reële omstandigheden; voor de producten van afdeling B geldt van die regels alleen artikel 60 bis rechtstreeks.
Welke wetten staan in afdeling B?
Bijlage I bestaat uit twee lijsten. Afdeling A is de "lijst van harmonisatiewetgeving van de Unie op basis van het nieuwe wetgevingskader". Afdeling B is de "lijst van andere harmonisatiewetgeving van de Unie". Na de omnibus staan in afdeling B de volgende wetten, met het artikel van de AI Act dat ze wijzigt:
| Punt | Wet | Sector | Gewijzigd door |
|---|---|---|---|
| 13 | Verordening (EG) nr. 300/2008 | Beveiliging van de burgerluchtvaart | Artikel 102 |
| 14 | Verordening (EU) nr. 168/2013 | Twee- of driewielige voertuigen en vierwielers | Artikel 104 |
| 15 | Verordening (EU) nr. 167/2013 | Landbouw- en bosbouwvoertuigen | Artikel 103 |
| 16 | Richtlijn 2014/90/EU | Uitrusting van zeeschepen | Artikel 105 |
| 17 | Richtlijn (EU) 2016/797 | Interoperabiliteit van het spoorwegsysteem | Artikel 106 |
| 18 | Verordening (EU) 2018/858 | Goedkeuring van en markttoezicht op motorvoertuigen en aanhangwagens | Artikel 107 |
| 19 | Verordening (EU) 2019/2144 | Typegoedkeuring van motorvoertuigen wat de algemene veiligheid betreft | Artikel 109 |
| 20 | Verordening (EU) 2018/1139 | Burgerluchtvaart en het EASA | Artikel 108, en artikel 2 van Verordening (EU) 2026/1744 |
| 21 | Verordening (EU) 2023/1230 | Machines | Artikel 3 van Verordening (EU) 2026/1744 |
Twee punten vragen aandacht.
Luchtvaart is beperkt. Punt 20 noemt Verordening (EU) 2018/1139 niet in haar geheel, maar "voor zover het gaat om het ontwerp, de productie en het in de handel brengen van luchtvaartuigen als bedoeld in artikel 2, lid 1, punten a) en b), wat betreft onbemande luchtvaartuigen, en hun motoren, propellers, onderdelen en apparatuur om het luchtvaartuig op afstand te besturen". Naar onze lezing gaat het daarmee om drones. Helemaal eenduidig is de zin niet. Klopt onze lezing, dan valt AI in bemande luchtvaartuigen niet via bijlage I onder hoog risico en ook niet onder de beperking van artikel 2 lid 2. Daar staat tegenover dat de wijzigingen in de luchtvaartverordening door artikel 108 en door de omnibus duidelijk verder gaan dan drones, zoals luchtwaardigheid, vluchtuitvoering en luchtverkeersleiders. Wie AI voor de bemande luchtvaart maakt, legt deze vraag daarom voor aan de luchtvaartautoriteit.
Machines zijn verhuisd. Tot 27 juli 2026 stond de machineregelgeving in afdeling A, als punt 1 (de oude machinerichtlijn 2006/42/EG). De omnibus schrapte dat punt en zette de machineverordening (EU) 2023/1230 als punt 21 in afdeling B. Volgens overweging 42 van de omnibus is dat een overstap op een sectorale aanpak, omdat de toepassing van beide verordeningen naast elkaar tot overlappingen kon leiden. AI die een veiligheidscomponent is van een robotarm, een autonome heftruck of een maaimachine volgt sindsdien de route van afdeling B, als voor die machine een keuring door een derde partij geldt (artikel 6 lid 1 onder b). De machineverordening zelf is van toepassing met ingang van 14 januari 2027.
Wanneer is AI in zo een product een systeem met een hoog risico?
Daarvoor geldt artikel 6 lid 1, het enige classificatieartikel dat voor afdeling B overeind blijft. Een AI-systeem is een systeem met een hoog risico als aan twee voorwaarden is voldaan:
- het is bedoeld om te worden gebruikt als veiligheidscomponent van een product dat onder een wet uit bijlage I valt, of het is zelf zo een product (onder a);
- voor dat product moet op grond van die wet een conformiteitsbeoordeling door een derde partij worden uitgevoerd voordat het in de handel wordt gebracht of in gebruik wordt gesteld (onder b).
Wat een veiligheidscomponent is. De omnibus verving de begripsomschrijving. Een veiligheidscomponent is nu een component van een product of van een AI-systeem die een veiligheidsfunctie vervult, of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt. Een component vervult een veiligheidsfunctie als het beoogde doel ervan is om risico's voor de gezondheid en veiligheid van personen of eigendom te voorkomen of te beperken (artikel 3, punt 14).
Wat geen veiligheidscomponent is. De omnibus voegde ook drie leden aan artikel 6 toe. AI-systemen die uitsluitend worden gebruikt voor niet-veiligheidsgerelateerde aspecten van bijstand aan gebruikers, optimalisering van de prestaties, efficiëntie van de dienstverlening, automatisering of gemak, of kwaliteitscontrole, zijn geen veiligheidscomponent (lid 1 bis). Maar AI-systemen waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid in gevaar zou brengen, zijn het wel (lid 1 ter). En een product dat alleen een keuring door een derde partij nodig heeft vanwege andere risico's dan voor gezondheid en veiligheid, zoals de verdeling van het radiospectrum of elektromagnetische interferentie, voldoet niet aan voorwaarde b (lid 1 quater).
Naar onze lezing betekent dat in een auto: een noodremsysteem dat een fietser herkent en remt, heeft een veiligheidsfunctie. Een spraakassistent die de muziek kiest of een route voorstelt op basis van de agenda van de bestuurder, is bedoeld voor gemak en is geen veiligheidscomponent, zolang zijn falen niemand in gevaar brengt. Die spraakassistent valt dus niet onder de route van afdeling B, en de AI Act geldt er gewoon voor.
Wat er uit de AI Act geldt: artikel 2 lid 2
De kernbepaling is kort. Op AI-systemen die via artikel 6 lid 1 een hoog risico hebben en verband houden met producten onder afdeling B, "zijn uitsluitend artikel 6, lid 1, artikel 60 bis, en de artikelen 102 tot en met 112 van toepassing. De artikelen 57, 58 en 59 zijn alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico uit hoofde van deze verordening zijn opgenomen in die harmonisatiewetgeving van de Unie."
| Bepaling | Waarover | Geldt voor afdeling B |
|---|---|---|
| Artikel 6 lid 1 | De classificatie als hoog risico | Ja |
| Artikel 60 bis | Testen onder reële omstandigheden buiten een AI-testomgeving | Ja, als de lidstaat een kader vaststelt |
| Artikel 102 tot en met 110 | Wijziging van de sectorwetten en van Richtlijn (EU) 2020/1828 | Ja |
| Artikel 111 en 112 | Reeds in de handel gebrachte systemen; evaluatie en toetsing | Ja |
| Artikel 57, 58 en 59 | AI-testomgevingen voor regelgeving | Alleen voor zover de eisen in de sectorwet zijn opgenomen |
| Artikel 8 tot en met 15, 16 tot en met 27, 43, 49, 72 en 73, hoofdstuk IX | Eisen, plichten van aanbieders en gebruiksverantwoordelijken, conformiteitsbeoordeling, registratie, monitoring, incidentmelding, markttoezicht | Niet rechtstreeks |
Wat de omnibus veranderde. In de oorspronkelijke tekst van 2024 golden uitsluitend artikel 6 lid 1, de artikelen 102 tot en met 109 en artikel 112, en alleen artikel 57 voor zover de eisen in de sectorwet waren opgenomen. Sinds 27 juli 2026 komen daar artikel 60 bis, de artikelen 110 en 111 en de artikelen 58 en 59 bij.
Wat "uitsluitend" betekent. De gebruiksverantwoordelijke van zo een systeem heeft dus geen plichten op grond van artikel 26, er is geen grondrechteneffectbeoordeling op grond van artikel 27 en geen registratie in de EU-databank op grond van artikel 49. De aanbieder volgt niet de conformiteitsbeoordeling van artikel 43, maar de goedkeurings- of keuringsprocedure van de sectorwet. Volgens overweging 27 van de omnibus zijn deze systemen onderworpen aan de vereisten en procedures van de sectorale wetgeving en vallen ze "voor de meeste doeleinden niet rechtstreeks" onder de AI Act. Naar onze lezing gelden voor zo een systeem zelf daarom, in elk geval zodra artikel 6 lid 1 op 2 augustus 2028 voor bijlage I van toepassing is, ook artikel 4 over AI-geletterdheid en de transparantieplichten van artikel 50 niet rechtstreeks. Voor de periode daarvoor is dat niet zeker: artikel 4 geldt al sinds 2 februari 2025 en artikel 50 sinds 2 augustus 2026, terwijl de beperking van artikel 2 lid 2 aanknoopt bij een classificatie die pas vanaf 2 augustus 2028 werkt. Of de beperking ook de verboden van artikel 5 opzij zet, is naar onze lezing evenmin zeker. Ga er bij een systeem dat de bestuurder in de gaten houdt van uit dat het verbod op emotieherkenning op de werkplek blijft gelden. Voor de andere AI van dezelfde organisatie kunnen die bepalingen wel gelden.
Toezicht. Omdat hoofdstuk IX niet geldt, houdt geen markttoezichtautoriteit op grond van de AI Act toezicht op deze systemen. Dat doen de autoriteiten uit de sectorwet: de goedkeuringsinstanties en markttoezichtautoriteiten die lidstaten op grond van artikel 6 van Verordening (EU) 2018/858 moeten oprichten of aanwijzen, en in de luchtvaart het agentschap en de autoriteiten uit Verordening (EU) 2018/1139. Dat is anders dan bij afdeling A, waar de toezichthouder uit de productwetgeving in de regel ook markttoezichtautoriteit voor de AI Act is (artikel 74 lid 3).
Hoe de eisen binnenkomen: artikel 102 tot en met 109
De artikelen 102 tot en met 109 voegen aan elke sectorwet een korte bepaling toe. Overweging 49 van de AI Act geeft de bedoeling: de Commissie moet, "op basis van de technische en regelgeving van elke sector en zonder in te grijpen in de bestaande governance-, conformiteitsbeoordelings- en handhavingsmechanismen en autoriteiten die daarbij zijn ingesteld", rekening houden met de dwingende eisen voor AI-systemen met een hoog risico wanneer zij op basis van die wetten gedelegeerde of uitvoeringshandelingen vaststelt.
| Artikel AI Act | Wat het toevoegt |
|---|---|
| 102 | Aan artikel 4, lid 3, van Verordening (EG) nr. 300/2008: bij gedetailleerde maatregelen over technische specificaties en procedures voor de goedkeuring en het gebruik van veiligheidsuitrusting betreffende AI-systemen |
| 103 | Aan artikel 17, lid 5, van Verordening (EU) nr. 167/2013: bij gedelegeerde handelingen over AI-systemen die veiligheidscomponenten zijn |
| 104 | Aan artikel 22, lid 5, van Verordening (EU) nr. 168/2013: idem |
| 105 | Een nieuw artikel 8, lid 5, van Richtlijn 2014/90/EU: bij de activiteiten van de Commissie en bij het vaststellen van technische specificaties en testnormen |
| 106 | Een nieuw artikel 5, lid 12, van Richtlijn (EU) 2016/797: bij gedelegeerde handelingen en uitvoeringshandelingen |
| 107 | Een nieuw artikel 5, lid 4, van Verordening (EU) 2018/858: bij gedelegeerde handelingen die de lijst van technische voorschriften in bijlage II van die verordening wijzigen |
| 108 | Nieuwe leden in de artikelen 17, 19, 43, 47 en 58 en een nieuwe alinea in artikel 57 van Verordening (EU) 2018/1139: luchtwaardigheid, luchtverkeersbeheer en luchtvaartnavigatiediensten (ATM/ANS) en onbemande luchtvaartuigen |
| 109 | Een nieuw artikel 11, lid 3, van Verordening (EU) 2019/2144: bij uitvoeringshandelingen over geautomatiseerde en volledig geautomatiseerde voertuigen |
Vier dingen vallen op.
"In aanmerking nemen" is geen kopie. De tekst zegt niet dat de eisen van artikel 8 tot en met 15 letterlijk in de sectorwet komen. De Commissie neemt ze in aanmerking. In overweging 27 van de omnibus staat: "Die sectorale handelingen zullen te zijner tijd vereisten bevatten die overeenstemmen met de vereisten van de artikelen 8 tot en met 15 van die verordening." Zolang dat niet is gebeurd, gelden die eisen naar onze lezing niet als zodanig voor de fabrikant; wat geldt, is wat de sectorwet en de handelingen op grond daarvan voorschrijven.
Geen termijn, behalve voor machines. De artikelen 102 tot en met 109 noemen geen datum waarop de Commissie die handelingen moet vaststellen. Dit stuk beschrijft wat de AI Act regelt; welke handelingen de Commissie op grond van deze sectorwetten al heeft vastgesteld of voorbereidt en in hoeverre die de eisen al weerspiegelen, hebben wij hier niet nagegaan. Kijk daarvoor bij de sectorwet zelf.
Geautomatiseerde voertuigen. Artikel 109 raakt de bepaling over geautomatiseerde en volledig geautomatiseerde voertuigen. Op grond van artikel 11 van Verordening (EU) 2019/2144 stelt de Commissie uitvoeringshandelingen vast voor onder meer systemen die de besturing door de bestuurder vervangen, systemen die het voertuig realtime informatie geven over zijn toestand en de omgeving, controlesystemen voor de beschikbaarheid van de bestuurder en gegevensrecorders voor incidenten. Juist daar zit veel AI.
Een verschil tussen de taalversies. In artikel 105 staat in de Nederlandse tekst "de eisen van hoofdstuk III, hoofdstuk 2". De Engelse tekst zegt "Chapter III, Section 2", net als alle andere artikelen. Naar onze lezing gaat het om afdeling 2 van hoofdstuk III. En artikel 102 is anders geformuleerd dan de rest: Verordening (EG) nr. 300/2008 gaat over beveiliging, en de bepaling spreekt over veiligheidsuitrusting (in het Engels "security equipment") betreffende AI-systemen, niet over veiligheidscomponenten.
Wat de omnibus voor de luchtvaart en machines toevoegde
Luchtvaart. Volgens overweging 44 van de omnibus was een technische correctie nodig, zodat de eisen "volledig worden bestreken". Artikel 2 van Verordening (EU) 2026/1744 voegde daarom dezelfde zin toe aan zeven andere artikelen van Verordening (EU) 2018/1139, over de opleiding, toetsing, controle en medische keuring van piloten, cabinepersoneel en luchtverkeersleiders, over vluchtuitvoering en over luchtvaartterreinen.
Machines. Artikel 3 van Verordening (EU) 2026/1744 gaat verder dan de artikelen 102 tot en met 109. Het verplicht de Commissie om bij gedelegeerde handeling gezondheids- en veiligheidsvereisten toe te voegen aan bijlage III van de machineverordening voor AI-systemen die via artikel 6 lid 1 een hoog risico hebben omdat zij een veiligheidscomponent van een machine zijn of zelf een machine zijn. Die vereisten weerspiegelen de eisen van hoofdstuk III, afdeling 2, en van de artikelen 17, 19, 72 en 73 van de AI Act: kwaliteitsbeheer, logs, monitoring na het in de handel brengen en het melden van ernstige incidenten. De gedelegeerde handelingen worden uiterlijk op 2 augustus 2028 van toepassing (artikel 8 van Verordening (EU) 2023/1230, zoals aangevuld). Tot er op grond van de machineverordening zelf geharmoniseerde normen of gemeenschappelijke specificaties voor AI zijn, worden AI-systemen met een hoog risico onder de machineverordening die voldoen aan de geharmoniseerde normen of gemeenschappelijke specificaties van de AI Act, geacht aan die vereisten te voldoen (artikel 20, lid 10, van Verordening (EU) 2023/1230).
Evaluatie en testen
Artikel 112 lid 12. Bij elke wijziging van de AI Act na een evaluatie, en bij gedelegeerde of uitvoeringshandelingen die de sectorwetten van afdeling B raken, wordt rekening gehouden met de regelgevingsspecificaties van elke sector, met de bestaande mechanismen voor governance, conformiteitsbeoordeling en handhaving, en met de autoriteiten die daarin zijn vastgesteld.
Artikel 60 bis. Lidstaten kunnen toestaan dat aanbieders deze systemen buiten een AI-testomgeving onder reële omstandigheden testen, om te beoordelen of zij aan artikel 8 tot en met 15 voldoen. Wie dat wil, stelt een kader vast en meldt het vooraf aan de Commissie. Het testen moet voldoen aan de toepasselijke bepalingen van de sectorwet. Of Nederland zo een kader vaststelt, staat nog niet vast; het concept van de Uitvoeringswet AI-verordening dateert van vóór de omnibus en regelt artikel 60 bis niet.
Artikel 110: representatieve vorderingen namens consumenten
Artikel 110 hoort bij dit rijtje, maar heeft met productwetgeving niets te maken. Het voegt de AI Act als punt 68 toe aan bijlage I van Richtlijn (EU) 2020/1828 betreffende representatieve vorderingen ter bescherming van de collectieve belangen van consumenten. Die richtlijn is van toepassing op representatieve vorderingen wegens inbreuken door handelaren op de bepalingen in haar bijlage I die de collectieve belangen van consumenten schaden of kunnen schaden. Een handelaar is daar iedere natuurlijke persoon of rechtspersoon, privaat of publiek, die handelt voor doeleinden die verband houden met zijn handels-, bedrijfs-, ambachts- of beroepsactiviteit. Naar onze lezing kan een bevoegde instantie dus namens consumenten een vordering instellen tegen een aanbieder of gebruiksverantwoordelijke die handelaar is en bijvoorbeeld een verboden praktijk toepast, als dat de collectieve belangen van consumenten schaadt of kan schaden. Consumenten stellen zo een vordering dus niet zelf in. Hoe zij verloopt, staat in de nationale wet waarmee de richtlijn is omgezet. Voor de systemen van afdeling B heeft dat weinig betekenis, omdat de inhoudelijke eisen daar uit de sectorwet komen.
Vanaf wanneer?
- Artikel 102 tot en met 110 zijn van toepassing met ingang van 27 juli 2026 (artikel 113, derde alinea, onder d, ingevoegd door de omnibus). In de oorspronkelijke tekst stond daarvoor geen aparte datum en gold de algemene datum van 2 augustus 2026.
- Artikel 2 lid 2 staat in hoofdstuk I en geldt sinds 2 februari 2025, in de huidige formulering sinds 27 juli 2026.
- Artikel 6 lid 1 staat in afdeling 1 van hoofdstuk III. Voor AI-systemen die via artikel 6 lid 1 en bijlage I een hoog risico hebben, is die afdeling van toepassing met ingang van 2 augustus 2028 (artikel 113, derde alinea, onder c, ii). De tekst maakt daarbij geen onderscheid tussen afdeling A en afdeling B.
- Artikel 60 bis staat in hoofdstuk VI. Dat hoofdstuk staat niet bij de uitzonderingen van artikel 113 en valt onder de algemene datum van 2 augustus 2026.
- Machines: de gedelegeerde handelingen op grond van de machineverordening worden uiterlijk op 2 augustus 2028 van toepassing.
Wat wel gewoon blijft gelden
Andere AI in dezelfde organisatie. Artikel 2 lid 2 gaat alleen over het AI-systeem dat veiligheidscomponent is. Een vervoerder, gemeente of leasemaatschappij die zo een voertuig gebruikt, valt met al haar andere AI gewoon onder de AI Act: een chatbot voor reizigers, een systeem dat diensten van chauffeurs indeelt, een model dat schades beoordeelt. Een paar grenzen uit de tekst:
- Verkeersmanagement is bijlage III. AI die bedoeld is om te worden gebruikt als veiligheidscomponent bij het beheer of de exploitatie van het wegverkeer, staat in punt 2 van bijlage III en is in beginsel een systeem met een hoog risico, met de plichten voor de gebruiksverantwoordelijke uit artikel 26. Voor dat punt geldt geen grondrechteneffectbeoordeling (artikel 27 lid 1) en geen registratie door de gebruiksverantwoordelijke in de EU-databank (artikel 49 lid 3). Dat is iets anders dan AI in het voertuig zelf.
- Werk en personeel. AI voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen, of voor het monitoren en evalueren van prestaties en gedrag van werknemers, staat in punt 4 onder b van bijlage III.
- Emotieherkenning op de werkplek is verboden, behalve wanneer het gebruik bedoeld is om uit medische of veiligheidsoverwegingen te worden ingevoerd of in de handel te worden gebracht (artikel 5 lid 1 onder f). Volgens overweging 18 omvat het begrip emotieherkenning geen fysieke toestanden zoals pijn of vermoeidheid, met als voorbeeld systemen die vermoeidheid bij beroepspiloten of beroepschauffeurs detecteren om ongevallen te voorkomen.
- Interactie met mensen. De aanbieder van een chatbot zorgt ervoor dat mensen worden geïnformeerd dat zij met een AI-systeem interageren, tenzij dat duidelijk is (artikel 50 lid 1), en een systeem voor emotieherkenning dat wel onder de AI Act valt, brengt een informatieplicht mee (artikel 50 lid 3).
De AVG. Artikel 2 lid 2 zegt niets over persoonsgegevens. Camera's in en om het voertuig, systemen die de aandacht van de bestuurder volgen en gegevensrecorders verwerken vaak persoonsgegevens, ook van voorbijgangers. Overweging 14 van Verordening (EU) 2019/2144 zegt dat de verwerking van informatie over de bestuurder in gegevensrecorders en in systemen voor vermoeidheids- en aandachtswaarschuwing of afleidingswaarschuwing altijd moet geschieden overeenkomstig het Unierecht inzake gegevensbescherming, in het bijzonder de AVG. Volgens dezelfde overweging mogen die waarschuwingssystemen niet continu gegevens opslaan of bewaren, behalve wat nodig is binnen het systeem met gesloten circuit. De bindende regel staat in artikel 6 lid 3 van Verordening (EU) 2019/2144: de gegevens worden op geen enkel moment toegankelijk gemaakt voor of ter beschikking gesteld aan derde partijen en worden onmiddellijk na verwerking verwijderd. Naar onze lezing kan een werkgever de gegevens uit dat waarschuwingssysteem dus niet voor eigen doelen gebruiken. Wie met een eigen, apart systeem gegevens verzamelt, bijvoorbeeld een werkgever die rijgedrag van chauffeurs analyseert, heeft daarvoor een eigen grondslag nodig (artikel 6 AVG). Houdt die verwerking waarschijnlijk een hoog risico in, dan maakt de verwerkingsverantwoordelijke vooraf een gegevensbeschermingseffectbeoordeling (artikel 35 AVG lid 1). Of dat zo is, hangt af van de verwerking; de AI Act beslist dat niet.
Hoofdvoorbeeld: de gemeente met een shuttle en de provincie met een busconcessie
De shuttle. Een gemeente wil in 2029 met een vervoerder een zelfrijdende shuttle laten rijden tussen een station en een bedrijventerrein. Wat is haar rol?
- Valt de AI in de shuttle onder afdeling B? Naar onze lezing wel. Het systeem dat de besturing overneemt, heeft een veiligheidsfunctie en hoort bij een motorvoertuig waarvoor goedkeuring door een goedkeuringsinstantie nodig is onder Verordening (EU) 2018/858 en Verordening (EU) 2019/2144. Dan geldt artikel 6 lid 1, en via artikel 2 lid 2 van de AI Act bijna niets anders.
- Is de gemeente aanbieder of gebruiksverantwoordelijke in de zin van de AI Act? Voor de besturingssoftware doet die vraag er naar onze lezing weinig toe: de plichten van aanbieders en gebruiksverantwoordelijken uit hoofdstuk III gelden voor dit systeem niet. De fabrikant regelt de goedkeuring van het voertuig onder de sectorwet.
- Rijdt de shuttle al voordat hij is goedgekeurd? Dan gaat het om testen. Naar onze lezing regelt de AI Act dat testen hier niet zelf, behalve dat een lidstaat op grond van artikel 60 bis kan toestaan dat aanbieders of potentiële aanbieders onder reële omstandigheden testen. Of de shuttle mag rijden, volgt uit de sectorwet en het nationale verkeersrecht. Dit stuk behandelt die nationale regels niet.
- Wat de gemeente wel moet regelen. De camera's en sensoren van de shuttle leggen mensen op straat vast. Wie verwerkingsverantwoordelijke is, volgt uit wie het doel en de middelen van de verwerking bepaalt (artikel 4 punt 7 AVG). De gemeente legt dat met de vervoerder en de fabrikant vast, bij gezamenlijke verantwoordelijkheid in een onderlinge regeling (artikel 26 AVG). Voor wie verwerkingsverantwoordelijke is, geldt de AVG, met naar onze lezing een goede kans dat een DPIA nodig is. Een app of chatbot waarmee reizigers de shuttle bestellen, valt gewoon onder de AI Act, met artikel 50 lid 1.
- En de verkeerslichten? Gebruikt de gemeente AI om verkeerslichten bij de halte te regelen, dan kan dat een veiligheidscomponent bij het beheer van het wegverkeer zijn (bijlage III punt 2). Dat is in beginsel wel een systeem met een hoog risico onder de AI Act, met plichten voor de gemeente als gebruiksverantwoordelijke vanaf 2 december 2027.
De busconcessie. Een provincie verleent de concessie voor het streekvervoer en eist dat de bussen rijhulpsystemen hebben. Naar onze lezing is de provincie als concessieverlener geen aanbieder en geen gebruiksverantwoordelijke van die systemen: de fabrikant brengt ze in de handel en de vervoerder gebruikt ze. En omdat het om veiligheidscomponenten van voertuigen gaat, gelden de plichten van artikel 26 niet. Wat de provincie wel kan doen, is in de concessie vragen naar de goedkeuring van de voertuigen en naar afspraken over de gegevens die de systemen verzamelen. Gebruikt de provincie zelf AI, bijvoorbeeld om sollicitaties voor haar eigen vacatures te filteren, dan is dat in beginsel een systeem met een hoog risico onder punt 4 onder a van bijlage III. Dan gelden voor haar als overheidsinstantie vanaf 2 december 2027 ook de grondrechteneffectbeoordeling (artikel 27 lid 1) en de registratie vóór het gebruik (artikel 49 lid 3), en mag zij een systeem dat niet in de EU-databank is geregistreerd, niet gebruiken (artikel 26 lid 8). Voor een systeem dat al vóór die datum in de handel of in gebruik was, gelden de regels alleen na een aanzienlijke wijziging van het ontwerp; is het bedoeld voor gebruik door overheidsinstanties, dan moet het uiterlijk op 2 augustus 2030 voldoen (artikel 111 lid 2).
Voorbeeld 2: de leasemaatschappij, de bank en de verzekeraar
De leaseauto. Een leasemaatschappij koopt auto's met automatische noodremsystemen en rijstrookassistentie. Voor die systemen heeft zij naar onze lezing geen plichten als gebruiksverantwoordelijke van een systeem met een hoog risico: het zijn veiligheidscomponenten van voertuigen onder afdeling B. Biedt de leasemaatschappij daarnaast een app die rijgedrag scoort en de bestuurder een korting geeft, dan is dat een eigen AI-toepassing, los van het voertuig. Die valt onder de AI Act en, omdat het rijgedrag van een herkenbare bestuurder is, onder de AVG.
De autolening. Een bank die met AI de kredietwaardigheid beoordeelt van een consument die een auto wil financieren, gebruikt in beginsel een systeem met een hoog risico (bijlage III punt 5 onder b). De bank is dan gebruiksverantwoordelijke en maakt ook een beoordeling van de gevolgen voor de grondrechten (artikel 27 lid 1). Dat het om een auto gaat, verandert daar niets aan.
De autoverzekering. Bijlage III punt 5 onder c noemt risicobeoordeling en prijsstelling voor levens- en ziektekostenverzekeringen. Een verzekeraar die met telematicagegevens de premie van een autoverzekering bepaalt, valt naar onze lezing niet onder dat punt. Hoog risico is het dan niet, tenzij een ander punt van bijlage III geldt. De AVG geldt wel, en bij een besluit dat uitsluitend op geautomatiseerde verwerking berust en rechtsgevolgen heeft of iemand anderszins in aanmerkelijke mate treft, ook artikel 22 AVG.
Voorbeeld 3: de hogeschool met een drone
Een hogeschool ontwikkelt met studenten een drone die met AI obstakels ontwijkt, en test hem op een eigen terrein. Zolang de drone niet in de handel wordt gebracht of in gebruik wordt gesteld, vallen onderzoek, testen en ontwikkelen buiten de AI Act, behalve testen onder reële omstandigheden (artikel 2 lid 8). Wordt de drone een product, dan valt hij naar onze lezing onder punt 20 van afdeling B. De route van de luchtvaartwetgeving geldt als voor de drone een keuring door een derde partij nodig is (artikel 6 lid 1 onder b); zonder die keuring is het systeem niet via bijlage I hoog risico en geldt de beperking van artikel 2 lid 2 niet. Filmt de drone mensen, dan geldt de AVG. Los daarvan valt de AI van de hogeschool voor toelating, beoordeling en toetstoezicht in beginsel onder punt 3 van bijlage III.
Voorbeeld 4: de vervoerder als werkgever
Een busvervoerder heeft bussen met een vermoeidheids- en aandachtswaarschuwing, een van de systemen die artikel 6 van Verordening (EU) 2019/2144 voor motorvoertuigen voorschrijft. Dat systeem waarschuwt de chauffeur en hoort bij het voertuig. Naar onze lezing valt het onder de route van afdeling B. Wil de vervoerder daarnaast een eigen camerasysteem dat het gedrag van chauffeurs beoordeelt en meeweegt in hun beoordelingsgesprek, dan is dat iets anders:
- Hoog risico. Monitoren en evalueren van prestaties en gedrag van werknemers staat in bijlage III punt 4 onder b; het systeem is dan in beginsel een systeem met een hoog risico. De vervoerder is dan gebruiksverantwoordelijke, met de plichten van artikel 26 vanaf 2 december 2027, waaronder het informeren van werknemersvertegenwoordigers en werknemers vóór de ingebruikname (artikel 26 lid 7).
- Emotieherkenning. Leidt het systeem uit biometrische gegevens emoties af, zoals boosheid (artikel 3 punt 39), dan is dat op de werkplek verboden, tenzij het gebruik bedoeld is uit medische of veiligheidsoverwegingen (artikel 5 lid 1 onder f). Vermoeidheid detecteren om ongelukken te voorkomen is volgens overweging 18 geen emotieherkenning.
- AVG. De vervoerder heeft een grondslag nodig, en bij een stelselmatige beoordeling van werknemers ligt een DPIA naar onze lezing voor de hand (artikel 35 AVG).
Wat u nu doet
- Maak een lijst van de AI in en om uw voertuigen, vliegtuigen, schepen, treinen en machines, en zet per systeem: veiligheidscomponent of niet. Gebruik daarvoor de begripsomschrijving van artikel 3 punt 14 en artikel 6 lid 1 bis en lid 1 ter.
- Veiligheidscomponent onder afdeling B? Vraag de fabrikant naar de goedkeuring onder de sectorwet. Verwacht geen EU-conformiteitsverklaring of registratie op grond van de AI Act.
- Geen veiligheidscomponent? Dan geldt de AI Act gewoon. Kijk of het systeem in bijlage III staat en of artikel 5 of artikel 50 meespeelt.
- Kijk naar uw eigen AI rondom het voertuig: verkeersmanagement, planning van personeel, beoordeling van chauffeurs, klantcontact.
- Regel de AVG: wie is verwerkingsverantwoordelijke voor de camera- en sensorgegevens, op welke grondslag, en is een DPIA nodig?
- Werkt u met machines? Houd rekening met de nieuwe vereisten in bijlage III van de machineverordening, die uiterlijk op 2 augustus 2028 van toepassing worden.
Wie in Nederland op welke AI-systemen gaat toezien, staat in wie gaat er toezicht houden. De ontwerp-memorie van toelichting bij het concept van de Uitvoeringswet AI-verordening zegt dat de autoriteiten die op de wetgeving van afdeling B toezien, niet zijn aangewezen als markttoezichtautoriteit op grond van de AI-verordening (internetconsultatie). Het concept is nog geen wet.
Wilt u weten of een toepassing onder bijlage III valt en welke plichten uit de AI Act en de AVG daarbij horen? Met de casus-check beschrijft u de toepassing in een paar vragen.
Veelgestelde vragen over AI in auto's, vliegtuigen, treinen en schepen
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven