Een gemeente koopt een chatbot bij een Amerikaanse leverancier. De afdeling openbare orde wil camerabeelden van evenementen laten analyseren met een systeem dat "ook voor nationale veiligheid" wordt gebruikt. Een medewerker stelt thuis met een chatbot een brief aan een inwoner op. Valt dat onder de AI Act?
Het antwoord begint in artikel 2, het toepassingsgebied. De voorbeelden zijn verzonnen.
In het kort
De AI Act geldt voor aanbieders die AI-systemen of AI-modellen voor algemene doeleinden in de EU in de handel brengen of AI-systemen hier in gebruik stellen, waar zij ook gevestigd zijn, voor gebruiksverantwoordelijken in de EU, en voor beide rollen buiten de EU als de output hier wordt gebruikt (lid 1). Uitgezonderd zijn onder meer systemen die uitsluitend voor militaire, defensie- of nationale veiligheidsdoeleinden worden gebruikt, zuiver wetenschappelijk onderzoek, ontwikkeling vóór de markt en de plichten van particulieren bij louter persoonlijk gebruik. Naar onze lezing zijn de uitzonderingen smal.
Artikel 2 is de tweede vraag. De eerste is of er een AI-systeem is (de definitie), de derde welke rol u hebt; zie wanneer word je aanbieder en de plichten van de gebruiksverantwoordelijke.
Lid 1: zeven groepen, ook buiten de EU
De verordening is van toepassing op:
- onder a) aanbieders die AI-systemen in de Unie in de handel brengen of in gebruik stellen, of AI-modellen voor algemene doeleinden in de handel brengen, ongeacht of zij in de Unie of in een derde land zijn gevestigd;
- onder b) gebruiksverantwoordelijken die in de Unie zijn gevestigd of er zich bevinden;
- onder c) aanbieders en gebruiksverantwoordelijken in een derde land, "indien de output van het AI-systeem in de Unie wordt gebruikt";
- onder d) importeurs en distributeurs;
- onder e) productfabrikanten die een AI-systeem met hun product onder eigen naam of merk in de handel brengen of in gebruik stellen;
- onder f) gemachtigden van aanbieders die niet in de Unie gevestigd zijn;
- onder g) getroffen personen die zich in de Unie bevinden.
De rollen staan in artikel 3 punt 3 en 4. Ook een overheidsinstantie kan aanbieder zijn; wie zelf bouwt en onder eigen naam gebruikt, is beide.
Onder a en c zit de buitenwerking. Overweging 22 noemt een operator in de EU die werk uitbesteedt aan een partij buiten de EU, die met een AI-systeem data verwerkt en de output terugstuurt. Die overweging zegt "bedoeld is om in de Unie te worden gebruikt", lid 1 onder c "wordt gebruikt"; naar onze lezing telt in elk geval output die bewust aan een afnemer in de EU wordt geleverd.
Een aanbieder buiten de EU wijst een gemachtigde (onder f) aan voordat hij een hoog-risicosysteem of een AI-model voor algemene doeleinden in de Unie in de handel brengt (artikel 22 lid 1 en artikel 54 lid 1), behalve bij opensourcemodellen zonder systeemrisico (artikel 54 lid 6); zie ons stuk over artikel 22 en 54. Getroffen personen (onder g) hebben rechten, zoals een klacht (artikel 85) en uitleg bij bepaalde besluiten (artikel 86).
Lid 2 en lid 13: gereguleerde producten
Voor hoog-risicosystemen via artikel 6 lid 1 bij producten onder bijlage I, afdeling B, zoals voertuigen, luchtvaart en sinds de omnibus machines, gelden "uitsluitend artikel 6, lid 1, artikel 60 bis, en de artikelen 102 tot en met 112"; de artikelen 57, 58 en 59 alleen voor zover de eisen in de sectorwet zijn opgenomen. Zie ons stuk over artikel 102 tot en met 110 en over artikel 60 bis.
Het nieuwe lid 13 gaat over bijlage I, afdeling A, zoals medische hulpmiddelen: de artikelen 9 tot en met 15 en 17 tot en met 25 kunnen worden beperkt als de sectorwet een gelijkwaardig of hoger beschermingsniveau geeft, zonder dat het algemene niveau daalt. De Commissie moet daarvoor uiterlijk op 2 augustus 2027 gedelegeerde handelingen vaststellen (lid 13, tweede alinea; zie ook overweging 5 van Verordening (EU) 2026/1744); op 22 november 2026 stond er nog geen in het Publicatieblad. Naar onze lezing geldt tot dan geen beperking.
Lid 3 en 4: nationale veiligheid, defensie en derde landen
De verordening geldt niet buiten het Unierecht en laat de bevoegdheden van de lidstaten voor nationale veiligheid onverlet. Zij geldt niet voor AI-systemen "wanneer en in zover die uitsluitend" voor militaire, defensie- of nationale veiligheidsdoeleinden in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt, noch voor systemen die niet in de Unie in de handel worden gebracht of in gebruik worden gesteld en waarvan de output hier uitsluitend voor die doeleinden wordt gebruikt.
Het woord "uitsluitend" is beslissend. Volgens overweging 24 valt een systeem dat ook wordt gebruikt voor "bijvoorbeeld civiele of humanitaire doeleinden, rechtshandhaving of openbare veiligheid" wel onder de verordening, net als een systeem met een uitgesloten en een niet-uitgesloten doel.
Lid 4 sluit overheidsinstanties van derde landen en internationale organisaties uit bij samenwerking met de Unie of lidstaten op het gebied van rechtshandhaving en justitie, mits zij passende waarborgen voor de grondrechten bieden.
Lid 6 en 8: onderzoek en ontwikkeling
Lid 6 sluit AI-systemen en AI-modellen uit, met hun output, die "specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel". Elk ander systeem dat voor onderzoek kan worden gebruikt, blijft eronder vallen (overweging 25).
Lid 8 sluit onderzoek, testen en ontwikkeling vóór het in de handel brengen of in gebruik stellen uit, maar niet testen onder reële omstandigheden; zie ons stuk over artikel 60, 61 en 76. Naar onze lezing begint de AI Act voor een bank die intern een model bouwt dus bij de ingebruikstelling of de eerste test buiten het lab (artikel 3 punt 57); de AVG geldt al eerder, ook bij trainen met klantgegevens.
Lid 10: louter persoonlijk gebruik
De verordening geldt niet voor "verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn die AI-systemen gebruiken in het kader van een louter persoonlijke niet-professionele activiteit". Die van de aanbieder blijven, zoals de melding dat iemand met een AI-systeem praat (artikel 50 lid 1).
De AVG geldt niet voor verwerking "door een natuurlijke persoon bij de uitoefening van een zuiver persoonlijke of huishoudelijke activiteit" (artikel 2 lid 2 onder c AVG), dus zonder verband met een beroeps- of handelsactiviteit, maar wel voor wie de middelen levert (overweging 18 AVG). Naar onze lezing wijzen beide uitzonderingen dezelfde kant op: zodra het gebruik met werk te maken heeft, vervallen ze.
Lid 12: vrije en opensource licenties
De verordening geldt niet voor AI-systemen onder vrije en opensource licenties, "tenzij zij in de handel worden gebracht of in gebruik worden gesteld als AI-systemen met een hoog risico of als een AI-systeem dat onder artikel 5 of artikel 50 valt". Voor AI-modellen voor algemene doeleinden geldt een beperktere uitzondering in artikel 53 lid 2, die het auteursrechtbeleid en de samenvatting van de trainingscontent niet omvat (overweging 104) en bij een systeemrisico niet geldt; zie ons stuk over artikel 53.
Volgens overweging 103 krijgen AI-componenten die tegen betaling worden verstrekt of anderszins te gelde worden gemaakt, ook via diensten of persoonsgegevens, de opensource-uitzonderingen niet; transacties tussen micro-ondernemingen en beschikbaar stellen via open registers tellen niet mee. De overweging spreekt over componenten; naar onze lezing geldt dezelfde gedachte voor lid 12: wie een systeem vrij deelt, kan zich erop beroepen, wie het gebruik alleen tegen betaling toegankelijk maakt niet. Voor modellen werkt de Commissie dit uit in haar richtsnoeren, punten 82 tot en met 86.
Wat onverlet blijft: lid 5, 7, 9 en 11
- Lid 5. Hoofdstuk II van de digitaledienstenverordening (Verordening (EU) 2022/2065) over de aansprakelijkheid van aanbieders van tussenhandelsdiensten blijft gelden.
- Lid 7. Het Unierecht inzake persoonsgegevens, privacy en vertrouwelijkheid van communicatie blijft gelden. De verordening laat de AVG, Verordening (EU) 2018/1725 en de Richtlijnen 2002/58/EG en (EU) 2016/680 onverlet, onverminderd artikel 4 bis en artikel 59. Vóór de omnibus stond daar artikel 10, lid 5, van de oorspronkelijke tekst; dat lid is geschrapt en de regeling staat nu in artikel 4 bis (ons stuk).
- Lid 9. Regels over consumentenbescherming en productveiligheid blijven gelden.
- Lid 11. De Unie en de lidstaten mogen regels houden of invoeren die gunstiger zijn voor werknemers bij het gebruik van AI door werkgevers, en gunstigere cao's toestaan.
Datums
Artikel 2 staat in hoofdstuk I en geldt sinds 2 februari 2025 (artikel 113, derde alinea, onder a). De huidige tekst van lid 2 en lid 7 en het nieuwe lid 13 gelden sinds 27 juli 2026, toen de omnibus in werking trad (artikel 1, punten 2 en 3, van Verordening (EU) 2026/1744). Welke plicht al geldt, staat apart: artikel 50 sinds 2 augustus 2026 (lid 2 voor systemen die al eerder in de handel waren: uiterlijk 2 december 2026, artikel 111 lid 4), de eisen voor hoog-risicosystemen uit bijlage III vanaf 2 december 2027 en uit bijlage I vanaf 2 augustus 2028 (artikel 113, derde alinea, onder c).
De gemeente: drie situaties
Chatbot van een Amerikaanse leverancier. De leverancier is aanbieder (lid 1 onder a) en stelt het systeem bij rechtstreekse levering naar onze lezing in de Unie in gebruik; verkoopt een Nederlandse partij het onder de naam van de leverancier, dan is die partij importeur (onder d). De gemeente is gebruiksverantwoordelijke (onder b) en neemt maatregelen voor AI-geletterdheid (artikel 4). Een chatbot voor algemene vragen is in de regel geen hoog-risicosysteem en vraagt dus geen gemachtigde (een eigen onderliggend AI-model van de leverancier kan dat onder artikel 54 wel); artikel 50 lid 1 geldt wel.
Camerasysteem voor openbare orde. Naar onze lezing valt het onder de AI Act: openbare orde is geen nationale veiligheid en het systeem wordt niet uitsluitend daarvoor gebruikt. Herkent het personen op afstand, dan valt het onder bijlage III, punt 1, onder a. Het verbod van artikel 5 lid 1 onder h geldt voor biometrische identificatie op afstand in real time in openbare ruimten met het oog op de rechtshandhaving, dus door of namens een instantie die bevoegd is voor strafbare feiten en de openbare veiligheid (artikel 3 punt 45 en 46). Of de gemeente zo optreedt, hangt naar onze lezing af van wie het systeem bedient en met welk doel. Zo niet, dan verbiedt artikel 9 lid 1 AVG de verwerking van biometrische gegevens voor unieke identificatie, met beperkte uitzonderingen (overweging 39); artikel 29 UAVG staat het alleen toe voor authenticatie of beveiliging.
Medewerker met een chatbot thuis. Een recept opzoeken is louter persoonlijk; een brief aan een inwoner is werk, ook met een eigen account. Naar onze lezing is de gemeente dan gebruiksverantwoordelijke, want de medewerker handelt namens haar en artikel 4 noemt ook personeel dat namens haar AI gebruikt. Voor de persoonsgegevens is zij verwerkingsverantwoordelijke; met een eigen account is er geen verwerkersovereenkomst met de chatbotaanbieder (artikel 28 AVG), dus persoonsgegevens van inwoners horen daar niet in.
Bank of verzekeraar
Een bank laat de kredietwaardigheid van particulieren beoordelen door een fintech in het Verenigd Koninkrijk, die het model op eigen servers draait en alleen scores terugstuurt. Dat is het geval van overweging 22: het systeem wordt niet in de Unie in de handel gebracht, in gebruik gesteld of gebruikt, maar de fintech valt onder lid 1 onder c. Het is vanaf 2 december 2027 in beginsel hoog risico (bijlage III, punt 5, onder b; voor een bestaand systeem artikel 111 lid 2). Of de bank gebruiksverantwoordelijke is, hangt af van wie het systeem onder eigen verantwoordelijkheid gebruikt (artikel 3 punt 4); naar onze lezing is zij dat als zij zelf de aanvragen invoert en over de inzet beslist. Een gemachtigde is nodig vóór het in de handel brengen (artikel 22 lid 1); bij alleen output is dat naar onze lezing niet aan de orde, anders dan wanneer de bank het systeem zelf inzet. Leg de rollen contractueel vast.
Een verzekeraar die een opensourcemodel aanpast voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen (bijlage III, punt 5, onder c) en het onder eigen naam in gebruik stelt, is aanbieder én gebruiksverantwoordelijke. Lid 12 helpt dan niet: het systeem wordt als hoog-risicosysteem in gebruik gesteld.
Voor hun werknemers geldt nationaal recht waarvoor lid 11 naar onze lezing ruimte laat, zoals het instemmingsrecht van de ondernemingsraad bij voorzieningen voor controle op aanwezigheid, gedrag of prestaties (artikel 27 lid 1 onder l van de Wet op de ondernemingsraden). Bij een hoog-risicosysteem op de werkplek komt de informatieplicht van artikel 26 lid 7 erbij.
Welke AI Act- en AVG-plichten bij uw toepassing spelen, ziet u met de casus-check.
Veelgestelde vragen over artikel 2
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven