Ga naar de hoofdinhoud
Praxikon

Datalek bij een AI-toepassing: melden aan de AP en aan betrokkenen (artikel 33 en 34 AVG)

··27 min leestijd

Lekt een AI-toepassing persoonsgegevens, dan meldt de verwerkingsverantwoordelijke dat datalek zonder onredelijke vertraging en zo mogelijk binnen 72 uur aan de Autoriteit Persoonsgegevens, tenzij het niet waarschijnlijk is dat het lek een risico inhoudt voor de betrokkenen (artikel 33 AVG). Brengt het lek waarschijnlijk een hoog risico mee, dan informeert hij ook de betrokkenen zelf, onverwijld en in duidelijke taal (artikel 34 AVG). Elk lek, gemeld of niet, legt hij intern vast. Een AI-leverancier die als verwerker optreedt, meldt een lek zonder onredelijke vertraging aan zijn klant, en die klant meldt aan de toezichthouder. Gaat het om een AI-systeem met een hoog risico, dan kan hetzelfde voorval ook een ernstig incident zijn dat de aanbieder meldt onder artikel 73 AI Act. Valt de organisatie onder de Cyberbeveiligingswet, dan loopt er nog een route, met een eerste waarschuwing binnen 24 uur. Drie meldingen, drie ontvangers en drie verschillende klokken.

Stel: u bent privacyadviseur bij een gemeente. Op maandagochtend meldt een inwoner dat de chatbot op de website hem een antwoord gaf met de naam, het adres en de stand van de bijstandsaanvraag van iemand anders. De leverancier laat weten dat een update van vrijdagavond de gesprekken van verschillende gebruikers door elkaar haalde. Moet u melden? Aan wie? En vanaf wanneer lopen de 72 uur, nu de leverancier het misschien al eerder wist? Dit stuk loopt de stappen na.

In het kort

Een datalek is elke inbreuk op de beveiliging die per ongeluk of onrechtmatig leidt tot vernietiging, verlies, wijziging, ongeoorloofde verstrekking van of toegang tot persoonsgegevens (artikel 4 punt 12 AVG). De verwerkingsverantwoordelijke meldt een lek zo mogelijk binnen 72 uur nadat hij er kennis van kreeg aan de toezichthouder, tenzij een risico niet waarschijnlijk is (artikel 33 lid 1). Een verwerker meldt zonder onredelijke vertraging aan de verwerkingsverantwoordelijke (lid 2). De melding mag in stappen (lid 4), en elk lek wordt gedocumenteerd (lid 5). Bij een waarschijnlijk hoog risico worden ook de betrokkenen geïnformeerd (artikel 34 lid 1), behalve in drie gevallen (lid 3). Op overtreding staat een boete tot 10 miljoen euro of, voor een onderneming, 2 procent van de wereldwijde jaaromzet als dat hoger is (artikel 83 lid 4 onder a AVG). Een ernstig incident met een AI-systeem met een hoog risico meldt de aanbieder daarnaast bij de markttoezichtautoriteit (artikel 73 AI Act), een route die voor bijlage III-systemen pas vanaf 2 december 2027 echt gaat werken.

Wanneer is iets een datalek bij AI?

De AVG kijkt niet naar de oorzaak maar naar het gevolg voor de gegevens. Een inbreuk in verband met persoonsgegevens is een inbreuk op de beveiliging die per ongeluk of op onrechtmatige wijze leidt tot de vernietiging, het verlies, de wijziging of de ongeoorloofde verstrekking van of toegang tot persoonsgegevens (artikel 4 punt 12 AVG). De European Data Protection Board (EDPB) onderscheidt in zijn richtsnoeren 9/2022 drie soorten: een inbreuk op de vertrouwelijkheid (gegevens komen bij iemand die ze niet mocht zien), op de integriteit (gegevens worden ongeoorloofd gewijzigd) en op de beschikbaarheid (gegevens gaan verloren of zijn niet meer toegankelijk), ook in combinatie (punten 17 en 18). Een hack is dus niet nodig. Een fout in de software of een vergissing van een medewerker is genoeg.

Situatie bij AIDatalek?Waarom
Prompt-injectie: kwaadwillende invoer laat een chatbot of AI-agent gegevens prijsgeven uit de documenten of systemen waar hij bij kanJa, als er persoonsgegevens bij zittenOngeoorloofde toegang tot en verstrekking van gegevens: een inbreuk op de vertrouwelijkheid
Een chatbot toont de gegevens van de ene gebruiker aan een andereJaOngeoorloofde verstrekking. Dat het per ongeluk gebeurt, maakt geen verschil: de definitie noemt uitdrukkelijk ook inbreuken die per ongeluk ontstaan
Medewerkers plakken klantgegevens in een publieke AI-dienst waarmee de organisatie geen afspraken heeftIn de regel welDe gegevens komen bij een partij die er geen toegang toe mocht hebben. Hoe ernstig het is, hangt af van welke gegevens het waren en wat de dienst met de invoer doet, zoals bewaren of gebruiken voor training
Een lek bij de AI-leverancier of zijn hostingpartijJa, voor de gegevens die hij voor u verwerktHet lek raakt gegevens waarvoor u verantwoordelijk bent. De leverancier meldt het aan u (artikel 33 lid 2 AVG) en u beoordeelt of u meldt
Een AI-agent wist dossiers of overschrijft gegevens met onjuiste waardenJaEen inbreuk op de beschikbaarheid of integriteit. Permanent verlies of vernietiging is volgens de EDPB altijd een inbreuk op de beschikbaarheid (punt 19)

Bij AI loont het om de definitie breed te lezen. Een taalmodel dat bij documenten, mailboxen of zaaksystemen kan, verstrekt gegevens aan iedereen die het de juiste vraag stelt, ook als de beveiliging van het onderliggende systeem op orde is. Gebruikt de toepassing de rechten van een algemeen serviceaccount in plaats van die van de gebruiker, dan is elke geslaagde prompt-injectie een mogelijke inbreuk op de vertrouwelijkheid.

Melden aan de AP binnen 72 uur (artikel 33 AVG)

De verwerkingsverantwoordelijke meldt een datalek zonder onredelijke vertraging en, indien mogelijk, uiterlijk 72 uur nadat hij er kennis van heeft genomen, aan de bevoegde toezichthouder (artikel 33 lid 1 AVG). Voor Nederlandse organisaties is dat de Autoriteit Persoonsgegevens (artikel 6 lid 2 UAVG). Meldt hij later, dan geeft hij een motivering voor de vertraging. Een melding is niet nodig als het niet waarschijnlijk is dat de inbreuk een risico inhoudt voor de rechten en vrijheden van natuurlijke personen. Volgens de EDPB kan dat zo zijn bij gegevens die al openbaar waren, als de verstrekking geen waarschijnlijk risico oplevert, of bij goed versleutelde gegevens waarvan de sleutel niet is gelekt en waarvan een kopie bestaat (richtsnoeren 9/2022, punten 75 en 78).

Wanneer begint de klok? De EDPB rekent vanaf het moment dat de verwerkingsverantwoordelijke met een redelijke mate van zekerheid weet dat er een beveiligingsincident is geweest waarbij persoonsgegevens zijn getroffen (punt 31). Na een eerste signaal, zoals de melding van een inwoner, mag hij kort onderzoeken of er echt een inbreuk is; tijdens dat korte onderzoek telt hij nog niet als op de hoogte, maar het onderzoek moet zo snel mogelijk beginnen (punt 34). Wie een signaal laat liggen, kan zich later niet op het korte onderzoek beroepen.

Wat staat er in de melding? Artikel 33 lid 3 noemt vier onderdelen.

Artikel 33 lid 3Wat de AVG vraagtWat u bij een AI-lek invult
aDe aard van de inbreuk, waar mogelijk met de categorieën en het geschatte aantal betrokkenen en registersWat er gebeurde (bijvoorbeeld gesprekken van gebruikers die door elkaar liepen), welke gegevens de toepassing toonde of prijsgaf, en hoeveel mensen het betreft. Dat aantal haalt u uit de logs van de toepassing
bNaam en contactgegevens van de functionaris voor gegevensbescherming of een ander contactpuntDe FG of het privacyteam
cDe waarschijnlijke gevolgenBijvoorbeeld identiteitsfraude, phishing met kennis van een lopende aanvraag, of schade door bekendwording van financiële of gezondheidsgegevens
dDe genomen of voorgestelde maatregelen, ook om nadelige gevolgen te beperkenDe toepassing offline gehaald of teruggezet naar een eerdere versie, toegangsrechten beperkt, de leverancier om een analyse van de oorzaak gevraagd, betrokkenen geïnformeerd

In stappen melden mag. Kan niet alle informatie tegelijk worden gegeven, dan mag dat zonder onredelijke vertraging in stappen (artikel 33 lid 4 AVG). Bij AI is dat eerder regel dan uitzondering: de vraag welke gesprekken of documenten precies zijn geraakt, is vaak pas na dagen van loganalyse te beantwoorden. Doe dan binnen 72 uur een eerste melding met wat u weet en vul die aan. De AVG staat schattingen van het aantal betrokkenen toe, en de EDPB noemt een gefaseerde melding een veilige manier om aan de meldplicht te voldoen als de omvang nog niet bekend is (punten 52 en 53).

De leverancier als verwerker. Verwerkt de AI-leverancier de gegevens in uw opdracht, dan informeert hij u zonder onredelijke vertraging zodra hij kennis heeft genomen van een lek (artikel 33 lid 2 AVG). Hij hoeft het risico niet zelf te beoordelen: dat doet u. Volgens de EDPB bent u als verwerkingsverantwoordelijke in beginsel op de hoogte zodra de verwerker u heeft geïnformeerd, en de EDPB beveelt verwerkers aan dat direct te doen en de details in stappen na te leveren (punten 44 en 45). De verwerkersovereenkomst moet regelen dat de verwerker u helpt bij de plichten van de artikelen 32 tot en met 36 (artikel 28 lid 3 onder f AVG), en kan volgens de EDPB ook een vroege meldtermijn vastleggen (punt 46). Leg in die overeenkomst daarom een concrete termijn in uren vast, en ook welke informatie de leverancier aanlevert. Schakelt de leverancier zelf een aanbieder van het taalmodel of een cloudplatform in, dan loopt een lek bij die sub-verwerker via hem naar u.

Elk lek intern vastleggen (artikel 33 lid 5)

De verwerkingsverantwoordelijke documenteert alle datalekken, met de feiten, de gevolgen en de genomen corrigerende maatregelen, zodat de toezichthouder de naleving kan controleren (artikel 33 lid 5 AVG). Dat geldt ook voor lekken die u niet hoeft te melden; de EDPB raadt een intern register van inbreuken aan, met de oorzaak, wat er gebeurde en welke gegevens het betrof (punten 121 tot en met 123). Leg in dat register bij elk lek de verwerking vast waar het bij hoort, zoals die in uw verwerkingsregister onder artikel 30 AVG staat. Wijzigt u na een lek de beveiliging, dan werkt u ook de beschrijving van de beveiligingsmaatregelen in dat register bij.

Betrokkenen informeren bij hoog risico (artikel 34 AVG)

Houdt het lek waarschijnlijk een hoog risico in voor de rechten en vrijheden van natuurlijke personen, dan deelt de verwerkingsverantwoordelijke het onverwijld mee aan de betrokkenen (artikel 34 lid 1 AVG). Die mededeling beschrijft in duidelijke en eenvoudige taal de aard van het lek en bevat ten minste de contactgegevens van de FG of een ander contactpunt, de waarschijnlijke gevolgen en de genomen maatregelen (lid 2, met verwijzing naar artikel 33 lid 3 onder b, c en d). De EDPB vraagt om een eigen bericht, niet verstopt in een nieuwsbrief of een gewone update (richtsnoeren 9/2022, punt 89).

Om te bepalen of het risico hoog is, noemt de EDPB een aantal factoren: het soort inbreuk, de aard, gevoeligheid en omvang van de gegevens, hoe makkelijk mensen te identificeren zijn, de ernst en duur van de gevolgen, bijzondere kenmerken van de betrokkenen zoals kinderen of andere kwetsbare personen, bijzondere kenmerken van de verwerkingsverantwoordelijke en het aantal betrokkenen (punten 105 tot en met 118). Gezondheidsgegevens, identiteitsbewijzen en financiële gegevens kunnen volgens de EDPB elk op zichzelf schade veroorzaken, en in combinatie identiteitsfraude mogelijk maken (punt 108).

De mededeling is niet nodig in drie gevallen (artikel 34 lid 3 AVG):

  1. De gegevens waren onbegrijpelijk voor onbevoegden. De verwerkingsverantwoordelijke had passende technische en organisatorische maatregelen genomen en toegepast op de gelekte gegevens, zoals versleuteling (onder a).
  2. Het hoge risico is weggenomen. Hij heeft achteraf maatregelen genomen waardoor het hoge risico zich waarschijnlijk niet meer voordoet (onder b).
  3. Individueel informeren vergt onevenredige inspanning. Dan komt er een openbare mededeling of een vergelijkbare maatregel die betrokkenen even doeltreffend informeert (onder c).

Heeft de verwerkingsverantwoordelijke de betrokkenen niet geïnformeerd, dan kan de toezichthouder hem daartoe verplichten, of besluiten dat aan een van de drie voorwaarden is voldaan (artikel 34 lid 4 AVG).

Hoe ver de kring van te informeren mensen reikt, laat een voorbeeld uit de EDPB-richtsnoeren 01/2021 zien. Bij een aanval op de website van een bank lekten gegevens van ongeveer 100.000 klanten uit, en bij ongeveer 2.000 van hen kon de aanvaller ook inloggen. De bank informeerde alleen de klanten van wie het account was gecompromitteerd. Volgens de EDPB had zij alle ongeveer 100.000 betrokkenen moeten informeren, ook de klanten van wie het account niet was overgenomen (casus 07, punten 64 tot en met 68).

Wat het Hof zegt over beveiliging en schade

Een datalek betekent niet automatisch dat de beveiliging tekortschoot. In C-340/21, Natsionalna agentsia za prihodite (14 december 2023, ECLI:EU:C:2023:986) ging het om een cyberaanval op de Bulgaarse belastingdienst, waarna gegevens van meer dan 6 miljoen mensen op internet verschenen. Het Hof oordeelde dat ongeoorloofde verstrekking of toegang door een derde op zichzelf niet voldoende is om te concluderen dat de maatregelen niet passend waren, dat de verwerkingsverantwoordelijke in een schadezaak moet bewijzen dat zijn maatregelen wel passend waren, en dat de vrees van een betrokkene voor misbruik van zijn gegevens op zichzelf immateriële schade kan zijn (dictum, punten 1, 3 en 6).

In C-687/21, MediaMarktSaturn (25 januari 2024) gaven medewerkers per vergissing documenten met persoonsgegevens aan een andere klant, die ze binnen een half uur teruggaf. Ook hier was de fout van de medewerkers op zichzelf niet genoeg om de maatregelen ondeugdelijk te noemen. Bleek de derde de gegevens niet te hebben gezien, dan is de vrees voor toekomstige verspreiding alleen geen immateriële schade (dictum, punten 1 en 5).

Voor AI betekent dit: bewaar het bewijs van uw beveiligingsmaatregelen, zoals de tests op prompt-injectie, de inrichting van toegangsrechten en de afspraken met de leverancier. U moet in een schadezaak kunnen aantonen dat die passend waren. En logs die laten zien wie welke gegevens werkelijk te zien kreeg, bepalen mee of er schade is.

Boete

Een overtreding van artikel 33 of 34 valt onder artikel 83 lid 4 onder a AVG: een boete tot 10 miljoen euro of, voor een onderneming, tot 2 procent van de totale wereldwijde jaaromzet in het voorgaande boekjaar als dat hoger is (artikel 83). Of een overheidsorganisatie een boete kan krijgen, bepaalt het nationale recht (artikel 83 lid 7 AVG); hoe dat voor gemeenten uitpakt staat in boetes onder de AI Act en de AVG.

Samenhang met een ernstig incident onder artikel 73 AI Act

De AI Act heeft een eigen meldplicht, met een andere melder, een andere ontvanger en andere termijnen. Aanbieders van AI-systemen met een hoog risico melden ernstige incidenten bij de markttoezichtautoriteit van de lidstaat waar het incident plaatsvond (artikel 73 lid 1 AI Act). Een ernstig incident is een incident of gebrekkig functioneren van een AI-systeem dat direct of indirect leidt tot het overlijden of ernstige gezondheidsschade van een persoon, een ernstige en onomkeerbare verstoring van kritieke infrastructuur, een schending van verplichtingen uit het Unierecht ter bescherming van de grondrechten, of ernstige schade aan eigendommen of het milieu (artikel 3 punt 49 AI Act).

Een datalek kan onder het derde punt vallen. De AVG beschermt de grondrechten van natuurlijke personen, met name het recht op bescherming van persoonsgegevens (artikel 1 lid 2 AVG). Leidt een incident of gebrekkig functioneren van een hoog-risicosysteem tot een schending van verplichtingen uit de AVG, dan kan dat dus een ernstig incident zijn. Een lek bewijst op zichzelf nog niet dat de beveiliging tekortschoot en dus ook niet vanzelf een schending van verplichtingen (C-340/21 en C-687/21, hieronder). Niet elk datalek is dat: het gaat om een hoog-risicosysteem en om een lek dat uit het incident of het gebrekkig functioneren van dat systeem voortkomt. Ontvangt de markttoezichtautoriteit een melding over een schending van grondrechten, dan informeert zij de nationale instanties die grondrechten beschermen (artikel 73 lid 7 AI Act). De Commissie legde in het najaar van 2025 een concept-richtsnoer en meldformulier voor; wat daarin staat leest u in ons stuk over de consultatie over incidentrapportage.

De termijnen. De aanbieder meldt onmiddellijk nadat hij een oorzakelijk verband tussen het AI-systeem en het incident, of de redelijke waarschijnlijkheid daarvan, heeft vastgesteld, en uiterlijk 15 dagen nadat hij of de gebruiksverantwoordelijke zich van het incident bewust werd (artikel 73 lid 2 AI Act). Bij een wijdverbreide inbreuk of een ernstige en onomkeerbare verstoring van kritieke infrastructuur is dat uiterlijk twee dagen (lid 3). Een wijdverbreide inbreuk is onder meer een handeling of omissie in strijd met Unierecht ter bescherming van de belangen van natuurlijke personen, die de collectieve belangen schaadt of waarschijnlijk schaadt van personen in ten minste twee andere lidstaten dan die waar de handeling plaatsvond of waar de aanbieder of de gebruiksverantwoordelijke is gevestigd (artikel 3 punt 61 AI Act); een groot grensoverschrijdend lek via een hoog-risicosysteem kan daaronder vallen, bij overlijden uiterlijk tien dagen (lid 4). Een eerste, onvolledige melding mag (lid 5). Voor bijlage III-systemen van aanbieders die al onder gelijkwaardige meldplichten uit ander Unierecht vallen, is de melding beperkt tot schendingen van grondrechten (lid 9).

De rol van de gebruiksverantwoordelijke. De organisatie die het systeem gebruikt, is onder de AVG bij een lek meestal de verwerkingsverantwoordelijke en meldt dan zelf aan de AP. Onder de AI Act meldt de aanbieder. Stelt een gebruiksverantwoordelijke een ernstig incident vast, dan informeert hij onmiddellijk eerst de aanbieder, en vervolgens de importeur of distributeur en de markttoezichtautoriteit; kan hij de aanbieder niet bereiken, dan geldt artikel 73 AI Act voor hem van overeenkomstige toepassing (artikel 26 lid 5 AI Act). Eén voorval kan dus twee meldingen door twee verschillende partijen opleveren.

Vanaf wanneer? Artikel 73 AI Act staat in hoofdstuk IX en is volgens artikel 113 AI Act van toepassing sinds 2 augustus 2026. De plicht rust echter op aanbieders van AI-systemen met een hoog risico, en de regels die bepalen welk systeem dat is (de classificatieregels en plichten van hoofdstuk III, afdelingen 1 tot en met 3, waaronder artikel 6 en artikel 26 AI Act) gelden pas vanaf 2 december 2027 voor systemen uit bijlage III en vanaf 2 augustus 2028 voor systemen uit bijlage I (artikel 113, derde alinea, onder c, AI Act, zoals gewijzigd door Verordening (EU) 2026/1744). In de praktijk krijgt de meldplicht dus pas vanaf die datums een voorwerp. Voor hoog-risicosystemen die al vóór die datum in de handel of in gebruik waren, gelden de hoog-risicoplichten, waaronder artikel 73 AI Act, alleen als ze daarna aanzienlijk worden gewijzigd, en systemen voor overheidsinstanties moeten uiterlijk op 2 augustus 2030 aan de eisen voldoen (artikel 111 lid 2 AI Act). De AVG-meldplicht geldt nu al, voor elke AI-toepassing.

Naast deze meldplicht kent de AI Act ook klachten- en klokkenluiderskanalen bij het AI Office; die zijn iets anders dan een incidentmelding, zie de drie meldroutes van de AI Act-handhaving.

NIS2, de Cyberbeveiligingswet en DORA

Een datalek is vaak ook een cyberincident. Essentiële en belangrijke entiteiten onder NIS2 melden elk significant incident: een incident dat een ernstige operationele verstoring of financiële verliezen veroorzaakt of kan veroorzaken, of anderen aanzienlijke materiële of immateriële schade kan berokkenen (artikel 23 lid 1 NIS2, met de drempel in lid 3). In Nederland voert de Cyberbeveiligingswet dit uit; die geldt sinds 15 augustus 2026 (artikel 35 Cyberbeveiligingsbesluit). De entiteit geeft onverwijld of, als dat niet kan, binnen 24 uur een vroegtijdige waarschuwing, dient onverwijld of binnen 72 uur een melding in en levert uiterlijk een maand na die melding een eindverslag, steeds bij haar CSIRT en haar bevoegde autoriteit (artikelen 26, 27 en 29 Cbw).

Twee punten maken de samenloop met de AVG overzichtelijker. Krijgt een NIS2-toezichthouder bij toezicht of handhaving te zien dat een overtreding van de NIS2-plichten ook een meldplichtig datalek kan inhouden, dan informeert hij de privacytoezichthouder; legt die een AVG-boete op voor dezelfde gedraging, dan volgt geen NIS2-boete (artikel 35 NIS2, eerste en tweede lid). Maar de meldingen zelf vervangen elkaar niet: de AP-melding en de NIS2-melding zijn twee aparte plichten.

Voor banken, verzekeraars en andere financiële entiteiten geldt voor ICT-incidenten DORA. Zij melden ernstige ICT-gerelateerde incidenten aan hun bevoegde financiële toezichthouder (artikel 19 lid 1 DORA). Volgens de NIS2-richtlijn is DORA voor financiële entiteiten een sectorspecifieke regeling die op dit punt voorgaat (overweging 28 en artikel 4 NIS2; in de Nederlandse wet artikel 31 Cbw). Ook dan blijft de AVG-melding aan de AP gewoon staan.

RegimeWie meldtAan wieTermijnDrempel
Artikel 33 AVGVerwerkingsverantwoordelijke (verwerker meldt aan hem)Autoriteit PersoonsgegevensZonder onredelijke vertraging, zo mogelijk binnen 72 uurTenzij een risico niet waarschijnlijk is
Artikel 34 AVGVerwerkingsverantwoordelijkeBetrokkenenOnverwijldWaarschijnlijk hoog risico
Artikel 73 AI ActAanbieder van een hoog-risicosysteem (gebruiksverantwoordelijke informeert eerst de aanbieder)MarkttoezichtautoriteitUiterlijk 15 dagen; 2 dagen bij wijdverbreide inbreuk of kritieke infrastructuur; 10 dagen bij overlijdenErnstig incident (artikel 3 punt 49 AI Act)
Cyberbeveiligingswet (NIS2)Essentiële of belangrijke entiteitCSIRT en bevoegde autoriteitWaarschuwing binnen 24 uur, melding binnen 72 uur, eindverslag binnen een maandSignificant incident
DORAFinanciële entiteitBevoegde financiële toezichthouderEerste kennisgeving, tussentijds verslag en eindverslag, binnen termijnen uit de uitvoeringsregels (artikel 19 lid 4 DORA)Ernstig ICT-gerelateerd incident

Drie voorbeelden

De voorbeelden zijn verzonnen en dienen om de stappen concreet te maken.

Gemeente. Terug naar de chatbot. De melding van de inwoner is het eerste signaal; na een kort onderzoek op maandagochtend staat vast dat gesprekken door elkaar liepen. Vanaf dat moment lopen de 72 uur. Uit de logs blijkt dat 40 inwoners in het weekend een antwoord kregen met gegevens van een ander, waaronder informatie over een bijstandsaanvraag. De leverancier zag de fout al zaterdag, maar meldde haar pas maandag. Voor de gemeente begint de termijn op het moment dat zij zelf op de hoogte is, maar de leverancier heeft zijn plicht om zonder onredelijke vertraging te melden niet waargemaakt (artikel 33 lid 2 AVG); dat hoort in het gesprek over de verwerkersovereenkomst. Omdat het om inkomensgegevens en een lopende aanvraag gaat, is het risico waarschijnlijk hoog: de gemeente meldt aan de AP, informeert de inwoners van wie gegevens zijn getoond met een eigen bericht, en vraagt de inwoners die de gegevens zagen om ze te verwijderen. Een informatieve chatbot is geen hoog-risicosysteem uit bijlage III, dus artikel 73 AI Act speelt niet.

Bank. Een bank zet een klantchatbot in die via een algemeen serviceaccount transacties kan opzoeken en per vraag zelf moet controleren of het om de ingelogde klant gaat. Een aanvaller ontdekt dat die controle tekortschiet en dat hij met een slim geformuleerde vraag de chatbot overzichten van andere klanten laat tonen, en haalt zo gegevens van 300 klanten op. Dit is een inbreuk op de vertrouwelijkheid met financiële gegevens. Die kunnen volgens de EDPB op zichzelf al schade veroorzaken (richtsnoeren 9/2022, punt 108), en in de vergelijkbare bankcasus 07 woog de EDPB het lek als hoog risico (richtsnoeren 01/2021, punten 64 tot en met 66). De bank meldt binnen 72 uur aan de AP en informeert alle klanten van wie gegevens mogelijk zijn opgevraagd, niet alleen de klanten van wie zeker is dat de aanvaller hun gegevens zag; de EDPB-casus 07 hierboven laat zien waarom. Daarnaast beoordeelt de bank of dit een ernstig ICT-gerelateerd incident onder DORA is (artikel 19 DORA); die melding gaat naar de financiële toezichthouder en vervangt de AP-melding niet. Een klantchatbot valt niet onder bijlage III, dus een melding onder artikel 73 AI Act is niet aan de orde.

HR. Een werkgever gebruikt het platform van een leverancier dat sollicitaties met AI rangschikt. Een AI-systeem dat bedoeld is voor het werven of selecteren van personen, met name voor het analyseren en filteren van sollicitaties en het beoordelen van kandidaten, staat in bijlage III punt 4 onder a AI Act en is een hoog-risicosysteem, tenzij de uitzondering van artikel 6 lid 3 AI Act geldt. Door een verkeerd ingestelde opslag waren de cv's en motivatiebrieven van 2.000 sollicitanten drie weken openbaar te vinden. De leverancier is onder de AVG verwerker en meldt het lek zonder onredelijke vertraging aan de werkgever; de werkgever meldt aan de AP. Gaat het om contactgegevens, werkverleden en soms gegevens over gezondheid of nationaliteit in een motivatiebrief, dan is het risico waarschijnlijk hoog en worden de sollicitanten geïnformeerd; de EDPB kwam bij een lek van sollicitatieformulieren bij een uitzendbureau, daar door een hack, tot dezelfde uitkomst (richtsnoeren 01/2021, casus 05, punt 55). Vanaf 2 december 2027 beoordeelt de leverancier als aanbieder bovendien of dit een ernstig incident is in de zin van artikel 3 punt 49 onder c AI Act, en meldt hij dat zo nodig binnen de termijnen van artikel 73 AI Act. Dat is hier niet vanzelfsprekend: artikel 73 lid 2 AI Act vraagt een oorzakelijk verband tussen het AI-systeem en het incident, en een verkeerd ingestelde opslag is niet zonder meer een incident of gebrekkig functioneren van het AI-systeem zelf. Was het platform al vóór die datum in gebruik, dan gelden de hoog-risicoplichten pas na een aanzienlijke wijziging (artikel 111 lid 2 AI Act).

In zeven stappen voorbereid op een AI-datalek

  1. Leg vooraf vast wie beslist. Wie beoordeelt bij een incident met een AI-toepassing of er een datalek is, wie meldt aan de AP en wie informeert betrokkenen? Betrek de FG, de beveiligingsorganisatie en de eigenaar van de toepassing.
  2. Regel de leverancier in de verwerkersovereenkomst. Een concrete meldtermijn in uren, welke informatie hij aanlevert, hoe hij sub-verwerkers zoals de aanbieder van het taalmodel aanspreekt, en een vast contactpunt (artikel 28 lid 3 onder f en artikel 33 lid 2 AVG).
  3. Log wat u nodig hebt om te melden. Welke gebruiker zag welk antwoord, welke bronnen de toepassing raadpleegde en met welke rechten. Zonder die logs kunt u het aantal betrokkenen niet schatten (artikel 33 lid 3 onder a AVG).
  4. Onderzoek een signaal direct. Een kort onderzoek mag, maar de klok loopt zodra u met redelijke zekerheid weet dat persoonsgegevens zijn geraakt.
  5. Beoordeel het risico en meld. Gebruik de factoren van de EDPB. Meld binnen 72 uur aan de AP, desnoods in stappen, en informeer betrokkenen onverwijld als het risico hoog is.
  6. Loop de andere routes na. Gaat het om een hoog-risicosysteem, informeer dan de aanbieder met het oog op artikel 73 AI Act. Valt u onder de Cyberbeveiligingswet of DORA, dan geldt ook die melding, met eigen termijnen.
  7. Documenteer en verbeter. Leg het lek vast in het interne register (artikel 33 lid 5 AVG), werk de beveiliging en het verwerkingsregister bij, en herzie de DPIA als het risico van de verwerking is veranderd. Wanneer een DPIA bij AI verplicht is, staat in een DPIA voor AI-systemen: wanneer verplicht.

Wilt u voor een concrete AI-toepassing weten welke AVG- en AI Act-plichten in beeld komen? Met de casus-check beschrijft u de toepassing in een paar vragen.

Veelgestelde vragen over een datalek bij AI

Bronnen

EUR-Lex: Verordening (EU) 2016/679 (AVG), artikelen 1, 4, 28, 32, 33, 34, 35, 55 en 83 (27 april 2016, geraadpleegd 16 november 2026)
EUR-Lex: Richtlijn (EU) 2022/2555 (NIS2), artikelen 4, 23 en 35 en overweging 28 (14 december 2022, geraadpleegd 16 november 2026)
EUR-Lex: Verordening (EU) 2022/2554 (DORA), artikel 19 (14 december 2022, geraadpleegd 16 november 2026)
Staatsblad: Cyberbeveiligingswet, Stb. 2026, 187, artikelen 25 tot en met 31 (8 juli 2026, geraadpleegd 16 november 2026)
Staatsblad: Cyberbeveiligingsbesluit, Stb. 2026, 189, artikel 35 (inwerkingtreding) (8 juli 2026, geraadpleegd 16 november 2026)
Overheid.nl: Uitvoeringswet Algemene verordening gegevensbescherming, artikel 6 (geraadpleegd 16 november 2026)
European Data Protection Board: Guidelines 9/2022 on personal data breach notification under GDPR, versie 2.0 (28 maart 2023, geraadpleegd 16 november 2026)
European Data Protection Board: Guidelines 01/2021 on Examples regarding Personal Data Breach Notification, versie 2.0 (14 december 2021, geraadpleegd 16 november 2026)
Hof van Justitie van de EU: Arrest van 14 december 2023, VB tegen Natsionalna agentsia za prihodite, C-340/21, ECLI:EU:C:2023:986 (14 december 2023, geraadpleegd 16 november 2026)
Hof van Justitie van de EU: Arrest van 25 januari 2024, BL tegen MediaMarktSaturn Hagen-Iserlohn GmbH, C-687/21 (25 januari 2024, geraadpleegd 16 november 2026)

Nieuwsbrief

Elke dinsdag de AI Act-week vooruit in 5 minuten

Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.

Praktisch en kort · Geen spam · Met één klik uitschrijven

Geschreven door

Zahed Ashkara, freelance AI- en privacyconsultant en jurist

Zahed Ashkara

Freelance AI- en privacyconsultant en jurist · AI-governance en -veiligheid

Zahed Ashkara is freelance AI- en privacyconsultant en jurist voor de AVG en de EU AI Act. Organisaties huren hem in als AI governance consultant, privacyjurist, externe FG of AI-governance lead, laten een DPIA, FRIA of AI Act-classificatie door hem uitvoeren, of boeken een incompany-training. Hij richt zich op AI-governance en -veiligheid, ook van AI-agents. Hij werkt uitsluitend als zelfstandige, via Embed AI (handelsnaam Praxikon). Hij is Certified AI Compliance Officer (CAICO) en sinds juli 2026 lid van de NEN-normcommissie Artificial Intelligence & Big Data.

Volg via LinkedInBekijk expertprofiel

Gebruik deze bronnen ook in uw AI-assistent: Praxikon in Claude en andere assistenten

Praktijkverhalen

Ontdek hoe organisaties dit in de praktijk toepassen

Gerelateerde artikelen

Staat uw AI-toepassing op de AP-lijst van verplichte DPIA's?

Een AI-toepassing staat nooit als AI op de lijst van de Autoriteit Persoonsgegevens. De lijst kijkt naar wat u met welke gegevens doet, en bij de meeste categorieën alleen als dat grootschalig of stelselmatig gebeurt. Wat de 17 categorieën precies zeggen, met voorbeelden uit een gemeente, een bank, een verzekeraar, een werkgever en een school.

DPIAAVGAutoriteit Persoonsgegevens

Het verwerkingsregister bij AI: wat artikel 30 AVG vraagt en wat u per toepassing invult

Elke organisatie die met AI persoonsgegevens verwerkt, legt die verwerking vast in het register van artikel 30 AVG: doel, betrokkenen en gegevens, ontvangers zoals de AI-leverancier, doorgifte buiten de EER, bewaartermijnen en beveiliging. De uitzondering voor organisaties met minder dan 250 medewerkers geldt bij AI zelden. Per onderdeel wat u invult, wat de leverancier als verwerker zelf bijhoudt, hoe het register samenhangt met de DPIA en het AI-register, en drie uitgewerkte voorbeelden.

AVGArtikel 30Verwerkingsregister