AVG-contextITvernietigd
Italiaanse toezichthouder beboet OpenAI met 15 miljoen euro
- Instantie:
- Garante per la protezione dei dati personali (toezichthouder)
- Kenmerk:
- Garante, docweb 10085432
- Uitspraak:
- 20 december 2024
- Bij ons opgenomen:
- 13 augustus 2026
De Garante sloot het onderzoek naar ChatGPT af met een boete van 15 miljoen euro voor het trainen op persoonsgegevens zonder passende grondslag en gebrekkige informatievoorziening. De rechtbank van Rome vernietigde de boete op 18 maart 2026: na de vestiging van OpenAI in Ierland liep de bevoegdheid via het one-stop-shopmechanisme, en de rechter kwam aan de inhoudelijke verwijten niet toe. Voor GPAI-modellen gelden sinds 2 augustus 2025 de eigen documentatie- en transparantieplichten van de AI Act, met handhaving door het AI Office in plaats van nationale privacytoezichthouders.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 53: GPAI-modelaanbieders
Een boete over het trainen van een model op persoonsgegevens, onder de AVG, later vernietigd op de bevoegdheidsvraag. De documentatie- en transparantieplichten voor GPAI-modellen staan in artikel 53 van de AI-verordening en worden door het AI Office gehandhaafd; over de uitleg daarvan zegt dit besluit niets.
Garante, besluit van 2 november 2024, bekendgemaakt op 20 december 2024, docweb 10085432
Open de primaire bron (Garante, besluit 2 november 2024, bekendgemaakt 20 december 2024)
praxikon:eu:gdpr:ruling:it-garante-openai-2024
AVG-contextNLdefinitief
Autoriteit Persoonsgegevens beboet Clearview AI met 30,5 miljoen euro
- Instantie:
- Autoriteit Persoonsgegevens (AP) (toezichthouder)
- Kenmerk:
- Autoriteit Persoonsgegevens, boetebesluit Clearview AI
- Uitspraak:
- 3 september 2024
- Bij ons opgenomen:
- 13 augustus 2026
De AP legde Clearview AI een boete van 30,5 miljoen euro op voor het opbouwen van een illegale database met miljarden gezichtsbeelden, ook van Nederlanders. De AP waarschuwde bovendien expliciet dat het gebruik van Clearview door Nederlandse organisaties verboden is. Deze scrapingpraktijk valt nu ook onder het verbod van artikel 5 van de AI Act.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 5: verboden praktijken
De Nederlandse toezichthouder beboette dezelfde databank en waarschuwde daarnaast dat gebruik door Nederlandse organisaties verboden is. Die waarschuwing steunt op de AVG; het verbod op ongericht scrapen van gezichtsbeelden in artikel 5 van de AI-verordening staat daar los van.
Autoriteit Persoonsgegevens, boetebesluit bekendgemaakt op 3 september 2024
Open de primaire bron (Autoriteit Persoonsgegevens, boetebesluit, bekendgemaakt 3 september 2024)
praxikon:eu:gdpr:ruling:nl-ap-clearview-2024
AVG-contextFRdefinitief
CNIL beboet Amazon France Logistique met 32 miljoen euro voor werknemersmonitoring
- Instantie:
- Commission Nationale de l’Informatique et des Libertés (CNIL) (toezichthouder)
- Kenmerk:
- CNIL SAN-2023-021
- Uitspraak:
- 27 december 2023
- Bij ons opgenomen:
- 13 augustus 2026
De CNIL legde Amazon France Logistique een boete van 32 miljoen euro op voor een te indringend systeem dat de activiteit van magazijnmedewerkers via scanners tot op de seconde volgde. Algoritmische monitoring van werknemers is onder de AI Act een hoog-risicotoepassing (bijlage III, werkgelegenheid), met verplichtingen die per 2 december 2027 gaan gelden.
Wat deze uitspraak met welke bepaling doet
illustreert: Bijlage III: hoog-risico AI
Algoritmische monitoring van magazijnmedewerkers, beoordeeld onder de AVG. Onder de AI-verordening valt dit soort gebruik in de werkgelegenheidscategorie van bijlage III, met plichten die per 2 december 2027 gaan gelden; dit besluit gaat over geen van die plichten.
CNIL, besluit SAN-2023-021 van 27 december 2023
Open de primaire bron (CNIL, besluit SAN-2023-021)
praxikon:eu:gdpr:ruling:fr-cnil-amazon-2023
AVG-contextITingetrokken
Italiaanse toezichthouder legt ChatGPT tijdelijke beperking op
- Instantie:
- Garante per la protezione dei dati personali (toezichthouder)
- Kenmerk:
- Garante, docweb 9870832
- Uitspraak:
- 30 maart 2023
- Bij ons opgenomen:
- 13 augustus 2026
De Garante legde OpenAI een tijdelijke verwerkingsbeperking op voor ChatGPT wegens het ontbreken van een grondslag en van leeftijdsverificatie. De beperking werd eind april 2023 opgeheven nadat OpenAI maatregelen trof. De zaak liet vroeg zien dat Europese toezichthouders generatieve AI direct kunnen raken; de transparantie- en informatieplichten voor zulke systemen staan nu in artikel 50 van de AI Act.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 50: transparantie
Een tijdelijke verwerkingsbeperking op een generatief systeem, opgelegd en later opgeheven onder de AVG. De transparantie- en informatieplichten voor zulke systemen staan in artikel 50 van de AI-verordening; deze maatregel steunt daar niet op.
Garante, maatregel van 30 maart 2023, docweb 9870832
Open de primaire bron (Garante, maatregel 30 maart 2023)
praxikon:eu:gdpr:ruling:it-garante-chatgpt-2023
AVG-contextELdefinitief
Griekse toezichthouder beboet Clearview AI met 20 miljoen euro
- Instantie:
- Hellenic Data Protection Authority (toezichthouder)
- Kenmerk:
- HDPA 35/2022
- Uitspraak:
- 13 juli 2022
- Bij ons opgenomen:
- 13 augustus 2026
De Griekse toezichthouder legde Clearview AI een boete van 20 miljoen euro op voor het verwerken van biometrische gegevens van Griekse burgers zonder rechtmatige grondslag. Dezelfde praktijk, het opbouwen van een gezichtsherkenningsdatabase door scraping, valt nu onder het verbod van artikel 5 van de AI Act.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 5: verboden praktijken
Tweede toezichthouder, dezelfde praktijk, dezelfde uitkomst onder de AVG. Dat twee autoriteiten los van elkaar tot een boete kwamen, zegt iets over de praktijk en niets over de uitleg van artikel 5 van de AI-verordening.
HDPA, besluit 35/2022 van 13 juli 2022
Open de primaire bron (HDPA, besluit 35/2022, 13 juli 2022)
praxikon:eu:gdpr:ruling:el-hdpa-clearview-2022
AVG-contextNLdefinitief
Autoriteit Persoonsgegevens beboet Belastingdienst met 3,7 miljoen euro voor de zwarte lijst FSV
- Instantie:
- Autoriteit Persoonsgegevens (AP) (toezichthouder)
- Kenmerk:
- Autoriteit Persoonsgegevens, boetebesluit Fraude Signalering Voorziening van 7 april 2022
- Uitspraak:
- 12 april 2022
- Bij ons opgenomen:
- 11 oktober 2026
De Belastingdienst hield van 2013 tot 2020 in de Fraude Signalering Voorziening (FSV) signalen van mogelijke fraude van ongeveer 270.000 mensen. De AP legde zes boetes op, samen 3,7 miljoen euro (besluit van 7 april 2022, bekendgemaakt op 12 april 2022): onder meer voor het ontbreken van een grondslag, onjuiste gegevens, te lang bewaren en het te laat vragen van advies aan de functionaris gegevensbescherming bij de DPIA. Medewerkers kregen volgens de AP ook de instructie om het frauderisico mede te baseren op nationaliteit en uiterlijk. Een AI-systeem dat bij uitkeringen of toeslagen fraude signaleert, kan onder bijlage III punt 5 onder a van de AI Act vallen als de uitkomst wordt gebruikt om een uitkering of toeslag toe te kennen, te verlagen, in te trekken of terug te vorderen, tenzij artikel 6 lid 3 het systeem uitzondert.
Wat deze uitspraak met welke bepaling doet
illustreert: Bijlage III: hoog-risico AI
Een fraudesignaleringslijst bij een overheid, met zes overtredingen van de AVG. Gebeurt zo een signalering met een AI-systeem bij uitkeringen of toeslagen, dan kan dat onder bijlage III punt 5 onder a van de AI-verordening vallen als de uitkomst wordt gebruikt om een uitkering of toeslag toe te kennen, te verlagen, in te trekken of terug te vorderen, tenzij artikel 6 lid 3 het systeem uitzondert; dit besluit gaat daar niet over.
Autoriteit Persoonsgegevens, boetebesluit van 7 april 2022, bekendgemaakt op 12 april 2022
illustreert: Artikel 27: FRIA
De functionaris gegevensbescherming werd pas na ruim een jaar om advies gevraagd bij de DPIA. Artikel 27 lid 4 laat de FRIA aansluiten op de DPIA; dit besluit steunt op artikel 35 AVG en legt artikel 27 niet uit.
Autoriteit Persoonsgegevens, boetebesluit van 7 april 2022, onderdeel over de DPIA en het advies van de functionaris gegevensbescherming
Open de primaire bron (Autoriteit Persoonsgegevens, persbericht 12 april 2022 en boetebesluit 7 april 2022)
praxikon:eu:gdpr:ruling:nl-ap-belastingdienst-fsv-2022
AVG-contextITdefinitief
Italiaanse toezichthouder beboet Clearview AI met 20 miljoen euro
- Instantie:
- Garante per la protezione dei dati personali (toezichthouder)
- Kenmerk:
- Garante, docweb 9751362
- Uitspraak:
- 9 maart 2022
- Bij ons opgenomen:
- 13 augustus 2026
De Garante legde Clearview AI een boete van 20 miljoen euro op voor het zonder grondslag verzamelen van gezichtsbeelden van internet voor een biometrische zoekdatabase. Het ongericht scrapen van gezichtsbeelden om gezichtsherkenningsdatabases op te bouwen is sinds 2 februari 2025 expliciet verboden onder artikel 5 van de AI Act.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 5: verboden praktijken
Ongericht verzamelen van gezichtsbeelden voor een biometrische zoekdatabase, beoordeeld onder de AVG. Dezelfde praktijk is sinds 2 februari 2025 met zoveel woorden verboden in artikel 5 van de AI-verordening; dit besluit gaat daar niet over.
Garante, besluit van 10 februari 2022, docweb 9751362
Open de primaire bron (Garante, besluit 10 februari 2022)
praxikon:eu:gdpr:ruling:it-garante-clearview-2022
AVG-contextHUdefinitief
Hongaarse toezichthouder beboet bank voor AI-stemanalyse van klantgesprekken
- Instantie:
- Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) (toezichthouder)
- Kenmerk:
- NAIH-85-3/2022
- Uitspraak:
- 8 februari 2022
- Bij ons opgenomen:
- 13 augustus 2026
De NAIH legde een boete van 250 miljoen forint (ongeveer 700.000 euro) op aan een bank die servicegesprekken automatisch met AI op emotie analyseerde, zonder geldige grondslag en zonder de klanten daarover te informeren. Emotieherkenning op de werkvloer en in het onderwijs valt inmiddels onder het verbod van artikel 5 van de AI Act; in klantcontact gelden de transparantieplichten van artikel 50.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 5: verboden praktijken
Emotieherkenning uit spraak, beoordeeld onder de AVG. De AI-verordening verbiedt emotieherkenning op de werkvloer en in het onderwijs in artikel 5; dit besluit ging over klantcontact en onder een ander instrument, en legt artikel 5 dus niet uit.
NAIH-85-3/2022, boetebesluit over geautomatiseerde emotieanalyse van klantgesprekken
illustreert: Artikel 50: transparantie
De klanten wisten niet dat er een AI-analyse op hun gesprek liep. Onder de AI-verordening staat de informatieplicht bij zulke systemen in artikel 50; dit besluit steunt op de AVG en zegt over de uitleg van artikel 50 niets.
NAIH-85-3/2022, onderdeel over het niet informeren van de betrokken klanten
Open de primaire bron (NAIH besluit NAIH-85-3/2022)
praxikon:eu:gdpr:ruling:hu-naih-budapest-bank-2022
AVG-contextNLdefinitief
Autoriteit Persoonsgegevens beboet Belastingdienst met 2,75 miljoen euro voor nationaliteit bij kinderopvangtoeslag
- Instantie:
- Autoriteit Persoonsgegevens (AP) (toezichthouder)
- Kenmerk:
- Autoriteit Persoonsgegevens, boetebesluit Belastingdienst/Toeslagen van 25 november 2021
- Uitspraak:
- 7 december 2021
- Bij ons opgenomen:
- 11 oktober 2026
De dienst Toeslagen bewaarde jarenlang ten onrechte de dubbele nationaliteit van Nederlanders en gebruikte de nationaliteit van aanvragers van kinderopvangtoeslag in een risicomodel en bij fraudebestrijding, terwijl dat niet nodig was. De AP oordeelde dat die verwerking onrechtmatig was en door het discriminerende karakter ook onbehoorlijk, en legde een boete op van 2,75 miljoen euro (besluit van 25 november 2021, bekendgemaakt op 7 december 2021). Onder de AI Act beschrijft een FRIA de risico’s op schade voor groepen, en onderzoekt de aanbieder van een hoog-risicosysteem zijn datasets op vertekening.
Wat deze uitspraak met welke bepaling doet
illustreert: Artikel 27: FRIA
Nationaliteit als risicofactor in een fraudemodel, onder de AVG onrechtmatig en door het discriminerende karakter onbehoorlijk. Een FRIA onder artikel 27 beschrijft de risico’s op schade voor de groepen die een systeem raakt; dit besluit steunt op de AVG en legt die bepaling niet uit.
Autoriteit Persoonsgegevens, boetebesluit van 25 november 2021, bekendgemaakt op 7 december 2021
illustreert: Artikel 10: data en datagovernance
Een kenmerk dat in een model tot ongelijke behandeling leidt. De aanbieder van een hoog-risicosysteem onderzoekt zijn datasets op vertekening onder artikel 10; dit besluit gaat over de verwerking onder de AVG en niet over die plicht.
Autoriteit Persoonsgegevens, boetebesluit van 25 november 2021, onderdeel over het gebruik van nationaliteit in het risicomodel
Open de primaire bron (Autoriteit Persoonsgegevens, persbericht 7 december 2021 en boetebesluit 25 november 2021)
praxikon:eu:gdpr:ruling:nl-ap-belastingdienst-nationaliteit-2021
AVG-contextNLdefinitief
SyRI: wetgeving voor een risicomodel van de overheid biedt onvoldoende waarborgen
- Instantie:
- Rechtbank Den Haag (nationale rechter)
- Kenmerk:
- ECLI:NL:RBDHA:2020:865 (C/09/550982 / HA ZA 18-388)
- Uitspraak:
- 5 februari 2020
- Bij ons opgenomen:
- 11 oktober 2026
De rechtbank verklaarde de wettelijke basis van het Systeem Risico Indicatie (SyRI), waarmee de overheid gegevens koppelde om fraude met uitkeringen en toeslagen te signaleren, onverbindend wegens strijd met artikel 8 EVRM. Zonder inzicht in de risico-indicatoren en het risicomodel, of wettelijke waarborgen die dat opvangen, valt niet vast te stellen dat de inbreuk op het privéleven proportioneel is. De rechtbank betrok daarbij de beginselen van transparantie, doelbinding en dataminimalisatie uit de AVG. Een AI-systeem dat beoordeelt of iemand recht heeft op een uitkering, valt onder de AI Act in bijlage III punt 5 onder a, met plichten die per 2 december 2027 gaan gelden.
Wat deze uitspraak met welke bepaling doet
illustreert: Bijlage III: hoog-risico AI
Een risicomodel van de overheid voor fraude met uitkeringen en toeslagen, getoetst aan artikel 8 EVRM met de beginselen van de AVG. Onder de AI-verordening valt zo een systeem, als het een AI-systeem is, in bijlage III punt 5 onder a; deze uitspraak gaat daar niet over en legt de verordening niet uit.
Rechtbank Den Haag 5 februari 2020, rechtsoverwegingen 6.86, 6.95 en 7.2
illustreert: Artikel 27: FRIA
De rechtbank woog of de inbreuk op het privéleven proportioneel was en vond dat zonder inzicht in indicatoren en model niet vast te stellen. Een FRIA onder artikel 27 legt een vergelijkbare afweging vast voor het eerste gebruik; deze uitspraak steunt op het EVRM en niet op die bepaling.
Rechtbank Den Haag 5 februari 2020, rechtsoverweging 6.95 en de beslissing
Open de primaire bron (Rechtbank Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865)
praxikon:eu:gdpr:ruling:nl-rbdha-syri-2020