Ga naar de hoofdinhoud
Praxikon
Artikel 5 van 1134%
English

Artikel 5: Verboden AI-praktijken

Artikel 5 verbiedt AI-praktijken met een onaanvaardbaar risico, zoals schadelijke manipulatie, social scoring, emotieherkenning op de werkplek en in het onderwijs en het ongericht scrapen van gezichtsbeelden. De verboden gelden sinds 2 februari 2025 en een overtreding kan sinds 2 augustus 2025 worden beboet met tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet. Vanaf 2 december 2026 komen er twee verboden bij: AI voor niet-consensuele intieme beelden en voor materiaal van seksueel kindermisbruik.

, AI- en privacyjuristverplichtingen gecontroleerd tegen de bron op

Praxikon houdt artikel 5 (Verboden AI-praktijken) uit de EU AI Act bij, met per uitspraak de vindplaats erbij.

EU Official:
ActiefVan kracht sinds 2 feb 2025
Titel II: Verboden AI-praktijkenVan toepassing vanaf: 2 februari 2025

Welke AI-praktijken zijn verboden onder artikel 5?

Het verbod geldt voor het in de handel brengen, het in gebruik stellen én het gebruiken van zulke AI. Het raakt dus zowel de aanbieder die het systeem maakt als de organisatie die het inzet. Dit zijn de verboden uit artikel 5 lid 1, in gewone taal en met per verbod één voorbeeld.

  1. Artikel 5 lid 1 onder a

    Schadelijke manipulatie en misleiding

    AI die met subliminale technieken of doelbewust manipulatieve of misleidende technieken het gedrag van mensen wezenlijk verstoort, zodat zij een besluit nemen dat zij anders niet hadden genomen en dat (waarschijnlijk) aanzienlijke schade veroorzaakt.

    Voorbeeld: Een app die gebruikers met verborgen prikkels tot steeds hogere inzetten beweegt, met aanzienlijke financiële schade als gevolg.

    Gewone personalisatie of overtuigende reclame valt er niet zonder meer onder: het gaat om wezenlijke verstoring met aanzienlijke schade.

  2. Artikel 5 lid 1 onder b

    Uitbuiten van kwetsbaarheden

    AI die misbruik maakt van kwetsbaarheden door leeftijd, een handicap of een specifieke sociale of economische situatie, en daarmee het gedrag wezenlijk verstoort met (waarschijnlijk) aanzienlijke schade.

    Voorbeeld: Een chatbot die ouderen met beginnende dementie aanzet tot dure financiële producten die zij niet kunnen overzien.

  3. Artikel 5 lid 1 onder b bis (vanaf 2 december 2026)

    Niet-consensuele intieme beelden

    AI die realistische beelden, video, audio of vergelijkbaar materiaal maakt of bewerkt van de intieme delen van een herkenbaar persoon, of van zo iemand bij seksuele handelingen, zonder diens uitdrukkelijke toestemming.

    Voorbeeld: Een zogenoemde uitkleedapp die van een gewone foto van een herkenbaar persoon een naaktbeeld maakt.

    Voor een aanbieder is het verboden als dit het beoogde doel is, of als het systeem dit voorzienbaar kan zonder redelijke waarborgen; voor een gebruiksverantwoordelijke als die het systeem daarvoor gebruikt (lid 1 bis).

  4. Artikel 5 lid 1 onder b ter (vanaf 2 december 2026)

    Materiaal van seksueel kindermisbruik

    AI die materiaal van seksueel kindermisbruik maakt of bewerkt in de zin van Richtlijn 2011/93/EU.

    Voorbeeld: Een beeldgenerator zonder waarborgen die zulk materiaal op verzoek maakt.

    Dezelfde afbakening uit lid 1 bis geldt: beoogd doel of voorzienbaar resultaat zonder redelijke waarborgen.

  5. Artikel 5 lid 1 onder c

    Social scoring

    Mensen of groepen over een periode beoordelen of indelen op basis van sociaal gedrag of persoonlijke kenmerken, waarbij de score leidt tot nadelige behandeling in een context die losstaat van de herkomst van de gegevens, of tot behandeling die ongerechtvaardigd of onevenredig is. Het verbod geldt voor overheden én private partijen.

    Voorbeeld: Een verhuurder die huurders weert op basis van een score uit hun gedrag op sociale media.

    Een kredietscore op basis van relevante financiële gegevens is geen social scoring, maar wel hoog risico (bijlage III punt 5 onder b).

    Wat is social scoring?
  6. Artikel 5 lid 1 onder d

    Criminaliteit voorspellen op basis van alleen profilering

    Inschatten of voorspellen of iemand een strafbaar feit zal plegen, uitsluitend op basis van profilering of persoonlijkheidskenmerken.

    Voorbeeld: Een systeem dat inwoners als toekomstige dader markeert alleen op basis van woonwijk, leeftijd en een persoonlijkheidsprofiel.

    Niet verboden: AI die een menselijke beoordeling ondersteunt die al rust op objectieve en controleerbare feiten over een criminele activiteit.

  7. Artikel 5 lid 1 onder e

    Ongericht gezichtsbeelden scrapen

    Gezichtsherkenningsdatabanken aanleggen of uitbreiden door ongericht gezichtsbeelden van internet of camerabeelden te verzamelen.

    Voorbeeld: Massaal profielfoto’s van sociale media binnenhalen om een gezichtszoekmachine te bouwen.

  8. Artikel 5 lid 1 onder f

    Emotieherkenning op de werkplek en in het onderwijs

    Emoties van mensen afleiden op de werkplek en in onderwijsinstellingen, behalve wanneer het systeem bedoeld is voor medische of veiligheidsredenen.

    Voorbeeld: Software die uit stem of gezicht van callcentermedewerkers afleidt of zij gefrustreerd zijn.

    Vermoeidheidsdetectie die geen emoties afleidt, valt niet onder de definitie van emotieherkenning (artikel 3 punt 39, overweging 18).

    Emotieherkenning op de werkplek: wat mag wel en niet
  9. Artikel 5 lid 1 onder g

    Biometrische categorisering naar gevoelige kenmerken

    Mensen op basis van biometrische gegevens indelen om hun ras, politieke opvattingen, vakbondslidmaatschap, religie of levensovertuiging, seksleven of seksuele gerichtheid af te leiden.

    Voorbeeld: Camerasoftware die uit gezichtsbeelden afleidt welke religie bezoekers hebben.

    Niet verboden: het labelen of filteren van rechtmatig verkregen biometrische datasets, en categorisering op het gebied van rechtshandhaving.

  10. Artikel 5 lid 1 onder h

    Realtime gezichtsherkenning op straat door de politie

    Realtime biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving.

    Voorbeeld: Politie die live gezichtsherkenning draait op een druk plein en iedereen vergelijkt met een databank.

    Alleen toegestaan als het strikt noodzakelijk is voor drie doelen: gericht zoeken naar slachtoffers en vermiste personen, een concrete dreiging voor het leven of een terroristische aanslag afwenden, of verdachten van zware misdrijven uit bijlage II opsporen. Daarvoor is vooraf toestemming van een rechter of onafhankelijke autoriteit nodig; bij spoed mag het gebruik beginnen als die toestemming binnen 24 uur wordt gevraagd (lid 3).

Sinds wanneer gelden de verboden?

De verboden gelden sinds 2 februari 2025 (artikel 113 onder a). Een overtreding kan sinds 2 augustus 2025 worden beboet, toen de boetebepalingen van toepassing werden (artikel 113 onder b). De Digital Omnibus (Verordening (EU) 2026/1744) heeft de bestaande verboden niet uitgesteld.

De twee nieuwe verboden onder b bis en b ter, over niet-consensuele intieme beelden en materiaal van seksueel kindermisbruik, zijn door die Omnibus toegevoegd en gelden vanaf 2 december 2026 (artikel 113 onder a).

Hoe hoog is de boete?

Tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, als dat hoger is (artikel 99 lid 3). Dat is het hoogste boeteplafond van de AI Act.

Voor kmo’s, start-ups inbegrepen, geldt het laagste van die twee bedragen (artikel 99 lid 6). Voor kleine midcapondernemingen geldt die verlaging niet bij een verboden praktijk: de regel voor hen (artikel 99 lid 6 bis) dekt alleen de boetes van lid 4 en 5.

Officiële tekst

||

Bron: EUR-Lex, Verordening (EU) 2024/1689. Tekst ongewijzigd overgenomen.

Download AI Act (PDF) →

Beslisboom

Valt uw toepassing onder een verboden praktijk?

Toets per concrete inzet en context, niet per techniek: dezelfde techniek kan op de ene plek verboden zijn en op de andere toegestaan. De verboden gelden voor aanbieders én gebruiksverantwoordelijken.

Vraag 1 · art. 5 lid 1 onder a

Gebruikt het systeem subliminale technieken of doelbewust manipulatieve of misleidende technieken die het gedrag van mensen wezenlijk verstoren, doordat zij geen geïnformeerd besluit meer kunnen nemen, op een manier die aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken?

Het doel of het effect telt. Gewone overtuigende reclame valt hier niet onder; verborgen beïnvloeding die tot schadelijke beslissingen leidt wel.

Volledig schema
  1. 1

    Gebruikt het systeem subliminale technieken of doelbewust manipulatieve of misleidende technieken die het gedrag van mensen wezenlijk verstoren, doordat zij geen geïnformeerd besluit meer kunnen nemen, op een manier die aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken?

    art. 5 lid 1 onder a

    • Ja → Uitkomst A
    • Nee → Vraag 2
  2. 2

    Maakt het systeem misbruik van kwetsbaarheden van personen door hun leeftijd, handicap of specifieke sociale of economische situatie, met als doel of gevolg dat hun gedrag wezenlijk wordt verstoord op een manier die aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken?

    art. 5 lid 1 onder b

    • Ja → Uitkomst B
    • Nee → Vraag 3
  3. 3

    Genereert of manipuleert het systeem realistisch beeld, video, audio of vergelijkbaar materiaal van de intieme delen van een identificeerbare persoon, of van een identificeerbare persoon die seksueel expliciete gedragingen verricht, zonder diens vrijelijk gegeven, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming, of materiaal of een voorstelling van seksueel misbruik van kinderen, en voldoet u aan de toets voor uw rol?

    art. 5 lid 1 onder b bis en b ter

    • Ja, volgens de toets voor mijn rol → Uitkomst C
    • Nee → Vraag 4
  4. 4

    Beoordeelt of classificeert het systeem personen over een bepaalde periode op basis van hun sociale gedrag of bekende, afgeleide of voorspelde persoonlijke kenmerken, en leidt die score tot nadelige behandeling in een context die losstaat van waar de gegevens vandaan komen, of tot nadelige behandeling die ongerechtvaardigd of onevenredig is ten opzichte van hun sociale gedrag of de ernst daarvan?

    art. 5 lid 1 onder c

    • Ja → Uitkomst D
    • Nee → Vraag 5
  5. 5

    Beoordeelt het systeem het risico dat iemand een strafbaar feit pleegt, uitsluitend op basis van profilering of van persoonlijkheidskenmerken?

    art. 5 lid 1 onder d

    • Ja → Vraag 6
    • Nee → Vraag 7
  6. 6

    Ondersteunt het systeem alleen een menselijke beoordeling van iemands betrokkenheid bij een criminele activiteit, die al is gebaseerd op objectieve en verifieerbare feiten die rechtstreeks verband houden met die activiteit?

    art. 5 lid 1 onder d

    • Ja → Uitkomst F
    • Nee → Uitkomst E
  7. 7

    Maakt of vergroot het systeem een databank voor gezichtsherkenning door ongericht gezichtsafbeeldingen van internet of camerabeelden te scrapen?

    art. 5 lid 1 onder e

    • Ja → Uitkomst G
    • Nee → Vraag 8
  8. 8

    Leidt het systeem emoties of intenties van personen af op basis van hun biometrische gegevens, zoals gezicht, stem of houding, op de werkplek of in een onderwijsinstelling?

    art. 5 lid 1 onder f · art. 3 punt 39

    • Ja → Vraag 9
    • Nee → Vraag 10
  9. 9

    Is het systeem bedoeld om om medische of veiligheidsredenen in gebruik te worden gesteld of in de handel te worden gebracht?

    art. 5 lid 1 onder f

    • Ja → Uitkomst I
    • Nee → Uitkomst H
  10. 10

    Deelt het systeem personen individueel in op basis van biometrische gegevens om hun ras, politieke opvattingen, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden?

    art. 5 lid 1 onder g

    • Ja → Uitkomst J
    • Nee → Vraag 11
  11. 11

    Gebruikt u systemen voor biometrische identificatie op afstand in real time in openbaar toegankelijke ruimten, met het oog op rechtshandhaving?

    art. 5 lid 1 onder h

    • Ja → Uitkomst K
    • Nee → Uitkomst L

Uitkomst A · Verboden

Verboden: schadelijke manipulatie of misleiding

Het in de handel brengen, in gebruik stellen en gebruiken van dit systeem is sinds 2 februari 2025 verboden. Overtreding van artikel 5 kent het hoogste boeteplafond: 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, voor kmo’s het laagste van de twee.

art. 5 lid 1 onder a · art. 99 lid 3 · art. 99 lid 6

Uitkomst B · Verboden

Verboden: misbruik van kwetsbaarheden

Een systeem dat misbruik maakt van kwetsbaarheden door leeftijd, handicap of sociale of economische situatie en daardoor aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken, is sinds 2 februari 2025 verboden.

art. 5 lid 1 onder b · art. 99 lid 3

Uitkomst C · Verboden

Verboden vanaf 2 december 2026: intiem materiaal zonder toestemming en kindermisbruikmateriaal

Voor de aanbieder geldt het verbod als dit genereren het beoogde doel is, of als het zonder aanzienlijke technische aanpassing een redelijkerwijs voorzienbaar en reproduceerbaar resultaat is en het systeem geen redelijke en adequate waarborgen heeft om dat betrouwbaar te voorkomen en gemeld misbruik te corrigeren. Voor de gebruiksverantwoordelijke geldt het verbod als die het systeem voor dat doel gebruikt. Het verbod op kindermisbruikmateriaal geldt niet waar het nationale recht een verweer van niet-wederrechtelijkheid kent. Los van de AI Act kan het maken of verspreiden van dit materiaal nu al strafbaar zijn.

art. 5 lid 1 onder b bis · art. 5 lid 1 onder b ter · art. 5 lid 1 bis · art. 5 lid 1 ter · art. 113 onder a

Uitkomst D · Verboden

Verboden: sociale scoring

Sociale scoring die leidt tot nadelige behandeling in een losstaande context, of tot ongerechtvaardigde of onevenredige behandeling, is sinds 2 februari 2025 verboden. Het verbod geldt voor publieke én private partijen.

art. 5 lid 1 onder c

Uitkomst E · Verboden

Verboden: voorspellen van criminaliteit op profiel

Risicobeoordelingen die voorspellen of iemand een strafbaar feit pleegt, uitsluitend op basis van profilering of persoonlijkheidskenmerken, zijn sinds 2 februari 2025 verboden.

art. 5 lid 1 onder d

Uitkomst F · Nader toetsen

Niet verboden; bij rechtshandhaving hoog risico

Het verbod geldt niet voor systemen die een menselijke beoordeling ondersteunen die al op objectieve en verifieerbare feiten berust. Wordt het systeem gebruikt door of namens een rechtshandhavingsinstantie om het risico op (her)overtreding te beoordelen, dan staat het in bijlage III punt 6 onder d en is het in beginsel hoog risico. Gebruikt een private partij het buiten rechtshandhaving, dan toetst u de classificatie apart onder artikel 6.

art. 5 lid 1 onder d · art. 6 lid 2 · bijlage III punt 6 onder d

Uitkomst G · Verboden

Verboden: ongericht scrapen voor gezichtsherkenning

Databanken voor gezichtsherkenning aanleggen of uitbreiden door ongericht gezichtsafbeeldingen van internet of camerabeelden te scrapen is sinds 2 februari 2025 verboden, zonder uitzondering.

art. 5 lid 1 onder e

Uitkomst H · Verboden

Verboden: emotieherkenning op werk of school

Emotieherkenning op de werkplek en in het onderwijs is sinds 2 februari 2025 verboden, behalve om medische of veiligheidsredenen.

art. 5 lid 1 onder f · art. 3 punt 39

Uitkomst I · Nader toetsen

Uitzondering voor medische of veiligheidsredenen, wel hoog risico

Bij een echte medische of veiligheidsreden valt het systeem niet onder het verbod. Emotieherkenning staat wel in bijlage III punt 1 onder c en is dan in beginsel hoog risico. Gebruiksverantwoordelijken moeten de betrokkenen bovendien informeren (artikel 50 lid 3).

art. 5 lid 1 onder f · bijlage III punt 1 onder c · art. 50 lid 3

Uitkomst J · Verboden

Verboden: biometrische categorisering op gevoelige kenmerken

Dit is sinds 2 februari 2025 verboden. Het verbod geldt niet voor het labelen of filteren van rechtmatig verkregen biometrische datasets, zoals afbeeldingen, en niet voor het categoriseren van biometrische gegevens bij rechtshandhaving.

art. 5 lid 1 onder g

Uitkomst K · Verboden

Verboden, behalve in drie strikt omschreven gevallen

Alleen als het strikt noodzakelijk is voor het gericht zoeken naar slachtoffers of vermiste personen, het voorkomen van een concrete en acute dreiging of terroristische aanslag, of het opsporen van verdachten van ernstige strafbare feiten uit bijlage II. Dan gelden een nationale wettelijke basis, voorafgaande toestemming van een rechter of onafhankelijke autoriteit, een FRIA en registratie.

art. 5 lid 1 onder h · art. 5 lid 2 · art. 5 lid 3 · art. 5 lid 5

Uitkomst L · Geldt niet

Geen verboden praktijk gevonden

Op grond van uw antwoorden valt de toepassing niet onder artikel 5. Leg de toets vast met de motivering per punt, en toets daarna of het systeem hoog risico is (artikel 6) en of er transparantieplichten gelden (artikel 50).

art. 5 · art. 6 · art. 50

Een beslisboom versimpelt. Twijfelt u bij een vraag, lees dan de vindplaats of laat het beoordelen. Gecontroleerd tegen de wettekst op 1 oktober 2026.

Officiële uitleg bij dit artikel

5

Wat betekent dit voor u?

Aanbieder (Provider)+
Als aanbieder mag u geen AI-systeem in de handel brengen of in gebruik stellen dat onder een van de verboden van artikel 5 lid 1 valt, zoals schadelijke manipulatie, het uitbuiten van kwetsbaarheden, social scoring of emotieherkenning voor de werkplek of het onderwijs. Die verboden gelden sinds 2 februari 2025. Maakt uw systeem beelden, video of audio, controleer dan ook de verboden onder b bis en b ter die vanaf 2 december 2026 gelden: zonder redelijke waarborgen tegen niet-consensuele intieme beelden en materiaal van seksueel kindermisbruik kan het systeem eronder vallen (lid 1 bis).
Deployer (Gebruiksverantwoordelijke)+
Als gebruiksverantwoordelijke mag u geen AI gebruiken voor een verboden praktijk, ook niet als u het systeem hebt ingekocht. Toets per concrete inzet en context, en let in het bijzonder op emotieherkenning bij eigen medewerkers of in het onderwijs: die is verboden, behalve om medische of veiligheidsredenen (lid 1 onder f). Leg de uitkomst per systeem vast.
MKB / Startup+
Ook voor kleine bedrijven gelden de verboden volledig. Het verschil zit in de boete: voor kmo's en start-ups geldt het laagste van 35 miljoen euro of 7 procent van de jaaromzet (artikel 99 lid 6). De meeste mkb-bedrijven raken geen verbod, maar controleer AI voor medewerkersbeoordeling, klantprofilering en biometrie.
Overheid+
Overheden mogen geen social scoring toepassen en geen criminaliteit voorspellen uitsluitend op basis van profilering. Realtime biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving is verboden, behalve voor de drie doelen uit lid 1 onder h, met voorafgaande toestemming van een rechter of onafhankelijke autoriteit (lid 3).

Relevante overwegingen

Relevante tools

Gerelateerde handhaving

  • •
    AI Act verboden praktijken treden in werking — nog geen handhavingsactiesEuropean AI Office · feb 2025↗
  • •
    CNIL beboet Amazon €32 miljoen voor AI-werknemersmonitoringCNIL · dec 2023↗
  • •
    AP beboet Clearview AI voor €30,5 miljoenAutoriteit Persoonsgegevens · sep 2023↗
  • •
    Clearview AI beboet voor €20 miljoen door Italiaanse toezichthouderGarante per la protezione dei dati personali · mei 2022↗
  • •
    Griekse toezichthouder beboet Clearview AI voor €20 miljoenHellenic Data Protection Authority · mei 2022↗

Gerelateerde blogposts

Kruisverwijzingen

Overwegingen

Bijlagen

Veelgestelde vragen

Welke AI-praktijken zijn verboden onder de AI Act?+
Artikel 5 lid 1 verbiedt schadelijke manipulatie en misleiding (onder a), het uitbuiten van kwetsbaarheden door leeftijd, handicap of sociale of economische situatie (onder b), social scoring (onder c), het voorspellen van criminaliteit uitsluitend op basis van profilering (onder d), het ongericht scrapen van gezichtsbeelden voor gezichtsherkenningsdatabanken (onder e), emotieherkenning op de werkplek en in het onderwijs, behalve om medische of veiligheidsredenen (onder f), biometrische categorisering naar gevoelige kenmerken (onder g) en realtime biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving, met smalle uitzonderingen (onder h). Vanaf 2 december 2026 komen daar AI voor niet-consensuele intieme beelden (onder b bis) en voor materiaal van seksueel kindermisbruik (onder b ter) bij.
Wat zijn de boetes voor verboden AI-praktijken?+
Een overtreding van artikel 5 kan worden beboet met tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, als dat hoger is (artikel 99 lid 3). Voor kmo's, start-ups inbegrepen, geldt het laagste van die twee (artikel 99 lid 6). Voor kleine midcapondernemingen geldt die verlaging niet bij artikel 5: artikel 99 lid 6 bis dekt alleen de boetes van lid 4 en 5.
Sinds wanneer gelden de verboden AI-praktijken?+
De verboden uit artikel 5 gelden sinds 2 februari 2025 (artikel 113 onder a). Boetes kunnen sinds 2 augustus 2025 worden opgelegd, toen de boetebepalingen van toepassing werden (artikel 113 onder b). De twee verboden die de Digital Omnibus (Verordening (EU) 2026/1744) toevoegde, over niet-consensuele intieme beelden en materiaal van seksueel kindermisbruik, gelden vanaf 2 december 2026.
Hoe verhoudt artikel 5 van de AI Act zich tot de AVG?+
Ze gelden naast elkaar. Artikel 5 verbiedt bepaalde AI-praktijken; de AVG blijft onverkort gelden voor de verwerking van persoonsgegevens (artikel 2 lid 7 AI Act). Een toepassing die net buiten artikel 5 valt, kan dus nog steeds in strijd zijn met de AVG, bijvoorbeeld bij de verwerking van biometrische gegevens (artikel 9 AVG).
Is er uitstel voor artikel 5 door de Digital Omnibus?+
Nee. De Digital Omnibus (Verordening (EU) 2026/1744) heeft de bestaande verboden niet uitgesteld; die gelden sinds 2 februari 2025. Uitgesteld zijn de hoog-risicoplichten: naar 2 december 2027 voor de route via bijlage III en naar 2 augustus 2028 voor de route via bijlage I. De Omnibus voegde wel twee verboden toe die vanaf 2 december 2026 gelden.
Wat is het verschil tussen aanbieder en gebruiksverantwoordelijke bij artikel 5?+
Het verbod raakt beide. De aanbieder mag een verboden systeem niet in de handel brengen of in gebruik stellen; de gebruiksverantwoordelijke mag het niet gebruiken. Bij de nieuwe verboden onder b bis en b ter is dat precies afgebakend: de aanbieder valt eronder als het beoogde doel dat is, of als het systeem het voorzienbaar doet zonder redelijke waarborgen; de gebruiksverantwoordelijke als die het systeem daarvoor gebruikt (artikel 5 lid 1 bis).
Mag ik nog emotieherkenning gebruiken in mijn bedrijf?+
Niet op uw eigen medewerkers of in het onderwijs: emotieherkenning op de werkplek en in onderwijsinstellingen is verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f). In andere situaties, bijvoorbeeld bij klanten, is emotieherkenning niet verboden maar wel hoog risico (bijlage III punt 1 onder c), en moet u de betrokkenen informeren (artikel 50 lid 3). Vermoeidheidsdetectie die geen emoties afleidt, valt niet onder de definitie (artikel 3 punt 39, overweging 18).
Is social scoring door bedrijven ook verboden of alleen door de overheid?+
Beide. Artikel 5 lid 1 onder c verbiedt AI die personen of groepen over een periode beoordeelt op basis van sociaal gedrag of persoonlijke kenmerken, als de score leidt tot nadelige behandeling in een context die losstaat van de herkomst van de gegevens, of tot behandeling die ongerechtvaardigd of onevenredig is. Dat geldt voor overheden én private organisaties.
Wat is het verschil tussen social scoring en een gewone kredietbeoordeling?+
Een kredietbeoordeling op basis van relevante financiële gegevens, zoals inkomen en betalingsgeschiedenis, is geen social scoring. Zo'n systeem is wel hoog risico (bijlage III punt 5 onder b). Het wordt een probleem onder artikel 5 als gedrag uit een andere context, zoals sociale media, tot nadelige behandeling leidt of als die behandeling onevenredig is.
Valt een gewone AI-chatbot onder de verboden praktijken?+
Doorgaans niet. Voor een chatbot geldt meestal de meldplicht van artikel 50 lid 1: mensen moeten weten dat zij met AI praten. Een chatbot valt alleen onder artikel 5 als hij mensen schadelijk manipuleert of kwetsbaarheden uitbuit (onder a of b), of als hij emoties afleidt van medewerkers of leerlingen (onder f).
Mag de politie realtime gezichtsherkenning in de openbare ruimte gebruiken?+
In beginsel niet (artikel 5 lid 1 onder h). Alleen als het strikt noodzakelijk is voor gericht zoeken naar slachtoffers of vermiste personen, voor het afwenden van een concrete dreiging voor het leven of een terroristische aanslag, of voor het opsporen van verdachten van zware misdrijven uit bijlage II. Daarvoor is vooraf toestemming nodig van een rechter of een onafhankelijke autoriteit (artikel 5 lid 3).
Hoe weet ik of mijn AI-systeem onder de verboden praktijken valt?+
Toets per concrete inzet en context, niet per technologie: dezelfde techniek kan op de werkplek verboden zijn en elders toegestaan. Loop de verboden van artikel 5 lid 1 per systeem langs en leg de uitkomst vast, ook als die luidt dat er geen verboden praktijk is. De casus-check van Praxikon doet die eerste toets gratis, en de richtsnoeren van de Europese Commissie van 4 februari 2025 geven per verbod voorbeelden.
Wat is het verschil tussen verboden AI en hoog-risico AI?+
Verboden AI (artikel 5) mag in de EU helemaal niet: er is geen manier om eraan te voldoen. Hoog-risico AI (artikel 6 en bijlage III) mag wel, maar alleen met eisen voor risicobeheer, data, documentatie, transparantie en menselijk toezicht. Die eisen gelden voor de bijlage III-route vanaf 2 december 2027.

Wat artikel 5 in de praktijk van u vraagt

Samenhang

Wat samenhangt met artikel 5 AI Act

Thema’s waarin dit terugkomt

Waar dit de andere wet raakt

De tegenhanger in de andere wet

AVG-uitleg die hier ook raakt6 van 10