Waarom hangt dit object aan dat object

Toets Artikel 5, Artikel 6 en Bijlage III in die volgorde en leg doel, context en eventuele uitzondering uit Artikel 6 lid 3 vast.

Hangt aan: Bijlage III: hoog-risico AI

Redactioneel gecontroleerd | high-risk

Benoem per hoog-risico systeem met naam wie toezicht houdt, en zorg dat die persoon bekwaamheid, opleiding, autoriteit en ondersteuning heeft om de uitkomst daadwerkelijk terzijde te kunnen schuiven.

Hangt aan: Artikel 26: de plichten van de gebruiksverantwoordelijke van een hoog-risico AI-systeem

Redactioneel gecontroleerd | high-risk-requirements

Beoordeel herkomst, representativiteit, fouten en volledigheid en onderzoek mogelijke bias met passende mitigatie.

Hangt aan: Artikel 10: data en datagovernance

Redactioneel gecontroleerd | high-risk-requirements

Zorg dat het systeem gebeurtenissen automatisch registreert die relevant zijn voor risico-identificatie en post-market monitoring.

Hangt aan: Artikel 12: logging en traceerbaarheid

Redactioneel gecontroleerd | high-risk-requirements

Beschrijf capaciteiten, beperkingen, nauwkeurigheid, toezichtsmaatregelen en verwachte levensduur in begrijpelijke vorm.

Hangt aan: Artikel 13: transparantie richting gebruiksverantwoordelijken

Redactioneel gecontroleerd | high-risk-requirements

Bepaal per systeem de toezichtsmaatregelen, wijs bekwame personen aan en geef hun mandaat om in te grijpen of te stoppen.

Hangt aan: Artikel 14: menselijk toezicht

Redactioneel gecontroleerd | high-risk-requirements

Bepaal per rol, systeem en gebruikscontext welke combinatie van instructie, begeleiding, oefening of training passend is.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

Zet rollen af tegen de AI-systemen die zij gebruiken en noteer per combinatie wat iemand moet kunnen beoordelen: wat het systeem doet, waar het faalt, op wie het wordt toegepast en wanneer iemand moet ingrijpen of escaleren.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

Koppel de geletterdheidsmaatregel aan twee vaste momenten in bestaande processen: de uitrol van een nieuwe AI-tool en de onboarding van iemand die toegang krijgt tot een bestaande tool.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

Controleer vóór inkoop, bouw of ingebruikname of de toepassing onder een verboden praktijk valt en staak of herontwerp bij twijfel niet pas achteraf.

Hangt aan: Artikel 5: verboden praktijken

Redactioneel gecontroleerd | prohibited-practices

Bepaal eerst welk lid van Artikel 50 geldt en implementeer daarna de specifieke transparantiemaatregel.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Bepaal per kanaal of het gaat om tekst die wordt gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang, wie de menselijke review uitvoert, wie de redactionele verantwoordelijkheid draagt, en welke standaardformulering u gebruikt wanneer de melding wel nodig is.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Loop per AI-systeem de onderscheiden scenario's van Artikel 50 langs (directe interactie, synthetische output, emotieherkenning of biometrische categorisatie, deepfake, gepubliceerde tekst van algemeen belang) en noteer per lid of het geldt, niet geldt of onder een uitzondering valt, met de reden erbij.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Dien een aanvraag in bij de bevoegde autoriteit, kom een specifiek testomgevingsplan overeen en leg vast welke onzekerheid over de verordening u binnen de testomgeving wilt oplossen.

Hangt aan: Artikel 57: AI-testomgevingen voor regelgeving

Redactioneel gecontroleerd | innovation

Stel een plan voor tests onder reele omstandigheden op, dien het in bij de markttoezichtautoriteit, wacht op goedkeuring, registreer de test met een Uniebreed uniek identificatienummer en leg de rolverdeling met uw gebruiksverantwoordelijke vast.

Hangt aan: Artikel 60: testen onder reele omstandigheden buiten een testomgeving

Redactioneel gecontroleerd | innovation

Verzamel en analyseer systematisch praktijkdata over de prestaties en naleving van het systeem gedurende zijn levensduur.

Hangt aan: Artikel 72: post-market monitoring

Redactioneel gecontroleerd | post-market

Definieer wat een ernstig incident is, beleg de meldroute naar de toezichthouder en oefen het proces.

Hangt aan: Artikel 73: melding van ernstige incidenten

Redactioneel gecontroleerd | post-market

Zorg dat uw klachten- of bezwaarloket een verzoek om uitleg over een AI-ondersteund besluit herkent, dat er per besluit terug te vinden is welk systeem in welke versie eraan bijdroeg, en dat iemand is aangewezen die de uitleg kan geven.

Hangt aan: Artikel 86: recht op uitleg bij een besluit

Redactioneel gecontroleerd | fundamental-rights

Leg per AI-systeem vast welke beoordeling is gedaan, door wie, op welke datum en tegen welke systeemversie, en spreek af wie een vraag van de toezichthouder aanneemt en binnen welke termijn.

Hangt aan: Artikel 85: klachtrecht bij de markttoezichthouder

Redactioneel gecontroleerd | fundamental-rights

Toets bij white-labeling, wezenlijke wijziging of doelverandering of uw organisatie aanbieder wordt, en regel de gemachtigde bij levering van buiten de EU.

Hangt aan: Artikel 22-25: waardeketen en gemachtigde

Redactioneel gecontroleerd | value-chain

Een gebruiksverantwoordelijke van de relevante kredietwaardigheids- of levens- en ziektekostenverzekeringssystemen in Bijlage III punt 5(b) of 5(c).

Redactioneel gecontroleerd | fundamental-rights, high-risk

Een organisatie die een AI-systeem onder haar gezag gebruikt, buiten persoonlijk niet-professioneel gebruik.

Redactioneel gecontroleerd | governance

Een gebruiksverantwoordelijke die een publiekrechtelijke instantie is.

Redactioneel gecontroleerd | fundamental-rights

Een private gebruiksverantwoordelijke die publieke diensten aanbiedt.

Redactioneel gecontroleerd | fundamental-rights

De verordening is op 1 augustus 2024 in werking getreden; de plichten volgden daarna gefaseerd.

Hangt aan: Artikel 4: AI-geletterdheid, Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | timeline

Sinds 2 februari 2025 gelden het verbod van artikel 5 en de AI-geletterdheidsplicht van artikel 4.

Hangt aan: Artikel 4: AI-geletterdheid, Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | ai-literacy, timeline

De Commissie trekt de grens tussen software die wel en niet onder de verordening valt.

Hangt aan: Bijlage III: hoog-risico AI, Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | scope

Uitgewerkte voorbeelden bij elk verbod van artikel 5, met de grens tussen toegestaan en verboden.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | prohibited

De Commissie legt in consultatie uit wanneer een systeem onder Bijlage I of Bijlage III valt.

Hangt aan: Bijlage III: hoog-risico AI, Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | high-risk

Een vrijwillige route om te voldoen aan delen van artikel 50, in twee los te ondertekenen secties.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | transparency

De Commissie werkt de transparantieplichten uit en bevestigt dat zij vanaf 2 augustus 2026 gelden.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | transparency

De gewijzigde toepassingsdatum is geldend recht sinds 27 juli 2026.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | high-risk

Sinds 27 juli 2026 ondersteunt de organisatieplicht de ontwikkeling van AI-geletterdheid zonder een individueel niveau te garanderen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | ai-literacy

De transparantieverplichtingen gelden sinds 2 augustus 2026.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | transparency

Heropen de classificatie wanneer bedoeld doel, gebruikscontext of systeemfunctionaliteit materieel verandert.

Hangt aan: Bijlage III: hoog-risico AI

Redactioneel gecontroleerd | control, high-risk

Blokkeer ondertekening van een AI-contract totdat de leverancier schriftelijk heeft geantwoord onder welk punt van Bijlage III het bedoelde doel valt, of hij zich op Artikel 6 lid 3 beroept, en of het systeem natuurlijke personen profileert.

Hangt aan: Bijlage III: hoog-risico AI

Redactioneel gecontroleerd | high-risk

Herhaal de datakwaliteitstoets vóór elke hertraining of dataset-wijziging.

Hangt aan: Artikel 10: data en datagovernance

Redactioneel gecontroleerd | control, high-risk-requirements

Controleer periodiek of de logging werkt, volledig is en bewaard blijft volgens het regime.

Hangt aan: Artikel 12: logging en traceerbaarheid

Redactioneel gecontroleerd | control, high-risk-requirements

Controleer bij elke ingebruikname en update of de instructies aanwezig, actueel en intern doorvertaald zijn.

Hangt aan: Artikel 13: transparantie richting gebruiksverantwoordelijken

Redactioneel gecontroleerd | control, high-risk-requirements

Test vóór livegang dat ingrijpen, stoppen en negeren van output daadwerkelijk werkt en belegd is.

Hangt aan: Artikel 14: menselijk toezicht

Redactioneel gecontroleerd | control, high-risk-requirements

Leg periodiek de lijst van accounts en licenties met toegang tot AI-systemen naast de deelname- en instructieregistratie, en werk de verschillenlijst weg met een eigenaar en een termijn.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

Controleer bij nieuwe systemen, rollen of risico’s of de gekozen maatregelen nog passend zijn.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy, control

Herhaal de toets bij elk nieuw systeem, elke inkoop en elke materiële wijziging van doel of context; een eerder akkoord dekt een nieuwe inzet niet.

Hangt aan: Artikel 5: verboden praktijken

Redactioneel gecontroleerd | control, prohibited-practices

Trek elk kwartaal een steekproef uit de systemen met een Artikel 50-scenario en controleer in de productieomgeving of de melding nog verschijnt en de markering nog in de daadwerkelijke output zit, met bevinding, eigenaar en hersteltermijn.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Test vóór livegang dat de toepasselijke melding, markering of label tijdig, duidelijk en technisch werkzaam is.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | control, transparency

De markttoezichtautoriteit mag onaangekondigd inspecteren. Bij een ernstig incident meldt u, treft u onmiddellijk maatregelen of schort u op, en u moet vooraf een procedure hebben om het systeem onmiddellijk terug te roepen.

Hangt aan: Artikel 60: testen onder reele omstandigheden buiten een testomgeving

Redactioneel gecontroleerd | innovation

Borg dat praktijksignalen (afwijkingen, klachten, incidenten) aantoonbaar tot analyse en zo nodig maatregelen leiden.

Hangt aan: Artikel 72: post-market monitoring

Redactioneel gecontroleerd | control, post-market

Test periodiek of een incident binnen de wettelijke termijnen gemeld kán worden, inclusief de keten gebruiksverantwoordelijke naar aanbieder.

Hangt aan: Artikel 73: melding van ernstige incidenten

Redactioneel gecontroleerd | control, post-market

Een vaste regel die het gebruik onderbreekt en in de juiste volgorde meldt zodra u redenen hebt om aan te nemen dat het systeem een risico vormt of zodra u een ernstig incident vaststelt.

Hangt aan: Artikel 26: de plichten van de gebruiksverantwoordelijke van een hoog-risico AI-systeem

Redactioneel gecontroleerd | high-risk-requirements

De borging dat een binnengekomen verzoek binnen een vastgelegde termijn bij een aanwijsbare persoon landt en beantwoord wordt, in plaats van in een algemene postbus te blijven liggen.

Hangt aan: Artikel 85: klachtrecht bij de markttoezichthouder, Artikel 86: recht op uitleg bij een besluit

Redactioneel gecontroleerd | fundamental-rights

Herhaal de rolbeoordeling bij elke naamsvoering, wijziging of nieuwe inzet van een bestaand systeem.

Hangt aan: Artikel 22-25: waardeketen en gemachtigde

Redactioneel gecontroleerd | control, value-chain

De nationale autoriteit die de procedures opzet en uitvoert voor de beoordeling, aanwijzing en kennisgeving van conformiteitsbeoordelingsinstanties, en die daarop toezicht houdt.

Tegen de officiële bron gelegd | definitions

Geen zelfstandige autoriteit maar een functie binnen de Europese Commissie. Voor AI-modellen voor algemene doeleinden is het AI-bureau uw toezichthouder, voor gewone AI-systemen niet.

Tegen de officiële bron gelegd | definitions

Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen in staat stellen AI-systemen geinformeerd in te zetten en zich bewust te worden van de kansen, de risico's en de mogelijke schade van AI.

Tegen de officiële bron gelegd | definitions

Het model is iets anders dan het systeem, en dat onderscheid bepaalt welk hoofdstuk met verplichtingen op u van toepassing is.

Tegen de officiële bron gelegd | definitions

De poortdefinitie van het systeemspoor van de verordening: valt uw applicatie hier niet onder, dan gelden de verplichtingen voor AI-systemen niet. Voor AI-modellen voor algemene doeleinden loopt een eigen spoor op grond van artikel 3, punt 63, met eigen verplichtingen in artikel 53.

Tegen de officiële bron gelegd | definitions

Het door de aanbieder vastgelegde gebruik waar de hele risicoclassificatie en beoordeling op rusten.

Tegen de officiële bron gelegd | definitions

De gevoelige gegevenscategorieen uit de AVG en de aanverwante Europese regels, hier overgenomen omdat de AI Act er zowel een verbod als een nauwe uitzondering aan ophangt.

Tegen de officiële bron gelegd | definitions

De AI Act hanteert een eigen, ruimere omschrijving dan de AVG, en dat verschil bepaalt of u in bijlage III of in artikel 5 belandt.

Tegen de officiële bron gelegd | definitions

Een op veel vergelijking tegen een databank, te onderscheiden van de een op een verificatie van punt 36.

Tegen de officiële bron gelegd | definitions

De restcategorie: elke identificatie op afstand die niet in real time gebeurt. Niet verboden, wel hoog risico, en bij rechtshandhaving met een eigen toestemmingsregime.

Tegen de officiële bron gelegd | definitions

Identificatie op afstand waarbij vastleggen, vergelijken en identificeren zonder significante vertraging gebeuren. De wetgever heeft de ontsnappingsroute van een kunstmatige vertraging expliciet dichtgezet.

Tegen de officiële bron gelegd | definitions

Veel ruimer dan nepvideo's van bekende personen: ook voorwerpen, plaatsen, entiteiten en gebeurtenissen vallen eronder.

Tegen de officiële bron gelegd | definitions

Een aanbieder van een AI-systeem, ook een AI-systeem voor algemene doeleinden, waarin een AI-model is geïntegreerd, ongeacht of hij dat model zelf levert en verticaal heeft geïntegreerd of het op contractuele basis van een andere partij betrekt.

Tegen de officiële bron gelegd | definitions

Op de werkplek en in het onderwijs verboden sinds 2 februari 2025; daarbuiten geldt sinds 2 augustus 2026 een informatieplicht onder artikel 50.

Tegen de officiële bron gelegd | definitions

Vier categorieën gevolgen, waaronder de schending van grondrechtenbescherming. Er hoeft geen fysieke schade te zijn voordat een meldplicht ontstaat.

Tegen de officiële bron gelegd | definitions

De informatie die de aanbieder verstrekt om de gebruiksverantwoordelijke te informeren over met name het beoogde doel en het juiste gebruik van een AI-systeem. Dit is het scharnier tussen de plichten van de aanbieder en die van de afnemer.

Tegen de officiële bron gelegd | definitions

De rol waarin vrijwel elke organisatie zit die AI inkoopt en gebruikt.

Tegen de officiële bron gelegd | definitions

Het begrip waardoor ook intern gebouwde systemen die nooit verkocht worden binnen de verordening vallen.

Tegen de officiële bron gelegd | definitions

De data die het systeem binnenkomen of die het zelf verwerft en waarop het zijn output baseert. Dit is de datadefinitie die de gebruiksverantwoordelijke raakt, niet alleen de aanbieder.

Tegen de officiële bron gelegd | definitions

Kritieke infrastructuur zoals gedefinieerd in artikel 2, punt 4, van Richtlijn (EU) 2022/2557, de CER-richtlijn. De AI-verordening geeft hier geen eigen omschrijving maar sluit aan bij dat kader.

Tegen de officiële bron gelegd | definitions

De nationale toezichthouder die de AI Act handhaaft op de markt, met de bevoegdheden uit de algemene markttoezichtverordening. Dit is de partij die bij u aanklopt en documentatie opvraagt.

Tegen de officiële bron gelegd | definitions

Een verzamelnaam voor twee heel verschillende rollen: de aanmeldende autoriteit en de markttoezichtautoriteit. Voor EU-instellingen treedt de Europese Toezichthouder voor gegevensbescherming in hun plaats.

Tegen de officiële bron gelegd | definitions

Alles wat geen persoonsgegeven is. De categorie bestaat om duidelijk te maken dat de AI Act ook geldt wanneer er geen persoonsgegevens in het spel zijn.

Tegen de officiële bron gelegd | definitions

Elke fysieke plek, publiek of privaat eigendom, die toegankelijk is voor een onbepaald aantal mensen. Toegangsvoorwaarden en capaciteitsgrenzen doen er niet toe.

Tegen de officiële bron gelegd | definitions

De verzamelterm voor alle zes de rollen in de keten, en niet de persoon die de knoppen bedient.

Tegen de officiële bron gelegd | definitions

De AI Act maakt hier bewust geen eigen begrip van en verwijst naar de AVG. Uw AVG-administratie en uw AI Act-dossier moeten dus over dezelfde gegevens gaan.

Tegen de officiële bron gelegd | definitions

Het vermogen van een AI-systeem om het beoogde doel te verwezenlijken. Prestaties worden dus gemeten tegen het beoogde doel, niet tegen een losse technische score.

Tegen de officiële bron gelegd | definitions

Overgenomen uit de AVG, maar in de AI Act de beslissende factor: een systeem uit bijlage III dat profileert blijft altijd hoog risico.

Tegen de officiële bron gelegd | definitions

De activiteit, niet de instantie. Werk dat namens een rechtshandhavingsinstantie wordt verricht valt er ook onder, ook als een private partij het uitvoert.

Tegen de officiële bron gelegd | definitions

Niet alleen politie en openbaar ministerie. Ook elk ander orgaan dat naar nationaal recht openbaar gezag uitoefent voor opsporing, vervolging of openbare veiligheid.

Tegen de officiële bron gelegd | definitions

Gebruik buiten het beoogde doel dat de aanbieder had kunnen zien aankomen, en daarom zelf moet meewegen.

Tegen de officiële bron gelegd | definitions

Risico is de combinatie van de kans op schade en de ernst van die schade. Het is de rekeneenheid onder de hele verordening, van verboden praktijken tot het risicobeheersysteem van artikel 9.

Tegen de officiële bron gelegd | definitions

Een verandering van een AI-systeem na het in de handel brengen of in gebruik stellen die de aanbieder niet had voorzien in de initiele conformiteitsbeoordeling, en die de overeenstemming met hoofdstuk III, afdeling 2, raakt of het beoogde doel wijzigt.

Tegen de officiële bron gelegd | definitions

Een AI-systeem dat mensen op basis van biometrische gegevens in categorieën indeelt. De uitzondering voor functies die een andere commerciële dienst ondersteunen is smal en wordt in de praktijk veel te ruim uitgelegd.

Tegen de officiële bron gelegd | definitions

Een AI-systeem dat mensen identificeert zonder dat zij daar actief aan meewerken, doorgaans op afstand, door vergelijking met een referentiedatabank. Het woord dat alles bepaalt is "actief betrokken".

Tegen de officiële bron gelegd | definitions

Een begrip dat uitsluitend op GPAI-modellen ziet, en dat losstaat van de hoogrisicoclassificatie van AI-systemen.

Tegen de officiële bron gelegd | definitions

Een maatregel gericht op het retourneren aan de aanbieder, het buiten gebruik stellen of het onbruikbaar maken van een AI-systeem dat al aan gebruiksverantwoordelijken ter beschikking is gesteld. Terugroepen raakt systemen die al in gebruik zijn.

Tegen de officiële bron gelegd | definitions

Het tijdelijk testen van een AI-systeem voor zijn beoogde doel buiten het lab, om betrouwbare gegevens te verzamelen en de conformiteit te beoordelen. Het geldt niet als in de handel brengen of in gebruik stellen, mits u aan alle voorwaarden van artikel 57 of 60 voldoet.

Tegen de officiële bron gelegd | definitions

De afspraak tussen u en de toezichthouder over wat u in een AI-testomgeving voor regelgeving gaat doen: doelen, voorwaarden, tijdschema, methode en eisen. Het is een tweezijdig document, geen intern plan.

Tegen de officiële bron gelegd | definitions

Een van de twee ingangen naar de hoogrisico-classificatie van artikel 6, lid 1, en vaak over het hoofd gezien buiten de maakindustrie.

Tegen de officiële bron gelegd | definitions

Een handeling of omissie in strijd met Unierecht dat de belangen van natuurlijke personen beschermt, die de collectieve belangen schaadt van personen in ten minste twee andere lidstaten, of die met gemeenschappelijke kenmerken gelijktijdig door dezelfde operator in ten minste drie lidstaten wordt begaan.

Tegen de officiële bron gelegd | definitions

Elke wiskundige bewerking of toewijzing met zwevendekommagetallen. Dit is de rekeneenheid waarmee de verordening de omvang van de training van een AI-model voor algemene doeleinden meet.

Tegen de officiële bron gelegd | definitions

Herleidbare motivering van bedoeld doel, Bijlage III-categorie, Artikel 6 lid 3-toets en registratiebesluit.

Hangt aan: Bijlage III: hoog-risico AI

Redactioneel gecontroleerd | evidence, high-risk

Vastlegging per dataset van herkomst, keuzes, aannames, biasonderzoek en mitigaties.

Hangt aan: Artikel 10: data en datagovernance

Redactioneel gecontroleerd | evidence, high-risk-requirements

Logbestanden met een bewaartermijn passend bij het doel en ten minste zes maanden voor gebruiksverantwoordelijken (Artikel 19 en 26).

Hangt aan: Artikel 12: logging en traceerbaarheid

Redactioneel gecontroleerd | evidence, high-risk-requirements

De ontvangen gebruiksinstructies plus de interne vertaling daarvan naar werkinstructies per rol.

Hangt aan: Artikel 13: transparantie richting gebruiksverantwoordelijken

Redactioneel gecontroleerd | evidence, high-risk-requirements

Vastlegging van toezichtsmaatregelen, aangewezen personen, hun training en de momenten waarop is ingegrepen.

Hangt aan: Artikel 14: menselijk toezicht

Redactioneel gecontroleerd | evidence, high-risk-requirements

Versieerbare registratie van rollen, context, maatregelen, deelname of instructie en evaluatiemomenten.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy, evidence

Interne registratie waaruit blijkt wie welke instructie, werksessie, training of begeleiding heeft gekregen, voor welk systeem, op welke datum en op welke grond, inclusief nieuwe medewerkers, inhuur en externen.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

De vastgelegde matrix van rollen tegen AI-systemen, met per combinatie de gebruikscontext, de geraakte personen, het risico en de gekozen maatregel, gedateerd en met een eigenaar per regel.

Hangt aan: Artikel 4: AI-geletterdheid

Redactioneel gecontroleerd | ai-literacy

Vastlegging per systeem dat de Artikel 5-toets is uitgevoerd, met de uitkomst en motivering. Ook de conclusie "geen verboden praktijk" is bewijs.

Hangt aan: Artikel 5: verboden praktijken

Redactioneel gecontroleerd | evidence, prohibited-practices

Gedateerde vastlegging per interface en kanaal dat de melding uiterlijk bij de eerste interactie of blootstelling verschijnt, duidelijk en onderscheidbaar is, en de toegankelijkheidscontrole heeft doorstaan, met schermopname, versienummer en testerid.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Vastlegging van scenario, actor, gekozen melding of markering, technische implementatie, test en eigenaar.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | evidence, transparency

Schriftelijke opgave van de leverancier welke markering op de output wordt aangebracht, in welk machineleesbaar formaat, hoe robuust en interoperabel de oplossing is, en of de markering behouden blijft na bewerking of export.

Hangt aan: Artikel 50: transparantie

Redactioneel gecontroleerd | transparency

Voor elke proefpersoon legt u vrijwillig gegeven geinformeerde toestemming vast, met vijf voorgeschreven informatie-elementen, gedateerd, gedocumenteerd en met een kopie voor de proefpersoon.

Hangt aan: Artikel 60: testen onder reele omstandigheden buiten een testomgeving

Redactioneel gecontroleerd | innovation

Het plan als onderdeel van de technische documentatie plus de periodieke analyses en opvolgacties.

Hangt aan: Artikel 72: post-market monitoring

Redactioneel gecontroleerd | evidence, post-market

Vastlegging van incidenten, analyses, meldingen aan toezichthouders en corrigerende maatregelen.

Hangt aan: Artikel 73: melding van ernstige incidenten

Redactioneel gecontroleerd | evidence, post-market

Het dossier waarmee u laat zien dat u de logs bewaart, dat u werknemers en hun vertegenwoordigers tijdig hebt geïnformeerd en dat de personen over wie beslissingen worden genomen dat weten.

Hangt aan: Artikel 26: de plichten van de gebruiksverantwoordelijke van een hoog-risico AI-systeem

Redactioneel gecontroleerd | high-risk-requirements

Per verzoek: wie het deed, over welk besluit, welk systeem en welke versie eraan bijdroeg, welke uitleg is gegeven en wanneer. Dit is ook het dossier waarmee u laat zien dat u het recht niet stilzwijgend hebt genegeerd.

Hangt aan: Artikel 85: klachtrecht bij de markttoezichthouder, Artikel 86: recht op uitleg bij een besluit

Redactioneel gecontroleerd | fundamental-rights

Vastlegging per systeem van rol, contractuele afspraken over informatie en medewerking, en de aanwijzing van een gemachtigde waar vereist.

Hangt aan: Artikel 22-25: waardeketen en gemachtigde

Redactioneel gecontroleerd | evidence, value-chain

Een werkgever gebruikt een systeem dat sollicitanten rangschikt en een kandidaat voor aanname aanbeveelt. In de ene inrichting weegt een recruiter die aanbeveling mee in een eigen beoordeling; in de andere inrichting wordt de uitkomst automatisch toegepast en valt een kandidaat af zonder dat iemand ernaar kijkt.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een website publiceert automatisch AI-gegenereerde artikelen over Europees beleid. Er is een redactiestatuut op papier, maar niemand toetst de inhoud. Voor publicatie draait alleen een spellingcontrole, en een tweede AI-model kijkt de tekst na.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een nieuwssite zet onder een door een journalist geschreven artikel over een recent raadsbesluit een AI-gegenereerde samenvatting. De eindredacteur leest die samenvatting inhoudelijk na, controleert de feiten en geeft akkoord voor publicatie.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een organisatie beveiligt de ingang van haar panden met gezichtsherkenning en gebruikt die biometrische toegangscontrole ook om bezoekers te registreren. Geeft het systeem geen match, dan beoordeelt een beveiliger de beelden van de camera en beslist hij zelf of iemand naar binnen mag. De vraag is wiens maatregelen die beveiliger moeten bereiken: die van de leverancier van het model, die van de afdeling die het systeem inzet, of allebei.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een politiedienst gebruikt AI om grote hoeveelheden opsporingsdossiers te doorzoeken en verbanden te laten opvallen die een rechercheur anders zou missen. De uitkomsten wegen mee in de keuze welke verdachte verder wordt onderzocht en belanden uiteindelijk in stukken die het strafrecht in gaan. De vraag is of dezelfde basisinstructie volstaat voor de analist die het model bedient en voor de rechercheur die op de uitkomst afgaat.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een nieuwsredactie zet generatieve AI in om samenvattingen, koppen en beeld voor te bereiden, waarna een eindredacteur het stuk afmaakt en de redactie besluit te publiceren. Een deel van dat werk ligt bij freelancers, en een extern bureau maakt met dezelfde tools de content voor marketing. De vraag is of uw maatregelen voor AI-geletterdheid ook die freelancers en dat bureau moeten raken, of alleen de mensen op de loonlijst.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een recruiter zet een AI-chat in die kandidaten na hun reactie op een vacature een eerste screeningsgesprek laat voeren en hun cv aanvult met de antwoorden. De chat presenteert zich met een voornaam en schrijft in vlotte spreektaal. De vraag is of deze sollicitanten redelijkerwijs doorhebben dat zij met een AI-systeem praten.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een organisatie laat medewerkers binnen via gezichtsherkenning bij de toegangscontrole en gebruikt in de bezoekersruimte daarnaast een camera die gezichten in leeftijdsgroepen indeelt. Beide toepassingen draaien op dezelfde biometrische infrastructuur en dezelfde beelden. De vraag is bij welke van de twee de betrokken personen actief geinformeerd moeten worden.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een softwarebedrijf gebruikt een AI-assistent voor codesuggesties en code review, alleen beschikbaar voor professionele ontwikkelaars. Datzelfde bedrijf zet ook een helpdeskchatbot in voor klanten.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een bank opent een AI-gestuurd meldportaal waar klanten vermoedelijke fraude rond hun betaalrekening of lening kunnen doorgeven. Het systeem stelt vervolgvragen, categoriseert de melding en zet die door naar fraudedetectie en, bij witwassignalen, naar het interne meldteam. Omdat het portaal over strafbare feiten gaat, gaat de bank ervan uit dat de meldplicht bij directe AI-interactie niet speelt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een gemeente laat een AI-systeem de webteksten schrijven over een gewijzigde regeling voor bijstand en toeslagen, bedoeld om burgers uit te leggen waar zij recht op hebben. Een communicatiemedewerker leest de tekst na op stijl en spelling en zet hem online. De vraag is of deze publieke dienst daarmee onder de uitzondering op de labelplicht valt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een organisatie geeft medewerkers een interne AI-assistent voor HR-, juridische, inkoop-, compliance- en IT-vragen. Moet die assistent bij elk gesprek melden dat hij AI is?

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een ziekenhuis zet een interactief AI-systeem in dat uitsluitend door geschoolde zorgprofessionals wordt gebruikt om een medische diagnose te ondersteunen en behandelingen voor te stellen. De vraag is of de patient of de arts moet horen dat het AI is.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een dienst die bij wet bevoegd is strafbare feiten op te sporen, wil een interactief AI-systeem inzetten zonder aan betrokkenen te melden dat zij met AI communiceren.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Asimov AI is een micro-organisatie met maximaal vijftien medewerkers die AI-diensten levert voor wetgevingswerk aan overheidsinstellingen en bedrijven. Bij elk nieuw contract organiseert het bedrijf een of meer inductiecalls met de teamleiders en ambtenaren die het platform gaan gebruiken, waarin het uitlegt hoe het platform en de onderliggende modellen werken en hoe hallucinaties in dit domein ontstaan en beperkt kunnen worden.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een werkgever gebruikt een AI-systeem dat het functioneren van medewerkers scoort en die score meeweegt bij promotie en ontslag. Na een wijziging aan het model blijkt een groep werknemers maandenlang te laag te zijn beoordeeld, en op die beoordelingen zijn al besluiten genomen. Personeelszaken vraagt zich af of dit een ernstig incident is en wie er dan moet melden.

Hangt aan: Artikel 73: melding van ernstige incidenten

Tegen de officiële bron gelegd | examples

Een geautomatiseerde grenspoort gebruikt biometrische gezichtsherkenning om het gezicht van een reiziger te vergelijken met de foto in de chip van het paspoort. Dezelfde camera kan technisch ook tegen een opsporingsdatabank vergelijken, en juist dat verschil bepaalt of deze biometrie hoog risico is.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Booking.com bouwde voor de juridische en public affairs teams een training in drie delen: eerst de basisbegrippen en het verschil tussen klassieke machine learning en taalmodellen, dan hoe AI binnen het eigen bedrijf werkt, dan het regelgevend kader en de raakvlakken met het recht dat zij al beoefenen. Het materiaal verscheen ook als video- en podcastserie met ondertiteling en uitgeschreven hand-outs.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een callcenter gebruikt webcams en spraakherkenning om emoties van medewerkers te volgen, zoals boosheid. Hetzelfde bedrijf gebruikt spraakanalyse ook om te herkennen wanneer een klant geirriteerd raakt.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een werkgever laat een extern wervingssysteem alle binnengekomen sollicitaties scoren en rangschikken, waarna recruiters alleen de bovenste twintig procent nog met de hand bekijken. De leverancier brengt het systeem onder eigen naam op de markt, de werkgever gebruikt het in zijn eigen selectieproces.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een klantenserviceafdeling draait in het databasesysteem de opdracht om alle klanten te vinden die vorige maand een bepaald product kochten, en berekent in een standaard spreadsheet het gemiddelde uit een klanttevredenheidsenquete. Alle stappen volgen vooraf vastgelegde instructies.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Dedalus Healthcare, dat onder meer AI levert die complicaties bij ziekenhuispatiënten voorspelt, traint zijn juristen, de functionaris gegevensbescherming, compliance en de afdeling kwaliteit en regelgeving juist op de technische kant. Ontwikkelaars en ingenieurs krijgen omgekeerd training die is toegespitst op de juridische en compliance-aspecten van de AI-verordening. De directie kreeg een eigen sessie op maat van haar rol.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een particulier maakt met een generatieve AI-dienst een deepfake van zichzelf en zijn huisgenoten voor op de eigen kerstkaart, puur privé en zonder enig zakelijk doel.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een autobedrijf fotografeert een bestaand model en plaatst het in een advertentie tegen een volledig AI-gegenereerde achtergrond met een verzonnen landschap. De auto zelf is niet bewerkt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een werkgever wil emotieherkenning inzetten. In het ene scenario ondersteunt het systeem medewerkers met autisme en verbetert het de toegankelijkheid voor blinde en dove collega's. In het andere scenario meet het stressniveaus om burn-out, verveling of motivatieverlies te signaleren.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-systeem dat als veiligheidscomponent in een machine op de productielijn meedraait en tegelijk de kwaliteitscontrole aanstuurt. In de fabriek van een afnemer raakt een operator ernstig gewond nadat de machine bij een afwijking niet tot stilstand kwam. De vraag is wie de melding doet, aan wie, en welke klok op dat moment al loopt.

Hangt aan: Artikel 73: melding van ernstige incidenten

Tegen de officiële bron gelegd | examples

Een ziekenhuis gebruikt een ouder diagnose-ondersteunend expertsysteem waarin artsen kennis, feiten en regels hebben vastgelegd. Op basis van de symptomen die een arts invoert, trekt het systeem zelfstandig een conclusie over mogelijke aandoeningen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Fastweb beheert meer dan negentig AI-systemen en benoemt in elke afdeling formeel een AI-SPOC, een getrainde contactpersoon voor AI-vragen uit het eigen team. Deze contactpersonen krijgen aparte instructie over verboden praktijken en hoog-risicosystemen en mogen zelfstandig de AI-risicobeoordeling van hun afdeling uitvoeren.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een belastingdienst gebruikt een voorspellend AI-model op alle aangiften om mogelijke fiscale misdrijven te signaleren. Dat gebeurt uitsluitend op basis van het profiel dat het systeem opbouwt, met persoonlijkheidskenmerken als dubbele nationaliteit, geboorteplaats en aantal kinderen, en met afgeleide variabelen die moeilijk te verifieren zijn.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een belastingdienst zet een AI-systeem in om fraude met kinderopvangtoeslag op te sporen door ontvangers te profileren en in categorieen als opzet of grove nalatigheid in te delen, met criteria als laag inkomen, dubbele nationaliteit en sociaal gedrag. Op basis van de risicoscore wordt het dossier onderzocht, de toeslag stopgezet en terugbetaling geeist.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een gemeente wil een AI-systeem in gebruik nemen dat aanvragen voor een uitkering uit de bijstand ordent en aangeeft welke dossiers extra onderzoek verdienen voordat een klantmanager beslist. De toepassing staat al in het algoritmeregister. De vraag is wat er geregeld moet zijn voordat de eerste burger door dit systeem gaat.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een politiedienst neemt een AI-systeem in gebruik dat bij een verdachte een inschatting van recidive maakt, als hulpmiddel bij de afweging die het openbaar ministerie en de rechter later maken. Later wordt het model hertraind op nieuwere opsporingsgegevens en breidt de dienst het gebruik uit naar een tweede regio. De vraag is of de beoordeling van het eerste gebruik daarmee toereikend blijft.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een hogeschool laat een AI-systeem de aanmeldingen voor een beroepsopleiding rangschikken en gebruikt daarbij de toetsresultaten van eerdere studenten om die rangorde te ijken. Voor deze verwerking ligt er al een gegevensbeschermingseffectbeoordeling. De vraag die de school stelt is of daarmee ook de grondrechtenkant van de inschrijving is afgedekt.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een zorgverzekeraar gebruikt AI voor risicobeoordeling en prijsstelling bij zorg- en levensverzekeringen. De vraag is of dit onder punt 5(c) van Bijlage III valt, en daarmee of de FRIA-plicht van artikel 27 in beeld komt.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een vermogensbeheerder bouwt een eenvoudig referentiemodel dat de toekomstige koers voorspelt door steeds het historische gemiddelde te nemen, om te toetsen of een geavanceerder model werkelijk waarde toevoegt. Een weerdienst doet hetzelfde door de temperatuur van morgen te voorspellen met het gemiddelde van vorige week.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Generali biedt alle medewerkers basiscursussen aan over wat AI is en hoe de groep het gebruikt, verdiepende modules voor wie AI-systemen dagelijks gebruikt, en gevorderde sessies met externe experts voor wie ze bouwt of onderhoudt. Daarnaast bestaan interne vakscholen voor rollen als data scientist, actuaris en accountant, opgezet met universiteiten en onderzoeksinstellingen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een adverteerder gebruikt AI om advertenties af te stemmen op de voorkeuren van gebruikers. De vraag is of dat het manipulatieverbod raakt.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Gjensidige Forsikring geeft alle medewerkers een verplichte e-learning als basisniveau en bouwt daarop rolgerichte verdieping: analisten krijgen modelrisico en datagovernance, medewerkers in schadebehandeling krijgen training over de systemen die zij zelf bedienen. Waar relevant wordt AI-geletterdheid al bij de werving getoetst en maakt training over AI-systemen deel uit van de onboarding.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een onderwijsinstelling gebruikt AI voor dossierbehandeling bij aanmeldingen: indexeren, zoeken, tekst- en spraakverwerking, vertaling van meegestuurde documenten, en het uittrekken, omzetten en ordenen van de verzamelde gegevens tot een bruikbaar formaat.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples