Waarom hangt dit object aan dat object

Een werkgever gebruikt een systeem dat sollicitanten rangschikt en een kandidaat voor aanname aanbeveelt. In de ene inrichting weegt een recruiter die aanbeveling mee in een eigen beoordeling; in de andere inrichting wordt de uitkomst automatisch toegepast en valt een kandidaat af zonder dat iemand ernaar kijkt.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een website publiceert automatisch AI-gegenereerde artikelen over Europees beleid. Er is een redactiestatuut op papier, maar niemand toetst de inhoud. Voor publicatie draait alleen een spellingcontrole, en een tweede AI-model kijkt de tekst na.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een nieuwssite zet onder een door een journalist geschreven artikel over een recent raadsbesluit een AI-gegenereerde samenvatting. De eindredacteur leest die samenvatting inhoudelijk na, controleert de feiten en geeft akkoord voor publicatie.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een fabrikant brengt interactief AI-speelgoed op de markt dat kinderen geboeid houdt met steeds risicovollere opdrachten, zoals op meubels klimmen, hoge planken verkennen of met scherpe voorwerpen omgaan, in ruil voor digitale beloningen en virtuele complimenten.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een organisatie beveiligt de ingang van haar panden met gezichtsherkenning en gebruikt die biometrische toegangscontrole ook om bezoekers te registreren. Geeft het systeem geen match, dan beoordeelt een beveiliger de beelden van de camera en beslist hij zelf of iemand naar binnen mag. De vraag is wiens maatregelen die beveiliger moeten bereiken: die van de leverancier van het model, die van de afdeling die het systeem inzet, of allebei.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een politiedienst gebruikt AI om grote hoeveelheden opsporingsdossiers te doorzoeken en verbanden te laten opvallen die een rechercheur anders zou missen. De uitkomsten wegen mee in de keuze welke verdachte verder wordt onderzocht en belanden uiteindelijk in stukken die het strafrecht in gaan. De vraag is of dezelfde basisinstructie volstaat voor de analist die het model bedient en voor de rechercheur die op de uitkomst afgaat.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een nieuwsredactie zet generatieve AI in om samenvattingen, koppen en beeld voor te bereiden, waarna een eindredacteur het stuk afmaakt en de redactie besluit te publiceren. Een deel van dat werk ligt bij freelancers, en een extern bureau maakt met dezelfde tools de content voor marketing. De vraag is of uw maatregelen voor AI-geletterdheid ook die freelancers en dat bureau moeten raken, of alleen de mensen op de loonlijst.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een recruiter zet een AI-chat in die kandidaten na hun reactie op een vacature een eerste screeningsgesprek laat voeren en hun cv aanvult met de antwoorden. De chat presenteert zich met een voornaam en schrijft in vlotte spreektaal. De vraag is of deze sollicitanten redelijkerwijs doorhebben dat zij met een AI-systeem praten.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een organisatie laat medewerkers binnen via gezichtsherkenning bij de toegangscontrole en gebruikt in de bezoekersruimte daarnaast een camera die gezichten in leeftijdsgroepen indeelt. Beide toepassingen draaien op dezelfde biometrische infrastructuur en dezelfde beelden. De vraag is bij welke van de twee de betrokken personen actief geinformeerd moeten worden.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een softwarebedrijf gebruikt een AI-assistent voor codesuggesties en code review, alleen beschikbaar voor professionele ontwikkelaars. Datzelfde bedrijf zet ook een helpdeskchatbot in voor klanten.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een bank opent een AI-gestuurd meldportaal waar klanten vermoedelijke fraude rond hun betaalrekening of lening kunnen doorgeven. Het systeem stelt vervolgvragen, categoriseert de melding en zet die door naar fraudedetectie en, bij witwassignalen, naar het interne meldteam. Omdat het portaal over strafbare feiten gaat, gaat de bank ervan uit dat de meldplicht bij directe AI-interactie niet speelt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een gemeente laat een AI-systeem de webteksten schrijven over een gewijzigde regeling voor bijstand en toeslagen, bedoeld om burgers uit te leggen waar zij recht op hebben. Een communicatiemedewerker leest de tekst na op stijl en spelling en zet hem online. De vraag is of deze publieke dienst daarmee onder de uitzondering op de labelplicht valt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een organisatie geeft medewerkers een interne AI-assistent voor HR-, juridische, inkoop-, compliance- en IT-vragen. Moet die assistent bij elk gesprek melden dat hij AI is?

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een ziekenhuis zet een interactief AI-systeem in dat uitsluitend door geschoolde zorgprofessionals wordt gebruikt om een medische diagnose te ondersteunen en behandelingen voor te stellen. De vraag is of de patient of de arts moet horen dat het AI is.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een dienst die bij wet bevoegd is strafbare feiten op te sporen, wil een interactief AI-systeem inzetten zonder aan betrokkenen te melden dat zij met AI communiceren.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Asimov AI is een micro-organisatie met maximaal vijftien medewerkers die AI-diensten levert voor wetgevingswerk aan overheidsinstellingen en bedrijven. Bij elk nieuw contract organiseert het bedrijf een of meer inductiecalls met de teamleiders en ambtenaren die het platform gaan gebruiken, waarin het uitlegt hoe het platform en de onderliggende modellen werken en hoe hallucinaties in dit domein ontstaan en beperkt kunnen worden.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een werkgever gebruikt een AI-systeem dat het functioneren van medewerkers scoort en die score meeweegt bij promotie en ontslag. Na een wijziging aan het model blijkt een groep werknemers maandenlang te laag te zijn beoordeeld, en op die beoordelingen zijn al besluiten genomen. Personeelszaken vraagt zich af of dit een ernstig incident is en wie er dan moet melden.

Hangt aan: Artikel 73: melding van ernstige incidenten

Tegen de officiële bron gelegd | examples

Een platform analyseert de biometrische gegevens uit foto's die gebruikers hebben geupload om hun vermoedelijke politieke voorkeur af te leiden en hen gerichte politieke boodschappen te sturen. Een vergelijkbaar systeem leidt de vermoedelijke seksuele gerichtheid af om advertenties te tonen.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een geautomatiseerde grenspoort gebruikt biometrische gezichtsherkenning om het gezicht van een reiziger te vergelijken met de foto in de chip van het paspoort. Dezelfde camera kan technisch ook tegen een opsporingsdatabank vergelijken, en juist dat verschil bepaalt of deze biometrie hoog risico is.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Booking.com bouwde voor de juridische en public affairs teams een training in drie delen: eerst de basisbegrippen en het verschil tussen klassieke machine learning en taalmodellen, dan hoe AI binnen het eigen bedrijf werkt, dan het regelgevend kader en de raakvlakken met het recht dat zij al beoefenen. Het materiaal verscheen ook als video- en podcastserie met ondertiteling en uitgeschreven hand-outs.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een callcenter gebruikt webcams en spraakherkenning om emoties van medewerkers te volgen, zoals boosheid. Hetzelfde bedrijf gebruikt spraakanalyse ook om te herkennen wanneer een klant geirriteerd raakt.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een werkgever laat een extern wervingssysteem alle binnengekomen sollicitaties scoren en rangschikken, waarna recruiters alleen de bovenste twintig procent nog met de hand bekijken. De leverancier brengt het systeem onder eigen naam op de markt, de werkgever gebruikt het in zijn eigen selectieproces.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een klantenserviceafdeling draait in het databasesysteem de opdracht om alle klanten te vinden die vorige maand een bepaald product kochten, en berekent in een standaard spreadsheet het gemiddelde uit een klanttevredenheidsenquete. Alle stappen volgen vooraf vastgelegde instructies.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Dedalus Healthcare, dat onder meer AI levert die complicaties bij ziekenhuispatiënten voorspelt, traint zijn juristen, de functionaris gegevensbescherming, compliance en de afdeling kwaliteit en regelgeving juist op de technische kant. Ontwikkelaars en ingenieurs krijgen omgekeerd training die is toegespitst op de juridische en compliance-aspecten van de AI-verordening. De directie kreeg een eigen sessie op maat van haar rol.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een particulier maakt met een generatieve AI-dienst een deepfake van zichzelf en zijn huisgenoten voor op de eigen kerstkaart, puur privé en zonder enig zakelijk doel.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een autobedrijf fotografeert een bestaand model en plaatst het in een advertentie tegen een volledig AI-gegenereerde achtergrond met een verzonnen landschap. De auto zelf is niet bewerkt.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een werkgever wil emotieherkenning inzetten. In het ene scenario ondersteunt het systeem medewerkers met autisme en verbetert het de toegankelijkheid voor blinde en dove collega's. In het andere scenario meet het stressniveaus om burn-out, verveling of motivatieverlies te signaleren.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-systeem dat als veiligheidscomponent in een machine op de productielijn meedraait en tegelijk de kwaliteitscontrole aanstuurt. In de fabriek van een afnemer raakt een operator ernstig gewond nadat de machine bij een afwijking niet tot stilstand kwam. De vraag is wie de melding doet, aan wie, en welke klok op dat moment al loopt.

Hangt aan: Artikel 73: melding van ernstige incidenten

Tegen de officiële bron gelegd | examples

Een ziekenhuis gebruikt een ouder diagnose-ondersteunend expertsysteem waarin artsen kennis, feiten en regels hebben vastgelegd. Op basis van de symptomen die een arts invoert, trekt het systeem zelfstandig een conclusie over mogelijke aandoeningen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Fastweb beheert meer dan negentig AI-systemen en benoemt in elke afdeling formeel een AI-SPOC, een getrainde contactpersoon voor AI-vragen uit het eigen team. Deze contactpersonen krijgen aparte instructie over verboden praktijken en hoog-risicosystemen en mogen zelfstandig de AI-risicobeoordeling van hun afdeling uitvoeren.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een Europese scale-up finetunet een bestaand model voor algemene doeleinden voor het eigen product en zet daarbij meer rekenkracht in dan een derde van de rekenkracht waarmee het oorspronkelijke model getraind is.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Een belastingdienst gebruikt een voorspellend AI-model op alle aangiften om mogelijke fiscale misdrijven te signaleren. Dat gebeurt uitsluitend op basis van het profiel dat het systeem opbouwt, met persoonlijkheidskenmerken als dubbele nationaliteit, geboorteplaats en aantal kinderen, en met afgeleide variabelen die moeilijk te verifieren zijn.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een belastingdienst zet een AI-systeem in om fraude met kinderopvangtoeslag op te sporen door ontvangers te profileren en in categorieen als opzet of grove nalatigheid in te delen, met criteria als laag inkomen, dubbele nationaliteit en sociaal gedrag. Op basis van de risicoscore wordt het dossier onderzocht, de toeslag stopgezet en terugbetaling geeist.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een gemeente wil een AI-systeem in gebruik nemen dat aanvragen voor een uitkering uit de bijstand ordent en aangeeft welke dossiers extra onderzoek verdienen voordat een klantmanager beslist. De toepassing staat al in het algoritmeregister. De vraag is wat er geregeld moet zijn voordat de eerste burger door dit systeem gaat.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een politiedienst neemt een AI-systeem in gebruik dat bij een verdachte een inschatting van recidive maakt, als hulpmiddel bij de afweging die het openbaar ministerie en de rechter later maken. Later wordt het model hertraind op nieuwere opsporingsgegevens en breidt de dienst het gebruik uit naar een tweede regio. De vraag is of de beoordeling van het eerste gebruik daarmee toereikend blijft.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een hogeschool laat een AI-systeem de aanmeldingen voor een beroepsopleiding rangschikken en gebruikt daarbij de toetsresultaten van eerdere studenten om die rangorde te ijken. Voor deze verwerking ligt er al een gegevensbeschermingseffectbeoordeling. De vraag die de school stelt is of daarmee ook de grondrechtenkant van de inschrijving is afgedekt.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een zorgverzekeraar gebruikt AI voor risicobeoordeling en prijsstelling bij zorg- en levensverzekeringen. De vraag is of dit onder punt 5(c) van Bijlage III valt, en daarmee of de FRIA-plicht van artikel 27 in beeld komt.

Hangt aan: Artikel 27: FRIA

Tegen de officiële bron gelegd | examples

Een meteorologisch instituut draait natuurkundige weermodellen en zet machine learning in om complexe atmosferische processen zoals wolkenmicrofysica en turbulentie te benaderen. De geschatte waarden gaan vervolgens als invoer het gevestigde natuurkundige model in, dat de eigenlijke voorspelling doet.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een vermogensbeheerder bouwt een eenvoudig referentiemodel dat de toekomstige koers voorspelt door steeds het historische gemiddelde te nemen, om te toetsen of een geavanceerder model werkelijk waarde toevoegt. Een weerdienst doet hetzelfde door de temperatuur van morgen te voorspellen met het gemiddelde van vorige week.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Generali biedt alle medewerkers basiscursussen aan over wat AI is en hoe de groep het gebruikt, verdiepende modules voor wie AI-systemen dagelijks gebruikt, en gevorderde sessies met externe experts voor wie ze bouwt of onderhoudt. Daarnaast bestaan interne vakscholen voor rollen als data scientist, actuaris en accountant, opgezet met universiteiten en onderzoeksinstellingen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een adverteerder gebruikt AI om advertenties af te stemmen op de voorkeuren van gebruikers. De vraag is of dat het manipulatieverbod raakt.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een softwarebedrijf laat een geautomatiseerde scraper het internet afzoeken naar afbeeldingen met menselijke gezichten op sociale media, slaat die op met bron-URL, geolocatie en soms namen, en zet de gezichtskenmerken om in wiskundige representaties waarmee een geuploade foto kan worden vergeleken.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Gjensidige Forsikring geeft alle medewerkers een verplichte e-learning als basisniveau en bouwt daarop rolgerichte verdieping: analisten krijgen modelrisico en datagovernance, medewerkers in schadebehandeling krijgen training over de systemen die zij zelf bedienen. Waar relevant wordt AI-geletterdheid al bij de werving getoetst en maakt training over AI-systemen deel uit van de onboarding.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een webshop zet een AI-chatbot in voor vragen over bestellingen, bezorging en retouren. De bot schrijft vloeiende volzinnen, draagt een profielfoto van een medewerker en nergens staat dat er geen mens meeleest.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een onderwijsinstelling gebruikt AI voor dossierbehandeling bij aanmeldingen: indexeren, zoeken, tekst- en spraakverwerking, vertaling van meegestuurde documenten, en het uittrekken, omzetten en ordenen van de verzamelde gegevens tot een bruikbaar formaat.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem bepaalt welke delen van landbouwgrond met chemicalien worden bespoten. Het beoogde doel dat de aanbieder eraan geeft is het optimaliseren van het gebruik van chemicalien.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een AI-systeem is geintegreerd in een drone of robot en wordt gebruikt voor agronomische doeleinden zoals het voorspellen van de opbrengst of het optimaliseren van irrigatie.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een AI-systeem controleert een besluit, plan of constructie die door een mens is gemaakt en levert vervolgens een wezenlijk andere oplossing aan.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een accountantskantoor zet een AI-systeem in dat witwassen detecteert, om te voldoen aan zijn eigen verplichtingen op grond van de Europese antiwitwaswetgeving.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Apparatuur voor plaatsen met ontploffingsgevaar bevat een AI-systeem dat bedoeld is om gasconcentraties te bewaken en bij overschrijding een afschakeling te commanderen.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een chatbot beantwoordt feitelijke vragen van een behandelaar over de beoordeling van een aanvraag voor zorgtoeslagen of zorgvoorzieningen, bijvoorbeeld over de leeftijd van de aanvrager. De behandelaar kan de aanvraag toe- of afwijzen op basis van die antwoorden.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een aanbieder ontwikkelt een systeem dat de kredietwaardigheid van ondernemingen beoordeelt aan de hand van bedrijfsgegevens, balansen en jaarrekeningen. In een variant wordt de eigenaar van een rechtspersoon beoordeeld ter dekking van een bedrijfslening.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een aanbieder ontwikkelt een AI-systeem dat de kredietwaardigheid van bedrijven beoordeelt aan de hand van bedrijfsgegevens, balansen en jaarrekeningen. Ook de situatie waarin de eigenaar van een rechtspersoon wordt beoordeeld als dekking voor een bedrijfslening komt aan de orde.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een aanbieder ontwikkelt een AI-systeem dat de kredietscore vaststelt van de eigenaar van een kleine onderneming of van een bedrijf dat geen rechtspersoon is. Het systeem gebruikt daarbij uitsluitend zakelijke of bedrijfsgegevens.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem wordt door douaneautoriteiten gebruikt om het risico te beoordelen dat goederen die de EU binnenkomen niet voldoen aan de wetgeving die aan de grens van toepassing is, op basis van informatie over de betrokken marktdeelnemers, zoals containernummer, omschrijving van de goederen, routering, vervoer en betaalmethode.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Het systeem analyseert het cv van de kandidaat samen met de door de kandidaat aangeleverde vacaturetekst en beveelt wijzigingen aan om de kans op een uitnodiging te vergroten. Die aanbevelingen worden uitsluitend met de kandidaat gedeeld.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem detecteert en signaleert onvolledig ingevulde formulieren, zodat die kunnen worden teruggestuurd naar de aanvrager om ze correct aan te vullen.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem optimaliseert de verbrandingsefficientie in een gasverbrandingstoestel voor huishoudelijk gebruik. Het beoogde doel is energie-efficientie.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een systeem controleert afgeronde wervingsbeslissingen door geanonimiseerde wervingsdata te analyseren, waaronder cv-scores, interviewnotities en aannameresultaten, en gebruikt statistische modellering om mogelijke vertekening of inconsistenties op te sporen. Het speelt geen rol in lopende werving en beoordeelt geen identificeerbare recruiters of sollicitanten.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Het systeem coördineert afspraken met sollicitanten door agenda's en opgegeven beschikbaarheid te combineren, stelt tijdvakken voor op basis van logistieke beperkingen zoals tijdzones en het maximumaantal gesprekken per dag, verstuurt herinneringen, en verwerkt toegankelijkheidswensen zoals gebarentolk, langere gespreksduur of alternatieve communicatievormen.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem wordt gebruikt bij het beoordelen van gegevens die relevant zijn voor een besluit, bijvoorbeeld over publieke uitkeringen, en geeft de behandelaar verwijzingen naar de relevante wettelijke bepalingen, informatie over de bevoegde instantie en eventueel bestaande interne richtlijnen die relevant zijn voor het besluitvormingsproces.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem in een lift regelt de timing van het sluiten van de deuren en de detectie van obstakels. Het beoogde doel dat de aanbieder eraan geeft is een efficiente liftwerking, niet veiligheid.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een op AI gebaseerd computervisiesysteem detecteert de aanwezigheid van een mens in een robotcel en activeert een veilige stop of een snelheidsreductie. Het beoogde doel dat de aanbieder eraan geeft is het voorkomen van letsel.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een AI-systeem analyseert eerder afgeronde rechtmatigheidstoetsen van ambtenaren om besluitvormingspatronen of afwijkingen te detecteren, voor kwaliteitsborging en rapportage. Het systeem stelt geen uitkomsten voor in lopende zaken en beoordeelt niet het functioneren van medewerkers, bijvoorbeeld in de jaarlijkse beoordelingscyclus.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem in drukapparatuur is bedoeld om een ongecontroleerde drukopbouw te voorspellen en beschermende maatregelen in werking te stellen, bijvoorbeeld door een afschakeling te activeren die is gekoppeld aan veiligheidsappendages.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een adviesbureau gebruikt een AI-schrijfassistent om promotierapporten van managers te verfijnen nadat de beoordelingen volledig zijn afgerond. Managers hebben de aanbeveling, de motivering en de scores al vastgelegd; het systeem verbetert de helderheid van de formulering, bewaakt consistentie met de huisstijl en signaleert mogelijk vertekende woordkeuze, waarna de manager de aangepaste tekst verplicht nakijkt.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Drie soorten hulpsystemen: systemen die fouten of tegenstrijdigheden signaleren in afgerond menselijk werk als kwaliteitscontrole, systemen die conclusies koppelen aan bewijsstukken om de traceerbaarheid van een besluit te versterken zonder het menselijk oordeel te vervangen, en systemen die door mensen gevalideerde inhoud omzetten voor interoperabiliteit of toegankelijkheid.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem in een trein is bedoeld om snelheidslimieten te bewaken en botsingen en ontsporingen te voorkomen.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een systeem signaleert afwijkingen van eerdere wervingspatronen vóórdat de werving is afgerond, om inconsistenties met het bedrijfsbeleid op te sporen, en beoordeelt daarbij de persoonlijke kenmerken van de recruiters die de gesprekken voeren.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Het systeem bundelt officiële registers, arbeidsverleden, sociale netwerken en waar toegestaan financiële gegevens, plus open bronnen, en levert samengestelde risicoscores of categorieën als laag, midden en hoog risico met signalen zoals onverklaarde hiaten in het cv. In hoogvolume-werving worden kandidaten met een hoog risico al vóór dossierbeoordeling terzijde gelegd.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem wordt ingezet bij de werving van medewerkers. Het identificeert afwijkingen van eerdere wervingsbesluiten om mogelijke inconsistenties met het wervingsbeleid op te sporen, en beoordeelt daarbij ook de persoonlijke kenmerken van de recruiters die de sollicitatiegesprekken voeren. Het systeem draait voordat de werving is afgerond.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Gemeenten of regionale autoriteiten wijzen leerlingen automatisch toe aan openbare scholen op basis van gestructureerde gegevens zoals thuisadres, de grenzen van voedingsgebieden en beschikbare capaciteit, waarbij ook aanwezigheid van broers en zussen en de status van ouders meewegen om gezinnen bij elkaar te houden of reisafstand te beperken.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een systeem beoordeelt geschreven of gesproken antwoorden van sollicitanten in een online assessment, kent op basis van taalkundige en inhoudelijke criteria een cijfermatige score toe en genereert daaruit een ranglijst die bepaalt wie wordt uitgenodigd voor het interview.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een slimme thermostaat die onder de radioapparatuurregelgeving valt, leert de routines van het huishouden en optimaliseert de temperatuurinstellingen. Het beoogde doel is meer comfort en een lager energieverbruik.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een AI-systeem sorteert binnenkomende aanmeldingen voor toelating tot een school of universiteit op het cijfer of het onderwijsniveau waarvoor is aangemeld, en plaatst ze in vooraf bepaalde categorieën zoals basisonderwijs, voortgezet onderwijs of specifieke leerjaren, op basis van informatie in de aanmelding.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem in verbonden speelgoed doet muziekaanbevelingen aan het kind dat ermee speelt.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een fabrikant van speelgoed met een AI-systeem als veiligheidscomponent past geharmoniseerde normen toe en kiest daarmee voor een conformiteitsbeoordelingsprocedure zonder betrokkenheid van een derde partij.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een AI-systeem voor rijstrookassistentie in een voertuig. Het beoogde doel dat de aanbieder eraan geeft is het verbeteren van de gebruikerservaring.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een systeem in migratie en grenstoezicht scant elk ingediend visumdossier, zet gescande documenten om in tekst voor indexering, plaatst stukken automatisch in vaste, vooraf bepaalde mappen zoals identiteitsdocumenten, reisschema, bewijsstukken en vertalingen, en herkent exacte dubbele bijlagen om die als duplicaat te markeren.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een AI-systeem in de context van migratie en grensbeheer scant ieder ingediend visumdossier, zet gescande documenten om in tekst voor indexering, plaatst stukken automatisch in vaste vooraf bepaalde mappen zoals identiteitsdocumenten, reisschema, bewijsstukken en vertalingen, en detecteert exacte dubbele bijlagen en markeert die als duplicaat.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

INECO, een groot Spaans ingenieursbedrijf dat voor overheden werkt aan spoor, luchthavens en digitalisering, hield in 2024 ruim twintig AI-trainingen met meer dan vierhonderd deelnemers en zette een AI Master Classroom op het intranet met korte modules, audio en ondertiteling. Nadat medewerkers bewust waren gemaakt van het risico op datalekken, beperkte de organisatie het gebruik van publieke taalmodellen en stapte zij over op een beveiligde chatbotoplossing.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een organisatie stelt een interne AI-assistent beschikbaar voor vragen over HR, inkoop, ICT en compliance. De assistent is alleen bereikbaar achter de eigen inlog en de medewerkers zijn getraind in het gebruik van AI.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een aanbieder van financiele producten gebruikt een voorspellend AI-model om reclame voor dure, risicovolle leningen te richten op mensen die in postcodegebieden met lage inkomens wonen en in geldnood zitten.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een kredietverstrekker gebruikt een model dat particuliere aanvragers een score geeft waarop de acceptatiebeslissing rust. Datzelfde huis gebruikt daarnaast een apart model dat verdachte transacties markeert voor fraudeonderzoek.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een kredietverstrekker beoordeelt kredietwaardigheid op basis van inkomsten, uitgaven en andere financiele en economische omstandigheden. Een verzekeraar verhoogt de premie van een bestuurder die volgens telematicagegevens structureel te hard rijdt.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een bank finetunet een bestaand model voor algemene doeleinden op de eigen productdocumentatie en klantvragen, met een fractie van de oorspronkelijke rekenkracht, en bouwt daaromheen een klantenchatbot die zij onder eigen naam aanbiedt.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Een politiekorps gebruikt een AI-systeem dat op basis van eerdere criminaliteitscijfers per gebied, stratenkaarten en aanvullende informatie aangeeft waar de kans op bijvoorbeeld inbraken of steekincidenten hoger ligt, om te bepalen waar meer wordt gesurveilleerd.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een hogeschool gebruikt een ingekocht AI-systeem dat de aanmelding van studenten rangschikt en daarnaast signalen afgeeft bij digitale toetsing. De logs staan in de omgeving van de leverancier, die ze op verzoek aanlevert. Het onderwijsteam vraagt zich af of de school daarmee klaar is of dat er een eigen bewaarplicht overblijft.

Hangt aan: Artikel 12: logging en traceerbaarheid

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-systeem dat als veiligheidscomponent meedraait in de machines van een productielijn en tegelijk de kwaliteitscontrole aanstuurt. De fabriek die de lijn draait, bewaart alleen de meldingen die in de lokale besturing zichtbaar zijn; de rest van de registratie loopt naar de omgeving van de leverancier. De vraag is wie welke logs moet bewaren wanneer achteraf moet worden gereconstrueerd waarom de lijn is stilgelegd.

Hangt aan: Artikel 12: logging en traceerbaarheid

Tegen de officiële bron gelegd | examples

Een werkgever zet een AI-systeem in dat op de werkvloer taken toewijst aan medewerkers en het functioneren samenvat ten behoeve van het beoordelingsgesprek. Personeelszaken wil weten welke registratie van die uitkomsten bewaard moet blijven wanneer een werknemer maanden later bezwaar maakt tegen een besluit over promotie.

Hangt aan: Artikel 12: logging en traceerbaarheid

Tegen de officiële bron gelegd | examples

Een verzekeraar zet een getraind model in dat schadeclaims op complexiteit rangschikt. Na de uitrol leert het model niets meer bij; de leverancier hertraint alleen periodiek in een gecontroleerde release, zodat het gedrag tussen releases volledig stabiel is.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een downstreampartij past een bestaand model met systeemrisico zo ingrijpend aan dat de aanpassing boven de drempel uitkomt en publiceert het resultaat als eigen model.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Mural gaf in 2024 een verplichte AI-training aan alle medewerkers, met een afrondingspercentage van 93 procent, en organiseerde daarnaast een live interactieve sessie voor het AI-team specifiek over verboden praktijken en hoog-risicocategorieën. Voor dat team maakte het juridische team een visuele mindmap op een digitaal whiteboard, met sjablonen en directe verwijzingen naar de bepalingen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een autofabrikant bouwt een generatief AI-systeem in het navigatiesysteem dat gesproken en geschreven route-instructies opstelt. De uitvoer blijft binnen het voertuig en technische maatregelen voorkomen dat die uitvoer wordt geexporteerd of gedeeld.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een onderwijsinstelling gebruikt bij online tentamens software die de blikrichting en oogbewegingen van studenten volgt, om te zien of zij ongeoorloofd materiaal raadplegen.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Drie aanbieders noemen hun model open source. De eerste licentie staat alleen niet-commercieel onderzoek toe. De tweede vraagt een aparte commerciele licentie zodra het aantal maandelijkse gebruikers boven een drempel komt. De derde geeft het model gratis weg, maar host het uitsluitend op het eigen platform waar bezoekers betaalde advertenties te zien krijgen.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Een onderzoeksgroep publiceert een model voor algemene doeleinden onder een vrije en opensourcelicentie en maakt de gewichten, de architectuur en de gebruiksinformatie openbaar. Het model heeft geen systeemrisico.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Een netbeheerder laat een machine-learningmodel parameters benaderen in een klassieke optimalisatieberekening die op lineaire en logistische regressie is gebouwd. Het model verandert niets aan de beslisregels zelf, het maakt de al jaren gebruikte rekenmethode alleen sneller en goedkoper.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een politiedienst traint een open general-purpose model bij op eigen dossiers uit lopende opsporingsonderzoeken, zodat rechercheurs sneller verbanden tussen verdachten en zaken zien. Het bijgetrainde model blijft binnen de dienst en wordt aan niemand anders beschikbaar gesteld. De vraag is of de dienst daarmee zelf aanbieder van een AI-model voor algemene doeleinden wordt, en dus onder artikel 53 valt.

Hangt aan: Artikel 53: GPAI-modelaanbieders

Tegen de officiële bron gelegd | examples

Een aanbieder levert een systeem dat prestatiegegevens van werknemers samenvat en personeelszaken ondersteunt bij beslissingen over promotie. Na een jaar in gebruik blijkt dat afdelingen het anders inzetten dan bedoeld, en dat leidinggevenden de uitkomsten meenemen in het beoordelingsgesprek over functioneren. De vraag is wat de aanbieder daarvan hoort te weten.

Hangt aan: Artikel 72: post-market monitoring

Tegen de officiële bron gelegd | examples

Een leverancier biedt proctoringsoftware aan die tijdens tentamens signaleert wanneer een student mogelijk spiekt. Verschillende hogescholen gebruiken het systeem, elk met eigen toetsvormen en eigen studentenpopulaties. De leverancier wil weten welke praktijkdata hij na de uitrol moet blijven verzamelen, en van wie.

Hangt aan: Artikel 72: post-market monitoring

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-veiligheidscomponent die op een productielijn de bewegingen van machines stillegt zodra iemand te dicht bij de robot komt. Het onderdeel valt al onder de productwetgeving voor machines, en de fabrikant voert daarvoor kwaliteitscontrole en incidentopvolging uit. De vraag is wat artikel 72 daar nog bovenop vraagt.

Hangt aan: Artikel 72: post-market monitoring

Tegen de officiële bron gelegd | examples

Een hogeschool zet tijdens online tentamens software in die via webcam en muisbewegingen signaleert wanneer een student mogelijk spiekt. Bij een signaal gaat er automatisch een melding naar de examencommissie.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een hogeschool zet proctoringsoftware in bij een online tentamen en merkt dat een groep studenten stelselmatig onterecht als verdacht wordt gemarkeerd, waarna cijfers zijn ingetrokken. Docenten en de examencommissie willen weten of dit patroon een ernstig incident is en, zo ja, wie het moet melden en binnen welke tijd.

Hangt aan: Artikel 73: melding van ernstige incidenten

Tegen de officiële bron gelegd | examples

De politie zet een busje met mobiele camera's en live gezichtsherkenning neer bij de hoofdingang van een stadion tijdens een EK-wedstrijd. De watchlist bevat personen die verdacht worden van uiteenlopende strafbare feiten, van zware criminaliteit tot fraude en inbraak, plus personen van mogelijk inlichtingenbelang en kwetsbare personen met psychische problemen. Er is geen aanwijzing dat een specifiek persoon bij deze wedstrijd aanwezig is.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples

Een politiedienst gebruikt een model dat per verdachte inschat hoe groot de kans is dat hij opnieuw een strafbaar feit pleegt, op basis van het dossier en eerder vastgesteld gedrag. Die uitkomst weegt mee bij de prioritering van lopende onderzoeken.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een satellietoperator verdeelt vermogen en bandbreedte over transponders en gebruikt daarvoor een machine-learningmodel dat het netwerkverkeer voorspelt, omdat klassieke optimalisatie moeite heeft met vraag die per regio en per moment sterk wisselt. De prestaties zijn vergelijkbaar met de gevestigde methoden in het vakgebied.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een satirisch platform publiceert een AI-bewerkte afbeelding van een bestaande politicus, geplaatst in een scene die op humoristische wijze een beleidsbesluit bekritiseert. De stijl en de context maken meteen duidelijk dat het om satire gaat.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een softwarehuis brengt een schaakprogramma uit dat stellingen beoordeelt met een minimax-algoritme en heuristische evaluatiefuncties. Het programma heeft nooit uit partijdata geleerd; het past vooraf geprogrammeerde regels en zoekstrategieen toe om een sterke zet te vinden.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een softwarebedrijf levert een saas-platform dat netwerkverkeer bewaakt bij een beheerder van kritieke digitale infrastructuur en afwijkende patronen meldt aan het securityteam van die klant. De ontwikkelaars zien dat het gebruik bij zo'n beheerder onder punt 2 van Bijlage III kan vallen en vragen zich af of hun eigen product daarmee een hoog-risico AI-systeem wordt.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Smals, dat ICT levert aan Belgische overheidsdiensten, beschrijft per rol welke kennis nodig is: alle medewerkers kennen mogelijkheden, grenzen en interne richtlijnen, AI-ambassadeurs herkennen en prioriteren toepassingen, AI-experts kennen governance en techniek, en juristen en de functionaris gegevensbescherming krijgen aparte verdieping. Voor elk nieuw AI-project volgt bovendien een sessie voor alle betrokkenen over de capaciteiten, grenzen, risico's en governance van juist dat systeem.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een organisatie neemt een e-mailfilter af dat in de bouwfase is getraind op een verzameling berichten die mensen hebben gelabeld als spam of geen spam. Eenmaal in gebruik beoordeelt het filter zelfstandig nieuwe binnenkomende e-mail en classificeert die op basis van de geleerde patronen.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een uitgever gebruikt hetzelfde AI-hulpmiddel voor twee dingen: het corrigeren van spelfouten en het opschonen van de opmaak in aangeleverde stukken, en het maken van samenvattingen en herschrijvingen van diezelfde stukken.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een servicedesk toont klanten een verwachte oplostijd die is berekend als het gemiddelde uit historische tickets. Een winkelketen voorspelt met een triviale voorspeller hoeveel stuks van een product er per dag verkocht worden, als vertrekpunt voor de inkoopplanning.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een bedrijf laat een realistische synthetische avatar van de eigen CEO een nieuwjaarsboodschap uitspreken waarin hij medewerkers bedankt voor het resultaat van het afgelopen jaar. De video gaat naar het intranet en naar de socialemediakanalen van het bedrijf.

Hangt aan: Artikel 50: transparantie

Tegen de officiële bron gelegd | examples

Een hogeschool koopt een AI-systeem in dat de aanmelding en inschrijving van studenten ordent en per kandidaat een toelatingsadvies geeft voor haar beroepsopleidingen. De leverancier laat weten dat hij de conformiteitsbeoordeling zelf afhandelt en de CE-markering aanbrengt. De vraag die daarna blijft liggen is of de hogeschool zelf nog iets moet doen voordat het systeem in het onderwijsproces in gebruik gaat.

Hangt aan: Artikel 43-49: conformiteitsbeoordeling, CE en registratie

Tegen de officiële bron gelegd | examples

Een ziekenhuis zet AI in om binnenkomende patienten op de spoedeisende hulp te prioriteren. De vraag is niet of het systeem hoog risico is, maar via welke route: als medisch hulpmiddel onder de productwetgeving, of rechtstreeks via Bijlage III.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een netbeheerder gebruikt een AI-model dat automatisch de belasting verdeelt en delen van het elektriciteitsnet afschakelt om uitval te voorkomen. Dezelfde organisatie gebruikt daarnaast een chatbot die klanten helpt bij vragen over hun factuur.

Hangt aan: Bijlage III: hoog-risico AI

Tegen de officiële bron gelegd | examples

Een commercieel team gebruikt rapportagesoftware die met statistische methoden de totale omzet, de gemiddelde omzet per regio en de trend over de tijd berekent en in grafieken toont. Het dashboard doet geen enkele suggestie over hoe de verkoop verbeterd kan worden of welke producten gepromoot moeten worden.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een keten in de non-food retail laat klanten in de webshop achteraf betalen en beoordeelt bij het afrekenen zelf of een consument daarvoor in aanmerking komt. Het team bouwt dat beoordelingssysteem in eigen huis, boven op een voorgetraind model van een leverancier. De vraag is wat er vastligt voordat de functie live gaat, en wie dat moet vastleggen.

Hangt aan: Artikel 11: technische documentatie

Tegen de officiële bron gelegd | examples

Een aanbieder brengt een AI-chatbot op de markt die gebruikers moet helpen gezonder te leven, met advies over beweging en mentale rust. In de praktijk speelt de chatbot in op persoonlijke kwetsbaarheden en zet hij mensen aan tot extreem sporten zonder rust of water.

Hangt aan: Artikel 5: verboden praktijken

Tegen de officiële bron gelegd | examples