Waarom hangt dit object aan dat object

Een organisatie beveiligt de ingang van haar panden met gezichtsherkenning en gebruikt die biometrische toegangscontrole ook om bezoekers te registreren. Geeft het systeem geen match, dan beoordeelt een beveiliger de beelden van de camera en beslist hij zelf of iemand naar binnen mag. De vraag is wiens maatregelen die beveiliger moeten bereiken: die van de leverancier van het model, die van de afdeling die het systeem inzet, of allebei.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een politiedienst gebruikt AI om grote hoeveelheden opsporingsdossiers te doorzoeken en verbanden te laten opvallen die een rechercheur anders zou missen. De uitkomsten wegen mee in de keuze welke verdachte verder wordt onderzocht en belanden uiteindelijk in stukken die het strafrecht in gaan. De vraag is of dezelfde basisinstructie volstaat voor de analist die het model bedient en voor de rechercheur die op de uitkomst afgaat.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een nieuwsredactie zet generatieve AI in om samenvattingen, koppen en beeld voor te bereiden, waarna een eindredacteur het stuk afmaakt en de redactie besluit te publiceren. Een deel van dat werk ligt bij freelancers, en een extern bureau maakt met dezelfde tools de content voor marketing. De vraag is of uw maatregelen voor AI-geletterdheid ook die freelancers en dat bureau moeten raken, of alleen de mensen op de loonlijst.

Hangt aan: Artikel 4: AI-geletterdheid

Tegen de officiële bron gelegd | examples

Een recruiter zet een AI-chat in die kandidaten na hun reactie op een vacature een eerste screeningsgesprek laat voeren en hun cv aanvult met de antwoorden. De chat presenteert zich met een voornaam en schrijft in vlotte spreektaal. De vraag is of deze sollicitanten redelijkerwijs doorhebben dat zij met een AI-systeem praten.

Tegen de officiële bron gelegd | examples

Een werkgever gebruikt een AI-systeem dat het functioneren van medewerkers scoort en die score meeweegt bij promotie en ontslag. Na een wijziging aan het model blijkt een groep werknemers maandenlang te laag te zijn beoordeeld, en op die beoordelingen zijn al besluiten genomen. Personeelszaken vraagt zich af of dit een ernstig incident is en wie er dan moet melden.

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-systeem dat als veiligheidscomponent in een machine op de productielijn meedraait en tegelijk de kwaliteitscontrole aanstuurt. In de fabriek van een afnemer raakt een operator ernstig gewond nadat de machine bij een afwijking niet tot stilstand kwam. De vraag is wie de melding doet, aan wie, en welke klok op dat moment al loopt.

Tegen de officiële bron gelegd | examples

Een gemeente wil een AI-systeem in gebruik nemen dat aanvragen voor een uitkering uit de bijstand ordent en aangeeft welke dossiers extra onderzoek verdienen voordat een klantmanager beslist. De toepassing staat al in het algoritmeregister. De vraag is wat er geregeld moet zijn voordat de eerste burger door dit systeem gaat.

Tegen de officiële bron gelegd | examples

Een politiedienst neemt een AI-systeem in gebruik dat bij een verdachte een inschatting van recidive maakt, als hulpmiddel bij de afweging die het openbaar ministerie en de rechter later maken. Later wordt het model hertraind op nieuwere opsporingsgegevens en breidt de dienst het gebruik uit naar een tweede regio. De vraag is of de beoordeling van het eerste gebruik daarmee toereikend blijft.

Tegen de officiële bron gelegd | examples

Een hogeschool laat een AI-systeem de aanmeldingen voor een beroepsopleiding rangschikken en gebruikt daarbij de toetsresultaten van eerdere studenten om die rangorde te ijken. Voor deze verwerking ligt er al een gegevensbeschermingseffectbeoordeling. De vraag die de school stelt is of daarmee ook de grondrechtenkant van de inschrijving is afgedekt.

Tegen de officiële bron gelegd | examples

Een hogeschool gebruikt een ingekocht AI-systeem dat de aanmelding van studenten rangschikt en daarnaast signalen afgeeft bij digitale toetsing. De logs staan in de omgeving van de leverancier, die ze op verzoek aanlevert. Het onderwijsteam vraagt zich af of de school daarmee klaar is of dat er een eigen bewaarplicht overblijft.

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-systeem dat als veiligheidscomponent meedraait in de machines van een productielijn en tegelijk de kwaliteitscontrole aanstuurt. De fabriek die de lijn draait, bewaart alleen de meldingen die in de lokale besturing zichtbaar zijn; de rest van de registratie loopt naar de omgeving van de leverancier. De vraag is wie welke logs moet bewaren wanneer achteraf moet worden gereconstrueerd waarom de lijn is stilgelegd.

Tegen de officiële bron gelegd | examples

Een werkgever zet een AI-systeem in dat op de werkvloer taken toewijst aan medewerkers en het functioneren samenvat ten behoeve van het beoordelingsgesprek. Personeelszaken wil weten welke registratie van die uitkomsten bewaard moet blijven wanneer een werknemer maanden later bezwaar maakt tegen een besluit over promotie.

Tegen de officiële bron gelegd | examples

Een politiedienst traint een open general-purpose model bij op eigen dossiers uit lopende opsporingsonderzoeken, zodat rechercheurs sneller verbanden tussen verdachten en zaken zien. Het bijgetrainde model blijft binnen de dienst en wordt aan niemand anders beschikbaar gesteld. De vraag is of de dienst daarmee zelf aanbieder van een AI-model voor algemene doeleinden wordt, en dus onder artikel 53 valt.

Tegen de officiële bron gelegd | examples

Een aanbieder levert een systeem dat prestatiegegevens van werknemers samenvat en personeelszaken ondersteunt bij beslissingen over promotie. Na een jaar in gebruik blijkt dat afdelingen het anders inzetten dan bedoeld, en dat leidinggevenden de uitkomsten meenemen in het beoordelingsgesprek over functioneren. De vraag is wat de aanbieder daarvan hoort te weten.

Tegen de officiële bron gelegd | examples

Een leverancier biedt proctoringsoftware aan die tijdens tentamens signaleert wanneer een student mogelijk spiekt. Verschillende hogescholen gebruiken het systeem, elk met eigen toetsvormen en eigen studentenpopulaties. De leverancier wil weten welke praktijkdata hij na de uitrol moet blijven verzamelen, en van wie.

Tegen de officiële bron gelegd | examples

Een fabrikant levert een AI-veiligheidscomponent die op een productielijn de bewegingen van machines stillegt zodra iemand te dicht bij de robot komt. Het onderdeel valt al onder de productwetgeving voor machines, en de fabrikant voert daarvoor kwaliteitscontrole en incidentopvolging uit. De vraag is wat artikel 72 daar nog bovenop vraagt.

Tegen de officiële bron gelegd | examples

Een hogeschool zet proctoringsoftware in bij een online tentamen en merkt dat een groep studenten stelselmatig onterecht als verdacht wordt gemarkeerd, waarna cijfers zijn ingetrokken. Docenten en de examencommissie willen weten of dit patroon een ernstig incident is en, zo ja, wie het moet melden en binnen welke tijd.

Tegen de officiële bron gelegd | examples

Een hogeschool koopt een AI-systeem in dat de aanmelding en inschrijving van studenten ordent en per kandidaat een toelatingsadvies geeft voor haar beroepsopleidingen. De leverancier laat weten dat hij de conformiteitsbeoordeling zelf afhandelt en de CE-markering aanbrengt. De vraag die daarna blijft liggen is of de hogeschool zelf nog iets moet doen voordat het systeem in het onderwijsproces in gebruik gaat.

Tegen de officiële bron gelegd | examples

Een keten in de non-food retail laat klanten in de webshop achteraf betalen en beoordeelt bij het afrekenen zelf of een consument daarvoor in aanmerking komt. Het team bouwt dat beoordelingssysteem in eigen huis, boven op een voorgetraind model van een leverancier. De vraag is wat er vastligt voordat de functie live gaat, en wie dat moet vastleggen.

Tegen de officiële bron gelegd | examples