Wat valt er onder hoog risico, en is ons systeem dat ook? (Wij bouwen of ontwikkelen het zelf, Private partij, geen krediet of verzekering)

werving en selectie

Aanbeveling van een kandidaat die automatisch een besluit wordt

Een werkgever gebruikt een systeem dat sollicitanten rangschikt en een kandidaat voor aanname aanbeveelt. In de ene inrichting weegt een recruiter die aanbeveling mee in een eigen beoordeling; in de andere inrichting wordt de uitkomst automatisch toegepast en valt een kandidaat af zonder dat iemand ernaar kijkt.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Toets uw wervingssysteem op het beoogde doel en niet op de vraag of een recruiter meekijkt, want het toevoegen of weglaten van menselijke tussenkomst verandert de indeling als hoog risico niet.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

biometrie en identificatie

Gezichtsvergelijking bij de grenspoort: verificatie of identificatie

Een geautomatiseerde grenspoort gebruikt biometrische gezichtsherkenning om het gezicht van een reiziger te vergelijken met de foto in de chip van het paspoort. Dezelfde camera kan technisch ook tegen een opsporingsdatabank vergelijken, en juist dat verschil bepaalt of deze biometrie hoog risico is.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 stellen dat biometrische verificatie buiten de hoog-risicoclassificatie valt: het een-op-een vergelijken van aangeboden biometrie met eerder vastgelegde biometrie, uitsluitend om te bevestigen dat iemand is wie hij zegt te zijn. Wordt dezelfde opname daarnaast tegen een opsporingsdatabank vergeleken, dan is het wel biometrische identificatie op afstand. Het document is een consultatieversie: niet bindend en nog niet definitief.

Toets uw biometrische toepassing op het doel en niet op de techniek: dezelfde camera en hetzelfde model vallen buiten de hoog-risicoroute zolang de vergelijking een-op-een is en alleen de identiteit bevestigt, en vallen erbinnen zodra dezelfde opname ook tegen een databank wordt gehouden. Leg daarom per toepassing vast waartegen wordt vergeleken, want die ene ontwerpkeuze verplaatst het hele regime.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III, randnummer (136)

werving en selectie

CV-filter dat sollicitanten rangschikt

Een werkgever laat een extern wervingssysteem alle binnengekomen sollicitaties scoren en rangschikken, waarna recruiters alleen de bovenste twintig procent nog met de hand bekijken. De leverancier brengt het systeem onder eigen naam op de markt, de werkgever gebruikt het in zijn eigen selectieproces.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Dat recruiters de eindkeuze houden helpt u niet, want zodra het systeem sollicitanten scoort of rangschikt en zo de shortlist stuurt, blijft het hoog risico en geldt geen uitzondering.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

onderwijs

Dossierverwerking bij inschrijvingen van een onderwijsinstelling

Een onderwijsinstelling gebruikt AI voor dossierbehandeling bij aanmeldingen: indexeren, zoeken, tekst- en spraakverwerking, vertaling van meegestuurde documenten, en het uittrekken, omzetten en ordenen van de verzamelde gegevens tot een bruikbaar formaat.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Indexeren, zoeken, vertalen en herordenen van aanmeldingsdossiers blijft voorbereidend werk, zolang het systeem het inhoudelijke oordeel over de aanmelding volledig bij de instelling laat.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

Artikel 6 kent twee gescheiden routes naar hoog-risico

De concept-richtsnoeren van de Europese Commissie over de classificatie van hoog-risico AI van 19 mei 2026, die uitdrukkelijk niet bindend zijn, stellen in randnummer (7) dat een AI-systeem in twee scenario's als hoog-risico geldt: ten eerste wanneer het bedoeld is om te worden gebruikt als veiligheidscomponent van een product, of zelf een product is, dat onder de in Bijlage I genoemde harmonisatiewetgeving van de Unie valt en waarvoor een conformiteitsbeoordeling door een derde partij is vereist, en ten tweede wanneer het valt onder een van de gebruikssituaties in de gebieden van Bijlage III. Randnummer (448) van diezelfde concept-richtsnoeren vermeldt dat de toepassingsdatums van artikel 113 met de AI Omnibus zijn verschoven naar 2 december 2027 voor de route van artikel 6 lid 2 en 2 augustus 2028 voor de route van artikel 6 lid 1.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II, randnummer (7); sectie V, randnummer (448)

Breed gepositioneerde en general purpose AI-systemen: een disclaimer is niet genoeg

Volgens de niet-bindende concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI geldt, blijkens randnummer (12), dat wanneer de gebruiksaanwijzing, contractuele afspraken, gebruiksvoorwaarden, gebruiksbeleid, promotie- en verkoopmateriaal of technische documentatie het AI-systeem presenteren als breed toepasbaar over een veelheid van contexten en functies, en de toepassing niet consequent beperken of hoog-risico gebruik niet uitsluiten, het beoogde doel van het systeem geacht wordt ook hoog-risico gebruikssituaties te omvatten, waardoor het systeem als hoog-risico kwalificeert. Dat geldt volgens deze concept-richtsnoeren in het bijzonder wanneer dergelijk gebruik haalbaar en redelijkerwijs te voorzien is gezien de functionaliteiten en capaciteiten van het systeem. Hetzelfde randnummer stelt dat het enkel beweren, bijvoorbeeld in de gebruiksvoorwaarden, dat hoog-risico gebruik is uitgesloten, onvoldoende is wanneer de algehele presentatie, voorbeelden of productpositionering van de aanbieder dat gebruik feitelijk mogelijk maakt of bevordert, en dat beperkingen duidelijk, concreet en coherent in al het materiaal moeten worden beschreven.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II.2, randnummer (12)

Hoog-risico betekent niet verboden, en niet hoog-risico betekent niet toegestaan

De concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI, die niet bindend zijn, stellen in randnummer (3) dat het feit dat een AI-systeem in deze richtsnoeren als voorbeeld is opgenomen niet betekent dat het gebruik ervan automatisch als rechtmatig moet worden beschouwd, aangezien dat gebruik nog steeds moet voldoen aan andere toepasselijke wetgeving, en in randnummer (4) dat het bereik van deze richtsnoeren beperkt is tot de vraag of een systeem hoog-risico is of niet. In het Bijlage III-hoofdstuk van dit concept stelt randnummer (68) dat het als hoog-risico kwalificeren onder artikel 6 lid 2 niet betekent dat het gebruik verboden is, maar dat die systemen aan passende vereisten zijn onderworpen. De randnummers (82) en (83) van dit concept lichten de woorden voor zover het gebruik is toegestaan op grond van toepasselijk Unierecht of nationaal recht toe en stellen dat het vallen onder een gebruikssituatie niet automatisch betekent dat het systeem rechtmatig in dat geval kan worden gebruikt, dat naast de verboden ook andere bepalingen van Unierecht of nationaal recht het gebruik kunnen beperken, en dat de AI-verordening op grond van artikel 2 lid 9 geldt onverminderd regels over consumentenbescherming, productveiligheid en gegevensbescherming.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, randnummers (3) en (4); hoofdstuk Bijlage III, randnummer (68) en sectie 2.6, randnummers (82) en (83)

Opgeknipte en agentische architecturen worden als geheel beoordeeld

De niet-bindende concept-richtsnoeren van 19 mei 2026 bepalen in randnummers 75, 76 en 90 dat wanneer meerdere AI-systemen deel uitmaken van een complexer geheel en hun gecombineerde beoogde doel of gezamenlijke output een individuele beslissing wezenlijk beïnvloedt, die configuratie voor de classificatie als één AI-systeem wordt behandeld. Het concept stelt uitdrukkelijk dat opgeknipte architecturen als geheel worden beoordeeld om omzeiling door systeemontwerp te voorkomen, dat vrijstellingen voor afzonderlijke modules niet gelden wanneer de totale configuratie kernaspecten van de beslissing beïnvloedt, en dat dit ook geldt voor complexe onderling verbonden opstellingen zoals agentische AI-systemen waarvan de gekoppelde handelingen samen een hoog-risicodoel dienen. Volgens hetzelfde concept blijven strikt procedurele of voorbereidende functies wel vrijstelbaar wanneer zij werkelijk scheidbaar zijn van het systeem en geen output structureren of aanleveren die het onderzoek van een individueel geval wezenlijk beïnvloedt.

Sectie IV.2.3, randnummers 75 en 76, en sectie IV.2.7.1 randnummer 90

prEN 18285: raamwerk voor conformiteitsbeoordeling van AI-systemen

prEN 18285 (Conformity assessment framework) is de JTC 21-deliverable onder M/613 die ziet op de conformiteitsbeoordeling van hoog-risico AI-systemen op grond van artikel 43 en bijlage VII AI-verordening. De deliverable bevond zich naar de stand van juni 2026 in het drafting-stadium. De norm is nog niet als EN gepubliceerd en is niet met referentie in het Publicatieblad bekendgemaakt. Het standaardisatieverzoek M/613 is bij Uitvoeringsbesluit C(2025)3871 van 23 juni 2025 gewijzigd en loopt af op 28 februari 2027.