Moeten wij een FRIA uitvoeren en hoe pakken we dat aan?

onderwijs

Selectie bij de inschrijving van studenten: een DPIA is nog geen FRIA

Een hogeschool laat een AI-systeem de aanmeldingen voor een beroepsopleiding rangschikken en gebruikt daarbij de toetsresultaten van eerdere studenten om die rangorde te ijken. Voor deze verwerking ligt er al een gegevensbeschermingseffectbeoordeling. De vraag die de school stelt is of daarmee ook de grondrechtenkant van de inschrijving is afgedekt.

Herkomst: Artikel 27, lid 1 bepaalt dat gebruiksverantwoordelijken die publiekrechtelijke organen zijn of particuliere entiteiten die openbare diensten verlenen, en gebruiksverantwoordelijken van hoog-risico AI-systemen als bedoeld in bijlage III, punt 5, b) en c), voor de ingebruikname van een hoog-risico AI-systeem als bedoeld in artikel 6, lid 2 een beoordeling uitvoeren van de gevolgen voor de grondrechten, met uitzondering van systemen die bedoeld zijn om te worden gebruikt op het in punt 2 van bijlage III vermelde gebied. Die beoordeling bestaat uit een beschrijving van de processen waarin het systeem overeenkomstig het beoogde doel wordt gebruikt, van de periode en de frequentie van gebruik, van de categorieen natuurlijke personen en groepen die naar verwachting gevolgen ondervinden, van de specifieke risico's op schade voor die categorieen, van de uitvoering van maatregelen voor menselijk toezicht en van de maatregelen bij het intreden van die risico's, met inbegrip van de regelingen voor interne governance en klachtenregelingen. Lid 2 bepaalt dat de verplichting van toepassing is op het eerste gebruik, dat de gebruiksverantwoordelijke in soortgelijke gevallen eerder uitgevoerde effectbeoordelingen of bestaande effectbeoordelingen van de aanbieder kan gebruiken, en dat de gebruiksverantwoordelijke die tijdens het gebruik ziet dat een van de in lid 1 vermelde elementen is gewijzigd of niet langer actueel is, de nodige maatregelen neemt om de informatie te actualiseren. Lid 4 bepaalt dat wanneer een van de verplichtingen uit dit artikel al is nagekomen door de gegevensbeschermingseffectbeoordeling op grond van artikel 35 van Verordening (EU) 2016/679 of artikel 27 van Richtlijn (EU) 2016/680, de beoordeling van lid 1 een aanvulling vormt op die gegevensbeschermingseffectbeoordeling.

Wij lezen artikel 27 zo dat de onderwijsinstelling die deze selectie zelf inzet hier de gebruiksverantwoordelijke is, maar daarmee staat de plicht nog niet vast. Lid 1 wijst publiekrechtelijke organen aan en particuliere entiteiten die openbare diensten verlenen, en of een bekostigde dan wel een private hogeschool onder een van die twee omschrijvingen valt, is de vraag die u eerst moet beantwoorden. Valt zij eronder, dan is een bestaande gegevensbeschermingseffectbeoordeling in onze lezing het vertrekpunt en niet het sluitstuk: lid 4 laat de grondrechtenbeoordeling ernaast staan, en sinds Verordening (EU) 2026/1744 mag zij relevante delen daarvan overnemen of daarnaar verwijzen, zodat de vraag vooral is welke onderdelen van lid 1 nog ontbreken. Voor u betekent dat vastleggen welke groepen studenten geraakt kunnen worden, hoe de toelatingscommissie of de docent een uitkomst kan corrigeren en waar een afgewezen aanmelder met een klacht terechtkan. Verandert de selectieregel of het toetsonderdeel waarop de rangorde steunt, dan is dat in onze lezing het moment om het dossier bij te werken, en niet het begin van het volgende studiejaar.

Redactioneel voorbeeld. De regel hierboven staat in de verordening. De situatie is door ons geschreven om te laten zien hoe die regel in deze sector uitpakt, en is niet ontleend aan een uitgewerkt geval uit officiële richtsnoeren.

Artikel 27, leden 1, 2 en 4

onderwijs

Dossierverwerking bij inschrijvingen van een onderwijsinstelling

Een onderwijsinstelling gebruikt AI voor dossierbehandeling bij aanmeldingen: indexeren, zoeken, tekst- en spraakverwerking, vertaling van meegestuurde documenten, en het uittrekken, omzetten en ordenen van de verzamelde gegevens tot een bruikbaar formaat.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Indexeren, zoeken, vertalen en herordenen van aanmeldingsdossiers blijft voorbereidend werk, zolang het systeem het inhoudelijke oordeel over de aanmelding volledig bij de instelling laat.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

onderwijs

Geautomatiseerde schooltoewijzing door gemeenten

Gemeenten of regionale autoriteiten wijzen leerlingen automatisch toe aan openbare scholen op basis van gestructureerde gegevens zoals thuisadres, de grenzen van voedingsgebieden en beschikbare capaciteit, waarbij ook aanwezigheid van broers en zussen en de status van ouders meewegen om gezinnen bij elkaar te houden of reisafstand te beperken.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Ook een toewijzing op ogenschijnlijk objectieve gegevens als adres en capaciteit geldt hier als profilering, zodat u zich als overheid niet op de uitzondering van artikel 6, lid 3, kunt beroepen.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

onderwijs

AI die antwoorden van sollicitanten scoort en rangschikt

Een systeem beoordeelt geschreven of gesproken antwoorden van sollicitanten in een online assessment, kent op basis van taalkundige en inhoudelijke criteria een cijfermatige score toe en genereert daaruit een ranglijst die bepaalt wie wordt uitgenodigd voor het interview.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 behandelen dit geval bij de vraag of een toepassing onder Bijlage III valt. Het document is een consultatieversie: niet bindend en nog niet definitief.

Zodra uw assessment antwoorden omzet in een cijfer en daarmee bepaalt wie op gesprek komt, vervult het systeem een kernbeoordeling en helpt geen enkele uitzondering u eruit.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III

Artikel 6 kent twee gescheiden routes naar hoog-risico

De concept-richtsnoeren van de Europese Commissie over de classificatie van hoog-risico AI van 19 mei 2026, die uitdrukkelijk niet bindend zijn, stellen in randnummer (7) dat een AI-systeem in twee scenario's als hoog-risico geldt: ten eerste wanneer het bedoeld is om te worden gebruikt als veiligheidscomponent van een product, of zelf een product is, dat onder de in Bijlage I genoemde harmonisatiewetgeving van de Unie valt en waarvoor een conformiteitsbeoordeling door een derde partij is vereist, en ten tweede wanneer het valt onder een van de gebruikssituaties in de gebieden van Bijlage III. Randnummer (448) van diezelfde concept-richtsnoeren vermeldt dat de toepassingsdatums van artikel 113 met de AI Omnibus zijn verschoven naar 2 december 2027 voor de route van artikel 6 lid 2 en 2 augustus 2028 voor de route van artikel 6 lid 1.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II, randnummer (7); sectie V, randnummer (448)

Breed gepositioneerde en general purpose AI-systemen: een disclaimer is niet genoeg

Volgens de niet-bindende concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI geldt, blijkens randnummer (12), dat wanneer de gebruiksaanwijzing, contractuele afspraken, gebruiksvoorwaarden, gebruiksbeleid, promotie- en verkoopmateriaal of technische documentatie het AI-systeem presenteren als breed toepasbaar over een veelheid van contexten en functies, en de toepassing niet consequent beperken of hoog-risico gebruik niet uitsluiten, het beoogde doel van het systeem geacht wordt ook hoog-risico gebruikssituaties te omvatten, waardoor het systeem als hoog-risico kwalificeert. Dat geldt volgens deze concept-richtsnoeren in het bijzonder wanneer dergelijk gebruik haalbaar en redelijkerwijs te voorzien is gezien de functionaliteiten en capaciteiten van het systeem. Hetzelfde randnummer stelt dat het enkel beweren, bijvoorbeeld in de gebruiksvoorwaarden, dat hoog-risico gebruik is uitgesloten, onvoldoende is wanneer de algehele presentatie, voorbeelden of productpositionering van de aanbieder dat gebruik feitelijk mogelijk maakt of bevordert, en dat beperkingen duidelijk, concreet en coherent in al het materiaal moeten worden beschreven.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II.2, randnummer (12)

Hoog-risico betekent niet verboden, en niet hoog-risico betekent niet toegestaan

De concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI, die niet bindend zijn, stellen in randnummer (3) dat het feit dat een AI-systeem in deze richtsnoeren als voorbeeld is opgenomen niet betekent dat het gebruik ervan automatisch als rechtmatig moet worden beschouwd, aangezien dat gebruik nog steeds moet voldoen aan andere toepasselijke wetgeving, en in randnummer (4) dat het bereik van deze richtsnoeren beperkt is tot de vraag of een systeem hoog-risico is of niet. In het Bijlage III-hoofdstuk van dit concept stelt randnummer (68) dat het als hoog-risico kwalificeren onder artikel 6 lid 2 niet betekent dat het gebruik verboden is, maar dat die systemen aan passende vereisten zijn onderworpen. De randnummers (82) en (83) van dit concept lichten de woorden voor zover het gebruik is toegestaan op grond van toepasselijk Unierecht of nationaal recht toe en stellen dat het vallen onder een gebruikssituatie niet automatisch betekent dat het systeem rechtmatig in dat geval kan worden gebruikt, dat naast de verboden ook andere bepalingen van Unierecht of nationaal recht het gebruik kunnen beperken, en dat de AI-verordening op grond van artikel 2 lid 9 geldt onverminderd regels over consumentenbescherming, productveiligheid en gegevensbescherming.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, randnummers (3) en (4); hoofdstuk Bijlage III, randnummer (68) en sectie 2.6, randnummers (82) en (83)

Opgeknipte en agentische architecturen worden als geheel beoordeeld

De niet-bindende concept-richtsnoeren van 19 mei 2026 bepalen in randnummers 75, 76 en 90 dat wanneer meerdere AI-systemen deel uitmaken van een complexer geheel en hun gecombineerde beoogde doel of gezamenlijke output een individuele beslissing wezenlijk beïnvloedt, die configuratie voor de classificatie als één AI-systeem wordt behandeld. Het concept stelt uitdrukkelijk dat opgeknipte architecturen als geheel worden beoordeeld om omzeiling door systeemontwerp te voorkomen, dat vrijstellingen voor afzonderlijke modules niet gelden wanneer de totale configuratie kernaspecten van de beslissing beïnvloedt, en dat dit ook geldt voor complexe onderling verbonden opstellingen zoals agentische AI-systemen waarvan de gekoppelde handelingen samen een hoog-risicodoel dienen. Volgens hetzelfde concept blijven strikt procedurele of voorbereidende functies wel vrijstelbaar wanneer zij werkelijk scheidbaar zijn van het systeem en geen output structureren of aanleveren die het onderzoek van een individueel geval wezenlijk beïnvloedt.

Sectie IV.2.3, randnummers 75 en 76, en sectie IV.2.7.1 randnummer 90