Een gemeente wil een AI-systeem gebruiken bij aanvragen voor bijzondere bijstand. Het systeem adviseert de consulent of de aanvrager waarschijnlijk in aanmerking komt. Zet zij het op of na 2 december 2027 in, dan moet zij vooraf een beoordeling van de gevolgen voor de grondrechten maken: de FRIA van artikel 27. Draait het systeem al eerder, dan geldt artikel 111 lid 2 (zie hieronder). Op 16 november 2026 publiceerde de Europese Commissie een ontwerp van het model dat het AI-bureau daarvoor op grond van artikel 27 lid 5 moet maken, met een ontwerp-toelichting.
Wat artikel 27 zelf vraagt, staat in onze uitleg van de FRIA en artikel 27. Dit stuk gaat over het ontwerp en wat het u als gebruiksverantwoordelijke oplevert. De gemeente, de bank en de verzekeraar zijn verzonnen.
In het kort
Het ontwerp is niet vastgesteld door de Commissie: het geeft de voorlopige standpunten van haar diensten weer. Het model volgt artikel 27 lid 1, laat u per risico de waarschijnlijkheid en de ernst scoren als laag, middel of hoog en laat ruimte voor uw DPIA. Reageren kan tot 15 januari 2027, aanmelden om het ontwerp te testen tot 4 december 2026. De plicht geldt vanaf 2 december 2027; voor systemen die al eerder in de handel of in gebruik zijn, geldt artikel 111 lid 2.
Wat er op 16 november verscheen
Het document bestaat uit een toelichting en een model met zeven secties en een samenvatting. Het AI-bureau stelde het op met inbreng van het Bureau van de Europese Unie voor de grondrechten (FRA). Op de eerste bladzijde staat dat het niet door de Commissie is vastgesteld of onderschreven en de "preliminary views of the Commission services" bevat. Zodra het model definitief is, gebruikt u het volgens het nieuwsbericht voor uw FRIA en meldt u daarmee de resultaten aan de markttoezichtautoriteit (artikel 27 lid 3). Na vaststelling komt het ook als geautomatiseerd instrument op het AI Act Single Information Platform.
Wie een FRIA moet doen
De toelichting noemt drie groepen gebruiksverantwoordelijken: publiekrechtelijke organen en particuliere entiteiten die openbare diensten verlenen, als zij een hoog-risicosysteem uit bijlage III gebruiken; gebruiksverantwoordelijken van systemen die de kredietwaardigheid van natuurlijke personen beoordelen of hun kredietscore vaststellen, behalve systemen voor het opsporen van financiële fraude (punt 5 onder b); en gebruiksverantwoordelijken van systemen voor risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen (punt 5 onder c). Systemen voor kritieke infrastructuur (punt 2) zijn uitgezonderd.
De AI Act definieert "publiekrechtelijk orgaan" niet. Volgens de toelichting kan de rechtspraak van het Hof van Justitie over "public authority" en "body governed by public law" inspiratie bieden. Het begrip kan dan staatsorganen en regionale en lokale overheden omvatten, met of zonder eigen rechtspersoonlijkheid, en ook andere publiekrechtelijke entiteiten met een publieke taak, entiteiten die bij wet openbaar gezag uitoefenen en de instellingen van de Unie. Een gemeente is een lokale overheid en valt er volgens deze uitleg dus onder; de uitleg door het Hof en artikel 2 blijven voorgaan.
Voor particuliere entiteiten steunt de toelichting op overweging 96, die onderwijs, gezondheidszorg, sociale diensten, huisvesting en rechtsbedeling noemt. Volgens de toelichting zijn dat voorbeelden: ook wie een vergelijkbare dienst van openbare aard verleent, zou een FRIA moeten doen.
Wanneer u de FRIA maakt en bijwerkt
De FRIA moet klaar zijn vóór de eerste inzet. Volgens de toelichting maakt u er een per AI-systeem, voor alle doelen waarvoor u het gebruikt, en werkt u hem bij (artikel 27 lid 2) als een relevante factor verandert, zoals de processen, de betrokken personen, de versie van het systeem of van het onderliggende model, of als de beoordeling niet meer actueel is.
Het ontwerp noemt geen datum; het nieuwsbericht noemt 2 december 2027, de datum waarop de hoog-risicoregels van bijlage III gelden sinds Verordening (EU) 2026/1744. Voor een systeem dat al vóór die datum in de handel is gebracht of in gebruik is gesteld, geldt artikel 111 lid 2: de hoog-risicoplichten, waaronder de FRIA, gelden pas als het systeem daarna een aanzienlijke wijziging in zijn ontwerp ondergaat, en systemen die bedoeld zijn voor gebruik door overheidsinstanties moeten uiterlijk 2 augustus 2030 voldoen. Het verbod van artikel 5 geldt onverminderd. Of een nieuwe versie van het onderliggende model zo'n aanzienlijke wijziging is, behandelt het ontwerp niet.
Wat de aanbieder aanlevert
De aanbieder heeft een systeem voor risicobeheer (artikel 9), maar lid 3 beperkt dat tot risico's die "redelijkerwijs kunnen worden beperkt of weggenomen via het ontwikkelen of ontwerpen" van het systeem of via adequate technische informatie. Risico's die voortkomen uit het gebruik en de specifieke context van inzet kunnen volgens de toelichting daarom in de FRIA worden ondervangen. Op de gebruiksinstructies (artikel 13 lid 2 en 3), die volgens de toelichting de informatie uit dat risicobeheer moeten bevatten, hoort u te steunen; artikel 27 lid 1 onder d vraagt u met die informatie rekening te houden.
U mag in soortgelijke gevallen voortbouwen op een eerdere FRIA of op een effectbeoordeling van de aanbieder (artikel 27 lid 2); op die van de aanbieder kan dat volgens het model ook bij uw eerste gebruik. De aanbieder is niet verplicht zijn beoordeling te delen, maar delen kan volgens de toelichting een goede praktijk zijn. Naar onze lezing is dat een reden om er bij de inkoop al naar te vragen.
De DPIA als bouwsteen
Volgens de toelichting vult de FRIA de DPIA aan. Dekt een DPIA voor het gebruik van het systeem al een onderdeel van de FRIA, dan mag u naar de relevante delen verwijzen of ze overnemen (artikel 27 lid 4 en 5). Het model werkt dat uit in tabel 4.1, over het recht op bescherming van persoonsgegevens. U geeft aan of er een DPIA is op grond van artikel 35 AVG, artikel 27 van Richtlijn (EU) 2016/680 of artikel 39 van Verordening (EU) 2018/1725 (EUDPR). De risicobeschrijving komt meestal overeen met artikel 35 lid 7 onder c AVG, de maatregelen met onder d. Een oordeel over waarschijnlijkheid en ernst uit de DPIA zet u om naar de schaal van het model. Meer over het verschil staat in DPIA en FRIA: een praktische vergelijking.
Het model, sectie voor sectie
Sectie 1, algemene gegevens. Soort organisatie, verantwoordelijke persoon, het nummer van het systeem in de EU-databank (artikel 49 lid 1) en, als dat geldt, uw eigen registratienummer (lid 3). U kruist het gebied van bijlage III aan en geeft aan of dit een eerste inzet of een update is.
Sectie 2, context (artikel 27 lid 1 onder a en b). Het beoogde doel volgens de gebruiksinstructies, de processen waarin het systeem werkt, hoe de output wordt gebruikt, en de periode en frequentie van gebruik.
Sectie 3, wie gevolgen ondervindt (onder c). Een lijst om aan te kruisen, onder meer kinderen, ouderen, personen met een handicap, personen in een kwetsbare sociale of economische situatie en onderdanen van derde landen. "Het brede publiek" vervangt die groepen niet.
Sectie 4, risico's op schade (onder d). Na tabel 4.1 volgt 4.2 voor de andere grondrechten. Per risico, een concrete manier waarop het systeem mensen kan raken, beschrijft u het risico, kruist u de geraakte rechten aan uit een lijst die aansluit bij het Handvest en noemt u de groepen. Risico is de combinatie van de kans op schade en de ernst daarvan (artikel 3, punt 2). U scoort beide als laag, middel of hoog. Laag is onwaarschijnlijk onder voorzienbare omstandigheden, middel aannemelijk onder bepaalde omstandigheden, hoog zeer waarschijnlijk of al waargenomen bij vergelijkbare inzet. Bij laag risico hoeft u volgens het model geen preventieve of beperkende maatregelen te beschrijven; de maatregelen voor als risico's zich voordoen (sectie 6) blijven nodig. Daarna scoort u het risico dat na de maatregelen overblijft.
Sectie 5, menselijk toezicht (onder e). In 5.1 beschrijft u welke maatregelen uit de gebruiksinstructies u hebt ingevoerd, wie toezicht houdt, welke bevoegdheid die persoon heeft om de output te negeren of terug te draaien, en waar u afwijkt van de instructies. In 5.2 beschrijft u hoe de toezichthouders de nodige bekwaamheid, opleiding, autoriteit en ondersteuning krijgen (artikel 26 lid 2), met de maatregelen voor AI-geletterdheid (artikel 4).
Sectie 6, als risico's zich voordoen (onder f). In 6.1 beschrijft u monitoring en hoe u direct reageert, bijvoorbeeld door het gebruik op te schorten, met de meldplicht aan de aanbieder uit artikel 26 lid 5. Let op: bij een risico in de zin van artikel 79 lid 1 verplicht artikel 26 lid 5 u het gebruik te onderbreken en ook de markttoezichtautoriteit te informeren. In 6.2 beschrijft u de klachtenregeling, de interne governance en eventuele mogelijkheden tot herstel.
Sectie 7 en de samenvatting. Sectie 7 is een korte synthese per beoordeeld recht. De samenvatting vult alleen in wie het gebruik registreert op grond van artikel 49 lid 3: overheidsinstanties, instellingen van de Unie en wie namens hen optreedt. Die komt in de openbare EU-databank (artikel 49 lid 3, artikel 71 en bijlage VIII, afdeling C, punt 4). Voor systemen die onder artikel 49 lid 4 worden geregistreerd (rechtshandhaving, migratie, asiel en grenstoezicht) geldt de samenvatting niet.
Melden aan de markttoezichtautoriteit
Na het invullen of bijwerken meldt u de resultaten aan de markttoezichtautoriteit van uw lidstaat, met het ingevulde model als bijlage. Heeft die autoriteit het systeem bij uitzondering toegelaten, bijvoorbeeld om redenen van openbare veiligheid (artikel 46 lid 1), dan kunt u van de melding zijn vrijgesteld, maar volgens de toelichting niet van de FRIA zelf. Onder de voorwaarden van artikel 77 kunnen autoriteiten die grondrechten beschermen via de markttoezichtautoriteit toegang tot de FRIA vragen. Welke autoriteit in Nederland de meldingen ontvangt, staat nog niet vast.
De gemeente, de bank en de verzekeraar
Het systeem van de gemeente beoordeelt mee of aanvragers in aanmerking komen voor een uitkering; naar onze lezing valt het onder bijlage III, punt 5 onder a. In sectie 3 noemt de gemeente personen in een kwetsbare sociale of economische situatie, personen met een handicap en ouderen. Tabel 4.1 verwijst naar de DPIA. Risico 1 in 4.2: het systeem adviseert vaker negatief bij aanvragers met een wisselend inkomen, terwijl juist die groep vaak recht heeft op bijstand. Geraakt zijn het recht op sociale zekerheid en sociale bijstand, non-discriminatie en behoorlijk bestuur; waarschijnlijkheid middel, ernst hoog. Maatregelen: de consulent beoordeelt altijd de hele aanvraag, een negatief advies leidt nooit vanzelf tot afwijzing, en er is een maandelijkse steekproef. In sectie 6 vergelijkt zij per groep adviezen met besluiten; daarna publiceert zij de samenvatting in de EU-databank. Draait het systeem al vóór 2 december 2027, dan geldt artikel 111 lid 2: de FRIA is nodig bij een aanzienlijke wijziging in het ontwerp, en uiterlijk op 2 augustus 2030.
Een bank die AI gebruikt om de kredietwaardigheid van natuurlijke personen te beoordelen, maakt ook een FRIA, hoewel zij een private partij is; de samenvatting voor de EU-databank geldt niet voor haar. Voor financiële instellingen geldt de monitoringsplicht van artikel 26 lid 5 als vervuld via de governanceregels uit het financiële recht (tweede alinea); de meld- en onderbrekingsplicht uit de eerste alinea blijft gelden. Naar onze lezing kan de bank in sectie 6 voor de monitoring daarnaar verwijzen; het ontwerp zegt daar niets over. Een verzekeraar die AI gebruikt voor risicobeoordeling en prijsstelling met betrekking tot natuurlijke personen bij een levens- of ziektekostenverzekering, bijvoorbeeld een aanvullende verzekering, valt onder punt 5 onder c. Ouderen en personen met een handicap liggen dan voor de hand in sectie 3.
Wat nog open ligt
- Drie verwijzingen staan nog als "[link to be added later]": waar u een update indient, welke autoriteit u om advies kunt vragen en hoe u meldt.
- De omschrijvingen van laag, middel en hoog zijn in termen van waarschijnlijkheid geformuleerd, terwijl tabel 4.1 er ook voor de ernst naar verwijst; een omschrijving die bij de ernst past, ontbreekt.
- Tabel 4.1 schrapt maatregelen alleen als waarschijnlijkheid én ernst laag zijn; 4.2 zegt kortweg "laag risico". Hoe u een lage kans met een hoge ernst behandelt, is open.
Wat u nu doet
- Reageer op het ontwerp tot 15 januari 2027 via de consultatie van de Commissie.
- Meld u aan voor de test uiterlijk 4 december 2026 via het aanmeldformulier. U past het model toe op een eigen systeem, met begeleiding van het AI-bureau; het AI-bureau kan een selectie maken.
- Zet de DPIA op orde, met een oordeel over waarschijnlijkheid en ernst dat u kunt omzetten naar de schaal van het model.
- Vraag de gebruiksinstructies op bij de aanbieder, en vraag of hij een effectbeoordeling wil delen.
- Stel een team samen met kennis van grondrechten, het systeem en het werkproces, en leg vast wie eindverantwoordelijk is.
Welke plichten bij uw toepassing horen, ziet u in de casus-check. Een werkmodel staat in onze FRIA-template; voor overheden is er de FRIA voor gemeenten en de publieke sector.
Veelgestelde vragen over het ontwerpmodel voor de FRIA
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven