Ga naar de hoofdinhoud
Praxikon

Artikel 55 AI Act: AI-modellen met systeemrisico en de eisen aan externe beoordelaars

··16 min leestijd

Een gemeente wil haar medewerkers een schrijfhulp geven en inwoners een chatbot. De leverancier bouwt beide op een groot taalmodel dat volgens de offerte een AI-model voor algemene doeleinden met een systeemrisico is, de zwaarste categorie van de AI Act. Wat betekent dat voor de gemeente? En wat moet zij met het rapport van het AI-bureau van 21 oktober 2026 over de eisen aan externe beoordelaars die zulke modellen testen?

Het antwoord begint bij artikel 55, dat de aanbieder van zo'n model vier extra plichten oplegt. De voorbeelden in dit stuk zijn verzonnen.

In het kort

Artikel 55 geldt alleen voor aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico. Zij evalueren het model met tests op kwetsbaarheden (lid 1 onder a), beoordelen en beperken systeemrisico's (onder b), melden ernstige incidenten aan het AI-bureau (onder c) en zorgen voor cyberbeveiliging (onder d). Het artikel geldt sinds 2 augustus 2025, de Commissie kan sinds 2 augustus 2026 beboeten, en voor modellen die al vóór 2 augustus 2025 in de handel waren loopt de termijn tot 2 augustus 2027.

De tekst van artikel 55 noemt geen externe beoordelaars. Overweging 114 noemt onafhankelijke externe tests "in voorkomend geval", waar dat passend is; de toezegging om ze in te zetten staat in de praktijkcode. Het rapport van 21 oktober 2026 geeft de huidige opvattingen van het AI-bureau: geen richtsnoer in de zin van artikel 96, geen besluit, en naar onze lezing niet bindend.

Elders staan de aanwijzing onder artikel 52, het toezicht door de Commissie onder artikel 90 tot en met 94, de praktijkcode zelf, het wetenschappelijk panel en contractclausules bij inkoop. Dit stuk herhaalt die niet.

Wanneer heeft een model een systeemrisico?

Een AI-model voor algemene doeleinden heeft een systeemrisico als het capaciteiten met een grote impact heeft, of als de Commissie het als zodanig aanwijst (artikel 51 lid 1). Die capaciteiten worden vermoed als voor de training meer dan 10^25 zwevendekommabewerkingen zijn gebruikt (lid 2). De Commissie zorgt dat een lijst van zulke modellen wordt gepubliceerd en actueel blijft (artikel 52 lid 6).

Artikel 55 lid voor lid

Lid 1 komt "naast de in de artikelen 53 en 54 genoemde verplichtingen": de plichten van artikel 53, zoals technische documentatie en informatie voor wie het model in een eigen systeem verwerkt, blijven gelden. Daarbovenop vier plichten.

Onder a: modelevaluatie. De aanbieder voert een modelevaluatie uit "overeenkomstig gestandaardiseerde protocollen en instrumenten die de stand van de techniek weerspiegelen", met inbegrip van het uitvoeren en documenteren van tests gericht op het ontdekken van kwetsbaarheden, om systeemrisico's in kaart te brengen en te beperken.

Onder b: risicobeoordeling en risicobeperking. De aanbieder beoordeelt en beperkt mogelijke systeemrisico's op Unieniveau, met hun bronnen, die kunnen voortvloeien uit de ontwikkeling, het in de handel brengen of het gebruik van het model.

Onder c: ernstige incidenten. De aanbieder houdt relevante informatie over ernstige incidenten en mogelijke corrigerende maatregelen bij, documenteert die en meldt ze onverwijld aan het AI-bureau en, in voorkomend geval, aan de nationale bevoegde autoriteiten.

Onder d: cyberbeveiliging. Een passend niveau van cyberbeveiliging voor het model en de fysieke infrastructuur ervan; overweging 115 noemt onder meer modellekken en modeldiefstal.

Lid 2 regelt het bewijs. De aanbieder kan zich baseren op een praktijkcode in de zin van artikel 56, totdat er een geharmoniseerde norm is gepubliceerd; zo'n norm geeft een vermoeden van overeenstemming voor zover zij de plichten dekt. Wie geen goedgekeurde praktijkcode en geen geharmoniseerde norm volgt, toont "alternatieve passende wijzen van naleving" aan, die de Commissie beoordeelt.

Lid 3: verkregen informatie, ook bedrijfsgeheimen, valt onder de vertrouwelijkheid van artikel 78.

Sinds wanneer? Hoofdstuk V, waarin artikel 55 staat, geldt sinds 2 augustus 2025 (artikel 113, derde alinea, onder b). Artikel 101 is van die datum uitgezonderd: boeten tot 3 procent van de wereldwijde jaaromzet of 15 miljoen euro, als dat hoger is, kan de Commissie sinds 2 augustus 2026 opleggen. Voor modellen die al vóór 2 augustus 2025 in de handel waren, neemt de aanbieder de nodige stappen om uiterlijk op 2 augustus 2027 aan de verplichtingen te voldoen (artikel 111 lid 3). De Digitale omnibus inzake AI, Verordening (EU) 2026/1744, heeft artikel 55 niet gewijzigd.

Noemt de wet externe beoordelaars?

Nee, niet in artikel 55 zelf. Lid 1 vraagt te evalueren, te testen en te documenteren, en zegt niet door wie.

Externe tests komen wel op twee andere plaatsen in de verordening voor. Overweging 114 zegt dat de aanbieder de nodige modelevaluaties uitvoert, met tests gericht op het ontdekken van kwetsbaarheden, "alsmede, in voorkomend geval, uiteenlopende interne of onafhankelijke externe tests". En bijlage XI, afdeling 2, punt 2, vraagt van aanbieders van modellen met systeemrisico in de technische documentatie "indien van toepassing" een beschrijving van de maatregelen voor interne en/of externe tests gericht op het ontdekken van kwetsbaarheden. "In voorkomend geval" betekent waar dat passend is, niet naar keuze. Een overweging is zelf geen plicht, maar helpt bij de uitleg van lid 1 onder a; de bijlage vraagt een beschrijving, geen externe test.

De harde toezegging komt uit de praktijkcode voor AI-modellen voor algemene doeleinden, hoofdstuk Veiligheid en beveiliging. Onder maatregel 3.2 evalueren ondertekenaars het model volgens aanhangsel 3 (Appendix 3) van dat hoofdstuk. Aanhangsel 3.5 zegt dat ondertekenaars, naast interne evaluaties, ervoor zorgen dat voldoende gekwalificeerde onafhankelijke externe beoordelaars het model evalueren. Uitzonderingen zijn een model dat even veilig of veiliger is dan een referentiemodel, en het geval dat de ondertekenaar ondanks tijdig zoeken, zoals een openbare oproep van twintig werkdagen, geen geschikte beoordelaar vindt; dan weegt hij de extra onzekerheid mee bij de vraag of het risico aanvaardbaar is, en motiveert hij de uitzondering in het modelrapport (maatregel 7.4). Maatregel 3.5 vraagt daarnaast dat ondertekenaars na het in de handel brengen voldoende onafhankelijke externe beoordelaars gratis toegang tot het model geven, tenzij het model even veilig of veiliger is dan een referentiemodel.

Het rapport koppelt de externe beoordelaars aan "Article 55(1)(b)" en aan de praktijkcode. Dat is te verdedigen: de praktijkcode plaatst modelevaluaties onder de analyse van systeemrisico's, en verbintenis 3 noemt als wettelijke basis artikel 55 lid 1 en overweging 114. Naar onze lezing sluit de tekst van overweging 114 en bijlage XI wel dichter aan bij punt a, de modelevaluatie met tests op kwetsbaarheden, dan bij punt b. Het rapport geeft hier een interpretatie, geen wetstekst.

En een aanbieder die het hoofdstuk Veiligheid en beveiliging van de praktijkcode niet ondertekent of niet naleeft? Hij toont alternatieve passende wijzen van naleving aan (lid 2). De GPAI-richtsnoeren van de Commissie (C(2025) 7719 final, 19 november 2025) verwachten dat hij zijn maatregelen bij het AI-bureau meldt en uitlegt hoe die naleving waarborgen, bijvoorbeeld met een kloofanalyse tegen een toereikend bevonden praktijkcode, en dat hij meer verzoeken om informatie en om toegang voor modelevaluaties kan krijgen (punt 92). Naar onze lezing volgt daaruit geen wettelijke plicht om externe beoordelaars in te zetten, maar moet een aanbieder zonder externe evaluatie wel kunnen uitleggen waarom zijn evaluatie toch de stand van de techniek haalt, gemeten aan de praktijkcode.

Wat het rapport van het AI-bureau zegt

Het AI-bureau hield op 15 juli 2026 een online workshop met deskundigen van negentien organisaties en publiceerde het verslag op 21 oktober 2026. Volgens het rapport zelf geeft het de huidige opvattingen van het AI-bureau, die kunnen veranderen. Het is geen richtsnoer in de zin van artikel 96 en geen besluit, en bindt naar onze lezing niemand.

Scoren per risicodomein. Volgens het voorstel in het rapport scoort het AI-bureau beoordelaars op kwalificatie en onafhankelijkheid. De criteria zijn grotendeels openbaar, de scoringsregels en puntschalen niet, om manipulatie te voorkomen. Er wordt gescoord per systeemrisicodomein: wie diep is in bijvoorbeeld verlies van controle, hoeft dat niet in alle domeinen te zijn, en scores tellen niet op. Voor zeer capabele modellen verwacht het AI-bureau hoog scorende beoordelaars; bij minder capabele modellen kan een iets lagere score aanvaardbaar zijn, vooral als hoog gekwalificeerde beoordelaars niet beschikbaar zijn.

Geen vaste ronde. Er wordt niet periodiek gescoord, maar wanneer het nodig is voor het toezicht, bijvoorbeeld bij de vraag of een aanbieder gekwalificeerde, onafhankelijke beoordelaars heeft ingezet. Bij twijfel kan het AI-bureau de aanbieder om aanvullend bewijs vragen.

Kwalificatie. De eisen volgen aanhangsel 3.5 van de praktijkcode: aanzienlijke domeinkennis van het systeemrisico, technische vaardigheid en ervaring met modelevaluaties, passende informatiebeveiliging en de bereidheid vertrouwelijke bedrijfsinformatie te beschermen. Het rapport werkt de eerste twee uit, met onder meer gepubliceerde risicomodellen en evaluatiemethoden, red-teaming en reproduceerbaarheid. Ervaring met het evalueren van modellen met openbare gewichten telt mee, net als met gesloten modellen. De eisen gelden voor de organisatie en, als die nog geen staat van dienst heeft, voor de mensen die evalueren.

Financiële onafhankelijkheid. De beoordelaar en de leden van het evaluatieteam hebben geen financieel belang in de aanbieder en geen aandelen, behalve indirect via een breed gespreid collectief beleggingsfonds. De vergoeding mag marktconform zijn, maar niet afhangen van de uitkomst. De beoordelaar levert de aanbieder geen betaald advies of uitvoering op het gebied van belastingen, waardering, personeelszaken of intellectueel eigendom.

Bestuurlijke onafhankelijkheid (management). Geen band met de aanbieder, zoals eigendom of een dochtermaatschappij, en teamleden zijn niet bij de aanbieder in dienst of persoonlijk adviseur. De beoordelaar heeft een beleid voor belangenconflicten dat hij met de aanbieder deelt en dat ook financiële afhankelijkheid noemt.

Operationele onafhankelijkheid. Het rapport verwijst naar de definitie van "independent external" in de woordenlijst van de praktijkcode en naar maatregel 3.5: geen juridische of technische vergelding tegen beoordelaars voor hun tests of publicatie, zolang zij zich aan vijf voorwaarden houden. Een daarvan is de openbare procedure voor het melden van kwetsbaarheden, waarin de aanbieder publicatie hooguit dertig werkdagen kan uitstellen of tegenhouden, gerekend vanaf het moment dat hij de bevindingen kent, tenzij langer uitzonderlijk nodig is omdat publicatie het systeemrisico wezenlijk vergroot. Na de workshop liet het AI-bureau in bilateraal contact aan enkele aanbieders weten dat de onafhankelijkheid van beoordelaars onder maatregel 3.2 of 3.5 via contractuele waarborgen zou moeten worden geborgd. Die waarborgen volgen de stand van de techniek en bevatten ten minste alle eisen en aanbevelingen uit afdeling 4, delen 3 (analytische autonomie) en 4 (transparante methoden en resultaten), van AEF-1, een vrijwillige standaard van een particulier forum waarnaar het rapport verwijst. Volgens het rapport passen de criteria voor operationele onafhankelijkheid daarbij.

Wat het rapport niet behandelt. Het gaat niet over de eisen aan het wetenschappelijk panel (artikel 68 lid 2) en niet over de onafhankelijke deskundigen die de Commissie zelf kan aanwijzen om evaluaties te doen (artikel 92 lid 2).

Wat betekent dit voor een gemeente?

De leverancier die het model in zijn chatbot verwerkt, is aanbieder van het AI-systeem; de gemeente is gebruiksverantwoordelijke. Bouwt de gemeente de chatbot zelf op een model dat zij via een API afneemt en zet zij hem onder eigen naam in, dan is zij aanbieder én gebruiksverantwoordelijke van dat systeem (artikel 3 punt 3 en 4), maar nog steeds geen aanbieder van het model.

Wat kan zij in de inkoop vragen? Naar onze lezing vier dingen. Welk model, en geldt het als model met systeemrisico? Volgt de modelaanbieder het hoofdstuk Veiligheid en beveiliging van de praktijkcode (de Commissie publiceert de ondertekenaars)? Hebben onafhankelijke externe beoordelaars het model geëvalueerd, en zijn hun rapporten openbaar? Zo nee, welke uitzondering gold? Onder de praktijkcode houden beoordelaars zelf de controle over publicatie (maatregel 7.4). En welke informatie kreeg de leverancier van de modelaanbieder op grond van artikel 53 lid 1 onder b? Leg ook "dat weten we niet" vast; onbekend is niet hetzelfde als in orde.

De eigen plichten van de gemeente liggen elders. Zij neemt maatregelen om de ontwikkeling van AI-geletterdheid van haar medewerkers te ondersteunen (artikel 4). De aanbieder van de chatbot, de leverancier of bij zelfbouw de gemeente zelf, zorgt ervoor dat inwoners weten dat zij met een AI-systeem praten, tenzij dat duidelijk is (artikel 50 lid 1), en publiceert de gemeente door AI geschreven tekst om het publiek te informeren over zaken van algemeen belang, dan maakt zij dat bekend, tenzij een mens de tekst heeft gecontroleerd en iemand redactionele verantwoordelijkheid draagt (artikel 50 lid 4). Artikel 50 geldt sinds 2 augustus 2026; alleen voor de machineleesbare markering van lid 2 heeft een systeem dat al vóór die datum in de handel was tot 2 december 2026 (artikel 111 lid 4). Meer daarover in een chatbot kenbaar maken als AI.

Een chatbot of schrijfhulp is op zich geen hoog-risicosysteem. Zet de gemeente het systeem in voor een taak uit bijlage III, bijvoorbeeld om te beoordelen of iemand recht heeft op een uitkering (punt 5 onder a), dan is het in beginsel wel hoog risico, tenzij artikel 6 lid 3 opgaat. Vanaf 2 december 2027 gelden dan de plichten van artikel 26, waaronder registratie in de EU-databank (artikel 26 lid 8 en artikel 49 lid 3), en voert de gemeente als publiekrechtelijk orgaan vooraf een beoordeling van de gevolgen voor de grondrechten uit (artikel 27). Voor een systeem dat al vóór die datum in gebruik was, gelden die plichten pas na een aanzienlijke wijziging van het ontwerp, en uiterlijk op 2 augustus 2030 (artikel 111 lid 2).

Verwerkt de chatbot persoonsgegevens van inwoners, dan geldt de AVG, en bij een waarschijnlijk hoog risico voert de gemeente vooraf een DPIA uit (artikel 35 AVG; zie wanneer een DPIA verplicht is bij AI). Maatregel 3.5 van de praktijkcode zegt ook iets over gebruikersgegevens: externe beoordelaars houden hun bescherming tegen vergelding alleen als zij gevoelige of vertrouwelijke gebruikersgegevens niet opzettelijk in strijd met het Unierecht inzien, wijzigen of gebruiken, en als zij ze toch inzien, verzamelen zij alleen wat nodig is, verspreiden ze niet en verwijderen ze zo snel als wettelijk kan. Dat is geen plicht van de gemeente.

En een bank of verzekeraar?

Een bank gebruikt een model met systeemrisico om klantdossiers samen te vatten en brieven op te stellen; dat is op zich geen hoog-risicotoepassing. De bank kan dezelfde inkoopvragen stellen als de gemeente. Gebruikt de bank het model in een systeem dat de kredietwaardigheid van natuurlijke personen beoordeelt, of een verzekeraar in een systeem voor risicobeoordeling en prijsstelling bij levens- of ziektekostenverzekeringen, dan is dat systeem in beginsel hoog risico (bijlage III punt 5 onder b en c), met plichten vanaf 2 december 2027; voor een systeem dat al vóór die datum in gebruik was, pas na een aanzienlijke wijziging van het ontwerp (artikel 111 lid 2). De bank of verzekeraar is dan gebruiksverantwoordelijke onder artikel 26 en voert vóór ingebruikname een beoordeling van de gevolgen voor de grondrechten uit (artikel 27 lid 1); bouwt zij het systeem zelf en stelt zij het onder eigen naam in gebruik, dan is zij aanbieder én gebruiksverantwoordelijke. Dat het onderliggende model extern is getest, maakt die plichten naar onze lezing niet lichter.

Wilt u weten welke AI Act- en AVG-plichten bij uw toepassing in beeld komen? Met de casus-check beschrijft u de toepassing in een paar vragen.

Veelgestelde vragen over artikel 55 en externe beoordelaars

Bronnen

Nieuwsbrief

Elke dinsdag de AI Act-week vooruit in 5 minuten

Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.

Praktisch en kort · Geen spam · Met één klik uitschrijven

Geschreven door

Zahed Ashkara, freelance AI- en privacyconsultant en jurist

Zahed Ashkara

Freelance AI- en privacyconsultant en jurist · AI-governance en -veiligheid

Zahed Ashkara is freelance AI- en privacyconsultant en jurist voor de AVG en de EU AI Act. Organisaties huren hem in als AI governance consultant, privacyjurist, externe FG of AI-governance lead, laten een DPIA, FRIA of AI Act-classificatie door hem uitvoeren, of boeken een incompany-training. Hij richt zich op AI-governance en -veiligheid, ook van AI-agents. Hij werkt uitsluitend als zelfstandige, via Embed AI (handelsnaam Praxikon). Hij is Certified AI Compliance Officer (CAICO) en sinds juli 2026 lid van de NEN-normcommissie Artificial Intelligence & Big Data.

Volg via LinkedInBekijk expertprofiel

Gebruik deze bronnen ook in uw AI-assistent: Praxikon in Claude en andere assistenten

Praktijkverhalen

Ontdek hoe organisaties dit in de praktijk toepassen

Gerelateerde artikelen

Artikel 53 AI Act: de plichten van elke aanbieder van een AI-model voor algemene doeleinden

Artikel 53 van de AI Act geeft elke aanbieder van een AI-model voor algemene doeleinden vier plichten: technische documentatie, informatie voor wie het model inbouwt, een auteursrechtbeleid en een openbare samenvatting van de trainingscontent. Wat elk lid zegt, wat de uitzondering voor open modellen wel en niet dekt, en wanneer een gemeente of bank die een model verfijnt zelf aanbieder wordt.

EU AI ActArtikel 53AI-modellen voor algemene doeleinden

Hoe een AI-model als model met een systeemrisico wordt aangemerkt: artikel 52 AI Act

Artikel 52 van de AI Act regelt hoe een AI-model voor algemene doeleinden een model met een systeemrisico wordt: melden binnen twee weken, tegenargumenten van de aanbieder, aanwijzing door de Commissie ambtshalve of na een gekwalificeerde waarschuwing van het wetenschappelijk panel, herbeoordeling op verzoek en een openbare lijst. Wat er per lid staat, hoe artikel 51 en bijlage XIII meespelen, en wat een gemeente, bank of hogeschool die op zo een model bouwt ervan merkt.

EU AI ActArtikel 51Artikel 52