Een gemeente bouwt een assistent die medewerkers helpt bij het beantwoorden van vragen over vergunningen. Onder de motorkap draait een taalmodel van een Europese modelmaker, waarvan de gewichten openbaar zijn en dat de gemeente op eigen servers laat draaien. Dat taalmodel is een AI-model voor algemene doeleinden (artikel 3 punt 63). Op een dag wijst de Europese Commissie het aan als model met een systeemrisico. Verandert er dan iets voor de gemeente?
Hoe een model die status krijgt, staat in artikel 52, met de voorwaarden in artikel 51 en de criteria in bijlage XIII. Dit stuk loopt artikel 52 lid voor lid langs en kijkt daarna vanuit de gemeente: wat verandert er aan haar eigen rol, en wat moet de modelmaker nu doen en aanleveren? Daarna volgen een bank en een verzekeraar, en kort het onderwijs. De voorbeelden zijn verzonnen.
In het kort
Een model wordt een model met een systeemrisico langs twee wegen (artikel 51 lid 1). De eerste is automatisch: het model heeft capaciteiten met een grote impact, wat wordt vermoed boven een trainingsrekenkracht van 10^25 zwevendekommabewerkingen (lid 2). De aanbieder meldt dat dan onverwijld en uiterlijk binnen twee weken aan de Commissie, en kan daarbij onderbouwd betogen dat zijn model bij wijze van uitzondering toch geen systeemrisico's vertoont (artikel 52 lid 1 en 2). Verwerpt de Commissie die argumenten, dan geldt het model als model met een systeemrisico (lid 3).
De tweede weg is een besluit van de Commissie, ambtshalve of na een gekwalificeerde waarschuwing van het wetenschappelijk panel, op basis van de criteria in bijlage XIII (lid 4). Wie zo is aangewezen, kan op zijn vroegst zes maanden later om een herbeoordeling vragen (lid 5). De Commissie zorgt voor een gepubliceerde en actuele lijst van modellen met een systeemrisico (lid 6).
De Digitale omnibus inzake AI (Verordening (EU) 2026/1744) heeft artikel 51, artikel 52 en bijlage XIII niet gewijzigd. Ze staan in hoofdstuk V en gelden sinds 2 augustus 2025 (artikel 113).
Een aanwijzing verandert niets aan de rol van een gemeente of bank die het model inbouwt. Wel moet de modelmaker er meer voor doen (artikel 55), en vervallen de uitzonderingen voor modellen onder een vrije en opensourcelicentie (artikel 53 lid 2 en artikel 54 lid 6).
Wat de Commissie daarna kan doen om toezicht te houden op zo een model, staat in hoe de Commissie toezicht houdt op AI-modellen voor algemene doeleinden. Het nieuws over de start van de handhaving staat in GPAI-handhaving is begonnen.
Het kader: artikel 51 en bijlage XIII
Een systeemrisico is een risico dat specifiek is voor de capaciteiten met een grote impact van AI-modellen voor algemene doeleinden, met aanzienlijke gevolgen voor de markt van de Unie vanwege hun bereik, of vanwege feitelijke of redelijkerwijs te voorziene negatieve gevolgen voor de gezondheid, de veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel, en dat op grote schaal in de hele waardeketen kan worden verspreid (artikel 3 punt 65). Capaciteiten met een grote impact zijn capaciteiten die overeenkomen met of groter zijn dan die van de meest geavanceerde modellen (artikel 3 punt 64).
Artikel 51 lid 1 noemt twee voorwaarden; één is genoeg:
- onder a: het model heeft capaciteiten met een grote impact, geëvalueerd op basis van passende technische instrumenten en methoden, met inbegrip van indicatoren en benchmarks;
- onder b: op grond van een besluit van de Commissie, ambtshalve of naar aanleiding van een gekwalificeerde waarschuwing van het wetenschappelijk panel, heeft het model vergelijkbare capaciteiten of een vergelijkbare impact als onder a, met inachtneming van de criteria in bijlage XIII.
Capaciteiten met een grote impact worden vermoed als de cumulatieve hoeveelheid berekeningen voor de training groter is dan 10^25 zwevendekommabewerkingen (artikel 51 lid 2). De Commissie stelt zo nodig gedelegeerde handelingen vast om die drempels te wijzigen en benchmarks en indicatoren aan te vullen, zodat ze de stand van de techniek weerspiegelen (lid 3). In de geconsolideerde tekst van 27 juli 2026 staat nog 10^25.
Bijlage XIII noemt zeven criteria waarmee de Commissie rekening houdt: het aantal parameters (a), de kwaliteit of omvang van de dataset, bijvoorbeeld in tokens (b), de rekenkracht voor de training, of een combinatie van andere variabelen zoals geraamde kosten, tijd of energieverbruik (c), de input- en outputmodaliteiten (d), benchmarks en evaluaties van de capaciteiten, waaronder de mate van autonomie en schaalbaarheid en de instrumenten waartoe het model toegang heeft (e), een grote impact op de interne markt vanwege het bereik, wat wordt verondersteld bij ten minste 10 000 in de Unie gevestigde geregistreerde zakelijke gebruikers (f), en het aantal geregistreerde eindgebruikers (g). Volgens overweging 111 gaat het om een algemene beoordeling van die criteria.
De routes op een rij
| Route | Wie begint | Wat de tekst vraagt | Vanaf wanneer gelden de plichten (richtsnoeren van de Commissie) |
|---|---|---|---|
| Melding na de drempel (lid 1) | Aanbieder | Melden binnen twee weken, met de informatie die aantoont dat aan de eis is voldaan | Vanaf het moment dat het model aan artikel 51 lid 1 onder a voldoet |
| Tegenargumenten (lid 2 en 3) | Aanbieder, bij de melding | Voldoende onderbouwde argumenten dat het model bij wijze van uitzondering geen systeemrisico's vertoont | Verworpen: vanaf het moment van de drempel. Aanvaard: de plichten vervallen vanaf de mededeling |
| Aanwijzing zonder melding (lid 1, derde zin) | Commissie | Een model dat systeemrisico's vertoont en niet is gemeld | Vanaf het moment dat het model aan artikel 51 lid 1 onder a voldeed (zo leest de Commissie deze route, punt 43) |
| Aanwijzing op grond van bijlage XIII (lid 4) | Commissie, ambtshalve of na een waarschuwing van het panel | Vergelijkbare capaciteiten of impact, getoetst aan bijlage XIII | Vanaf de mededeling van het besluit |
| Herbeoordeling (lid 5) | Aanbieder van een aangewezen model | Met redenen omkleed verzoek, met objectieve, gedetailleerde en nieuwe redenen, op zijn vroegst na zes maanden | Niet geregeld |
De laatste kolom staat niet in artikel 52 zelf, maar in de richtsnoeren van de Commissie over het toepassingsgebied van de verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden, punt 26, 40 en 44. Wij gebruiken de formeel vastgestelde versie van 19 november 2025 (C(2025) 7719 final). De tekst waarvan de Commissie op 18 juli 2025 de inhoud goedkeurde, heeft op een aantal plaatsen andere puntnummers. De richtsnoeren zijn niet bindend; ze laten zien hoe de Commissie de bepaling toepast.
Lid 1: melden binnen twee weken
Voldoet een model aan de voorwaarde van artikel 51 lid 1 onder a, dan stelt de aanbieder de Commissie daarvan onverwijld in kennis, in ieder geval binnen twee weken nadat aan die eis is voldaan of nadat bekend is geworden dat aan die eis zal worden voldaan. De kennisgeving bevat de informatie die nodig is om dat aan te tonen (artikel 52 lid 1).
Naar onze lezing is het tweede moment, "nadat bekend is geworden dat", het belangrijkste. Training vergt uitgebreide planning, met vooraf toegewezen rekenkracht, zodat een aanbieder al vóór het einde van de training kan weten of zijn model de drempel haalt (overweging 112). De Commissie leidt daaruit af dat een melding nodig kan zijn voordat de training klaar is: de aanbieder schat de rekenkracht vóór de start van de grote voortraining, meldt als de schatting de drempel haalt, en volgt anders het werkelijke en verwachte gebruik gedurende de training en de hele levenscyclus (richtsnoeren, punt 29 en 30). De melding vermeldt volgens de richtsnoeren in het bijzonder de geschatte rekenkracht in zwevendekommabewerkingen met twee significante cijfers, en hoe die is geschat (punt 31).
De meldplicht hangt alleen aan de voorwaarde onder a. Zonder gedelegeerde handeling zijn er volgens de Commissie twee situaties die tot melden verplichten: het model haalt of zal de drempel van 10^25 halen, of het is een wijziging van een model met een systeemrisico waarbij de wijziging meer dan een derde van de oorspronkelijke trainingsrekenkracht gebruikt (richtsnoeren, voetnoot 8 bij punt 31, en punt 60 en 67).
De derde zin van lid 1 sluit het gat: krijgt de Commissie kennis van een model dat systeemrisico's vertoont en waarvan zij niet in kennis is gesteld, dan kan zij besluiten het aan te wijzen als model met een systeemrisico. De wettekst spreekt hier ruim van een model dat systeemrisico's vertoont; de Commissie beperkt de route in de richtsnoeren tot een model dat aan de drempel van artikel 51 lid 1 onder a voldeed en niet is gemeld (punt 43). Volgens de richtsnoeren gelden de plichten dan vanaf het moment dat het model aan de voorwaarde voldeed, en kan de aanbieder voor het niet melden een geldboete krijgen onder artikel 101 (punt 43 en 44). Dat artikel geldt sinds 2 augustus 2026.
Lid 2 en 3: tegenargumenten van de aanbieder
Bij zijn kennisgeving kan de aanbieder voldoende onderbouwde argumenten aanvoeren dat het model, hoewel het aan de eis voldoet, bij wijze van uitzondering, vanwege zijn specifieke kenmerken, geen systeemrisico's vertoont en dus niet als model met een systeemrisico zou mogen worden geclassificeerd (lid 2). Er staat "bij zijn kennisgeving": het is geen los bezwaar achteraf.
Vindt de Commissie de argumenten niet voldoende onderbouwd en kan de aanbieder niet aantonen dat het model vanwege zijn specifieke kenmerken geen systeemrisico's vertoont, dan verwerpt zij de argumenten en wordt het model beschouwd als model met een systeemrisico (lid 3). Wat er gebeurt als zij de argumenten aanvaardt, zegt lid 3 niet.
De richtsnoeren vullen dat in (punt 32 tot en met 40):
- De bewijslast ligt bij de aanbieder. Zijn argumenten moeten voldoende onderbouwd zijn en het vermoeden kennelijk in twijfel trekken (punt 36). Hij kan betogen dat zijn model geen capaciteiten met een grote impact heeft, met benchmarkresultaten, ook voorspelde, en verder bijvoorbeeld de architectuur, het aantal parameters, de trainingsvoorbeelden, de modaliteiten en het verwachte gebruik van instrumenten (punt 33 en 34).
- Een bewegende lat. Wat de meest geavanceerde modellen zijn, verschuift met de tijd; de Commissie ziet het niet als een vast capaciteitsniveau (punt 37).
- Risicobeperking is geen argument. Dat een model geen systeemrisico's vertoont vanwege maatregelen die de aanbieder al heeft genomen of van plan is, vindt de Commissie geen geschikte grond om buiten de classificatie te vallen; die maatregelen horen bij de risicobeperking van artikel 55 lid 1 (punt 39).
- Horen vóór verwerping. Bij een voorgenomen verwerping krijgt de aanbieder vooraf een ontwerpbesluit en inzage in zijn dossier; het besluit is gemotiveerd (punt 35).
- Argumenten schorten niets op. Bij verwerping gelden de plichten vanaf het moment dat het model aan de voorwaarde voldeed. Bij aanvaarding vervallen ze vanaf de mededeling van het besluit, maar moet de aanbieder opnieuw melden bij een wezenlijke wijziging van de feiten of als het besluit op wezenlijk onvolledige, onjuiste of misleidende informatie berustte; een aanvaarding sluit een latere aanwijzing onder lid 4 niet uit (punt 40).
Lid 4: aanwijzing door de Commissie
De Commissie kan een model aanwijzen als model dat systeemrisico's vertoont, ambtshalve of na een gekwalificeerde waarschuwing van het wetenschappelijk panel op grond van artikel 90 lid 1 onder a, op basis van de criteria van bijlage XIII (lid 4, eerste alinea). Zo kan ook een model onder de drempel van 10^25 een model met een systeemrisico worden, bijvoorbeeld door zijn bereik of de instrumenten waartoe het toegang heeft. De Commissie kan bijlage XIII bij gedelegeerde handeling specificeren en actualiseren (lid 4, tweede alinea; artikel 97).
Een gekwalificeerde waarschuwing onder artikel 90 lid 1 onder a gaat over een concreet aanwijsbaar risico op Unieniveau. Artikel 90 lid 1 onder b kent ook een waarschuwing dat een model aan de voorwaarden van artikel 51 voldoet, maar artikel 52 lid 4 verwijst alleen naar onder a. Naar onze lezing maakt dat in de praktijk weinig uit: na een waarschuwing onder b kan de Commissie ambtshalve aanwijzen. Wat een waarschuwing is en hoe het panel werkt, staat in ons stuk over artikel 90 tot en met 94. Een gemeente of bank kan zelf geen gekwalificeerde waarschuwing geven; dat kan alleen het panel.
Volgens de richtsnoeren gelden de plichten na een aanwijzing onder lid 4 vanaf het moment dat de aanbieder over het besluit wordt geïnformeerd (punt 44). Artikel 52 regelt voor een aanwijzing onder lid 4 geen voorafgaande hoorprocedure; de richtsnoeren noemen het horen uitdrukkelijk alleen bij het verwerpen van argumenten en baseren dat op artikel 41 van het Handvest van de grondrechten (punt 35). Naar onze lezing geldt dat recht om te worden gehoord ook bij een aanwijzing onder lid 4, omdat het voor elk individueel besluit geldt dat iemand nadelig treft.
Lid 5: herbeoordeling op verzoek
Een aanbieder wiens model op grond van lid 4 is aangewezen, kan een met redenen omkleed verzoek indienen. De Commissie neemt het in overweging en kan besluiten opnieuw te beoordelen of het model op basis van bijlage XIII nog steeds als model met systeemrisico's wordt beschouwd (lid 5). Het verzoek bevat objectieve, gedetailleerde en nieuwe redenen die na het aanwijzingsbesluit aan het licht zijn gekomen. Het kan op zijn vroegst zes maanden na het aanwijzingsbesluit; handhaaft de Commissie de aanwijzing, dan pas weer zes maanden na dat besluit.
Twee dingen vallen op. Er staat "kan besluiten": de Commissie moet het verzoek meewegen, maar is niet verplicht opnieuw te beoordelen. En lid 5 geldt alleen voor een aanwijzing onder lid 4, niet voor een verwerping van argumenten onder lid 3 of een aanwijzing onder lid 1. Naar onze lezing blijft daar, net als bij lid 4, het beroep tot nietigverklaring bij de Unierechter over, binnen twee maanden (artikel 263 VWEU), omdat zo een besluit tot de aanbieder is gericht en rechtsgevolgen heeft. Een aanbieder die zijn argumenten aanvaard zag, kan wel opnieuw moeten melden (richtsnoeren, punt 40).
Lid 6: de gepubliceerde lijst
De Commissie zorgt ervoor dat een lijst van AI-modellen voor algemene doeleinden met een systeemrisico wordt gepubliceerd en houdt die actueel, onverminderd de bescherming van intellectuele-eigendomsrechten, vertrouwelijke bedrijfsinformatie en bedrijfsgeheimen (lid 6). De tekst zegt niet waar of in welke vorm, en ook niet hoe snel een aanwijzing op de lijst moet staan. Naar onze lezing horen er zowel modellen op die via de drempel model met een systeemrisico zijn als aangewezen modellen, want lid 6 spreekt zonder onderscheid naar route van AI-modellen voor algemene doeleinden met een systeemrisico.
Of en waar die lijst op 19 november 2026 is gepubliceerd, hebben wij in de geraadpleegde bronnen van de Commissie niet kunnen vaststellen. Volgens de Commissie worden modellen met een systeemrisico op dit moment door een klein aantal bedrijven ontwikkeld (vragen en antwoorden over AI-modellen voor algemene doeleinden). Wie wil weten of zijn model op de lijst staat, vraagt het dus ook rechtstreeks aan de aanbieder.
Vanaf wanneer?
- De AI Act trad in werking op 1 augustus 2024 (artikel 113, eerste alinea). Inwerkingtreding is iets anders dan toepassing.
- Artikel 51 en 52 staan in hoofdstuk V en gelden sinds 2 augustus 2025, net als hoofdstuk VII met het wetenschappelijk panel (artikel 113, derde alinea, onder b). Volgens de richtsnoeren kan de Commissie sinds die datum besluiten nemen onder artikel 52 (punt 104).
- Geldboeten onder artikel 101 zijn mogelijk sinds 2 augustus 2026: artikel 101 is uitgezonderd van 2 augustus 2025 en volgt de algemene toepassingsdatum (artikel 113, tweede alinea en derde alinea, onder b).
- Modellen die vóór 2 augustus 2025 in de handel zijn gebracht, moeten uiterlijk op 2 augustus 2027 aan de verplichtingen voldoen (artikel 111 lid 3). Hoe die overgangstermijn uitwerkt op de meldplicht van artikel 52 lid 1, zegt de tekst niet apart.
- De Digitale omnibus inzake AI trad op 27 juli 2026 in werking. Zij wijzigde artikel 51 tot en met 55 en bijlage XIII niet.
Hoofdvoorbeeld: de gemeente met een assistent voor vergunningvragen
De gemeente ontwikkelt de assistent en stelt hem onder eigen naam in gebruik. Zij is aanbieder van een AI-systeem (artikel 3 punt 3) en aanbieder verder in de AI-waardeketen (artikel 3 punt 68). De modelmaker is aanbieder van het model.
Haar eigen rol verandert niet. Een aanwijzing richt zich tot de aanbieder van het model. De gemeente wordt er geen aanbieder van een model met een systeemrisico door, en haar eigen plichten blijven dezelfde. Zorgt zij ervoor dat medewerkers die met de assistent praten weten dat het een AI-systeem is, tenzij dat duidelijk is, dan blijft dat zo (artikel 50 lid 1), net als haar maatregelen voor AI-geletterdheid (artikel 4). Een assistent die medewerkers helpt vragen te beantwoorden, is in beginsel geen hoog-risicosysteem. Gaat de gemeente hem gebruiken om te beoordelen of inwoners in aanmerking komen voor een uitkering, dan kan dat veranderen (bijlage III punt 5 onder a), met plichten vanaf 2 december 2027, waaronder registratie van het gebruik (artikel 49 lid 3; artikel 26 lid 8) en een beoordeling van de gevolgen voor de grondrechten (artikel 27 lid 1). Omdat zij het systeem zelf bouwt en onder eigen naam in gebruik stelt, is zij dan ook aanbieder van dat systeem met een hoog risico (artikel 3 punt 3), met de plichten van artikel 16, waaronder de conformiteitsbeoordeling (artikel 43) en de registratie van het systeem (artikel 49 lid 1). Voor een systeem dat al vóór 2 december 2027 in gebruik was, gelden de regels alleen na een aanzienlijke wijziging van het ontwerp, en voor overheidsinstanties uiterlijk op 2 augustus 2030 (artikel 111 lid 2). Een markttoezichtautoriteit voor bijlage III is in Nederland nog niet aangewezen.
Wat de modelmaker nu moet doen. Naast de plichten van artikel 53 en 54 voert hij een modelevaluatie uit met tests op kwetsbaarheden, beoordeelt en beperkt hij mogelijke systeemrisico's op Unieniveau, houdt hij informatie over ernstige incidenten en mogelijke corrigerende maatregelen bij en rapporteert hij die onverwijld aan het AI-bureau en in voorkomend geval aan de nationale bevoegde autoriteiten, en zorgt hij voor passende cyberbeveiliging van het model en de fysieke infrastructuur (artikel 55 lid 1). Hij kan zich daarvoor baseren op een praktijkcode in de zin van artikel 56 (artikel 55 lid 2), zoals de praktijkcode voor AI voor algemene doeleinden, waarvan het hoofdstuk over veiligheid en beveiliging volgens de Commissie alleen relevant is voor aanbieders met de plichten van artikel 55.
Wat hij moet aanleveren. Hier zit voor deze gemeente het tastbare verschil. Een model onder een vrije en opensourcelicentie met openbare parameters valt normaal buiten de plicht om technische documentatie op te stellen en informatie aan aanbieders verder in de keten te geven, maar die uitzondering geldt niet voor modellen met een systeemrisico (artikel 53 lid 2). De modelmaker moet dus informatie en documentatie opstellen, actueel houden en beschikbaar stellen aan aanbieders die het model in hun systeem inbouwen, zoals de gemeente, onverminderd de bescherming van bedrijfsgeheimen. Het gaat om informatie waarmee zij de capaciteiten en beperkingen van het model begrijpt en haar eigen plichten kan nakomen, met ten minste de elementen van bijlage XII (artikel 53 lid 1 onder b). Was het een modelmaker uit een derde land, dan had hij nu ook een gemachtigde in de Unie nodig (artikel 54 lid 1 en lid 6). Betaalt de gemeente voor een gesloten model via een API, dan gold de informatieplicht al; naar onze lezing hoort de aanwijzing dan terug te komen in bijgewerkte informatie, omdat die volgens artikel 53 lid 1 onder b actueel moet blijven.
Wat zij er zelf aan bijdraagt. Het bereikcriterium van bijlage XIII onder f telt geregistreerde zakelijke gebruikers in de Unie. Naar onze lezing telt een gemeente alleen mee als zij bij de modelmaker als zakelijke gebruiker is geregistreerd, bijvoorbeeld met een API-account; wie alleen de openbare gewichten downloadt en zelf draait, is dat meestal niet. Zelf een aanwijzing vragen kan zij niet. Komt de modelmaker zijn plichten tegenover haar niet na, dan kan zij als aanbieder verder in de keten een klacht indienen (artikel 89 lid 2).
Wanneer zij zelf modelaanbieder wordt. Als zij het model verder traint. Volgens de Commissie gebeurt dat pas als de wijziging de algemeenheid, capaciteiten of het systeemrisico van het model aanzienlijk verandert, met als indicatie meer dan een derde van de oorspronkelijke trainingsrekenkracht (richtsnoeren, punt 59 en 60). Bij een model met een systeemrisico wordt het gewijzigde model dan vermoed capaciteiten met een grote impact te hebben, en moet de gemeente zelf melden onder artikel 52 lid 1 (punt 67 en 68). Naar onze lezing haalt een gemeente die het model alleen afstemt op haar eigen teksten, die grens niet.
De privacykant. De assistent verwerkt vragen met persoonsgegevens. Daarvoor blijven de gewone plichten gelden, zoals een DPIA als de verwerking waarschijnlijk een hoog risico inhoudt (artikel 35 AVG). Naar onze lezing helpt daarbij vooral de informatie die de modelmaker beschikbaar stelt onder artikel 53 lid 1 onder b en bijlage XII van de AI Act. Wat hij over systeemrisico's vastlegt, rapporteert hij aan het AI-bureau (artikel 55 lid 1); een plicht om dat met de gemeente te delen staat er niet. Wel noemt overweging 110 onder meer privacyschendingen en schadelijke vooringenomenheid als systeemrisico's.
Voorbeeld 2: de bank en de verzekeraar
Een bank bouwt op het model van een grote aanbieder, via een API, een assistent die medewerkers helpt klachtbrieven samen te vatten. Wordt dat model aangewezen of blijkt het via de drempel een model met een systeemrisico, dan verandert ook voor de bank haar eigen rol niet. Wel moet de modelaanbieder de systeemrisico's beoordelen en beperken en ernstige incidenten melden aan het AI-bureau (artikel 55 lid 1). Naar onze lezing hoort de bank in haar beleid voor uitbesteding en continuïteit vast te leggen welke status het model heeft, en contractueel te regelen dat de aanbieder haar informeert over een melding, aanwijzing of herbeoordeling.
Gaat de bank het systeem gebruiken om de kredietwaardigheid van natuurlijke personen te beoordelen, dan is het in beginsel een hoog-risicosysteem (bijlage III punt 5 onder b), met plichten vanaf 2 december 2027, waaronder een beoordeling van de gevolgen voor de grondrechten (artikel 27 lid 1). De bank die het systeem zelf bouwt en gebruikt, is dan zowel aanbieder als gebruiksverantwoordelijke van dat systeem (artikel 3 punt 3 en punt 4). Markttoezichtautoriteit is dan in beginsel de financiële toezichthouder, voor zover het gebruik rechtstreeks verband houdt met de financiële dienst (artikel 74 lid 6). Voor een verzekeraar die een model inbouwt in risicobeoordeling en prijsstelling met betrekking tot natuurlijke personen bij levens- en ziektekostenverzekeringen, geldt hetzelfde via bijlage III punt 5 onder c. Of het onderliggende model een systeemrisico heeft, verandert niets aan die classificatie van het systeem.
Kort: het onderwijs
Een hogeschool die een studieassistent bouwt op een model met een systeemrisico, staat er net zo voor als de gemeente: haar rol blijft gelijk, de modelmaker draagt de plichten van artikel 55. Gebruikt zij de assistent om leerresultaten te evalueren, dan kan hij hoog risico zijn (bijlage III punt 3 onder b), met plichten vanaf 2 december 2027. Emotieherkenning in het onderwijs is verboden, behalve om medische of veiligheidsredenen (artikel 5 lid 1 onder f), ongeacht welk model eronder zit.
Wat u nu vastlegt
- Welk model, van wie. Per toepassing: modelnaam en versie, de aanbieder en zijn gemachtigde in de Unie, en of het model onder een vrije en opensourcelicentie is vrijgegeven.
- Systeemrisico of niet. Vraag de aanbieder of hij een melding onder artikel 52 lid 1 heeft gedaan, of zijn model is aangewezen en of het op de lijst van artikel 52 lid 6 staat. Noteer de datum van het antwoord.
- De documentatie. Wat u hebt ontvangen onder artikel 53 lid 1 onder b en bijlage XII, en of die na een melding of aanwijzing is bijgewerkt.
- Contract. Een afspraak dat de aanbieder u informeert over een melding, de uitkomst van tegenargumenten, een aanwijzing of een herbeoordeling.
- Eigen wijzigingen. Of u het model verder traint, met hoeveel rekenkracht, en of u daarmee in de buurt komt van de grens uit de richtsnoeren.
Wilt u weten welke AI Act- en AVG-plichten bij uw toepassing in beeld komen en welke rol uw organisatie heeft? Met de casus-check beschrijft u de toepassing in een paar vragen.
Veelgestelde vragen over de aanwijzing van AI-modellen met een systeemrisico
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven