Welke verplichtingen heeft de aanbieder van een AI-systeem onder bijlage III van de AI Act?

Dit stelt u zelf vast

• Van toepassing wanneer het beoogde doel van het AI-systeem valt binnen een van de acht in bijlage III genoemde gebieden: biometrie, kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid en personeelsbeheer, toegang tot essentiële particuliere en publieke diensten, rechtshandhaving, migratie- en grenstoezichtsbeheer, of rechtsbedeling en democratische processen.
• De classificatie loopt via artikel 6, lid 2. Voor punt 1, punt 6 en punt 7 geldt de tekstuele voorwaarde dat het gebruik is toegestaan op grond van het toepasselijke Unierecht of nationale recht. Wij lezen die voorwaarde zo dat een verbod uit artikel 5 voorgaat op de vraag of het systeem hoog risico is; dat is onze lezing en niet de letterlijke tekst, die alleen de voorwaarde stelt zonder de rangorde te benoemen.
• De plicht rust op de aanbieder, maar de rol kan verschuiven. Op grond van artikel 25, lid 1, wordt een distributeur, importeur, gebruiksverantwoordelijke of derde zelf aanbieder wanneer hij zijn naam of merk op het systeem zet, een substantiële wijziging aanbrengt, of het beoogde doel zo wijzigt dat het systeem via artikel 6 hoog risico wordt. Vanaf dat moment draagt hij de toewijzing aan een punt van bijlage III zelf.
• Artikel 6, lid 3, haalt een in bijlage III genoemd systeem weer buiten hoog risico wanneer het geen significant risico op schade voor gezondheid, veiligheid of grondrechten inhoudt, onder meer doordat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt, en aan een van vier voorwaarden is voldaan: het systeem voert een beperkte procedurele taak uit, het verbetert het resultaat van een eerder voltooide menselijke activiteit, het spoort besluitvormingspatronen of afwijkingen daarvan op zonder de eerdere menselijke beoordeling zonder behoorlijke toetsing te vervangen of te beïnvloeden, of het voert een voorbereidende taak uit voor een beoordeling die relevant is voor de in bijlage III vermelde gebruiksgevallen. Een systeem dat natuurlijke personen profileert is altijd hoog risico.
• De derogatie is niet gratis. Artikel 6, lid 4, verplicht de aanbieder die meent dat een in bijlage III bedoeld systeem geen hoog risico inhoudt, zijn beoordeling te documenteren voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld, onderwerpt hem aan de registratieverplichting van artikel 49, lid 2, en verplicht hem de documentatie op verzoek aan de nationale bevoegde autoriteiten te verstrekken.