Wij gebruiken AI in de zorg. Welke AI Act-regels gelden daar?

zorg

Triagesysteem op de spoedeisende hulp: twee routes naar hoog risico

Een ziekenhuis zet AI in om binnenkomende patienten op de spoedeisende hulp te prioriteren. De vraag is niet of het systeem hoog risico is, maar via welke route: als medisch hulpmiddel onder de productwetgeving, of rechtstreeks via Bijlage III.

Herkomst: De ontwerprichtsnoeren van de Commissie van 19 mei 2026 stellen dat een triagesysteem voor spoedeisende hulp als medisch hulpmiddel kan kwalificeren; voldoet het dan aan artikel 6 lid 1, dan is het hoog risico via Bijlage I en gelden de sectorale regels. Een triagesysteem dat geen medisch hulpmiddel is, is hoog risico via artikel 6 lid 2 en punt 5(d) van Bijlage III. Het document is een consultatieversie: niet bindend en nog niet definitief.

Stel eerst vast of uw triagesysteem een medisch hulpmiddel is, want die vraag bepaalt de hele route: via Bijlage I loopt de beoordeling mee met de medische conformiteitsbeoordeling en de bijbehorende datum, via Bijlage III geldt het eigen tijdpad van artikel 6 lid 2. De uitkomst is in beide gevallen hoog risico, dus uitstellen van die vaststelling levert alleen onduidelijkheid op over welk regime u moet inrichten.

Ontwerprichtsnoeren classificatie hoog-risico AI, 19 mei 2026, bijlage over Bijlage III, randnummers (334) en (335)

zorg

Diagnoseondersteuning voor artsen: geen meldplicht, wel zorgvuldigheid

Een ziekenhuis zet een interactief AI-systeem in dat uitsluitend door geschoolde zorgprofessionals wordt gebruikt om een medische diagnose te ondersteunen en behandelingen voor te stellen. De vraag is of de patient of de arts moet horen dat het AI is.

Herkomst: De richtsnoeren van de Commissie van 20 juli 2026 noemen interactieve AI-systemen die uitsluitend bedoeld zijn voor geschoolde zorgprofessionals ter ondersteuning van diagnose en behandelvoorstellen als voorbeeld waarin de evidentie-uitzondering van artikel 50 lid 1 opgaat: voor die gebruiker is het AI-karakter duidelijk.

De uitzondering hangt aan de gebruiker, niet aan het systeem. Zodra hetzelfde model ook patienten te woord staat, valt die grond weg en geldt de meldplicht gewoon. En de uitzondering op artikel 50 zegt niets over de rest: gaat het om een medisch hulpmiddel of een hoog-risicotoepassing, dan blijven die regimes onverkort gelden.

Commission Guidelines C(2026) 5054 final, 20.7.2026, randnummer (45), lijsten met en zonder evidentie-uitzondering

zorg

Juristen leren techniek, ontwikkelaars leren recht

Dedalus Healthcare, dat onder meer AI levert die complicaties bij ziekenhuispatiënten voorspelt, traint zijn juristen, de functionaris gegevensbescherming, compliance en de afdeling kwaliteit en regelgeving juist op de technische kant. Ontwikkelaars en ingenieurs krijgen omgekeerd training die is toegespitst op de juridische en compliance-aspecten van de AI-verordening. De directie kreeg een eigen sessie op maat van haar rol.

Herkomst: Deze praktijk is door de betrokken organisatie zelf aangeleverd aan het levend repository van de Commissie. Het repository verzamelt en deelt praktijken, maar keurt ze niet goed en stelt ze niet vast als norm.

Zoek de kennis bewust buiten een enkele discipline, want het register noemt samenwerking tussen bedrijfsleven en wetenschap als een van de vormen waarin organisaties AI-geletterdheid opbouwen.

Levend repository van AI-geletterdheidspraktijken, ingediende praktijk van de betrokken organisatie

zorg

Expertsysteem dat uit vastgelegde kennis een conclusie trekt

Een ziekenhuis gebruikt een ouder diagnose-ondersteunend expertsysteem waarin artsen kennis, feiten en regels hebben vastgelegd. Op basis van de symptomen die een arts invoert, trekt het systeem zelfstandig een conclusie over mogelijke aandoeningen.

Herkomst: De richtsnoeren van de Commissie over de definitie van een AI-systeem gebruiken dit geval om de grens te trekken tussen software die wel en niet onder de verordening valt. Het document is niet bindend.

Machine learning is geen vereiste, dus u kunt zich er niet op beroepen dat uw systeem alleen met door experts vastgelegde regels werkt; ook logica- en kennisgebaseerde systemen die zelfstandig concluderen vallen eronder.

Commission Guidelines C(2025) 5053 final, 29.7.2025, grensgevallen bij de definitie van artikel 3, punt 1

Artikel 6 kent twee gescheiden routes naar hoog-risico

De concept-richtsnoeren van de Europese Commissie over de classificatie van hoog-risico AI van 19 mei 2026, die uitdrukkelijk niet bindend zijn, stellen in randnummer (7) dat een AI-systeem in twee scenario's als hoog-risico geldt: ten eerste wanneer het bedoeld is om te worden gebruikt als veiligheidscomponent van een product, of zelf een product is, dat onder de in Bijlage I genoemde harmonisatiewetgeving van de Unie valt en waarvoor een conformiteitsbeoordeling door een derde partij is vereist, en ten tweede wanneer het valt onder een van de gebruikssituaties in de gebieden van Bijlage III. Randnummer (448) van diezelfde concept-richtsnoeren vermeldt dat de toepassingsdatums van artikel 113 met de AI Omnibus zijn verschoven naar 2 december 2027 voor de route van artikel 6 lid 2 en 2 augustus 2028 voor de route van artikel 6 lid 1.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II, randnummer (7); sectie V, randnummer (448)

Breed gepositioneerde en general purpose AI-systemen: een disclaimer is niet genoeg

Volgens de niet-bindende concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI geldt, blijkens randnummer (12), dat wanneer de gebruiksaanwijzing, contractuele afspraken, gebruiksvoorwaarden, gebruiksbeleid, promotie- en verkoopmateriaal of technische documentatie het AI-systeem presenteren als breed toepasbaar over een veelheid van contexten en functies, en de toepassing niet consequent beperken of hoog-risico gebruik niet uitsluiten, het beoogde doel van het systeem geacht wordt ook hoog-risico gebruikssituaties te omvatten, waardoor het systeem als hoog-risico kwalificeert. Dat geldt volgens deze concept-richtsnoeren in het bijzonder wanneer dergelijk gebruik haalbaar en redelijkerwijs te voorzien is gezien de functionaliteiten en capaciteiten van het systeem. Hetzelfde randnummer stelt dat het enkel beweren, bijvoorbeeld in de gebruiksvoorwaarden, dat hoog-risico gebruik is uitgesloten, onvoldoende is wanneer de algehele presentatie, voorbeelden of productpositionering van de aanbieder dat gebruik feitelijk mogelijk maakt of bevordert, en dat beperkingen duidelijk, concreet en coherent in al het materiaal moeten worden beschreven.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, sectie II.2, randnummer (12)

Hoog-risico betekent niet verboden, en niet hoog-risico betekent niet toegestaan

De concept-richtsnoeren van 19 mei 2026 over de classificatie van hoog-risico AI, die niet bindend zijn, stellen in randnummer (3) dat het feit dat een AI-systeem in deze richtsnoeren als voorbeeld is opgenomen niet betekent dat het gebruik ervan automatisch als rechtmatig moet worden beschouwd, aangezien dat gebruik nog steeds moet voldoen aan andere toepasselijke wetgeving, en in randnummer (4) dat het bereik van deze richtsnoeren beperkt is tot de vraag of een systeem hoog-risico is of niet. In het Bijlage III-hoofdstuk van dit concept stelt randnummer (68) dat het als hoog-risico kwalificeren onder artikel 6 lid 2 niet betekent dat het gebruik verboden is, maar dat die systemen aan passende vereisten zijn onderworpen. De randnummers (82) en (83) van dit concept lichten de woorden voor zover het gebruik is toegestaan op grond van toepasselijk Unierecht of nationaal recht toe en stellen dat het vallen onder een gebruikssituatie niet automatisch betekent dat het systeem rechtmatig in dat geval kan worden gebruikt, dat naast de verboden ook andere bepalingen van Unierecht of nationaal recht het gebruik kunnen beperken, en dat de AI-verordening op grond van artikel 2 lid 9 geldt onverminderd regels over consumentenbescherming, productveiligheid en gegevensbescherming.

Concept-richtsnoeren classificatie hoog-risico AI (19 mei 2026), hoofdstuk Algemene beginselen, randnummers (3) en (4); hoofdstuk Bijlage III, randnummer (68) en sectie 2.6, randnummers (82) en (83)

Opgeknipte en agentische architecturen worden als geheel beoordeeld

De niet-bindende concept-richtsnoeren van 19 mei 2026 bepalen in randnummers 75, 76 en 90 dat wanneer meerdere AI-systemen deel uitmaken van een complexer geheel en hun gecombineerde beoogde doel of gezamenlijke output een individuele beslissing wezenlijk beïnvloedt, die configuratie voor de classificatie als één AI-systeem wordt behandeld. Het concept stelt uitdrukkelijk dat opgeknipte architecturen als geheel worden beoordeeld om omzeiling door systeemontwerp te voorkomen, dat vrijstellingen voor afzonderlijke modules niet gelden wanneer de totale configuratie kernaspecten van de beslissing beïnvloedt, en dat dit ook geldt voor complexe onderling verbonden opstellingen zoals agentische AI-systemen waarvan de gekoppelde handelingen samen een hoog-risicodoel dienen. Volgens hetzelfde concept blijven strikt procedurele of voorbereidende functies wel vrijstelbaar wanneer zij werkelijk scheidbaar zijn van het systeem en geen output structureren of aanleveren die het onderzoek van een individueel geval wezenlijk beïnvloedt.

Sectie IV.2.3, randnummers 75 en 76, en sectie IV.2.7.1 randnummer 90