Stel dat het team Sociaal Domein van een middelgrote gemeente een demo krijgt van een agent die aanvragen leest, op urgentie sorteert en een conceptbeschikking klaarlegt. Het klantcontactcentrum wil dezelfde techniek voor een assistent die inwoners antwoordt. En een medewerker van Juridische Zaken heeft zelf een agent aan haar mailbox gekoppeld die verzoeken op grond van de Wet open overheid (Woo) samenvat. Drie agents, drie afdelingen, en niemand weet zeker wie eigenaar is of welke regels gelden.
AI-agents bij een gemeente in het kort
Voor AI-agents bij een gemeente bestaat geen apart regime: de AVG, de Awb en de AI Act gelden, en volgens het kabinet geldt het overheidsbrede standpunt voor generatieve AI ook voor agents, met vooraf een impactassessment zoals een DPIA of IAMA. Verwerkt een agent persoonsgegevens, dan is voor gemeentelijke taken een grondslag in Unie- of nationaal recht nodig (meestal artikel 6 lid 1 onder e AVG) en bij een waarschijnlijk hoog risico vooraf een DPIA (artikel 35 AVG). Een besluit blijft van het bestuursorgaan: de Awb eist zorgvuldige voorbereiding en een deugdelijke motivering, en volgens het kabinet moet bij besluitvorming met autonome AI door overheden altijd betekenisvolle menselijke tussenkomst zijn. Onder de AI Act gelden de verboden van artikel 5, artikel 4 en artikel 50 al. Een agent die beoordeelt of iemand in aanmerking komt voor een essentiële overheidsuitkering of -dienst is in beginsel hoog risico (bijlage III punt 5 onder a, met een uitzondering in artikel 6 lid 3): de hoog-risico-eisen en een FRIA (grondrechtentoets) voor de gemeente gelden dan vanaf 2 december 2027, bij systemen die al draaien pas na een aanzienlijke wijziging en uiterlijk op 2 augustus 2030. Het plan: inventariseren, beoordelen, begrenzen, vastleggen en testen, toezicht houden, met per agent een eigenaar in de lijn.
Welke regels gelden voor AI-agents bij een gemeente?
Een AI-agent is volgens de Europese Commissie doorgaans een AI-systeem en geen aparte categorie, al noemt zij dat standpunt voorlopig (zie onze gids over AI-agents en de wet). Voor een gemeente liggen vier lagen over elkaar.
AVG: grondslag, DPIA en geautomatiseerde besluiten
Een gemeente verwerkt persoonsgegevens voor wettelijke taken: de grondslag is doorgaans artikel 6 lid 1 onder e AVG, en die moet in Unie- of nationaal recht staan (lid 3). Gerechtvaardigd belang is voor een overheidsinstantie bij de uitoefening van haar taken uitgesloten (lid 1, laatste alinea). Het doel is dus de wettelijke taak, niet de tool: de AP schreef bij Haarlemmermeer dat het inzetten van een generatief AI-systeem geen doel op zich mag zijn. Een gegevensbeschermingseffectbeoordeling (DPIA) doet u vóór de verwerking als het risico waarschijnlijk hoog is (artikel 35), met het advies van de functionaris voor gegevensbescherming (FG). Blijft er na uw maatregelen een hoog risico over, dan raadpleegt u de AP (artikel 36 AVG). Zie de Copilot-DPIA na het AP-advies.
Neemt de agent besluiten, dan geldt artikel 22 AVG: uitsluitend geautomatiseerde besluiten met rechtsgevolgen of vergelijkbaar aanmerkelijke gevolgen zijn in beginsel verboden. Volgens de AP is een besluit uitsluitend geautomatiseerd als een generatief AI-systeem een beslissende rol heeft. Artikel 40 van de Uitvoeringswet AVG (UAVG) heft het verbod op voor geautomatiseerde besluiten zonder profilering die nodig zijn voor een wettelijke verplichting of een taak van algemeen belang, mits u passende maatregelen treft. Volgens artikel 40 lid 3 UAVG volstaan drie waarborgen (menselijke tussenkomst, standpunt kenbaar maken, aanvechten) in ieder geval voor een verwerkingsverantwoordelijke die geen bestuursorgaan is; naar onze lezing onderbouwt een gemeente de passende maatregelen van lid 2 dus zelf. Zie AI-agents en artikel 22 AVG.
Awb en kabinet: zorgvuldig voorbereiden, motiveren en een mens die echt beslist
Wat een agent voorbereidt, kan uitmonden in een besluit: een schriftelijke beslissing van een bestuursorgaan met een publiekrechtelijke rechtshandeling (artikel 1:3 Algemene wet bestuursrecht, Awb). Dat besluit blijft van het bestuursorgaan (bij een gemeente het college, de burgemeester of de raad), ook als een medewerker het onder mandaat neemt (artikel 10:2 Awb). Het bestuursorgaan vergaart bij de voorbereiding de nodige kennis over de relevante feiten en de af te wegen belangen (artikel 3:2 Awb), en het besluit berust op een deugdelijke motivering (artikel 3:46 en 3:47 Awb). Naar onze lezing mag een feit dat de agent verzon dus niet ongezien in die motivering belanden.
Het kabinet schrijft in antwoord op Kamervragen (29 april 2026) dat bij het inzetten van autonome AI-assistenten voor (algoritmische) besluitvorming door overheden altijd sprake moet zijn van betekenisvolle menselijke tussenkomst, en dat de techniekonafhankelijke Awb ook de inzet van AI normeert. Dat is een regeringsstandpunt, geen wetsartikel.
AI Act: artikel 4 en 50 gelden nu, hoog risico vanaf 2 december 2027
Ook de verboden van artikel 5 gelden al. Artikel 4 vraagt maatregelen die de AI-geletterdheid van medewerkers ondersteunen. Artikel 50 geldt sinds 2 augustus 2026. De plicht om te melden dat iemand met AI communiceert rust op de aanbieder, en dat kan de gemeente zelf zijn: volgens de richtsnoeren van de Commissie (C(2026) 5054, punt 11) is ook een overheidsinstantie aanbieder die een chatbot zelf ontwikkelt en onder eigen naam voor eigen gebruik in gebruik stelt. Een agent die correspondentie voert valt onder lid 1; volgens punt 31 (niet bindend) moet hij zo zijn ontworpen dat hij ook bekendmaakt namens wie hij handelt.
De hoog-risico-eisen gelden voor systemen uit bijlage III vanaf 2 december 2027 (Verordening (EU) 2026/1744). Punt 5 onder a betreft systemen die door of namens overheidsinstanties beoordelen of iemand in aanmerking komt voor essentiële overheidsuitkeringen en -diensten, of die verlenen, beperken, intrekken of terugvorderen. Een beperkte procedurele of voorbereidende taak kan onder artikel 6 lid 3 vallen, maar nooit als het systeem mensen profileert. Is het systeem hoog risico, dan doet de gemeente als gebruiksverantwoordelijke en publiekrechtelijk orgaan vóór de eerste ingebruikname een beoordeling van de gevolgen voor de grondrechten (FRIA), waarin zij voor zover de DPIA onderdelen al dekt naar de DPIA mag verwijzen, meldt zij de uitkomst aan de markttoezichtautoriteit (artikel 27 lid 3) en registreert zij het gebruik in de EU-databank (artikel 49 lid 3). Bouwt de gemeente de agent zelf (artikel 3 punt 3), of zet zij een agent voor algemene taken voor zo'n beoordeling in en wijzigt zij daarmee het beoogde doel (artikel 25 lid 1 onder c), dan is zij ook aanbieder van een hoog-risicosysteem, met de plichten van artikel 16, zoals de conformiteitsbeoordeling, de CE-markering en de registratie van het systeem (artikel 49 lid 1). Draait het systeem al vóór 2 december 2027, dan gelden de eisen en naar onze lezing ook de FRIA pas bij een aanzienlijke wijziging in het ontwerp na die datum, en voor overheidssystemen moet u uiterlijk op 2 augustus 2030 voldoen (artikel 111 lid 2). Bij een steeds bijgewerkte agent is dat snel aan de orde. Zie de FRIA voor gemeenten.
Het overheidsbrede standpunt geldt ook voor agents
Volgens het kabinet geldt het overheidsbrede standpunt voor de inzet van generatieve AI (document van 30 januari 2025, op 22 april 2025 aan de Tweede Kamer aangeboden) ook voor autonomere vormen van AI zoals AI-agents. Overheden moeten vooraf altijd een impactassessment hebben uitgevoerd, bijvoorbeeld een DPIA of een Impact Assessment Mensenrechten en Algoritmes (IAMA), en het moet duidelijk zijn welk maatschappelijk doel de inzet dient. De IAMA is in februari 2026 in lijn gebracht met artikel 27 AI Act. Het standpunt zelf vraagt ook om afspraken met leveranciers over datadeling, dataretentie en hertraining en noemt een exitstrategie bij de risicoanalyse; generatieve AI onder consumentenvoorwaarden is voor overheidsmedewerkers niet toegestaan. Het standpunt is beleid en geen wet, maar het is wel opgesteld voor alle overheidsorganisaties, dus ook voor gemeenten. Een herijking met aandacht voor agentic AI is aangekondigd.
Wat betekent dat voor drie voorbeeldagents?
De drie denkbeeldige agents uit de opening, langs de regels gelegd:
| Agent | Wat hij doet | Wat dat betekent |
|---|---|---|
| Aanvragenagent | Controleert aanvragen, zet ze op urgentie, schrijft een conceptbeschikking | Voorbereiding van een Awb-besluit en, bij een beslissende rol, een vraag onder artikel 22 AVG. Prioriteren en een voorstel doen zijn bij aanvragen voor essentiële uitkeringen of diensten in het concept van de Commissie (19 mei 2026, niet bindend) voorbeelden van hoog risico onder punt 5 onder a. Dan horen daarbij een DPIA (wettelijk verplicht bij waarschijnlijk hoog risico, artikel 35 AVG), volgens het overheidsbrede standpunt ook een IAMA, een FRIA zodra de hoog-risico-eisen gelden en een behandelaar die echt beslist. Alleen doorverwijzen naar de juiste behandelaar valt er buiten. |
| Woo-agent | Vat een verzoek en de stukken samen, stelt voor wat openbaar kan | Het besluit blijft bij het bestuursorgaan: zo spoedig mogelijk en uiterlijk binnen vier weken, eenmalig te verdagen met ten hoogste twee weken (artikel 4.4 Woo). Die termijn maakt overnemen verleidelijk: let op automation bias, de neiging een computeradvies klakkeloos te volgen. Begrens wat de agent mag lezen. |
| Inwonersagent | Beantwoordt vragen van inwoners | Artikel 50 lid 1: de gemeente kan zelf aanbieder zijn. Geen besluit zolang hij geen rechten beoordeelt; bepaal wanneer hij doorverwijst naar een mens. |
Wie is in een gemeente eigenaar van een AI-agent?
De wet wijst geen eigenaar van een agent aan. Dit is de indeling die wij aanraden, op basis van de BIO2 (Baseline Informatiebeveiliging Overheid 2) en de AVG:
| Rol | Taak bij een AI-agent | Waar het op steunt |
|---|---|---|
| College van burgemeester en wethouders | Keurt de beveiligingsmaatregelen goed en is doorgaans verwerkingsverantwoordelijke; wij raden aan dat het ook beslist of een agent met een hoog restrisico mag starten | artikel 24 Cyberbeveiligingswet (lid 1 en lid 12 onder d); artikel 24 en 36 AVG; privacybeleid van Hoogeveen en Heumen |
| Lijnmanager | Is eigenaar van de agent en zijn risico's, bepaalt de goedkeuringspunten en accepteert restrisico's bij de leverancier | BIO2, paragraaf 12.2 en overheidsmaatregel 5.22.01 |
| CIO en CISO | De CIO beheert platform, leveranciers en register; de CISO coördineert de beveiliging, maar is niet verantwoordelijk voor de beveiliging in de lijn | BIO2, paragraaf 12.1 (de CIO adviseert de bestuurder) en 12.3; de taken van de CIO zijn onze aanbeveling |
| FG | Adviseert onafhankelijk over de DPIA en ziet toe op naleving | artikelen 35, 38 en 39 AVG |
Een FG die zelf eigenaar van een agent is, toetst zijn eigen werk; dat kan een belangenconflict opleveren (artikel 38 lid 6 AVG). Gemeenten zijn bovendien essentiële entiteiten (artikel 8 lid 1 onder h Cyberbeveiligingswet): het college keurt de beveiligingsmaatregelen goed, en elk collegelid toont binnen twee jaar met een certificaat van deelname aan een training aan dat hij of zij genoeg kennis heeft om cyberrisico's te beoordelen (artikel 24 Cyberbeveiligingswet). Volgens de BIO2 zelf is die norm via die wet verplicht voor de sector Overheid. Zie AI-agents en de Cyberbeveiligingswet.
Hoe regelt een gemeente de governance van AI-agents? In vijf stappen
Elke stap heeft een eigenaar. Doorloop ze per agent, te beginnen met de agents die al draaien.
Inventariseer elke agent, ook de schaduw-agents
Eigenaar: de CIO, met de lijnmanagers. Maak een lijst van alle agents: gekocht, zelf gebouwd, door leveranciers ingebouwd en door medewerkers zelf aangezet. De AP verwacht dat agents via ingebouwde functies in browsers en besturingssystemen vanzelf bij gebruikers komen (RAN 6) en raadt af om OpenClaw en vergelijkbare agents te gebruiken op systemen met privacygevoelige of vertrouwelijke gegevens. Het overheidsbrede standpunt staat generatieve AI onder consumentenvoorwaarden niet toe. Zorg dat medewerkers een agent veilig kunnen melden, zet elke agent in een agentregister en werk het verwerkingsregister bij. Meer over schaduw-AI.
Beoordeel per agent
Eigenaar: de lijnmanager, met jurist en privacy officer; de FG adviseert. Welke wettelijke taak dient de agent? Neemt of bepaalt hij een besluit (Awb, artikel 22 AVG)? Wat is uw rol onder de AI Act en valt het doel onder bijlage III? Zijn een DPIA, IAMA of FRIA nodig? Heeft hij tegelijk toegang tot persoonsgegevens, invoer die niet te vertrouwen is (de mail van een inwoner) en de mogelijkheid om naar buiten te communiceren? Haal dan een van de drie weg, of laat een mens elk bericht naar buiten goedkeuren (de gevaarlijke driehoek uit onze gids). Een eerste indruk geeft de Agent-check.
Begrens
Eigenaar: de lijnmanager; CIO en CISO richten de beperkingen in en toetsen ze. Geef de agent alleen de gegevens en koppelingen die zijn taak nodig heeft; de BIO2 noemt need to know en zero trust als principes. Leg vast wat een mens moet goedkeuren: elk besluit, elk bericht naar een inwoner en alles wat onomkeerbaar is. Bouw dat in de software in, niet alleen in de opdracht aan het model. Richt een noodstop in en test hem: wie zet de agent uit en hoe trekt u zijn toegang in?
Leg vast en test
Eigenaar: de lijnmanager; jurist en FG adviseren. Voer de DPIA uit vóór de ingebruikname en plan bij bijlage III punt 5 onder a ook de FRIA. Publiceer impactvolle algoritmes en hoog-risico-AI-systemen in het Algoritmeregister: dat is vastgesteld beleid, tenzij uitsluitingsgronden gelden (Algoritmekader). Een wettelijke plicht is volgens het register zelf (5 november 2026) nog niet ingevoerd maar aangekondigd, en de AP beval Haarlemmermeer aan Copilot erin te registreren. Test in een afgeschermde testomgeving, en met echte dossiers alleen als de DPIA dat gebruik dekt, hoe vaak de mens afwijkt van de agent, en probeer een verborgen opdracht in een mail. Log per besluit wat de agent aanleverde en wat de mens deed: dat heeft u nodig voor de motivering, een bezwaar en een inzageverzoek. Leg met de leverancier de rollen, geen training op uw gegevens en de melding van incidenten vast (zie het contract bij een AI-agent). Gemeenten kunnen daarvoor de GIBIT 2025 van de VNG gebruiken, met een eigen artikel over AI-systemen, waarin de leverancier onder meer moet helpen voorkomen dat de gemeente als aanbieder wordt aangemerkt, en de Europese modelcontractbepalingen voor AI-inkoop (MCC-AI, bijgewerkte versie van 5 maart 2025). Dat zijn modellen die u in het contract opneemt, geen wet. De MCC-AI zijn geschreven voor overheidsorganisaties, regelen alleen onderwerpen uit de AI Act en vormen geen volledig contract: de AVG, het intellectueel eigendom en de schadeverdeling regelt u elders.
Houd toezicht
Eigenaar: de lijnmanager dagelijks; de FG ziet toe op naleving; het college krijgt de rapportage. Controleer periodiek of de menselijke factor doorslaggevend blijft, zoals de AP vraagt (zie betekenisvolle menselijke tussenkomst in de praktijk). Zorg dat wie toezicht houdt voldoende AI-geletterd is; de maatregelen daarvoor vallen onder artikel 4 AI Act. Oefen het incidentproces: een datalek meldt u zonder onredelijke vertraging en zo mogelijk binnen 72 uur bij de AP, tenzij het waarschijnlijk geen risico oplevert, en elk lek legt u intern vast (artikel 33 AVG). Beoordeel opnieuw bij elke grote wijziging: een nieuw model of doel kan de risicoklasse veranderen en de FRIA laten bijwerken (artikel 27 lid 2).
Terug naar de gemeente uit de opening. De aanvragenagent krijgt een eigenaar, een DPIA en een IAMA, en een behandelaar die het dossier zelf leest en kan afwijken. De Woo-agent, die de medewerker zelf aan haar mailbox koppelde, komt in het register of gaat uit; blijft hij, dan leest hij alleen wat hij nodig heeft en stuurt hij niets naar buiten. De inwonersagent meldt dat hij AI is en draagt over aan een mens. Wilt u dat iemand meekijkt, van de DPIA tot de FRIA, dan kunt u Zahed Ashkara inhuren als juridisch adviseur voor AI en privacy.
Veelgestelde vragen over AI-agents bij een gemeente
Bronnen
Nieuwsbrief
Elke dinsdag de AI Act-week vooruit in 5 minuten
Praktische duiding van deadlines, richtsnoeren en toezicht, zodat u weet wat er deze week toe doet. Geen spam en u schrijft zich met één klik weer uit.
Praktisch en kort · Geen spam · Met één klik uitschrijven