Agent-veiligheidsscan: is uw AI-agent veilig en volgens AVG en AI Act?

Een vaste prijs per agent, die u vooraf in het voorstel ziet. Na een gesprek van 30 minuten krijgt u het voorstel binnen drie werkdagen; voor het gesprek betaalt u niet. Contractpartij is Embed AI (KvK 90283597).

Een agent is te kapen als hij drie dingen tegelijk kan: inhoud van buiten lezen (mail, websites, documenten), vertrouwelijke gegevens inzien en zelf iets naar buiten sturen. Dan kan een verborgen opdracht in een mail of webpagina hem gegevens laten wegsturen. De term komt van Simon Willison (the lethal trifecta). De oplossing is een poot weghalen. Menselijke goedkeuring vooraf is een aanvullende maatregel en moet dan elk kanaal naar buiten dekken, ook het opvragen van een webpagina, want een agent kan gegevens in een webadres meesturen.

Nee. Een penetratietest probeert technisch binnen te komen en hoort bij uw beveiligingspartij. De scan kijkt naar wat de agent mag en wat de wet daarvan vraagt, en levert de toetsvragen die een pentest kan meenemen.

Een agent is doorgaans een AI-systeem; de Europese Commissie noemt dat in haar veelgestelde vragen een voorlopige lezing. Voert de agent contact met mensen, dan zorgt de aanbieder dat zij uiterlijk bij het eerste contact weten dat het AI is, tenzij dat duidelijk is (artikel 50 lid 1 en lid 5 AI Act). Of de agent een hoog-risicosysteem is, hangt af van de taak, bijvoorbeeld werving of kredietbeoordeling (bijlage III), niet van de techniek.

U zet de agent in en houdt de verantwoordelijkheid voor uw gegevens en uw keuzes: welke rechten u hem geeft, welke koppelingen en wie goedkeurt. Verwerkt de leverancier persoonsgegevens voor u, dan hoort er een verwerkersovereenkomst bij (artikel 28 AVG). Mag de leverancier uw gegevens gebruiken om zijn model te trainen, dan wordt hij voor dat doel zelf verwerkingsverantwoordelijke en hebt u een grondslag nodig om die gegevens te verstrekken.

Dat hangt af van wat er gebeurt. Lekt een agent persoonsgegevens, dan meldt u dat zonder onnodige vertraging en zo mogelijk binnen 72 uur bij de Autoriteit Persoonsgegevens, tenzij het lek waarschijnlijk geen risico oplevert; intern vastleggen moet altijd (artikel 33 AVG). Valt uw organisatie onder de Cyberbeveiligingswet, dan meldt u een significant incident onverwijld en in elk geval binnen 24 uur als vroege waarschuwing, binnen 72 uur als melding en binnen een maand met een eindverslag, aan het CSIRT (in de regel het NCSC) en de bevoegde autoriteit, per sector een minister (artikel 25 tot en met 29 Cyberbeveiligingswet). Bij een ernstig incident met een hoog-risicosysteem meldt de aanbieder bij de markttoezichtautoriteit onmiddellijk en uiterlijk binnen 15 dagen, binnen 10 dagen bij overlijden en binnen 2 dagen bij een wijdverbreide inbreuk of verstoring van kritieke infrastructuur (artikel 73 AI Act); als gebruiksverantwoordelijke informeert u onmiddellijk eerst de aanbieder en daarna de importeur of distributeur en de markttoezichtautoriteit (artikel 26 lid 5 AI Act). Voor hoog-risicosystemen uit bijlage III gelden de AI Act-plichten vanaf 2 december 2027. Was het systeem al vóór die datum op de markt of in gebruik, dan gelden ze pas na een aanzienlijke wijziging van het ontwerp; systemen voor overheidsinstanties moeten uiterlijk 2 augustus 2030 voldoen (artikel 111 lid 2 AI Act). De AVG en de Cyberbeveiligingswet gelden al. De meldwijzer zet dit per agent op een rij.

Zahed Ashkara, freelance AI- en privacyjurist, doet het werk zelf en zet zijn naam onder de oplevering. Hij werkt uitsluitend als zelfstandige, niet via detachering of in dienstverband.

De startdatum stemmen we af in het gesprek van 30 minuten. Stuur de vraag of opdrachtomschrijving vooraf mee, dan weet u in dat gesprek of en wanneer het past.