Agentic AI implementeren onder de EU AI Act

Je overweegt AI-agents in te zetten op processen die er echt toe doen. Of ze draaien al, en je vraagt je af of je uit kunt leggen wat ze doen als iemand ernaar vraagt. Hieronder de kern van onze implementatiehandleiding. Het volledige document — inclusief checklist, templates en een systeeminstructie die je direct kunt overnemen — staat verderop op deze pagina.

1. Vaststellen waar je staat

De vier risiconiveaus

De wet sorteert AI-toepassingen naar het risico dat ze vormen voor veiligheid, gezondheid en grondrechten. Elk niveau brengt zijn eigen verplichtingen mee.

De valkuil in deze tabel is de aanname dat een systeem één niveau heeft. Dat heeft het niet. Een taalmodel is minimaal risico in een marketingassistent en hoog risico zodra het kandidaten rangschikt. Dezelfde architectuur, dezelfde leverancier, een totaal ander verplichtingenpakket.

Classificeer daarom per use case, niet per tool. En leg de onderbouwing vast: bij een controle is "wij vonden het minimaal risico" zonder redenering geen antwoord.

Wanneer is het hoog risico?

Grofweg in twee situaties. Zelfstandige systemen in kritieke domeinen:

• Werving en selectie van personeel
• Onderwijs en beroepsopleiding
• Kredietbeoordeling en toegang tot essentiële diensten
• Medische diagnostiek
• Kritieke infrastructuur
• Rechtshandhaving en migratiebeheer

En veiligheidscomponenten van al gereguleerde producten: machines, medische apparatuur, liften, speelgoed en vergelijkbare categorieën.

Twijfel je? Behandel het als hoog risico tot het tegendeel is onderbouwd. Een classificatie naar beneden bijstellen is een administratieve handeling. Een systeem dat achteraf hoog risico blijkt, moet je openleggen.

Ben je aanbieder of gebruiksverantwoordelijke?

Dit is de duurste vraag in het hele traject, en de meest genegeerde. De aanbieder draagt het volledige pakket: conformiteitsbeoordeling, technische documentatie, registratie in de EU-databank, CE-markering. De gebruiksverantwoordelijke gebruikt een systeem van een ander en heeft een lichter — maar zeker niet leeg — pakket.

Waar het misgaat: je wordt wettelijk de aanbieder zodra je je eigen merknaam op een hoog-risico systeem zet, óf zodra je het beoogde doel zo wijzigt dat het in de hoog-risico categorie valt. Organisaties schuiven ongemerkt op. Je koopt een generieke tool, configureert hem voor je eigen wervingsproces, zet je logo erop — en bent aanbieder geworden van een hoog-risico systeem, met een conformiteitsbeoordeling die je nooit hebt uitgevoerd.

2. Menselijk toezicht operationeel maken

Menselijk toezicht is de belangrijkste maatregel die je kunt nemen. Het is ook de maatregel die het makkelijkst symbolisch blijft: een vinkje in een proces waar niemand echt kijkt.

Wat de toezichthouder moet kunnen

• Storingen en afwijkingen detecteren — getrainde mensen die ongewenst gedrag tijdig opmerken.
• Beslissingen inzien en overrulen — zeker bij AI die beslissingen neemt die mensen raken, zoals een automatische afwijzing.
• Het systeem stopzetten — een aangewezen persoon met zowel de autoriteit als de technische middelen. Beide, niet één van beide.
• Logs en KPI's controleren — periodiek beoordelen en continu meten.

Het toezicht mag niet symbolisch zijn. De persoon die het uitvoert moet beschikken over kennis en bekwaamheid om te begrijpen hoe het systeem werkt en waar zijn grenzen liggen, over formele autoriteit om in te grijpen, en over ondersteuning van de organisatie om de rol echt te vervullen. Een medewerker die formeel toezichthouder is maar geen tijd krijgt om te kijken, is geen toezichthouder. Dat is een naam in een document.

Vastleggen in vier lagen

1. Rollen — benoem per toepassing wie verantwoordelijk is en neem de validatietaken op in de functiebeschrijving.
2. Beleid — leg de validatieplicht vast: AI-output is een concept tot een mens het heeft gecontroleerd. Documenteer het escalatiepad.
3. Audittrail — houd een validatielogboek bij van wie wat wanneer goedkeurde. Voor hoog-risico systemen minimaal zes maanden bewaren.
4. Training — neem AI-geletterdheid op in je opleidingsbeleid en leg vast dat medewerkers instructie hebben gehad over werking, beperkingen en risico's.

3. Prompt-injectie: de gelaagde verdediging

Prompt-injectie is het verstoppen van instructies in materiaal dat een AI verwerkt: een e-mail, een website, een PDF, een tenderdocument. Het model onderscheidt jouw opdracht slecht van een instructie die in de verwerkte tekst zit, en kan zo worden gekaapt — data lekken, ongewenste handelingen uitvoeren, beveiligingslekken in code introduceren.

Agents die externe input lezen zijn per definitie blootgesteld. En er bestaat geen sluitende technische oplossing. Dat is geen pessimisme, dat is het ontwerpuitgangspunt: bouw alsof de verdediging op enig moment doorbroken wordt.

Laag 1 — Systeeminstructies

Instructie-isolatie: instrueer de AI expliciet om tekst in documenten of e-mails uitsluitend als broninhoud te behandelen, en nooit als nieuwe opdrachten die eerdere instructies kunnen wijzigen. Meldgedrag: bij een mogelijke injectie stopt de agent, citeert de betreffende tekst en vraagt om menselijke bevestiging.

Laag 2 — Human-in-the-loop

De belangrijkste verdedigingslinie, juist omdat de techniek tekortschiet. Laat agents nooit zelfstandig handelingen uitvoeren met klant- of financiële impact. AI zet concepten klaar; een mens is de laatste schakel en controleert op onlogische of afwijkende conclusies. Precies die afwijking is vaak het enige zichtbare spoor van een geslaagde injectie.

Laag 3 — Technische filters

Beperk de agent tot bronnen die je vertrouwt, en wees extra behoedzaam bij RAG-oplossingen met documenten van derden — dat is precies het scenario waarin een aangeleverd document instructies kan bevatten. Voeg outputvalidatie toe op gevoelige data en ongewenste patronen. En deel rechten uit volgens least privilege: een gekaapte agent kan nooit meer dan zijn rechten toestaan.

Laag 4 — Organisatorisch

Validatieplicht in het AI-beleid, een duidelijk escalatiepad voor wie een injectiepoging ontdekt, en training in het herkennen van de risico's — met name bij het laten samenvatten van externe websites of documenten.