Testen van AI met tegenstanders: de ontbrekende schakel in AI-governance

Uw organisatie maakt vrijwel zeker meer gebruik van AI dan uw beveiligingsteam beseft. De vraag is niet of uw AI-governance dit allemaal omvat. De vraag is of dit alles stand zou houden tegen iemand die probeert het te omzeilen.

De meeste bedrijven kampen momenteel met een merkwaardige tweedeling. Enerzijds wordt het AI-beheer steeds volwassener: beleid, regels voor aanvaardbaar gebruik, risicoclassificaties, vaak afgestemd op de EU-AI-wet. Anderzijds blijft de daadwerkelijke AI-voetafdruk sneller groeien dan iemand kan bijhouden.

Volgens de Cloud Security Alliance bestaat meer dan de helft van de generatieve AI die door bedrijven wordt ingezet uit ‘schaduw-AI’, en is 89% van het AI-gebruik binnen bedrijven onzichtbaar voor beveiligingsteams (CSA, 2026). Uit het rapport ‘Cost of a Data Breach Report 2025’ van IBM bleek dat één op de vijf organisaties die te maken hadden gehad met een datalek, te maken had gehad met een inbreuk waarbij schaduw-AI betrokken was (IBM, 2025).

De verordening vereist al meer dan alleen papierwerk

De EU-AI-wet vraagt niet alleen of je je AI hebt gedocumenteerd. Voor systemen met een hoog risico wordt ook gevraagd of ze daadwerkelijk robuust en veilig zijn.

Artikel 15 van de AI-wet schrijft voor dat AI-systemen met een hoog risico „een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging” moeten bereiken en bestand moeten zijn tegen pogingen van onbevoegde derden om hun gedrag te wijzigen door misbruik te maken van kwetsbaarheden (EUR-Lex, 2024). Dat is een wettelijk vastgelegde beveiligingseis, geen formaliteit op papier.

Dit is dezelfde kloof waarover het Adversarial-team van Damovo, Lares, in andere domeinen heeft geschreven: bij compliance-maatregelen wordt gekeken of de controles zijn gedocumenteerd, terwijl aanvallers nagaan of ze werken. AI is simpelweg het nieuwste gebied waar die kloof zich opent, en dat gebeurt in hoog tempo omdat de invoering ervan sneller gaat dan elk governanceproces dat is opgezet om deze kloof in te dammen.

Wat ‘het testen’ van AI eigenlijk inhoudt

AI-systemen vertonen fouten die niet lijken op traditionele softwarekwetsbaarheden, en daarom worden ze bij traditionele tests over het hoofd gezien.

Wanneer we een AI-implementatie op een vijandige manier testen, voert het team geen kwetsbaarheidsscan uit. We vallen het systeem aan zoals een echte aanvaller dat zou doen:

• Het manipuleren van wat de AI wordt opgedragen te doen. Een zorgvuldig opgestelde invoer kan de instructies van een AI-assistent tenietdoen, waardoor een nuttige interne tool verandert in iets dat juist de doelstellingen van een aanvaller volgt.
• Misbruik maken van de mogelijkheden die de AI heeft. Moderne AI-agenten kunnen e-mails versturen, databases doorzoeken en interne API’s aanroepen. De agent ertoe brengen om deze tools op een verkeerde manier te gebruiken, is een van de snelste manieren om daadwerkelijke schade aan te richten.
• Ontcijferen wat de AI heeft gezien. Modellen die zijn getraind op of gekoppeld aan gevoelige gegevens, kunnen ertoe worden aangezet deze gegevens prijs te geven, vraag voor vraag, zorgvuldig geformuleerd.

Geen van deze zaken komt aan het licht bij een governance-evaluatie. Ze komen pas aan het licht wanneer iemand opzettelijk probeert het systeem te omzeilen.

De OWASP Top 10 voor agentische toepassingen, die eind 2025 werd gepubliceerd, brengt precies deze risico’s voor autonome AI-agenten in kaart (OWASP, 2025). Het raamwerk is er. Wat in de meeste organisaties ontbreekt, is het bewijs dat hun eigen implementaties hieraan voldoen.

Diepgaande analyse: OWASP Agentic AI Top 10: Bedreigingen in het wild

Een praktische manier om de kloof te dichten: beoordeling van AI door middel van adversarial-testen

Het Offensive Cybersecurity Advisory Team van Damovo, Lares, biedt een gestructureerde manier om te achterhalen wat uw AI daadwerkelijk doet wanneer deze wordt aangevallen, en niet alleen wat uw beleid voorschrijft dat deze zou moeten doen.

De Adversarial AI Assessment bestaat uit drie niveaus, en organisaties kunnen deelnemen op het niveau dat het beste aansluit bij hun ontwikkelingsfase:

1. AI-footprint in kaart brengen. Voordat u uw AI kunt beveiligen, moet u eerst alle AI-componenten in kaart brengen, inclusief de ‘schaduw-AI’ waarvan uw governance geen weet heeft. Dit is een doelgerichte, door experts geleide verkenning, geen scanresultaat. De kloof die ertoe doet, is juist die welke een scanner niet kan zien.
2. Adversariaal AI-testen. Praktische tests van uw AI-systemen tegen echte aanvalstechnieken:manipulatie van prompts, misbruik van agenttools, gegevensextractie en de overige methoden die in de OWASP-frameworks zijn opgenomen. Het resultaat is geen lijst met theoretische risico’s, maar bewijs van wat een aanvaller daadwerkelijk zou kunnen doen, in relatie tot de verdedigingsmaatregelen die de aanval wel of niet hebben tegengehouden.
3. Frequentie van herhalingstests voor AI. AI-systemen veranderen voortdurend: nieuwe modellen, nieuwe integraties, nieuwe gegevensverbindingen. Een eenmalige test raakt snel achterhaald. Door regelmatig herhalingstests uit te voeren, blijft de validatie continu, zodat de gegevens actueel blijven naarmate het systeem zich verder ontwikkelt.

De rode draad is eenvoudig en het is hetzelfde principe dat ten grondslag ligt aan alles wat Lares doet: vertel ons niet dat jullie beveiligingsmaatregelen werken. Laat het ons zien, onder realistische aanvalsomstandigheden, waarbij jullie team meewerkt aan het verhelpen van de kwetsbaarheden die wij ontdekken.

Meer informatie: Beoordeling van adversariale AI

Waar moet ik beginnen?

Als uw organisatie wel over AI-governance beschikt, maar nog nooit heeft getest hoe haar AI-systemen daadwerkelijk reageren bij een aanval, dan is dat de leemte die als eerste moet worden opgevuld. En als u nog niet precies weet in welke mate AI binnen de hele organisatie wordt gebruikt, dan geeft de ‘discovery’-fase als eerste antwoord op die vraag.

Bronnen

• Cloud Security Alliance, Shadow AI-apps: het aanvalsoppervlak van ondernemingen dat sneller groeit dan de monitoring (2026)
• IBM, Rapport over de kosten van een datalek 2025 (2025)
• EUR-Lex, Verordening (EU) 2024/1689 (Wet inzake kunstmatige intelligentie) (2024)
• OWASP GenAI-beveiligingsproject, OWASP Top 10 voor agentgebaseerde applicaties voor 2026 (2025)