AI-security: wat is een AI- en agent security test?

Een AI- en agent security test kijkt of aanvallers je AI kunnen misleiden om data te lekken of acties uit te voeren die niet mogen.

We testen ChatGPT, Copilot en Claude met hun koppelingen, je eigen agents en de AI in je product.

Voorbeeld van een bevinding uit een AI-securitytestAI-004
Hoog risico

Een gedeeld document laat de AI-assistent klantgegevens doorsturen

Impact
Wie een document deelt, kan de assistent stilletjes opdrachten geven.
Eerst doen
Beperk wat de assistent mag versturen en laat acties bevestigen.
Gevalideerd door een ethische hackerHertest inbegrepen

Wat testen we in een AI Agent Security Assessment?

Wij testen niet of je AI goede antwoorden geeft. Wij testen welke data, API's en acties een aanvaller via je AI kan bereiken: prompt injection, MCP-koppelingen en tools, toegang tot SharePoint, Drive of CRM, te ruime agent-rechten en geheimen. Het is een uitbreiding van applicatie-, API- en identity testing.

Elke bevinding wordt manueel gevalideerd, met een rapport en een retest na herstel.

Welke interne AI-agents testen we?

De meeste bedrijven laten AI-assistenten nu mail, bestanden en CRM-data lezen namens hun medewerkers. We vallen OpenAI, Anthropic of Microsoft niet aan. We testen jouw opzet: wat er gekoppeld is, wat de assistent kan lezen of doen, en wat een aanvaller hem laat doen met één vergiftigd document of mail.

ChatGPT Enterprise en custom GPTs

Koppelingen met Drive, SharePoint en mail, custom GPTs met acties die je API's aanroepen, en de agentmodus die zelf in een browser werkt. We testen wat een geïnjecteerd bestand of webpagina ChatGPT laat lezen, versturen of wijzigen.

Claude, Claude Code en MCP

Claude met koppelingen en projecten, Claude Code op laptops van ontwikkelaars, en de MCP-servers die toegang geven tot repositories, tickets en databanken. We testen toolrechten, opgeslagen tokens en commando's die een agent zich laat aanpraten.

Microsoft 365 Copilot en Copilot Studio

Copilot toont een gebruiker alles wat die gebruiker al kan openen. Te ruim gedeelde mappen in SharePoint, OneDrive of Teams worden zo binnen enkele minuten een datalek. We testen die blootstelling en de Copilot Studio-agents die je zelf bouwt, met hun eigen koppelingen en triggers.

Agents in bedrijfsapplicaties

AI-agents in je CRM, servicedesk of HR-tool, zoals Salesforce Agentforce of ServiceNow. Ze werken met systeemrechten op klant- en personeelsdata. We testen of ze binnen de rechten blijven van de gebruiker die de vraag stelt.

Workflow-agents in n8n, Make en Zapier

Automatiseringen die reageren op binnenkomende mail of webhooks en opgeslagen wachtwoorden bevatten. Wie de input controleert, controleert vaak de hele flow. We testen dat pad van begin tot einde.

Agent-identiteiten en rechten

Elke agent draait op API-sleutels, tokens of een serviceaccount. We brengen in kaart welke identiteiten je agents gebruiken, wat ze kunnen bereiken en wie hun acties goedkeurt, en testen of least privilege standhoudt onder aanval.

AI Code Security Review: is de code die je AI schreef veilig?

Ontwikkelaars leveren nu code af die geschreven is door Claude Code, Codex, GitHub Copilot en Cursor. Die code werkt meestal, maar vertrouwt de gebruiker vaak te veel, slaat autorisatiecontroles over of zet geheimen op plaatsen waar ze niet horen. De codeeragents zelf hebben bovendien toegang tot je repositories, terminals en pipelines. Wij bekijken beide.

Manuele review van AI-code

Een ethical hacker leest de code waar het telt: login, autorisatie, invoerverwerking, geheimen en bedrijfslogica. We zoeken de fouten die AI-tools telkens opnieuw maken, niet de stijl.

Je AI-codeertools

We bekijken hoe Claude Code, Codex, Copilot en Cursor ingesteld zijn: welke repositories, commando's en geheimen ze kunnen bereiken, welke MCP-servers en plugins ze laden, en wat ze mogen uitvoeren zonder te vragen.

Agents in je pipeline

AI-agents die pull requests openen, issues oplossen of in CI draaien, hebben vaak schrijfrechten. We testen of een vergiftigde issue, README of dependency ze code laat pushen die niemand goedkeurde.

Bevindingen die je kunt oplossen

Elke bevinding is manueel gevalideerd, met het bestand, de regel en een oplossing die je in je codeertool kunt plakken. De retest is inbegrepen.

LLM- en chatbotpentest: wat valt binnen de testscope?

Directe en indirecte prompt injection
Misbruik van toolaanroepen en MCP-servers
Privilege escalation en excessive agency via de AI-laag
Tenant isolation in multi-tenant SaaS
Data-extractie en lekkage via AI-interfaces
Modelmanipulatie, RAG poisoning en guardrail-bypass
Misbruik van resourceverbruik en beschikbaarheid
Blootstelling van secrets en credentials in AI-toepassingen

Hoe testen we tegen de OWASP Top 10 for Agentic Applications?

OWASP publiceerde deze lijst in december 2025. Klanten en auditors vragen er steeds vaker naar. Elk risico hieronder zit in ons testplan.

ASI01 Agent Goal Hijack

We verstoppen instructies in mails, documenten en webpagina's die de agent leest, en kijken of hij zijn taak laat vallen om de onze te volgen.

ASI02 Tool Misuse and Exploitation

We duwen de agent om zijn tools te gebruiken op een manier die je nooit bedoelde, zoals massale exports, verwijderingen of betalingen.

ASI03 Identity and Privilege Abuse

We controleren of de agent meer rechten gebruikt dan de gebruiker die hem aanroept, en of zijn tokens te stelen of te hergebruiken zijn.

ASI04 Agentic Supply Chain

We bekijken de MCP-servers, plugins en externe tools die de agent laadt, en testen wat een kwaadaardige versie zou kunnen doen.

ASI05 Unexpected Code Execution

We testen of de agent code of shellcommando's schrijft en uitvoert buiten zijn sandbox.

ASI06 Memory and Context Poisoning

We planten valse feiten in geheugen, RAG-bronnen en gedeelde context, en kijken of latere sessies ze geloven.

ASI07 Insecure Inter-Agent Communication

In opstellingen met meerdere agents testen we of de ene agent zich als de andere kan voordoen of hem kan manipuleren.

ASI08 Cascading Failures

We volgen één foute uitvoer door de keten en tonen hoe ver de schade reikt.

ASI09 Human-Agent Trust Exploitation

We testen of de agent ingezet kan worden om een medewerker iets risicovols te laten goedkeuren.

ASI10 Rogue Agents

We zoeken agents die blijven draaien, buiten hun opdracht handelen of geen werkende noodstop hebben.

Hoe pakken we dat aan?

Promptanalyse

We testen of prompts, contextmanipulatie of verborgen instructies het model buiten zijn beoogde gedrag kunnen sturen, zoals een echte gebruiker of aanvaller dat zou doen.

Guardrail testen

We omzeilen de aanwezige veiligheidsregels opzettelijk en tonen precies waar de guardrails tekortschieten en wat een aanvaller er doorheen krijgt.

Agent- en MCP-permissies

We brengen in kaart wat je agents en MCP-servers echt kunnen bereiken en testen scoped keys, misbruik van toolaanroepen en omzeilde permissies. We vallen de toegang aan, niet de instructies.

Coding agents en agentketens

We testen de paden waarin agents handelen: vergiftigde commando's, kwaadaardige toolketens en lekkende secrets. Niet alleen de antwoorden van het model. Elke bevinding wordt manueel gevalideerd.

Datalekkage

We controleren of gevoelige data kan lekken via modelresponses, geheugen of verbonden integraties, direct of indirect, en welke data een aanvaller kan bereiken.

Practitioners die zelf AI gebruiken

Onze ethical hackers bouwen en gebruiken hun eigen AI-onderzoeksstack, gevalideerd op de Meta Bug Bounty Research Conference 2026 in Taipei. Wij zijn actieve practitioners, geen toeschouwers.

Wat vraagt de EU AI Act voor beveiliging?

AI-systemen met een hoog risico onder de EU AI Act moeten voldoen aan cybersecurityvereisten. De Digital Omnibus (akkoord van 7 mei 2026, aangenomen in juli 2026) verschoof de deadline van 2 augustus 2026 naar 2 december 2027 (stand-alone AI-systemen met een hoog risico) en 2 augustus 2028 (AI ingebed in gereguleerde producten). Een gestructureerde AI-pentest is een sterk bewijsstuk voor de cyberbeveiligingseisen van de EU AI Act.

Wat is een AI-systeem met een hoog risico?

De lijst met hoog risico dekt AI voor aanwerving, kredietscore, biometrie, kritieke infrastructuur en onderwijs. Valt je systeem hieronder, dan gelden de cybersecurityvereisten van de EU AI Act. Een pentest is een gangbare manier om dat te onderbouwen.

Wat de EU AI Act vraagt voor beveiliging

AI met een hoog risico moet pogingen om zijn uitvoer of gedrag te wijzigen weerstaan. Een gestructureerde AI-pentest levert daar gedocumenteerd bewijs voor.

Deadline: 2 december 2027

Het Digital Omnibus-akkoord van 7 mei 2026 verschoof de deadlines naar 2 december 2027 (stand-alone AI-systemen met een hoog risico) en 2 augustus 2028 (AI in gereguleerde producten). Begin op tijd, zodat er ruimte is voor herstel en hertesten.

Auditbewijs voor conformiteit

Bevindingen zijn gekoppeld aan de beveiligingsvereisten van de EU AI Act en geven je complianceteam en conformiteitsbeoordelingsinstantie controleerbaar bewijs dat aan de verplichtingen is voldaan.

CRA voor software en digitale producten: wat laat je technisch testen?

De Cyber Resilience Act (CRA) is Europese regelgeving voor producten met digitale elementen, zoals software, apps en slimme apparaten. Sinds 11 september 2026 moeten fabrikanten actief uitgebuite kwetsbaarheden en ernstige incidenten melden via het ENISA-platform. De overige verplichtingen gelden vanaf 11 december 2027.

Een pentest toont of een kwetsbaarheid echt misbruikt kan worden en welke impact dat heeft. Zo beoordeel je sneller wat je moet melden en herstellen.

Veelgestelde vragen

We testen LLM-gebaseerde applicaties, chatbots, AI-assistenten, ML-gedreven functies en AI-integraties inclusief retrieval-augmented generation (RAG), toolaanroepen en multi-agent workflows.

Ja. We testen niet OpenAI, Anthropic of Microsoft zelf, maar jouw configuratie: welke koppelingen en databronnen gelinkt zijn, wat een gebruiker of een geïnjecteerd document de assistent kan laten lezen of doen, je custom GPTs, Claude-projecten en MCP-servers, je Copilot Studio-agents, en of de rechten least privilege volgen. Copilot en vergelijkbare assistenten tonen gebruikers alles wat ze al kunnen openen, dus te ruim gedeelde mappen in SharePoint, Drive of Teams komen snel bovendrijven.

Ja. Bij een AI Code Security Review leest een ethical hacker de code die je team genereerde met Claude Code, Codex, GitHub Copilot of Cursor, met de focus op authenticatie, autorisatie, invoerverwerking, geheimen en bedrijfslogica. We bekijken ook hoe die codeertools ingesteld zijn: welke repositories, commando's, geheimen en MCP-servers ze kunnen bereiken, en of agents in je CI-pipeline te manipuleren zijn om niet-goedgekeurde code te pushen. Elke bevinding wordt manueel gevalideerd en de retest is inbegrepen.

Een klassieke pentest test hoe je applicatie omgaat met kwaadaardige invoer. Een AI-security-test kijkt ook naar wat je AI zelf kan en mag: welke data, tools en acties een agent kan bereiken, en of een aanvaller hem die kan laten misbruiken via prompt injection, vergiftigde documenten of te ruime rechten. Zit AI in een webapp, dan combineren we beide in één test en één rapport.

Ja. We testen de AI-agents en integraties die je organisatie intern draait, gericht op wat ze kunnen bereiken en hoe die toegang misbruikt kan worden: MCP-server-permissies, scoped keys versus prompt-gebaseerde guards, het omzeilen van hooks en validatie, en blootstelling van secrets in snel gebouwde applicaties.

Nee. Een prompt is een suggestie, geen beveiligingsgrens. Een agent kan een instructie omzeilen, onder meer door een script te schrijven en uit te voeren dat doet wat hem rechtstreeks verboden werd. Echte maatregelen zitten in scoped permissies en beperkte credentials, en dat is precies wat wij testen.

Ja. Voor SaaS-producten richten we ons op wat het zwaarst weegt wanneer een AI-assistent namens een gebruiker handelt: tenant isolation, autorisatie- en rechtencontroles binnen de assistent, privilege escalation via de AI-laag, excessive agency, ongeautoriseerde of onbedoelde toolaanroepen, en misbruik van resourceverbruik dat de platformstabiliteit kan raken. De AI mag uitsluitend handelen binnen de rechten van de gebruiker die hem aanroept, en wij verifiëren dat dit standhoudt onder aanval.

Ja. We beoordelen directe en indirecte prompt injection, instructie-overschrijving, jailbreaks van system prompts, RAG poisoning, model confusion en guardrail-bypasspaden, inclusief misbruik van toolaanroepen en data-exfiltratie via AI-functionaliteit. We werken vanuit de OWASP Top 10 for LLM Applications en de OWASP Top 10 for Agentic Applications (2026), aangevuld met contextspecifieke aanvalsketens, en elke bevinding wordt manueel gevalideerd door onze ethical hackers in plaats van AI-only scanning.

Ja. AI-systemen met een hoog risico onder de EU AI Act moeten voldoen aan de cybersecurityvereisten van die wet voor 2 december 2027 (stand-alone systemen) of 2 augustus 2028 (AI ingebed in gereguleerde producten), na het Digital Omnibus-akkoord van 7 mei 2026. Onze AI-penetratietest levert bevindingen gekoppeld aan de verplichtingen van de EU AI Act, waardoor je complianceteam controleerbaar bewijs van conformiteit heeft.

Ja. We testen op onbedoelde openbaarmaking van gevoelige data via modeluitvoer, geheugen, retrieval-bronnen, bestands- en toolbeheer en andere AI-interfaces.

Absoluut. Veel AI-risico's bevinden zich in de omliggende applicatie, API's, authenticatie en integraties. We kunnen beide assessments combineren voor een volledig beeld en één geïntegreerd bewijspakket.

Ja. Onze AI Cyber Security Risk Assessment toetst je AI-modellen, agents en integraties aan ETSI EN 304 223, de eerste Europese norm met baseline-cybersecurityvereisten voor AI-systemen, gebouwd op de NCSC/CISA Guidelines for Secure AI System Development. We dekken de 13 principes over de volledige levenscyclus, van secure design tot secure end of life, en combineren de assessment met hands-on penetratietesten zodat elk geïdentificeerd risico manueel gevalideerd wordt door onze ethical hackers in plaats van een papieren oefening te blijven.

Ja, maar dat is een andere test. Deze pagina gaat over AI in je product. Een app die met Lovable, Bolt of Replit gebouwd is, heeft een webapplicatie pentest nodig, want de risico's zitten in datatoegang, geheimen en loginflows. Dat bieden we aan als de Go-Live Pentest, uitgevoerd voor de lancering. Zit er ook een AI-functie in de app, dan combineren we beide tests.

Een managementsamenvatting, een technisch rapport met elke bevinding, het bewijs en de oplossing, en een overzicht van je agents met eigenaar, datatoegang, logging en een werkende noodstop per agent. Na je aanpassingen testen we elke bevinding opnieuw.

Ja. Veel agents vragen eerst akkoord voor een betaling, een verwijdering of een uitgaand bericht. We testen of dat akkoord standhoudt, of dat een aanvaller de agent via verborgen instructies kan laten overslaan.

We spreken de scope vooraf af. Veel testen lopen in een testtenant of met testaccounts. Acties met echte impact, zoals mail versturen of data wijzigen, gebeuren alleen met jouw uitdrukkelijke akkoord.

Beoordeel je AI-beveiligingspostuur

Ontdek waar je AI-agents, chatbots en door AI geschreven code zwak zijn, met een duidelijke lijst van wat je eerst oplost.