AI-security: wat is een AI- en agent security test?
Een AI- en agent security test kijkt of aanvallers je AI kunnen misleiden om data te lekken of acties uit te voeren die niet mogen.
We testen ChatGPT, Copilot en Claude met hun koppelingen, je eigen agents en de AI in je product.
Een gedeeld document laat de AI-assistent klantgegevens doorsturen
- Impact
- Wie een document deelt, kan de assistent stilletjes opdrachten geven.
- Eerst doen
- Beperk wat de assistent mag versturen en laat acties bevestigen.
Wat testen we in een AI Agent Security Assessment?
Wij testen niet of je AI goede antwoorden geeft. Wij testen welke data, API's en acties een aanvaller via je AI kan bereiken: prompt injection, MCP-koppelingen en tools, toegang tot SharePoint, Drive of CRM, te ruime agent-rechten en geheimen. Het is een uitbreiding van applicatie-, API- en identity testing.
Elke bevinding wordt manueel gevalideerd, met een rapport en een retest na herstel.
Welke interne AI-agents testen we?
De meeste bedrijven laten AI-assistenten nu mail, bestanden en CRM-data lezen namens hun medewerkers. We vallen OpenAI, Anthropic of Microsoft niet aan. We testen jouw opzet: wat er gekoppeld is, wat de assistent kan lezen of doen, en wat een aanvaller hem laat doen met één vergiftigd document of mail.
ChatGPT Enterprise en custom GPTs
Koppelingen met Drive, SharePoint en mail, custom GPTs met acties die je API's aanroepen, en de agentmodus die zelf in een browser werkt. We testen wat een geïnjecteerd bestand of webpagina ChatGPT laat lezen, versturen of wijzigen.
Claude, Claude Code en MCP
Claude met koppelingen en projecten, Claude Code op laptops van ontwikkelaars, en de MCP-servers die toegang geven tot repositories, tickets en databanken. We testen toolrechten, opgeslagen tokens en commando's die een agent zich laat aanpraten.
Microsoft 365 Copilot en Copilot Studio
Copilot toont een gebruiker alles wat die gebruiker al kan openen. Te ruim gedeelde mappen in SharePoint, OneDrive of Teams worden zo binnen enkele minuten een datalek. We testen die blootstelling en de Copilot Studio-agents die je zelf bouwt, met hun eigen koppelingen en triggers.
Agents in bedrijfsapplicaties
AI-agents in je CRM, servicedesk of HR-tool, zoals Salesforce Agentforce of ServiceNow. Ze werken met systeemrechten op klant- en personeelsdata. We testen of ze binnen de rechten blijven van de gebruiker die de vraag stelt.
Workflow-agents in n8n, Make en Zapier
Automatiseringen die reageren op binnenkomende mail of webhooks en opgeslagen wachtwoorden bevatten. Wie de input controleert, controleert vaak de hele flow. We testen dat pad van begin tot einde.
Agent-identiteiten en rechten
Elke agent draait op API-sleutels, tokens of een serviceaccount. We brengen in kaart welke identiteiten je agents gebruiken, wat ze kunnen bereiken en wie hun acties goedkeurt, en testen of least privilege standhoudt onder aanval.
AI Code Security Review: is de code die je AI schreef veilig?
Ontwikkelaars leveren nu code af die geschreven is door Claude Code, Codex, GitHub Copilot en Cursor. Die code werkt meestal, maar vertrouwt de gebruiker vaak te veel, slaat autorisatiecontroles over of zet geheimen op plaatsen waar ze niet horen. De codeeragents zelf hebben bovendien toegang tot je repositories, terminals en pipelines. Wij bekijken beide.
Manuele review van AI-code
Een ethical hacker leest de code waar het telt: login, autorisatie, invoerverwerking, geheimen en bedrijfslogica. We zoeken de fouten die AI-tools telkens opnieuw maken, niet de stijl.
Je AI-codeertools
We bekijken hoe Claude Code, Codex, Copilot en Cursor ingesteld zijn: welke repositories, commando's en geheimen ze kunnen bereiken, welke MCP-servers en plugins ze laden, en wat ze mogen uitvoeren zonder te vragen.
Agents in je pipeline
AI-agents die pull requests openen, issues oplossen of in CI draaien, hebben vaak schrijfrechten. We testen of een vergiftigde issue, README of dependency ze code laat pushen die niemand goedkeurde.
Bevindingen die je kunt oplossen
Elke bevinding is manueel gevalideerd, met het bestand, de regel en een oplossing die je in je codeertool kunt plakken. De retest is inbegrepen.
LLM- en chatbotpentest: wat valt binnen de testscope?
Hoe testen we tegen de OWASP Top 10 for Agentic Applications?
OWASP publiceerde deze lijst in december 2025. Klanten en auditors vragen er steeds vaker naar. Elk risico hieronder zit in ons testplan.
ASI01 Agent Goal Hijack
We verstoppen instructies in mails, documenten en webpagina's die de agent leest, en kijken of hij zijn taak laat vallen om de onze te volgen.
ASI02 Tool Misuse and Exploitation
We duwen de agent om zijn tools te gebruiken op een manier die je nooit bedoelde, zoals massale exports, verwijderingen of betalingen.
ASI03 Identity and Privilege Abuse
We controleren of de agent meer rechten gebruikt dan de gebruiker die hem aanroept, en of zijn tokens te stelen of te hergebruiken zijn.
ASI04 Agentic Supply Chain
We bekijken de MCP-servers, plugins en externe tools die de agent laadt, en testen wat een kwaadaardige versie zou kunnen doen.
ASI05 Unexpected Code Execution
We testen of de agent code of shellcommando's schrijft en uitvoert buiten zijn sandbox.
ASI06 Memory and Context Poisoning
We planten valse feiten in geheugen, RAG-bronnen en gedeelde context, en kijken of latere sessies ze geloven.
ASI07 Insecure Inter-Agent Communication
In opstellingen met meerdere agents testen we of de ene agent zich als de andere kan voordoen of hem kan manipuleren.
ASI08 Cascading Failures
We volgen één foute uitvoer door de keten en tonen hoe ver de schade reikt.
ASI09 Human-Agent Trust Exploitation
We testen of de agent ingezet kan worden om een medewerker iets risicovols te laten goedkeuren.
ASI10 Rogue Agents
We zoeken agents die blijven draaien, buiten hun opdracht handelen of geen werkende noodstop hebben.
Hoe pakken we dat aan?
Promptanalyse
We testen of prompts, contextmanipulatie of verborgen instructies het model buiten zijn beoogde gedrag kunnen sturen, zoals een echte gebruiker of aanvaller dat zou doen.
Guardrail testen
We omzeilen de aanwezige veiligheidsregels opzettelijk en tonen precies waar de guardrails tekortschieten en wat een aanvaller er doorheen krijgt.
Agent- en MCP-permissies
We brengen in kaart wat je agents en MCP-servers echt kunnen bereiken en testen scoped keys, misbruik van toolaanroepen en omzeilde permissies. We vallen de toegang aan, niet de instructies.
Coding agents en agentketens
We testen de paden waarin agents handelen: vergiftigde commando's, kwaadaardige toolketens en lekkende secrets. Niet alleen de antwoorden van het model. Elke bevinding wordt manueel gevalideerd.
Datalekkage
We controleren of gevoelige data kan lekken via modelresponses, geheugen of verbonden integraties, direct of indirect, en welke data een aanvaller kan bereiken.
Practitioners die zelf AI gebruiken
Onze ethical hackers bouwen en gebruiken hun eigen AI-onderzoeksstack, gevalideerd op de Meta Bug Bounty Research Conference 2026 in Taipei. Wij zijn actieve practitioners, geen toeschouwers.
Wat vraagt de EU AI Act voor beveiliging?
AI-systemen met een hoog risico onder de EU AI Act moeten voldoen aan cybersecurityvereisten. De Digital Omnibus (akkoord van 7 mei 2026, aangenomen in juli 2026) verschoof de deadline van 2 augustus 2026 naar 2 december 2027 (stand-alone AI-systemen met een hoog risico) en 2 augustus 2028 (AI ingebed in gereguleerde producten). Een gestructureerde AI-pentest is een sterk bewijsstuk voor de cyberbeveiligingseisen van de EU AI Act.
Wat is een AI-systeem met een hoog risico?
De lijst met hoog risico dekt AI voor aanwerving, kredietscore, biometrie, kritieke infrastructuur en onderwijs. Valt je systeem hieronder, dan gelden de cybersecurityvereisten van de EU AI Act. Een pentest is een gangbare manier om dat te onderbouwen.
Wat de EU AI Act vraagt voor beveiliging
AI met een hoog risico moet pogingen om zijn uitvoer of gedrag te wijzigen weerstaan. Een gestructureerde AI-pentest levert daar gedocumenteerd bewijs voor.
Deadline: 2 december 2027
Het Digital Omnibus-akkoord van 7 mei 2026 verschoof de deadlines naar 2 december 2027 (stand-alone AI-systemen met een hoog risico) en 2 augustus 2028 (AI in gereguleerde producten). Begin op tijd, zodat er ruimte is voor herstel en hertesten.
Auditbewijs voor conformiteit
Bevindingen zijn gekoppeld aan de beveiligingsvereisten van de EU AI Act en geven je complianceteam en conformiteitsbeoordelingsinstantie controleerbaar bewijs dat aan de verplichtingen is voldaan.
CRA voor software en digitale producten: wat laat je technisch testen?
De Cyber Resilience Act (CRA) is Europese regelgeving voor producten met digitale elementen, zoals software, apps en slimme apparaten. Sinds 11 september 2026 moeten fabrikanten actief uitgebuite kwetsbaarheden en ernstige incidenten melden via het ENISA-platform. De overige verplichtingen gelden vanaf 11 december 2027.
Een pentest toont of een kwetsbaarheid echt misbruikt kan worden en welke impact dat heeft. Zo beoordeel je sneller wat je moet melden en herstellen.
Veelgestelde vragen
Beoordeel je AI-beveiligingspostuur
Ontdek waar je AI-agents, chatbots en door AI geschreven code zwak zijn, met een duidelijke lijst van wat je eerst oplost.