Cybersecuritybedrijf KnowBe4 heeft een nieuwe oplossing gelanceerd die zich richt op een groeiend risico binnen organisaties: autonome AI-agents. Met de introductie van Agent Risk Manager wil het bedrijf bedrijven helpen om zowel menselijke medewerkers als AI-systemen beter te beveiligen.
Volgens KnowBe4 ontstaat er een nieuw beveiligingsvraagstuk nu organisaties steeds vaker overstappen van AI-ondersteunde processen naar volledig door agents aangestuurde workflows. Waar bestaande beveiligingsoplossingen zich vooral richten op code-analyse of API-bescherming, kijkt Agent Risk Manager nadrukkelijk naar het gedrag van AI-agents in de praktijk.
Agent Risk Manager
De tool monitort in realtime wat agents doen nadat ze zijn ingezet. Zo moet het ongeautoriseerde acties voorkomen, zoals het delen van gevoelige informatie of het uitvoeren van ongewenste opdrachten. Ook detecteert het systeem zogeheten indirecte prompt-injecties, waarbij AI-systemen via subtiele manipulatie verkeerde beslissingen kunnen nemen.
Volgens Chief Product Officer Greg Kras markeert de oplossing een verschuiving in hoe organisaties risico’s benaderen. “AI-agents zijn de nieuwste leden van de workforce. Het beveiligen van alleen de input is niet voldoende; het gaat juist om wat deze systemen daadwerkelijk doen binnen een netwerk.”
Nieuwe laag
Agent Risk Manager vormt een nieuwe laag binnen het bestaande HRM+-platform van KnowBe4 en combineert verschillende functies. Zo biedt het gedragsmatige ‘guardrails’ die afwijkend gedrag signaleren, en een vorm van identiteitsbeheer die inzicht geeft in de rechten en toegang van agents. Daarnaast kunnen organisaties hun AI-systemen testen met simulaties van cyberaanvallen, zoals prompt-injecties en social engineering.
De oplossing maakt gebruik van vijftien jaar aan gedragsdata om afwijkingen te herkennen. Verder bevat het systeem functies voor het detecteren van gevoelige informatie, het monitoren van buitensporig gebruik van resources en het automatisch bijhouden van een inventaris van alle actieve agents.
Bredere trend
Met deze introductie speelt KnowBe4 in op een bredere trend waarin de grens tussen menselijke en digitale risico’s vervaagt. Volgens het bedrijf is een geïntegreerde aanpak noodzakelijk om beide effectief te beheren.