Schneider Electric denkt erover om AI-agents een personeelsnummer en een jaarlijkse beoordeling te geven, net zoals ze dat met medewerkers doen. Daarmee komt de HR-afdeling in beeld. Want wie is eigenlijk verantwoordelijk voor een agent, en wie zet hem uit als niemand hem meer gebruikt?
Als een AI-agent het werk doet van een fulltime medewerker, hoort hij ook een personeelsnummer te hebben. Dat vindt Una Madigan Shortt, group chief data officer van energietechnologiebedrijf Schneider Electric. Ze vertelde dat in oktober tijdens een panel over AI en security op World Summit AI in Zaandam, en ze ging nog een stap verder. “Zo’n agent moet ook in de systemen geregistreerd worden en een beoordeling krijgen, net zoals wij mensen aan het eind van het jaar worden beoordeeld.”
Een AI-agent is, kort gezegd, software die zelfstandig taken uitvoert. Hij logt in op systemen, zoekt informatie op, stuurt berichten of zet een bestelling klaar, zonder dat er steeds een mens aan te pas komt. Zulke agents doen dus min of meer werk dat eerst bij mensen lag, en daar zit voor Madigan Shortt de kern. Ze rekent agents tot de totale personeelsplanning van haar bedrijf, van werving tot pensioen. “We gaan veel efficiënter werken door agents”, zei ze. “Sommige functies vullen we misschien niet meer opnieuw in. Daar zetten we dan agents voor in de plaats.”
Schneider werkt hier samen met zijn HR-afdeling aan, al zitten het idee van het personeelsnummer en de beoordeling nog in de fase van brainstormen. Innovatie afremmen wil Madigan Shortt nadrukkelijk niet. Wel moeten agents bestuurd en gecontroleerd worden, vindt ze, en daar zijn kaders voor nodig. “Vanuit HR moeten we agents zien als een van ons”, zei ze.
Geen zicht op agents
Hoe hard die kaders nodig zijn, merkt Greg Nelson, CEO van het Amerikaanse securitybedrijf RSA, dat zelf software ontwikkelt om agents op te sporen en te beheren. Hij vertelt dat hij onlangs een zaal vol securitychefs van zijn twintig grootste zakelijke klanten vroeg hoeveel AI-agents er binnen hun organisatie draaiden. “Niet één persoon kon zijn hand opsteken.” Een hulpmiddel om ze op te sporen had ook niemand.
Iemand van een bank vertelde hem dat ze officieel nul agents hadden, maar onofficieel zo’n 4.000. Nelson denkt dat het aantal agents snel groeit, en niet alleen bij de genoemde bank. Onderzoeksbureau Gartner verwacht dat het gemiddelde bedrijf uit de Fortune Global 500, de lijst van de grootste bedrijven ter wereld, in 2028 meer dan 150.000 agents in gebruik heeft. In 2025 waren dat er nog geen vijftien. De marktonderzoeker voorspelt ook dat agents snel hun weg vinden naar gewone bedrijfssoftware. Eind 2026 zou zo’n 40 procent van de zakelijke applicaties een ingebouwde agent hebben, tegen minder dan 5 procent in 2025.
Het grootste probleem zit volgens Nelson eigenlijk niet bij het ontwikkelen van een agent, maar vooral wanneer ze niet meer nodig zijn of in ongebruik raken. “Mensen starten agents, maar ze zetten ze nooit stop”, zei hij. “Ze nemen ze in gebruik, ze zijn enthousiast, en dan vergeten ze ze. Zes maanden later veroorzaakt die agent dan problemen.” Hij vergelijkt het met een medewerker die vertrekt. Zou je het account van iemand die je hebt ontslagen ook nog een halfjaar laten openstaan? Dat gebeurt vaker dan je zou denken, zegt hij. “En dat is een enorm securityrisco. Maar datzelfde geldt voor agents.”
Nelson zegt er wel bij dat 99 van de 100 vergeten agents waarschijnlijk nooit kwaad doen. Maar het gaat hem vooral om die ene die wél schade aanricht. Gartner voorspelde in 2024 al dat in 2028 een kwart van de inbreuken bij bedrijven terug te voeren is op misbruik van AI-agents, door aanvallers van buiten en door kwaadwillenden binnen de organisatie.
Iedereen bouwt agents
Tegenwoordig kan iedereen een eenvoudige agent bouwen, zei Madigan Shortt. “Maar met die mogelijkheid komt ook verantwoordelijkheid.” Een agent die je alleen zelf gebruikt, raakt je collega’s niet. Maar zodra je hem met anderen deelt, moet hij volgens haar aan strengere eisen voldoen. Alleen regels opleggen werkt daarbij niet, vindt ze. “We moeten medewerkers opleiden, niet een boek vol regels naar hun hoofd gooien.”
Nelson merkt op dat veel organisaties nog geen richtlijn hebben voor hoe ze AI intern willen inzetten, en bij RSA was dat niet anders. “Zo’n twaalf maanden geleden, toen we met agents begonnen, moesten we even een stap terug doen.” Het bedrijf stelde eerst een kader op waarin staat wat het van agents verwacht. Daarna moesten de medewerkers leren er verantwoord mee te werken. Inmiddels heeft iedereen bij RSA een certificaat voor verantwoord AI-gebruik.
Verantwoordelijk voor een agent
Wie is er dan verantwoordelijk voor al die agents? Volgens Nelson zou iedere agent bij een mens moeten horen. “Die persoon heeft misschien 50 agents op zijn naam staan, en dat is prima”, zei hij. Die medewerker is verantwoordelijk voor zijn agents, en binnen de organisatie is bekend wie dat is. Pas dan kun je ze volgens Nelson beheren. Agents die aan niemand gekoppeld zijn, noemt hij het grootste risico, want die groeien ongezien verder. Is die eigenaar dan ook echt aanspreekbaar als het misgaat? “Ja, honderd procent. Anders heb je geen controle over je agent.”
In Nelsons aanpak bepaalt die koppeling ook wat een agent mag. De agent logt in met de gegevens van zijn eigenaar en krijgt daarmee dezelfde toegangsrechten. Hij kan dus nooit bij meer dan die medewerker zelf. Wel kan de organisatie zijn rechten verder inperken als het beveiligingsbeleid dat vraagt. Bij RSA werkt het ook zo, vertelt Nelson. “De agent kan nooit meer doen dan wat ik zelf mag.”
Niet elke agent hoeft overigens perse aan een mens te hangen, vindt Nelson. Hij kan ook onder een andere agent vallen, als dat een bewuste keuze is en vastligt welke rechten hij heeft. “Maar je wilt nooit een agent die nergens aan is toegewezen. Dan gaat hij zijn eigen gang en heb je er geen zeggenschap meer over.”
Niet iedereen vindt trouwens dat elke agent een netjes afscheid nodig heeft. Rens van Dongen, corporate AI officer bij NS, kreeg op het securitypanel de vraag wat er gebeurt met een agent die niemand meer gebruikt. Hij zette vraagtekens bij de aanname achter die vraag. Volgens hem bestaan de meeste agents in een bedrijf maar kort. “Ze worden opgestart en weer afgesloten, soms binnen een minuut of een dag.” Of je een register bijhoudt en agents netjes uitfaseert, hangt daarom af van het platform en de toepassing.
Goedkeuren wordt klikken
En dan is er nog het toezicht op agents. Bij risicovolle acties van een agent moet volgens Nelson een mens meekijken en goedkeuren, het zogenoemde ‘human in the loop’. Maar hij weet ook hoe dat in de praktijk gaat. “Je ziet twintig goedkeuringsverzoeken staan, je selecteert alles en klikt op goedkeuren.” Maar bij een overboeking van 20 miljoen dollar tussen banken, waar een agent bij betrokken is, is dat niet genoeg. Hiek van der Scheer, chief data and AI officer bij ABN AMRO, ziet hetzelfde gevaar. “Je kunt wel zeggen dat er menselijk toezicht was. Maar als dat toezicht een stempelmachine wordt, heb je geen effectieve controle.”
Van Dongen (NS) vindt dat hele idee van een human in the loop eigenlijk achterhaald. “Het is niet meer haalbaar om van mensen te verwachten dat ze al die goedkeuringen beoordelen.” Agents werken volgens hem met een bovenmenselijke snelheid en complexiteit. Hij pleit daarom voor een ‘response loop’: je wordt gewaarschuwd en je kunt ingrijpen als dat nodig is. Hij wees daarbij op de Autoriteit Persoonsgegevens, die handvatten heeft gepubliceerd voor betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming. Toezicht mag volgens de AP niet slechts een symbolische handeling zijn.
Welk werk een organisatie aan agents overlaat, hangt volgens Van Dongen af van wat er op het spel staat. Voor treinreizigers had hij daarom nog een geruststelling. “We laten AI-agents voorlopig de treinen nog niet besturen, hoor”, zei hij lachend.