Audit-, belasting- en advieskantoor KPMG en de universiteit van Amsterdam (UvA) onderzochten of je een bedrijf kunt laten runnen zonder AI, zonder dat daarbij echte mensen zijn betrokken. Dat zogenaamde zero person company-experiment bleek niet direct een succes.
Het experiment begon veelbelovend zo lezen we op de website van audit-, belasting- en advieskantoor KPMG. Vijf AI-agents gingen aan de slag met het opstellen van businessplannen. Fictieve CEO Avery Jameson, een agent, koos voor een webshop in gepersonaliseerde AI-kunst. De agents konden 24 uur per dag aan de slag met hun werk en tegelijk aan meerdere vergaderingen deelnemen met een detailkennis die mensen niet aankunnen, stelt ondernemer Nart Wielaard. Wielaard is een van de initiatiefnemers van dit onderzoek, samen met Sander Klous, hoogleraar AI & Audit bij de UvA en partner van KPMG.
Toch ging het al gauw mis. “Als je menselijke functies een-op-een laat uitvoeren door AI-agents, dan gaan die agenten in die grote taken afdwalen en hallucineren,” aldus Klous. “Soms gaan ze hun instructies zelfs compleet te buiten of stoppen zomaar met werken.”
De onderzoekers ontwikkelden daarom een nieuwe aanpak. In plaats van vijf agenten met bestuurlijke rollen, werd er vervolgens gekozen voor ‘army of disposable agents’. Elke agent kreeg daarbij een kleine, specifieke taak toebedeeld binnen in kaart gebrachte werkprocessen. “Dat concept werkt veel beter om complete processen consistent uit te voeren,” aldus Klous.
Lees ook: Wat is een AI-agent en wat heb je eraan als bedrijf?
Wetenschappelijk experiment met maatschappelijke impact
Het onderzoek draait om meer dan technologie. “We onderzoeken de grenzen van wat een autonoom team van AI-agents wel en niet kan en daarmee ook waar mensen een essentiële rol blijven spelen,” legt Klous uit. De inzichten zijn bruikbaar voor sectoren als accountancy, overheid en facilitaire dienstverlening.
De bevindingen uit het onderzoek kunnen ook gebruikt worden voor zaken als werkgelegenheid en wetgeving. “Het werk van veel mensen zal ingrijpend veranderen door de opkomst van AI,” waarschuwt Klous. “We bewegen van bedrijfsprocessen die door mensen worden uitgevoerd en ondersteund door AI, naar door AI-gedreven processen waarin mensen een ondersteunende rol vervullen.”
Het experiment wordt begeleid door een raad van toezicht van fysieke personen. Die monitort en coacht de agents, inclusief de virtuele CEO. De menselijke supervisie blijkt cruciaal, vooral nu duidelijk is geworden dat AI-agents grote vrijheid niet aankunnen.
Ethische kaders noodzakelijk
Volgens Klous moeten organisaties nu al nadenken over ethische en juridische kaders. “De opkomst van autonome AI-agents raakt niet alleen technologie, maar ook werkgelegenheid, wetgeving en het vertrouwen in organisaties. We moeten dit voor zijn en nu al vaststellen welke kaders noodzakelijk zijn.”
Het zero-person company is operationeel als webshop voor AI-kunst, zij het met een heel andere interne organisatie dan aanvankelijk bedoeld. De les tot nu toe: AI-agents kunnen indrukwekkende dingen, maar alleen binnen strak gedefinieerde grenzen.