Organisaties investeren volop in AI, maar pas wanneer medewerkers de uitkomsten begrijpen en vertrouwen, wordt die belofte werkelijkheid.
Een AI-systeem doet een aanbeveling, maar de medewerker die ermee moet werken kan niet goed beoordelen waarop die is gebaseerd. Kloppen de gebruikte gegevens? Welke factoren hebben het zwaarst meegewogen? En is er rekening gehouden met de context van dit specifieke geval? Bij twijfel wordt de uitkomst opnieuw gecontroleerd, aangepast of helemaal niet gebruikt.
Die kritische houding is goed. Zeker bij beslissingen die gevolgen hebben voor klanten, medewerkers of burgers, wil je niet dat mensen blind varen op een systeem. Maar wanneer zij structureel extra werk moeten verrichten omdat een toepassing onvoldoende inzicht geeft, gaat een deel van de mogelijke tijdswinst alsnog verloren.
Dat gebeurt vaker dan veel organisaties waarschijnlijk denken. Uit het tweede jaarlijkse Data and AI Impact Report: The New Economics of Trust van SAS, gebaseerd op onderzoek door IDC, blijkt dat medewerkers in de Benelux gemiddeld 23,7% van de AI-aanbevelingen aanpassen of negeren. Bijna de helft (49,2%) van deze ingrepen komt doordat de output onvoldoende uitleg of transparantie biedt. Mogelijke bias wordt in 21,3% van de gevallen genoemd en feitelijke fouten in 9,8%.
Die verhouding is veelzeggend. Bij het beoordelen van AI kijken organisaties vaak als eerste naar de nauwkeurigheid van het model. Begrijpelijk, want een systeem moet goede uitkomsten produceren. Toch is een technisch juiste uitkomst niet altijd genoeg. Als een medewerker niet kan beoordelen hoe die tot stand is gekomen, blijft de twijfel bestaan.
Niet iedereen heeft dezelfde uitleg nodig
Uitlegbaarheid klinkt al snel als een technisch vraagstuk waarbij iedere gebruiker precies moet begrijpen hoe een complex model intern werkt. Dat is meestal niet nodig. Een bruikbare uitleg helpt iemand vooral om de uitkomst in de juiste context te plaatsen. Welke data zijn meegenomen? Welke factoren waren relevant? En wanneer is aanvullende controle verstandig?
De informatiebehoefte verschilt per rol en toepassing. Een klantenservicemedewerker heeft andere uitleg nodig dan een data scientist die een model valideert of een complianceprofessional die een besluit achteraf moet kunnen verantwoorden. Bij een automatische productsuggestie past bovendien een ander niveau van controle dan bij de beoordeling van krediet of een verzekeringsclaim.
Daarom moet al tijdens de ontwikkeling worden nagedacht over de persoon die met de uitkomst gaat werken. Toch stelt slechts 4,6% van de Benelux-organisaties hulpmiddelen voor uitlegbaarheid verplicht bij ieder AI-project. Hoeveel inzicht een gebruiker krijgt, hangt daardoor vaak af van het team of de afzonderlijke toepassing.
Beleid moet zichtbaar worden in de praktijk
Benelux-organisaties hebben het afgelopen jaar wel vooruitgang geboekt op het gebied van datakwaliteit, toezicht, uitlegbaarheid en verantwoordelijkheid. De gemeten bedrijfsimpact van AI bleef ondertussen vrijwel gelijk.
Daaruit kunnen we niet concluderen dat investeringen in governance niets opleveren. Nieuwe processen en controles hebben tijd nodig om effect te krijgen. Wel laat het verschil tussen beide ontwikkelingen zien dat regels op papier pas het begin zijn. Een AI-commissie kan verantwoordelijkheden vastleggen, maar geeft een medewerker nog geen inzicht in een individuele aanbeveling.
Daarvoor moeten de gebruikte data traceerbaar zijn, moet de toepassing passende uitleg bieden en moet duidelijk zijn wanneer iemand kan of moet ingrijpen. Ook afwijkingen van AI-aanbevelingen kunnen waardevolle informatie bieden. Als systemen en werkprocessen deze registreren, kunnen organisaties onderzoeken waar medewerkers vaak ingrijpen en waarom. Misschien functioneert het model niet goed, maar het kan ook zijn dat context ontbreekt, de uitleg tekortschiet of de taakverdeling tussen mens en systeem onduidelijk is.
Meer autonomie vraagt om eerdere keuzes
Deze vragen worden urgenter naarmate AI zelfstandiger gaat handelen. Generatieve AI maakt meestal een antwoord of voorstel dat een medewerker daarna beoordeelt. Agentic AI kan zelf vervolgstappen bepalen en acties uitvoeren. Op dat moment is alleen achteraf controleren niet altijd voldoende: de actie kan dan al zijn uitgevoerd.
Ook in het bredere publieke debat groeit daarom de aandacht voor het tempo van AI-ontwikkeling. Bestuurders van vooraanstaande AI-bedrijven hebben ervoor gepleit om veiligheidsmaatregelen, onafhankelijke toetsing en controle meer tijd te geven om de technologie bij te benen. Voor organisaties speelt dezelfde afweging op een praktisch niveau: groeit de inzet van AI niet sneller dan hun vermogen om die verantwoord te beheren?
In de Benelux daalde het aandeel organisaties dat aangeeft agentic AI te gebruiken van 59,1% in 2025 naar 29,2% in 2026. Tegelijkertijd steeg het aandeel dat autonomie en menselijk toezicht als belangrijkste zorg rond verantwoorde AI noemt van 6% naar 29,2%. Het onderzoek vertelt niet rechtstreeks waarom het gebruik afnam. IDC ziet de combinatie wel als aanwijzing dat organisaties selectiever worden en meer aandacht besteden aan governance en toezicht voordat zij verder opschalen.
De daling wijst daarom niet per se op minder interesse, maar vooral op meer realisme: nu organisaties beter begrijpen wat agentic AI écht inhoudt — systemen die zelfstandig beslissingen nemen en acties uitvoeren — kijken ze kritischer waar die autonomie daadwerkelijk waarde toevoegt en verantwoord kan worden ingezet.”
Dat vraagt om keuzes per toepassing. Welke handelingen mag AI zelfstandig uitvoeren? Wanneer blijft menselijke goedkeuring nodig? En kan achteraf worden gereconstrueerd wat het systeem heeft gedaan en op basis waarvan? Niet ieder proces vraagt om dezelfde mate van controle, maar die afweging moet wel vooraf worden gemaakt.
Wereldwijd melden organisaties met sterke praktijken voor betrouwbare AI 15x vaker een sterk of hoog rendement uit hun AI-projecten dan organisaties die hierin achterlopen: 62% tegenover 4%. Betrouwbaarheid is daarmee meer dan een compliancevraagstuk. Het bepaalt mede of medewerkers AI daadwerkelijk kunnen gebruiken en of een toepassing verantwoord kan worden opgeschaald.
Organisaties weten pas of AI werkt wanneer zij verder kijken dan de prestaties van het model. Helpt de toepassing medewerkers om sneller of beter te beslissen? Kunnen zij de uitkomsten beoordelen en weten zij wanneer ingrijpen nodig is? Pas wanneer mensen met vertrouwen op AI kunnen bouwen, ontstaat er werkelijk waarde.
Dit is een ingezonden bijdrage van SAS. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.