De afgelopen weken zie ik steeds vaker artikelen verschijnen over Agentic AI, en eerlijk gezegd stemt mij dat positief. Ik volg de gesprekken. Het is niet dat we nu ineens alle antwoorden hebben, maar juist omdat het gesprek eindelijk op gang komt. Het recente stuk van Ruben Greven over de “glazen box” is daar een goed voorbeeld van: het raakt precies de spanning waar veel organisaties inmiddels tegenaan lopen, namelijk dat systemen steeds autonomer opereren, terwijl wij tegelijkertijd proberen grip te houden op wat er gebeurt.
Die spanning is reëel, en het is goed dat we die met elkaar benoemen. Ik bekijk de ontwikkelingen rondom Agentic-AI uiteraard vanuit mijn audit mindset. Ik ben immer auditor van bedrijven die langzaam Agentic-AI integreren in bedrijfsprocessen.
Tegelijkertijd bekruipt mij ook het gevoel dat we nog niet helemaal het juiste gesprek voeren. We praten veel over governance, over explainability en over toezicht, maar we blijven daarbij vaak hangen op een niveau dat veilig en abstract is. Begrijpelijk misschien, want het onderwerp is complex, maar als we daar blijven, komen we niet verder dan constateren dat het ingewikkeld is.
En dat stadium zijn we wat mij betreft inmiddels wel voorbij.
Want laten we eerlijk zijn: Agentic AI is geen toekomstmuziek meer. In steeds meer organisaties zie je systemen die niet alleen ondersteunen, maar ook daadwerkelijk sturen. Ze nemen beslissingen, beïnvloeden processen en hebben directe impact op uitkomsten die uiteindelijk ook in de financiële verslaggeving terechtkomen. Denk aan pricing, klantacceptatie of fraudedetectie, precies die gebieden waar het er echt toe doet.
Dat maakt dit onderwerp fundamenteel anders dan de discussie die we de afgelopen jaren voerden over generatieve AI. Daar ging het vooral over efficiëntie en ondersteuning en data-privacy en hallucineren (met elkaar). Bij Agentic AI gaat het over besluitvorming, een stuk spannender.
En zodra technologie een rol krijgt in besluitvorming, komt onvermijdelijk de vraag op tafel hoe we daar vertrouwen in organiseren.
Precies op dat punt heb ik de afgelopen maanden zelf ook een aantal artikelen geschreven op TheDataConnection.nl (zie: https://thedataconnection.nl/?s=Agentic+ai). Niet omdat ik het antwoord heb, maar omdat het mij opvalt dat we langzaam richting een wereld bewegen waarin systemen zelfstandig handelen, terwijl onze manier van controleren als auditors daar nog nauwelijks op is ingericht.
Dat wringt.
We zijn als beroepsgroep gewend om te werken met steekproeven (de meeste), transactie-analyse (een beperkte groep), met momentopnames en met controles achteraf. Dat heeft jarenlang prima gewerkt in een omgeving waarin processen relatief stabiel waren en beslissingen door mensen werden genomen. Maar wat betekent dat model nog als systemen continu leren, zich aanpassen en zelfstandig keuzes maken?
Je kunt dan wel proberen meer transparantie te creëren – de “glazen box” = maar transparantie alleen is niet voldoende. Het feit dat je kunt uitleggen wat een systeem doet, betekent nog niet dat je kunt vaststellen of je er ook op kunt vertrouwen. En precies daar begint het domein van assurance.
Wat mij betreft zou het gesprek daarom meer moeten verschuiven naar een vraag die concreter en misschien ook ongemakkelijker is: hoe geven we assurance over beslissingen die door AI worden genomen? Niet als theoretische exercitie, maar als praktische uitdaging waar organisaties nu al mee te maken hebben. Blijven we bijvoorbeeld gewoon naar achteren kijken en zeggen dan; geen gekke besluiten gezien?
Die vraag kun je niet vanuit één discipline beantwoorden denk ik. Daar heb je technologie voor nodig om te begrijpen wat er gebeurt, finance & business om te zien waar het raakt, controlling voor interne monitoring en audit om te bepalen hoe je het toetst. Juist daarom is de oproep om met elkaar in gesprek te gaan zo relevant. Niet als vrijblijvende uitwisseling van ideeën, maar als een serieuze poging om samen een nieuwe praktijk te ontwikkelen.
De online KNVI bijeenkomst op 21 april ( op maat naar een fysieke bijeenkomst 26 mei, Utrecht) zie ik in dat licht als een kans om dat gesprek een stap verder te brengen. Niet door nog eens te herhalen dat het complex is, maar door te verkennen wat dit concreet betekent voor hoe we organisaties sturen, controleren en uiteindelijk vertrouwen organiseren.
Want één ding is duidelijk: Agentic AI wacht niet tot wij er klaar voor zijn. De technologie ontwikkelt zich door, systemen worden steeds autonomer en de impact op bedrijfsprocessen neemt alleen maar toe. De vraag is dus niet of we hierover in gesprek moeten, maar of we dat gesprek op tijd en met voldoende diepgang voeren.
Ik ben erbij op 21 april, en hoop vooral dat we daar niet alleen praten over het probleem, maar ook beginnen met het formuleren van de eerste antwoorden. We praten over verschillende thema’s in breakout groups, en kijken vooruit naar 26 mei voor een grotere fysieke bijeenkomst. Ben jij er de 21e ook bij als auditor, of controller of als Agentic-AI liefhebber en innovator?
