De beste AI-agent gebruikt zo weinig mogelijk AI

De diagnose

Het risico verhuist van het model naar het systeem

De rode draad in het verslag is een verschuiving. Ian Brown, Global Head of AI & Data Science bij SAS, schetst een keten van vijf schakels: een geïsoleerd model wordt een beslissing, die beslissing wordt onderdeel van een workflow, die workflow komt bij autonome agents te liggen, en die agents vormen samen een systeem. Bij elke schakel wordt de output waardevoller — en het risico onzichtbaarder. Zijn conclusie: "Het grootste risico zit niet langer in het model zelf, maar in het systeem eromheen."

De gevaarlijkste categorie noemt hij autonomie zonder verantwoording: organisaties die opschalen voordat governance is ingericht. Zijn slotvraag is de goede vraag — over een paar jaar vraagt niemand hoeveel AI-modellen je hebt uitgerold, maar of je de beslissingen die die systemen namen kunt vertrouwen.

Patrick Özer (KPMG) maakt in hetzelfde verslag concreet hoe dat misgaat. Niet met een klapper, maar met erosie: false-positiveratio's die verschuiven, data drift, en — zijn gevaarlijkste bevinding — datagaten in de keten. Een gewijzigde transactiecode die niet goed doorkomt van bron- naar doelsysteem, en gevallen blijven maanden buiten beeld. Niemand merkt het, tot iemand terugkijkt.

De consequentie

Meer toezicht op de AI is het verkeerde antwoord

Frederic Hennequin (SAS) formuleert in het verslag een stelregel waar wij volledig achter staan: "Governance moet vanaf het ontwerp zijn ingebouwd, niet als bijzaak achteraf." Elke beslissing traceerbaar en uitlegbaar, modellen doorlopend gemonitord op prestaties, bias en drift.

In de praktijk wordt dat meestal vertaald naar meer erbovenop. Een monitoringlaag. Een dashboard met drift-alerts. Een challenger-model dat je eerste model controleert. Een audittrail die logt wat de agent besloot — en waarom hij zégt dat hij dat besloot.

Dat is allemaal nuttig. Maar het is symptoombestrijding, want je bouwt toezicht op een systeem waarvan het gedrag principieel niet voorspelbaar is. Je meet of het nog steeds doet wat je hoopt, in plaats van dat je vastlegt wat het moet doen.

Onze opinie is een andere. Het probleem is niet dat er te weinig toezicht op de AI zit.

Het probleem is dat er te veel AI in het proces zit.

Elke stap die je aan een taalmodel geeft terwijl het een regel had kunnen zijn, is verklaarbaarheid die je weggeeft. Meestal zonder dat je er iets voor terugkrijgt.

De verleiding

Een taalmodel geeft je nooit een foutmelding

Een taalmodel is verbluffend goed in het lijken alsof hij een proces begrijpt. Je geeft hem een schadedossier, een polisvoorwaardenboek en een instructie, en er komt een antwoord uit dat plausibel is. Vaak is het ook correct. Soms niet. En het verschil is van buitenaf niet te zien.

Dat is het echte risico van AI in acceptatie, schade en advies. Niet dat het fout gaat — dat gebeurt bij mensen ook. Maar dat je geen mechanisme hebt om te wéten wanneer het fout gaat. Een taalmodel geeft je geen foutmelding. Hij geeft je een net antwoord met een nette onderbouwing, ook als die onderbouwing achteraf is bedacht.

Daar zit de reden dat wij niet met een model beginnen, maar met een procesmapping.

De aanpak

Een proces is geen prompt, maar een reeks deelstappen

Zodra je een proces echt uitschrijft — met de mensen die het werk doen, niet alleen met de directie — valt het uiteen. Een schadebehandeling is geen beslissing. Het zijn er tien tot vijftien.

• Intake
• Documentherkenning
• Volledigheidscheck
• Klantidentificatie
• Polis- & dekkingstoets
• Uitzonderingsdetectie
• Eigenrisicoberekening
• Besluit
• Communicatie
• Vastlegging

En dan wordt iets duidelijk dat de meeste AI-pilots overslaan: het grootste deel van die stappen hoort helemaal geen AI-beslissing te zijn. Wij verdelen elke stap over drie categorieën.

• 01Deterministisch waar het kan Een dekkingstoets tegen polisvoorwaarden is een regel, geen oordeel. Een eigenrisicoberekening is rekenwerk. Een controle of veld X gevuld is voordat stap Y start, is een validatie. Deze stappen richten we in als code: expliciete regels, expliciete uitkomsten. Zelfde input, zelfde output — elke keer. Testbaar, versiebeheerd, en uitlegbaar aan een toezichthouder zonder dat iemand hoeft te speculeren over wat het model "waarschijnlijk" heeft gedaan.
• 02AI waar taal en variatie zitten Ongestructureerde documenten interpreteren, een klantmail classificeren, een schadebeschrijving samenvatten, ontbrekende informatie herkennen. Daar is een taalmodel onverslaanbaar. Daar zetten we het in — met een afgebakende taak, een gecontroleerde input, en een output die door de volgende stap wordt gevalideerd voordat er iets mee gebeurt.
• 03Mens waar verantwoordelijkheid zit De zorgplicht is niet te delegeren aan een agent. Het definitieve advies, het afwijzingsbesluit, de beoordeling van een grensgeval: dat blijft bij de gevolmachtigde of de adviseur. De agent bereidt voor en onderbouwt. De mens beslist.

Hennequin noemt dat laatste gecontroleerde autonomie: agents die binnen strikte kaders opereren. Wij zouden zeggen: die kaders zijn niet iets wat je om de agent heen zet. Die kaders zijn het proces.

Het effect

Verklaarbaarheid is wat vertrouwen produceert

Deze aanpak levert op drie niveaus iets op, en alle drie gaan over verklaarbaarheid.

• Je kunt fouten aanwijzenAls een uitkomst raar is, weet je bij welke stap het misging. Niet "het model deed iets onverwachts", maar "stap 4 haalde het schadebedrag uit het verkeerde veld". Dat is een fix van een uur in plaats van een onderzoek van drie weken. Het is ook precies de erosie die Özer beschrijft: in een opgeknipt proces zie je een datagat als een gefaalde validatie, niet als een langzaam verslechterend gemiddelde.
• Je kunt een beslissing reconstruerenKifid, de AFM en je eigen interne audit vragen niet of je AI hebt gebruikt. Ze vragen hoe déze specifieke beslissing tot stand kwam. Een proces met vastgelegde in- en uitvoer per stap geeft dat antwoord. Eén grote generatieve stap geeft je een plausibele reconstructie achteraf — en dat is niet hetzelfde, hoe overtuigend het ook leest.
• Je team weet waar het moet ingrijpenOp de vraag of medewerkers straks niet klakkeloos het AI-advies zullen volgen, antwoordde Maurits Bakker (SAS) dat vertrouwen verdiend moet worden: valideer op je eigen data voordat je het advies vertrouwt. Dat kan alleen als je team snapt hóe de agent tot dat advies komt. Bij een proces dat ze zelf hebben helpen uittekenen, weten ze waar hij sterk is en waar ze moeten kijken. Bij een black box hebben ze twee opties — alles geloven of alles wantrouwen — en beide zijn duur.

De keerzijde

Waar deze aanpak schuurt

Twee dingen die we er eerlijk bij moeten zeggen, omdat ze anders bij jou op tafel komen in plaats van bij ons.

Het is in het begin minder indrukwekkend. Een demo waarin een taalmodel in één keer een compleet schadeadvies uitspuugt, oogt beter dan een proces met veertien expliciete stappen waarvan er vier op een validatiefout stuiten. Het verschil zie je pas na drie maanden productie.

Het dwingt je je eigen regels op te schrijven. Dat is confronterender dan het klinkt. Regelmatig blijkt dat het acceptatiebeleid deels in de hoofden van twee ervaren acceptanten zit, en dat er per geval van wordt afgeweken op grond van iets wat nergens staat. Een taalmodel maskeert dat prima — hij produceert iets werkbaars en niemand weet precies waarom. Deterministisch inrichten kan dat niet. Je moet kiezen. Dat is het lastigste deel van een traject en tegelijk het waardevolste, want die expliciete regel is van jou, ongeacht welk model er over drie jaar draait.

En nee, niet elk proces laat zich zo opknippen. Waar de kern van het werk interpretatie is, verdwijnt de deterministische optie grotendeels. Het antwoord daar is niet méér AI, maar minder autonomie.

Tot slot

Klein beginnen is geen voorzichtigheid, het is methode

Bakkers advies was om klein te beginnen: één proces, bewijs de meerwaarde gedurende één volledige cyclus, schaal daarna op. Wij zouden er dit aan toevoegen: het punt is niet dat de schade beperkt blijft als het misgaat. Het punt is dat je bij één proces echt de tijd neemt om de randgevallen op te zoeken en deterministisch in te richten wat deterministisch kan. Die discipline schaalt mee naar het tweede en derde proces. Het ontbreken ervan schaalt ook mee.

Brown vroeg of je de beslissingen van je systemen kunt vertrouwen. Het antwoord op die vraag is nooit ja of nee. Het is een reconstructie. En of je die kunt geven, wordt niet bepaald door welk model je hebt gekozen, maar door hoeveel van je proces je expliciet hebt durven maken.

Daarom bouwen we bij Table Duck agents die zo weinig mogelijk AI gebruiken. Niet uit terughoudendheid. Omdat het de enige manier is om te kunnen uitleggen wat er is gebeurd.