AI-agenten falen vaak. Waarom bedrijven ze toch gebruiken

De krantenkoppen liegen er niet om: AI-agenten falen op verontrustende schaal. Recente gestructureerde benchmarks tonen aan dat zelfs de meest geavanceerde frontier-modellen struikelen in ongeveer één op de drie productieachtige pogingen 1. Dat is een foutmarge van 33%. Als een menselijke medewerker zo vaak zou falen, zou die ontslagen worden. Toch versnellen bedrijven de adoptie van AI-agenten voor kritieke workflows. Dit is geen paradox; het is een fundamenteel misverstand over wat AI-agenten zijn en hoe je ze effectief gebruikt.

Waarom dit nu belangrijk is

De sleutel is om te stoppen met het zien van AI-agenten als betrouwbare werknemers en ze te gaan behandelen als krachtige, maar inherent imperfecte, computationele tools. Het falen zit niet in de technologie zelf, maar in onze verwachting dat deze zich met menselijke consistentie moet gedragen. Onderzoek van Microsoft geeft een cruciaal inzicht: het diagnosticeren van fouten bij agenten is berucht moeilijk 2. Hun AgentRx-project analyseerde 115 mislukte trajecten bij taken zoals gestructureerde API-aanroepen en incidentbeheer. Hieruit bleek dat het punt van falen vaak diep verborgen ligt in een keten van redeneringen of acties, en niet bij het voor de hand liggende startpunt.

Deze diagnostische uitdaging wordt versterkt door de aard van de fouten. Benchmarks zoals OccuBench, die modellen evalueren in professionele scenario's, tonen aan dat de meest voorkomende fouten subtiel en impliciet zijn 3. Een agent kan 95% van een meerstappentaak perfect uitvoeren, maar één verplicht veld in een eindformulier missen, of een onuitgesproken conventie verkeerd interpreteren. Dit zijn geen dramatische crashes of onzin-uitvoer; het zijn stille, professionele fouten die door geautomatiseerde controles kunnen glippen. Dit weerspiegelt echte incidenten, zoals toen een AI die een echte winkel moest runnen een compleet product hallucineerde. Het falen was geen totale stilstand; het was een zelfverzekerde verzinsel binnen een verder functionele operatie.

Wat er in de praktijk verandert

Waarom dan een tool inzetten met een bekende één-op-drie kans op falen? Omdat het alternatief vaak een mens is met een 100% kans op langzamer, duurder en inconsistenter zijn voor repetitieve, logisch gebaseerde taken. De economische afweging gaat niet over perfecte betrouwbaarheid; het gaat over acceptabel risico op schaal. Een agent die een handmatig proces van 30 minuten succesvol automatiseert in 66% van de gevallen, vertegenwoordigt nog steeds enorme tijdswinst in totaal, zelfs als voor het andere derde deel menselijke interventie nodig is.

De strategische verschuiving is daarom van vervanging naar augmentatie en orkestratie. Succesvolle AI-workflowintegratie geeft geen gesloten lus uit handen aan een agent en loopt weg. Het ontwerpt systemen waarin:

1. De Rol van de Agent Afgebakend en Gemonitord Is: Agenten handelen discrete, goed gedefinieerde subtaken af (bijv. "haal deze velden uit dit document", "schrijf een conceptreactie op basis van deze ticketcategorie"), niet complete, open-ended bedrijfsprocessen.
2. Menselijk Toezicht Ingebouwd Is: Workflows zijn ontworpen met natuurlijke checkpoints of "human-in-the-loop"-poorten voor goedkeuring, vooral voor eindresultaten of acties met echte gevolgen (zoals een e-mail versturen of een database bijwerken).
3. Falen een Ontworpen Uitkomst Is: Het systeem verwacht falen van de agent en heeft een duidelijk pad voor de afhandeling ervan: of dat nu een nieuwe poging, escalatie naar een mens, of terugval op een simpeler regelgebaseerd proces is.

Deze aanpak beperkt de systemische risico's die kunnen ontstaan als agenten te veel vrijheid krijgen, zoals de MCP-lekken die AI-agenten in toeleveringsketenkwetsbaarheden kunnen veranderen. Het behandelt het slagingspercentage van 66% niet als een tekortkoming, maar als een bekende invoervariabele in een groter systeemontwerp.

Uiteindelijk is de benchmarkdata die een één-op-drie foutmarge onthult een geschenk. Het verbrijzelt de gevaarlijke mythe van AI-onfeilbaarheid en biedt een concrete, datagedreven basis voor het bouwen van robuuste systemen. De bedrijven die gaan winnen met AI-agenten zijn niet degene die op zoek zijn naar een mythisch 100% betrouwbaar model. Het zijn degene die hun workflows architectonisch ontwerpen in de wetenschap dat falen onvermijdelijk is, hun processen veerkrachtig maken, en de aanzienlijke, maar niet perfecte, capaciteiten van de agent benutten om menselijk werk te versterken, niet om menselijk oordeel te vervangen. Het doel is niet een foutloze werknemer, maar een zeer productieve samenwerking waarin elke partij doet waar die het beste in is.