Waarom blind tools installeren een dure grap wordt
Even een snelle oplossing. Nieuw tooltje. Super handig, toch? Nou, nee. Veel ondernemers zien een demonstratie van een tool die autonoom de klantenservice kan afhandelen, of die automatisch inkooporders kan plaatsen. Ze installeren de software direct. In het begin gaat het nog goed ook, maar zonder een stevig vangnet aan de achterkant (de Operability) loop je al snel tegen 3 grote operationele muren op:
De portemonnee: onverwachte kostenposten
AI-modellen werken niet gratis. Je betaalt per computerkracht, en per data-analyse. Dit noemen we de API-kosten. Als een AI-agent complex werk uitvoert, verbruikt hij budget. Wanneer de agent door een softwarefout of een onverwachte reactie van een klant in een oneindige lus terechtkomt, stopt hij niet uit zichzelf. Hij blijft de hele nacht proberen om het (al dan niet echte) probleem op te lossen. De volgende ochtend komt er een gepeperde Cloud-rekening van duizenden euro’s op de deurmat. Zonder financiële kaders is je AI-agent een financieel risico.
De reputatie: waarom deed de AI-agent dat?
Stel dat je een agent de opdracht geeft om binnenkomende aanvragen voor kredieten, kortingen of contracten te beoordelen. De agent wijst een aanvraag van een langdurige, trouwe klant af. Woedend belt die klant op, met de vraag om opheldering. Als je accountant of de klant vraagt naar de reden, kun je niet simpelweg antwoorden: “Dat besliste onze AI-Agent nu eenmaal.”
Bovendien is de handhaving van de EU AI Act inmiddels een realiteit. Hoewel de regels stapsgewijs worden uitgerold, en je als ondernemer niet direct in paniek hoeft te raken, stelt de wet duidelijke eisen aan de traceerbaarheid van beslissingen. Je moet achteraf altijd kunnen uitleggen, welke stappen je agent heeft gezet, en waarom een specifieke beslissing genomen is.
De continuïteit: wat als de techniek hapert?
Een AI-Agent is vaak afhankelijk van koppelingen met andere systemen. Zoals je CRM, of de software van je leverancier. Wat gebeurt er als die externe software een storing heeft? Als je AI-Agent niet weet hoe hij daarmee om moet gaan, loopt je hele proces vast. En dus moet er een operationeel vangnet zijn. Een soort ‘human-in-the-loop’.
Zodra de agent het even niet meer weet, of een foutmelding krijgt, moet er direct een vlaggetje omhoog gaan. Zodat een van de menselijke collega’s het naadloos van de agent kan overnemen. Je primaire bedrijfsvoering mag immers nooit stilvallen, door een haperende code.