01
Het vertelde de klant iets wat simpelweg niet waar is.
Hoofd klantenservice, na de tweede klacht die week
De assistent vond een antwoord in een document dat niemand sinds 2023 had geopend. Het loog niet, maar herhaalde het gewoon. En dat deed het met dezelfde stelligheid als al het andere dat het zegt.
Stellig en ongelijk
02
Vraag het aan drie collega's en je krijgt drie antwoorden.
Teamlead die uitlegt waarom afhandeltijden per persoon verschillen
Iedereen werkt hard en iedereen werkt vanuit iets anders: het intranet, een persoonlijke notitie, een bericht dat een collega vorig jaar voorjaar in de teamchat deelde. Die variatie ligt niet aan de inzet, maar aan de bron.
Standaard inconsistent
03
Laat zien wie dit antwoord heeft goedgekeurd en wanneer.
Compliance, drie dagen nadat het geautomatiseerde antwoord was verzonden
Onder de EU AI Act, NIS2 en de AVG is de vraag niet meer of het antwoord klopt, maar of je kunt aantonen hoe het tot stand is gekomen. Een antwoord zonder eigenaar en datum is geen bewijs.
Niets te laten zien aan de toezichthouder
04
De pilot was fantastisch. Hij heeft de productie nooit gehaald.
Innovatieleider, over de derde assistent in twee jaar tijd
De demo draaide op twintig antwoorden die iemand met de hand had opgeschoond. De productie draait op twaalfduizend antwoorden die niemand heeft schoongemaakt. Het project is niet mislukt door het model. Het liep stuk op wat daaronder zat.
Vastgelopen voor de livegang