Waarom niemand uw AI-tool gebruikt (en waarom nog een training niet gaat helpen)
De licenties zijn gekocht. Er is een kickoff geweest, een training, misschien een tweede training. En als u nu naar de gebruikscijfers kijkt, ziet u een handjevol enthousiastelingen en een lange staart van mensen die het één keer hebben geprobeerd.
De meest gehoorde verklaring is weerstand tegen verandering. Die verklaring is bijna altijd fout, en ze is duur, want ze leidt tot nog een training die niet gaat werken.
Wat er werkelijk gebeurde
Ergens in de eerste weken heeft iemand een vraag gesteld waar geld aan hing. Wat de maximale korting was voor een bepaalde klant. Of een zending zonder vooruitbetaling weg mocht. Of iets nog onder garantie viel.
Hij kreeg een antwoord. Het antwoord was fout. Hij ontdekte dat pas toen een collega zei: nee, dat ligt bij ons anders.
Vanaf dat moment is het afgelopen. Niet alleen voor hem. Hij vertelt het bij het koffieapparaat, en binnen een week weet de afdeling dat je "er niet op moet vertrouwen".
Dit is een onderzocht verschijnsel, geen karaktertrek
In de gedragswetenschap heet dit algoritme-aversie. Onderzoek van Dietvorst, Simmons en Massey, gepubliceerd in Journal of Experimental Psychology: General, laat over vijf studies iets zien dat op het eerste gezicht onlogisch is: mensen verliezen het vertrouwen in een geautomatiseerd systeem veel sneller dan in een mens die precies dezelfde fout maakt. En ze blijven het systeem daarna mijden, óók nadat ze hebben gezien dat het gemiddeld beter presteert dan de mens.
Een collega die één keer ongelijk heeft, blijft een collega. Een systeem dat één keer ongelijk heeft, is voortaan onbetrouwbaar.
Dat betekent iets ongemakkelijks voor uw uitrol: uw AI-investering faalt niet geleidelijk. Hij faalt op het moment dat iemand zichtbaar in de fout gaat door een antwoord van de tool. En dat vertrouwen komt niet terug door het systeem later te verbeteren.
En tegelijk: niemand controleert
Hier zit de wrangste kant van het probleem. Vóór dat ene zichtbare incident controleerde ook niemand iets.
Parasuraman en Manzey publiceerden in Human Factors een overzicht van decennia onderzoek naar wat automation bias heet: mensen die onder werkdruk met een geautomatiseerd hulpmiddel werken, stoppen met het verifiëren van de output. Twee bevindingen zijn hier van belang. Het overkomt ervaren mensen even hard als onervaren mensen. En het is niet te verhelpen met training of met de instructie "blijf opletten".
Zet die twee naast elkaar en u heeft de hele levensloop van een mislukte AI-uitrol:
- Niemand controleert, dus fouten stapelen zich stilletjes op.
- Op enig moment komt er één aan de oppervlakte, meestal bij een klant of op een factuur.
- Het vertrouwen verdwijnt in één keer, en komt niet terug.
Waarom het antwoord fout wás
Zelden door het model. Vrijwel altijd door wat eronder ligt.
Vraag een AI-tool wat de maximale korting is voor een bepaalde klant, en hij zoekt naar iets dat op een antwoord lijkt. Hij vindt een bericht van de verkoopleider van vorige week, een vervallen prijslijst, een presentatie van de salesdag van vorig jaar en een verkoophandboek uit 2021. Alle vier ooit waar. Geen enkele draagt gezag.
Hij kiest er één, en zegt het met volle overtuiging. Niet omdat hij liegt, maar omdat niemand hem heeft verteld welke van de vier geldt, wie dat heeft besloten en wanneer.
Wat er wél moet gebeuren
De volgorde die de meeste bedrijven aanhouden is: tool uitrollen, dan trainen, dan hopen op adoptie. Die volgorde is omgekeerd.
Wat vooraf hoort te gaan is dit: de afspraken die bepalen wat wel en niet mag, ophalen bij de mensen die ze kennen, laten bevestigen door degene die erover gaat, en vastleggen met een eigenaar, een datum en een bron erbij.
Dat is geen documentatieproject en het is geen wiki. Het verschil zit in drie dingen:
- Elke regel heeft een naam. Niet "de afdeling", maar een persoon die er verantwoordelijk voor is dat het klopt.
- Elke regel heeft een datum, en een moment waarop hij opnieuw wordt bekeken. Zonder herzieningsdatum veroudert alles, en veroudering is precies hoe de vorige wiki is doodgegaan.
- Tegenstrijdigheden worden niet stilletjes opgelost. Spreken twee bronnen elkaar tegen, dan beslist een mens. Die beslissing wordt vastgelegd, inclusief wie hem nam.
Ligt dat er, dan verandert er iets fundamenteels aan het antwoord dat uw mensen krijgen. Niet alleen is het juist; het laat ook zien wie het heeft goedgekeurd en wanneer. En een antwoord met een naam eronder wordt anders behandeld dan een antwoord uit het niets.
Hoe u weet of dit bij u speelt
Drie vragen. Beantwoord ze eerlijk.
- Als uw meest ervaren collega morgen niet komt, weet iemand anders dan wat er met uw grootste klant is afgesproken?
- Gebruikt uw team AI-tools voor werkvragen?
- Kunt u binnen dertig seconden aanwijzen wie een bepaalde uitzondering heeft goedgekeurd, en wanneer?
Beantwoord de drie vragen.
Is het antwoord op de eerste en de derde vraag nee, en op de tweede ja, dan is lage adoptie geen verrassing maar een voorspelbaar gevolg. En dan is de oplossing niet nog een training.
Wilt u weten hoe dit bij u ligt?
Een half uur met twee van ons. Daarna krijgt u één A4: de afspraken die bij u het grootste risico lopen, en wie ze zou moeten bezitten. U houdt dat A4, ook als we niet verder gaan.
Plan de check →