Ze sprak onlangs met leiders bij een groot bedrijf dat al ver is met AI-adoptie. Ze vertelden over een experiment met hun eigen experts. Na een paar maanden AI-gebruik daalde bij hun topmensen de nauwkeurigheid in het opsporen van fouten met zo’n 20%. Dat is echt slecht.
Iedereen vraagt hoe juniors expertise moeten opbouwen — en het blijkt: best snel. Expertise is geen denken; het is wat je opbouwt zodat je niet hoeft te denken. Een expert redeneert niet sneller dan jij. Wat ze hebben gedaan, is het vakgebied comprimeren tot iets waarin een fout antwoord er al fout uitziet, vóórdat ze er überhaupt over nadenken.
Laat me concreter zijn, want het mechanisme vind ik echt interessant. Er zit een netwerk in je hersenen: het salience network. Dat markeert wat ertoe doet. Het zit tussen de delen van jou die op de automatische piloot draaien en het bewuste werk, en helpt beslissen wanneer je moet omschakelen. Als iets niet klopt, niet past, of een getal niet goed voelt — dan vuurt dat netwerk. En het vuurt eerst als gevoel, pas daarna als gedachte. Het eerste signaal dat iets mis is, is dus niet altijd een zin in je hoofd; het kan een sensatie zijn. Experts redeneren niet altijd naar “dit is fout” — ze voelen het. Daarna zoeken ze waarom.
Maar kijk wat AI met die detector doet: in AI ziet bijna niets eruit als een fout, dus het netwerk vuurt misschien niet. Wat me verbaasde, was hoe snel dat gebeurde. En dat verandert volgens mij hoe we nadenken over hoe we AI corrigeren.
In hoofdstuk 14 van Stay Human van Helen Edwards worden vier lagen beschreven van wat het betekent om te weten of iets deugt:
- Detectie — Kun je zien of er een fout is?
- Correctheid — Kun je zien of het écht klopt?
- Oordeel — Werkt dit in de echte wereld? Past het bij deze situatie, deze mensen, wat ze proberen te bereiken?
- Vertrouwen — Kun je inschatten of iemand dit in de praktijk kan vertrouwen?
Die lagen liggen op elkaar, en AI heeft ze een beetje door elkaar gegooid. Het produceert dingen die de eerste laag makkelijk passeren, en geeft zo de illusie dat de rest ook klopt — terwijl dat niet zo is. Dat doet ertoe, omdat die kennislagen heel verschillend zijn.
En hier begint de realiteit volgens mij te landen. Niemand wil erosie van expertise. De leiders die me dat cijfer gaven, maten het omdat ze zich zorgen maken — en omdat het ze iets kan schelen. Niet elk bedrijf doet dat. Sommigen racen nog steeds naar de rand. Maar ik heb hoop: dat dit een beetje menselijker begint te worden.
Gebaseerd op een gesprek over expertise, AI en het salience network; naar aanleiding van Stay Human van Helen Edwards, hoofdstuk 14.