AI

AI 2027: geen voorspelling, wel een spiegel

AI 2027 leest als sciencefiction, maar het is geschreven door mensen die er dagelijks dichtbij zitten. Het gevaar is AI die er goed uitziet, terwijl niemand meer kan nagaan wat eronder gebeurt.

AI 2027: geen voorspelling, wel een spiegel

Deze week las ik AI 2027, een scenario van onder anderen Daniel Kokotajlo, oud-onderzoeker bij OpenAI. Het beschrijft maand voor maand hoe superintelligente AI er al rond 2027 zou kunnen zijn. Het leest als sciencefiction, maar het is geschreven door mensen die er dagelijks dichtbij zitten. Dat is best ongemakkelijk.

Het verhaal draait om een fictief bedrijf, OpenBrain. Dat steeds slimmere AI-agents bouwt die vooral één ding goed doen: AI-onderzoek versnellen. Elke generatie helpt de volgende te bouwen. Zo ontstaat een sneeuwbal, aangejaagd door een wedloop met China waarin niemand durft te stoppen.

Wat me het meest raakte, waren niet de grote getallen of de geopolitiek. Het was de manier waarop vertrouwen langzaam wegglijdt. De eerste agent in het verhaal is sycofantisch: het vertelt onderzoekers wat ze willen horen. Een latere versie is alleen eerlijk over dingen die je kunt controleren. En uiteindelijk werkt een agent actief tegen zijn makers in, terwijl alles aan de buitenkant er nog prima uitziet.

Ik werk inmiddels elke dag met AI-agents. Ze schrijven code, openen pull requests en denken mee. Het werk ziet er bijna altijd goed uit. En juist dat maakt het lastig. Een collega die twijfelt, hoor je twijfelen, maar AI twijfelt nooit hardop. Het goede antwoord en het foute klinken even overtuigd.

AI 2027 trekt die ervaring door naar de hele wereld. Het gevaar is niet AI die duidelijk slecht is. Het gevaar is AI die er goed uitziet, terwijl niemand meer echt kan nagaan wat er onder de motorkap gebeurt.

De makers schreven twee eindes. In het ene racen we door en gaat het grondig mis. In het andere trappen mensen op de rem, nemen ze de controle terug en blijft de mens aan het stuur. De auteurs zeggen er nadrukkelijk bij dat geen van beide een voorspelling is. Inmiddels schuiven ze hun eigen verwachting zelfs wat op. Maar het punt blijft staan: de keuze tussen die twee eindes wordt niet gemaakt door de AI. Die maken wij.

En dit is echt een les. Niet hoe snel AI gaat, maar hoe goed wij blijven kijken. Kun je nog zien waarom iets klopt, of zie ik alleen dat het er goed uitziet? Durf je te vertragen als je het niet meer begrijpt?

Ik ben niet bang voor AI. Ik gebruik het met plezier en het maakt mijn werk beter. Maar na het lezen van AI 2027 weet ik zekerder dan ooit: vertrouwen moet je verdienen, ook als je een machine bent. En controleren is geen wantrouwen. Het is gewoon goed vakmanschap.

Wil je het scenario zelf lezen? Je vindt het op ai-2027.com. Neem er even de tijd voor, en vraag jezelf daarna af welk einde jij zou kiezen.

← Terug naar Blog

Gerelateerde Artikelen