Er is een moment dat steeds vertrouwder wordt voor leidinggevenden in verschillende sectoren naarmate organisaties vaker AI gebruiken ter ondersteuning van de besluitvorming. Een vraag die voorheen een analysecyclus van meerdere dagen vereiste, heeft nu binnen enkele seconden een aannemelijk, goed gestructureerd antwoord. De AI-tool heeft de relevante gegevens samengevat, de belangrijkste aandachtspunten geordend en met een schijnbare zekerheid een aanbeveling gepresenteerd. De vergadering gaat verder.
De vraag die niemand stelde, is of het antwoord wel juist was.
Dit is geen pleidooi tegen AI. De productiviteitswinst door AI-ondersteunde besluitvorming en analyse is reëel, meetbaar en neemt snel toe. De tools worden capabeler, beter geïntegreerd en centraler in de manier waarop organisaties informatie verwerken en aanbevelingen genereren. De zorg betreft niet de technologie. De zorg betreft niet de technologie. De zorg betreft wat er gebeurt met organisatorisch oordeelsvermogen wanneer de uitdaging verschuift van toegang tot informatie naar het beoordelen van antwoorden. De meeste organisaties hebben de capaciteit om die verschuiving te beheersen nog niet opgebouwd.
Hoe verandert AI de besluitvorming binnen organisaties?
Gedurende het grootste deel van de geschiedenis van de moderne organisatie was informatie de beperkende factor bij de besluitvorming. De juiste gegevens, in de juiste vorm, bij de juiste mensen krijgen, snel genoeg om ernaar te handelen. Er werd een enorme organisatorische infrastructuur opgebouwd om dat probleem op te lossen: datawarehouses (en zelfs datalakes), business intelligence-platforms, analyseteams en rapportagefuncties. De impliciete aanname was dat betere informatie zou leiden tot betere beslissingen.
Kunstmatige intelligentie heeft het probleem van de toegang tot informatie grotendeels opgelost. Een goed geconfigureerd AI-systeem kan relevante gegevens naar boven halen, patronen identificeren, samenvattingen genereren en aanbevelingen produceren sneller dan welk menselijk analyseteam dan ook. In veel domeinen doet het dit bovendien nauwkeuriger. Het informatieprobleem is met andere woorden in toenemende mate opgelost.
Wat AI nog niet heeft opgelost, is het probleem van oordeelsvorming. Sterker nog, AI heeft dit probleem alleen maar urgenter gemaakt. Toen informatie schaars en traag beschikbaar was, was de beperkende factor voor slechte beslissingen deels de moeilijkheid om snel genoeg een slechte analyse te genereren om ernaar te handelen. Wanneer informatie overvloedig en direct beschikbaar is, is de beperkende factor voor slechte beslissingen de kwaliteit van het menselijk oordeel dat op de AI-outputs wordt toegepast. Dat oordeelsvermogen heeft in de meeste organisaties geen gelijke tred gehouden met de capaciteiten van de tools die de outputs genereren die het geacht wordt te evalueren.
AI heeft het probleem van toegang tot informatie bij besluitvorming grotendeels opgelost. Wat AI urgenter heeft gemaakt, is het probleem van oordeelsvorming.
Wat zegt onderzoek over AI en besluitvorming?
De meest grondige studie naar het effect van AI op de kwaliteit van de besluitvorming van kenniswerkers tot nu toe werd in 2024 gepubliceerd door onderzoekers van Harvard Business School, de Wharton School en MIT. De studie, waarbij consultants van een groot kantoor met AI-ondersteuning werden onderzocht, vond een opvallend patroon: AI-tools verbeterden de prestaties aanzienlijk bij taken die binnen de capaciteitsgrens van de AI vielen, maar leidden tot slechtere resultaten bij taken die daarbuiten vielen. Cruciaal was dat werknemers die AI gebruikten minder snel herkenden wanneer ze die grens hadden overschreden. De zelfverzekerde output van AI onderdrukte de scepsis die anders tot verder onderzoek zou hebben aangezet.
Deze bevinding, die de onderzoekers het ‘grillige grens’-probleem noemden, heeft directe gevolgen voor de besluitvorming door leidinggevenden. Systemen voor kunstmatige intelligentie zijn uitzonderlijk capabel binnen hun effectieve domein en produceren outputs die binnen hun hele bereik even overtuigend lijken. Een menselijke beoordelaar die niet kan identificeren waar de grens ligt, zal hetzelfde niveau van vertrouwen toekennen aan zowel AI-outputs met een hoog als een laag betrouwbaarheidsgehalte. Het resultaat is niet dat AI mensen in alles slechter maakt. Het is dat AI mensen selectief slechter maakt in de dingen die ze niet langer gemakkelijk kunnen identificeren.
Een aanvullende zorg is gedocumenteerd in onderzoek naar automatiseringsbias, de vastgestelde neiging van mensen om te veel te vertrouwen op geautomatiseerde of algoritmische aanbevelingen, met name onder tijdsdruk. Studies in de luchtvaart, geneeskunde en financiële dienstverlening tonen consequent aan dat de aanwezigheid van een door het systeem gegenereerde aanbeveling de waarschijnlijkheid verkleint dat een menselijke operator het onderliggende bewijsmateriaal onafhankelijk evalueert, zelfs wanneer de aanbeveling onjuist is.
Het gecombineerde effect van deze twee dynamieken is aanzienlijk. AI produceert zelfverzekerd klinkende outputs over een bereik dat zowel de sterke punten als de beperkingen omvat. Mensen onder tijdsdruk passen minder onafhankelijke controle toe op door het systeem gegenereerde aanbevelingen. Het resultaat, in de context van organisatorische besluitvorming, is een systematische vermindering van de kwaliteit van het oordeel dat op AI-outputs wordt toegepast, precies op de momenten waarop een beter oordeel het hardst nodig is.
De aanwezigheid van een door het systeem gegenereerde aanbeveling verkleint de kans dat een menselijke operator het onderliggende bewijsmateriaal onafhankelijk evalueert, zelfs wanneer de aanbeveling fout is
Welke 3 soorten AI-risico’s moeten leiders herkennen?
Niet alle AI-fouten zijn hetzelfde , en inzichten in de verschillende foutmodes is het startpunt voor het opbouwen van een beter evaluatievermogen. Drie categorieën zijn bijzonder relevant voor de context van besluitvorming door leidinggevenden.
Zelfverzekerde verzinsels– AI genereert zelfverzekerde maar onjuiste informatie
AI-taalmodellen kunnen aannemelijk klinkende informatie genereren (inclusief citaten, statistieken en precedenten) die niet bestaat of feitelijk onjuist is. De output leest als een betrouwbare analyse. Er is geen intern signaal, geen voorbehoud, geen indicator voor verminderd vertrouwen die een verzonnen feit onderscheidt van een juist feit. Bij beslissingen met grote gevolgen, waarbij specifiek bewijsmateriaal essentieel is voor de conclusie, kan deze foutmodus ingrijpend zijn en moeilijk te detecteren zonder doelbewuste verificatie.
Patroonextrapolatie buiten het geldige bereik – Waarom heeft AI moeite met nieuwe en onbekende situaties?
AI-systemen leren van historische gegevens en zijn effectief in het identificeren van patronen binnen die gegevens. Ze zijn aanzienlijk minder betrouwbaar wanneer ze worden toegepast op onbekende omstandigheden, structurele breuken of situaties die afwijken van de trainingsgegevens op manieren die het systeem niet kan detecteren. Een aanbeveling gegenereerd op basis van historische operationele gegevens houdt mogelijk geen rekening met een recente wetswijziging, een nieuwe concurrentiedynamiek of een toeleveringsketenconfiguratie die geen historisch precedent heeft. De AI weet niet wat hij niet weet, en de output zal die beperking niet weerspiegelen.
Framing lock – Wat gebeurt er als AI de verkeerde vraag wordt gesteld?
AI-systemen reageren op de manier waarop een vraag wordt gesteld. Een goed geformuleerde prompt levert een goed geordend antwoord op die formulering op. Maar als de formulering zelf onjuist is, als de gestelde vraag niet de juiste vraag is, produceert AI een grondig en goed gestructureerd antwoord op de verkeerde vraag. Dit is een subtielere foutmodus dan verzinsels, en in veel opzichten gevaarlijker: de analyse lijkt compleet omdat zij ingaat op de vraag die werd gesteld, en er is geen intern signaal dat de vraag zelf het probleem was.
Waarom blijft kritisch denken belangrijk bij het gebruik van AI?
Deze foutmodi hebben een gemeenschappelijk kenmerk:ze zijn niet vanuit de AI-output zelf te herkennen. Om ze te identificeren, moet de menselijke beoordelaar iets toevoegen aan de interactie wat de AI niet kan leveren: een gestructureerd kader voor hoe een geldig antwoord eruit zou moeten zien, voldoende kennis van het onderwerp om te herkennen wanneer een antwoord ongeloofwaardig is, en de discipline om onafhankelijke controle toe te passen in plaats van zelfverzekerd ogende output klakkeloos te accepteren.
Dit is precies de vaardigheid die gestructureerde besluitvormingskaders ontwikkelen. De discipline om een probleem duidelijk te definiëren voordat oplossingen worden geëvalueerd, zoals beschreven in Artikel 1 en Artikel 2 van deze reeks, is direct van toepassing op de evaluatie van AI-output. Een organisatie die de grondoorzaak van een operationele fout niet nauwkeurig kan diagnosticeren zonder AI-ondersteuning, is ook een organisatie die niet betrouwbaar kan beoordelen of een door AI gegenereerde diagnose juist is.
Hetzelfde geldt voor AI-ondersteunde besluitvorming. Een organisatie die niet de interne discipline heeft opgebouwd om doelstellingen te verduidelijken, alternatieven systematisch te evalueren, aannames naar boven te halen en afwegingen te onderzoeken, zal die vaardigheden niet plotseling verwerven door hun besluitvorming via een AI-tool te laten verlopen. De AI kan de informatie efficiënter organiseren. Maar de kwaliteit van het oordeel dat op die informatie wordt toegepast, wordt bepaald door de menselijke capaciteit die aanwezig is, niet door de capaciteit van de tool die de output genereert.
Dit is het centrale argument voor de menselijke voorsprong in een AI-wereld. De organisaties die consequent betere beslissingen zullen nemen, zijn niet de organisaties met de meest geavanceerde AI-stack. Het zijn de organisaties die capabele tools combineren met gestructureerd menselijk oordeel en kritisch denken om die tools goed te gebruiken. Dit houdt in dat men weet welke vragen men moet stellen, hoe men herkent wanneer een antwoord onvolledig of onjuist is, en hoe men het soort onafhankelijk kritisch denken toepast dat AI niet kan repliceren.
De organisaties die consequent betere beslissingen zullen nemen, zijn niet de organisaties met de meest geavanceerde AI-stack. Het zijn de organisaties die capabele tools combineren met gestructureerd menselijk oordeelsvermogen om die tools goed te gebruiken
Hoe kunnen organisaties hun medewerkers voorbereiden op AI-adoptie?
De praktische implicatie voor directieteams is niet om de adoptie van AI te vertragen. De productiviteits- en analytische voordelen zijn te groot, en de concurrentiedruk om AI te adopteren is reëel. De implicatie is om parallel te investeren: in de AI-tools én in het menselijk oordeelsvermogen dat nodig is om ze goed te gebruiken.
Enkele specifieke praktijken die goed presterende organisaties inbouwen in hun AI-ondersteunde workflows:
- Discipline in kaderstelling vooraf: Voordat een AI-systeem wordt geraadpleegd voor analyse of aanbevelingen bij een belangrijke beslissing, definieert het team expliciet wat een goed antwoord zou moeten bevatten, welke aannames gevalideerd zouden moeten worden en welke alternatieve conclusies overwogen zouden moeten worden. Dit gaat niet over het vertragen van de AI-vraag. Het gaat erom dat de mensen die de output evalueren een gestructureerde basis hebben om dit te doen.
- Aannames zichtbaar maken: Bij elke belangrijke door AI gegenereerde beslissingsaanbeveling identificeert het team de belangrijkste aannames die in de output besloten liggen en evalueert deze stuk voor stuk onafhankelijk. Wat veronderstelt deze aanbeveling over marktomstandigheden, gedrag van concurrenten, interne capaciteit of de regelgeving? Welke van die aannames heeft de grootste gevolgen als deze onjuist blijkt ?
- Grenzen testen:Wanneer een AI-output wordt gebruikt ter ondersteuning van een beslissing met grote gevolgen, stelt het team expliciet de vraag: is dit het soort vraag waarbij AI-tools waarschijnlijk betrouwbaar zijn? Heeft deze situatie een historisch precedent in de gegevens waarop het systeem is getraind? Zijn er structurele kenmerken van deze situatie die deze buiten het effectieve bereik van de AI kunnen plaatsen?
- Onafhankelijke verificatie van essentiële feiten: Elke specifieke statistiek, elk precedent of bewijsstuk dat essentieel is voor een belangrijke beslissing, wordt onafhankelijk geverifieerd voordat de beslissing wordt afgerond. Dit is geen uiting van wantrouwen in de tool. Het is de erkenning dat zelfverzekerde output en accurate output niet hetzelfde zijn.
Geen van deze praktijken vereist het opgeven van AI-tools of het vertragen van workflows. Ze vereisen het opbouwen van de discipline van gestructureerd denken, waardoor AI-outputs rigoureus kunnen worden geëvalueerd in plaats van reflexmatig te worden geaccepteerd. Organisaties die deze discipline opbouwen, behalen een cumulatief voordeel: ze maken niet alleen beter gebruik van hun AI-investeringen, ze ontwikkelen ook het organisatorisch oordeelsvermogen dat moeilijker te kopiëren wordt naarmate AI-toolszelf steeds meer gemeengoed worden.
Waarom een effectieve AI-implementatiestrategie meer vereist dan technologie
Er bestaat een versie van het AI-adoptieverhaal die uitsluitend draait om de mogelijkheid van de tools: wie de meest geavanceerde tools heeft, wint. Die versie is op korte termijn overtuigend en op middellange termijn vrijwel zeker onjuist. AI-tools worden tegelijkertijd capabeler en toegankelijker. De productiviteitsvoordelen van een specifieke toolconfiguratie nemen af zodra die configuratie voor iedereen beschikbaar komt.
Het duurzamere concurrentievoordeel is het organisatorische vermogen om deze tools goed te gebruiken. Dat vermogen omvat de technische infrastructuur om AI-systemen effectief te implementeren en te onderhouden. Het omvat ook de menselijke beoordeelingsinfrastructuur om AI-outputs kritisch te evalueren, de grenzen van AI-betrouwbaarheid te herkennen en gestructureerd denken toe te passen op de beslissingen waarover de AI-analyse adviseert.
Die tweede capaciteit wordt niet meegeleverd met de softwarelicentie. Deze wordt opgebouwd door doelbewuste investeringen in kritisch denken en besluitvormingkaders, diagnostische discipline en de culturele verwachting dat zelfverzekerd ogende output, uit welke bron dan ook, controle verdient die in verhouding staat tot de belangen van de beslissing waarover wordt geadviseerd.
AI geeft je snel antwoorden. De vraag of het de juiste antwoorden zijn, blijft voorlopig een menselijke verantwoordelijkheid. En organisaties die die verantwoordelijkheid serieus nemen, zullen consequent beter presteren dan organisaties die dat niet doen.
Over Kepner-Tregoe
Al meer dan zestig jaar helpt Kepner-Tregoe organisaties bij het oplossen van problemen, het nemen van beslissingen, het beheersen van risico’s en het opbouwen van een cultuur van kritisch denken. De gestructureerde methodologieën van KT – Situation Appraisal, Problem Analysis, Decision Analysis, Potential Problem Analysis en Potential Opportunity Analysis – bieden de denkstructuur waarmee leiders en teams optimaal kunnen presteren op de momenten dat het er het meest toe doet.
Abonneren
Meld je aan voor onze mailinglijst en blijf op de hoogte van onze nieuwste inzichten, blogs en artikelen, podcasts, webinars en evenementen, aankomende trainingsdate en meer.
