Er is een moment dat steeds bekender wordt voor leidinggevenden in verschillende sectoren naarmate organisaties vaker AI gebruiken ter ondersteuning van de besluitvorming. Een vraag die voorheen een analysecyclus van meerdere dagen vereiste, heeft nu binnen enkele seconden een aannemelijk, goed gestructureerd antwoord. De AI-tool heeft de relevante gegevens gesynthetiseerd, de belangrijkste overwegingen georganiseerd en een aanbeveling gepresenteerd met schijnbaar zelfvertrouwen. De vergadering gaat verder.
De vraag die niemand stelde, is of het antwoord juist was.
Dit is geen pleidooi tegen AI. De productiviteitswinst door AI-ondersteunde besluitvorming en analyse is reëel, meetbaar en versnellend. De tools worden capabeler, meer geïntegreerd en centraler in de manier waarop organisaties informatie verwerken en aanbevelingen genereren. De zorg betreft niet de technologie. De zorg is wat er gebeurt met het organisatorisch oordeelsvermogen wanneer de uitdaging verschuift van toegang tot informatie naar de evaluatie van antwoorden. De meeste organisaties hebben de capaciteit om die verschuiving te beheren nog niet opgebouwd.
Hoe verandert AI de organisatorische besluitvorming?
Gedurende het grootste deel van de geschiedenis van de moderne organisatie was informatie de beperkende factor bij de besluitvorming. De juiste gegevens, in de juiste vorm, bij de juiste mensen krijgen, snel genoeg om ernaar te handelen. Er werd een enorme organisatorische infrastructuur gebouwd rond het oplossen van dat probleem: datawarehouses (en zelfs lakes), business intelligence-platforms, analyseteams, rapportagefuncties. De impliciete aanname was dat betere informatie zou leiden tot betere beslissingen.
Kunstmatige intelligentie heeft het probleem van de toegang tot informatie grotendeels opgelost. Een goed geconfigureerd AI-systeem kan relevante gegevens naar boven halen, patronen identificeren, samenvattingen genereren en aanbevelingen produceren sneller dan welk menselijk analyseteam dan ook. In veel domeinen doet het dit bovendien nauwkeuriger. Het informatieprobleem is met andere woorden in toenemende mate opgelost.
Wat AI niet heeft opgelost, is het oordeelsvraagstuk. Sterker nog, het heeft dit nijpender gemaakt. Wanneer informatie schaars en traag was, was de beperkende factor voor slechte beslissingen deels de moeilijkheid om snel genoeg een slechte analyse te genereren om ernaar te handelen. Wanneer informatie overvloedig en direct beschikbaar is, is de beperkende factor voor slechte beslissingen de kwaliteit van het menselijk oordeel dat op de AI-outputs wordt toegepast. Dat oordeelsvermogen heeft in de meeste organisaties geen gelijke tred gehouden met de capaciteiten van de tools die de outputs genereren die het geacht wordt te evalueren.
AI heeft het probleem van de toegang tot informatie bij besluitvorming grotendeels opgelost. Wat het nijpender heeft gemaakt, is het oordeelsvraagstuk
Wat zegt onderzoek over AI en besluitvorming?
De meest grondige studie naar het effect van AI op de kwaliteit van de besluitvorming van kenniswerkers tot nu toe werd in 2024 gepubliceerd door onderzoekers van Harvard Business School, de Wharton School en MIT. De studie, waarbij consultants van een groot kantoor met AI-ondersteuning werden onderzocht, vond een opvallend patroon: AI-tools verbeterden de prestaties aanzienlijk bij taken die binnen de capaciteitsgrens van de AI vielen, maar leverden slechtere resultaten op bij taken die daarbuiten vielen. Cruciaal was dat werknemers die AI gebruikten minder snel herkenden wanneer ze die grens hadden overschreden. De zelfverzekerde output van de AI onderdrukte de scepsis die anders tot verder onderzoek zou hebben aangezet.
Deze bevinding, die de onderzoekers het ‘gekartelde grens’-probleem noemden, heeft directe gevolgen voor de besluitvorming door leidinggevenden. Systemen voor kunstmatige intelligentie zijn uitzonderlijk capabel binnen hun effectieve domein en produceren outputs die over hun hele bereik even zelfverzekerd overkomen. Een menselijke beoordelaar die niet kan identificeren waar de grens ligt, zal hetzelfde niveau van vertrouwen toekennen aan zowel AI-outputs met een hoog als een laag betrouwbaarheidsgehalte. Het resultaat is niet dat AI mensen in alles slechter maakt. Het is dat AI mensen selectief slechter maakt in de dingen die ze niet langer gemakkelijk kunnen identificeren.
Een aanvullende zorg is gedocumenteerd in onderzoek naar automatiseringsbias, de vastgestelde neiging van mensen om te veel te vertrouwen op geautomatiseerde of algoritmische aanbevelingen, met name onder tijdsdruk. Studies in de luchtvaart, geneeskunde en financiële dienstverlening tonen consequent aan dat de aanwezigheid van een door het systeem gegenereerde aanbeveling de waarschijnlijkheid verkleint dat een menselijke operator het onderliggende bewijsmateriaal onafhankelijk evalueert, zelfs wanneer de aanbeveling onjuist is.
Het gecombineerde effect van deze twee dynamieken is aanzienlijk. AI produceert zelfverzekerd klinkende outputs over een bereik dat zowel de sterke punten als de beperkingen omvat. Mensen onder tijdsdruk passen minder onafhankelijke controle toe op door het systeem gegenereerde aanbevelingen. Het resultaat, in de context van organisatorische besluitvorming, is een systematische vermindering van de kwaliteit van het oordeel dat op AI-outputs wordt toegepast, precies op de momenten waarop een beter oordeel het hardst nodig is.
De aanwezigheid van een door het systeem gegenereerde aanbeveling verkleint de kans dat een menselijke operator het onderliggende bewijsmateriaal onafhankelijk evalueert, zelfs wanneer de aanbeveling fout is
Welke 3 soorten AI-risico’s moeten leiders herkennen?
Niet alle AI-fouten zijn gelijk, en het begrijpen van de verschillende faalmodi is het startpunt voor het opbouwen van een beter evaluatievermogen. Drie categorieën zijn bijzonder relevant voor de context van besluitvorming door leidinggevenden.
Zelfverzekerde fabricage – AI genereert zelfverzekerde maar onjuiste informatie
AI-taalmodellen kunnen aannemelijk klinkende informatie genereren (inclusief citaten, statistieken en precedenten) die niet bestaat of feitelijk onjuist is. De output leest als een betrouwbare analyse. Er is geen intern signaal, geen voorbehoud, geen indicator voor verminderd vertrouwen die een gefabriceerd feit onderscheidt van een accuraat feit. Bij beslissingen met grote belangen, waarbij specifiek bewijsmateriaal essentieel is voor de conclusie, kan deze faalmodus ingrijpend zijn en moeilijk te detecteren zonder doelbewuste verificatie.
Patroonextrapolatie buiten het geldige bereik – Waarom heeft AI moeite met nieuwe en onbekende situaties?
AI-systemen leren van historische gegevens en zijn effectief in het identificeren van patronen binnen die gegevens. Ze zijn aanzienlijk minder betrouwbaar wanneer ze worden toegepast op onbekende omstandigheden, structurele breuken of situaties die afwijken van de trainingsdistributie op manieren die het systeem niet kan detecteren. Een aanbeveling gegenereerd op basis van historische operationele gegevens houdt mogelijk geen rekening met een recente wetswijziging, een nieuwe concurrentiedynamiek of een toeleveringsketenconfiguratie die geen historisch precedent heeft. De AI weet niet wat hij niet weet, en de output zal die beperking niet weerspiegelen.
Kaderfixatie – Wat gebeurt er als AI de verkeerde vraag wordt gesteld?
AI-systemen reageren op de manier waarop een vraag wordt gesteld. Een goed geformuleerde prompt levert een goed georganiseerd antwoord op die formulering op. Maar als de formulering zelf onjuist is, als de gestelde vraag niet de juiste vraag is, zal de AI een grondig, goed georganiseerd antwoord produceren op de verkeerde vraag. Dit is een subtielere faalmodus dan fabricage, en in veel opzichten gevaarlijker: de analyse ziet er compleet uit omdat deze de gestelde vraag beantwoordt, en er is geen intern signaal dat de vraag zelf het probleem was.
Waarom is kritisch denken nog steeds belangrijk bij het gebruik van AI?
Deze faalmodi delen een gemeenschappelijk kenmerk: ze zijn niet detecteerbaar vanuit de AI-output zelf. Om ze te identificeren, moet de menselijke beoordelaar iets toevoegen aan de interactie wat de AI niet kan leveren: een gestructureerd kader voor hoe een geldig antwoord eruit zou moeten zien, voldoende kennis van het onderwerp om te herkennen wanneer een antwoord ongeloofwaardig is, en de discipline om onafhankelijke controle toe te passen in plaats van zelfverzekerd ogende output klakkeloos te accepteren.
Dit is precies de vaardigheid die gestructureerde besluitvormingskaders ontwikkelen. De discipline om een probleem duidelijk te definiëren voordat oplossingen worden geëvalueerd, zoals beschreven in Artikel 1 en Artikel 2 van deze reeks, is direct van toepassing op de evaluatie van AI-output. Een organisatie die de grondoorzaak van een operationele fout niet nauwkeurig kan diagnosticeren zonder AI-ondersteuning, is ook een organisatie die niet betrouwbaar kan beoordelen of een door AI gegenereerde diagnose juist is.
Hetzelfde geldt voor AI-ondersteunde besluitvorming. Een organisatie die niet de interne discipline heeft opgebouwd om doelstellingen te verduidelijken, alternatieven systematisch te evalueren, aannames naar boven te halen en afwegingen te onderzoeken, zal die vaardigheden niet plotseling verwerven door hun besluitvorming via een AI-tool te laten verlopen. De AI kan de informatie efficiënter organiseren. Maar de kwaliteit van het oordeel dat op die informatie wordt toegepast, wordt bepaald door de menselijke capaciteit in de kamer, niet door de capaciteit van de tool die de output genereert.
Dit is het centrale argument voor de menselijke voorsprong in een AI-wereld. De organisaties die consequent betere beslissingen zullen nemen, zijn niet de organisaties met de meest geavanceerde AI-stack. Het zijn de organisaties die capabele tools combineren met gestructureerd menselijk oordeel en kritisch denken om die tools goed te gebruiken. Dit houdt in dat men weet welke vragen men moet stellen, hoe men herkent wanneer een antwoord onvolledig of onjuist is, en hoe men het soort onafhankelijk kritisch denken toepast dat AI niet kan repliceren.
De organisaties die consequent betere beslissingen zullen nemen, zijn niet de organisaties met de meest geavanceerde AI-stack. Het zijn de organisaties die capabele tools combineren met gestructureerd menselijk oordeel om die tools goed te gebruiken
Hoe kunnen organisaties hun personeel voorbereiden op AI-adoptie?
De praktische implicatie voor directieteams is niet om de adoptie van AI te vertragen. De productiviteits- en analytische voordelen zijn te groot, en de concurrentiedruk om te adopteren is reëel. De implicatie is om parallel te investeren: in de AI-tools én in het menselijk oordeelsvermogen dat nodig is om ze goed te gebruiken.
Enkele specifieke praktijken die goed presterende organisaties inbouwen in hun AI-gestuurde workflows:
- Discipline in kaderstelling vooraf: Voordat een AI-systeem wordt geraadpleegd voor analyse of aanbevelingen bij een belangrijke beslissing, definieert het team expliciet wat een goed antwoord zou moeten bevatten, welke aannames gevalideerd zouden moeten worden en welke alternatieve conclusies overwogen zouden moeten worden. Dit gaat niet over het vertragen van de AI-vraag. Het gaat erom dat de mensen die de output evalueren een gestructureerde basis hebben om dit te doen.
- Aannames naar boven halen: Bij elke belangrijke door AI gegenereerde beslissingsaanbeveling identificeert het team de belangrijkste aannames die in de output besloten liggen en evalueert deze stuk voor stuk onafhankelijk. Wat veronderstelt deze aanbeveling over marktomstandigheden, gedrag van concurrenten, interne capaciteit of de regelgeving? Welke van die aannames heeft de grootste gevolgen als deze onjuist blijkt te zijn?
- Grenstesten: Wanneer een AI-output wordt gebruikt ter ondersteuning van een beslissing met grote belangen, stelt het team expliciet de vraag: is dit het soort vraag waarbij AI-tools waarschijnlijk betrouwbaar zijn? Heeft deze situatie een historisch precedent in de gegevens waarop het systeem is getraind? Zijn er structurele kenmerken aan deze situatie die deze buiten het effectieve bereik van de AI kunnen plaatsen?
- Onafhankelijke verificatie van essentiële feiten: Elke specifieke statistiek, elk precedent of bewijsstuk dat essentieel is voor een belangrijke beslissing, wordt onafhankelijk geverifieerd voordat de beslissing wordt definitief wordt gemaakt. Dit is geen uiting van wantrouwen in de tool. Het is de erkenning dat zelfverzekerde output en accurate output niet hetzelfde zijn.
Geen van deze praktijken vereist het opgeven van AI-tools of het vertragen van workflows. Ze vereisen het opbouwen van de discipline van gestructureerd denken, waardoor AI-outputs rigoureus kunnen worden geëvalueerd in plaats van reflexmatig te worden geaccepteerd. Organisaties die deze discipline opbouwen, verkrijgen een cumulatief voordeel: ze maken niet alleen beter gebruik van hun AI-investeringen, ze ontwikkelen ook het organisatorisch oordeelsvermogen dat moeilijker te kopiëren wordt naarmate AI-tools zelf meer een commodity worden.
Waarom een effectieve AI-implementatiestrategie meer vereist dan technologie
Er bestaat een versie van het AI-adoptieverhaal die puur over de capaciteiten van de tool gaat: wie de meest geavanceerde tools heeft, wint. Deze versie is overtuigend op de korte termijn en vrijwel zeker onjuist op de middellange termijn. AI-tools worden tegelijkertijd capabeler en toegankelijker. De productiviteitsvoordelen van een specifieke toolconfiguratie eroderen zodra die configuratie voor iedereen beschikbaar komt.
Het duurzamere concurrentievoordeel is de organisatorische capaciteit om deze tools goed te gebruiken. Die capaciteit omvat de technische infrastructuur om AI-systemen effectief in te zetten en te onderhouden. Het omvat ook de menselijke oordeelsinfrastructuur om AI-outputs kritisch te evalueren, de grenzen van AI-betrouwbaarheid te herkennen en gestructureerd denken toe te passen op de beslissingen waarover de AI-analyse adviseert.
Die tweede capaciteit wordt niet meegeleverd met de softwarelicentie. Deze wordt opgebouwd door doelbewuste investeringen in kaders voor kritisch denken en besluitvorming, diagnostische discipline en de culturele verwachting dat zelfverzekerd ogende output, uit welke bron dan ook, controle verdient die in verhouding staat tot de belangen van de beslissing waarover wordt geadviseerd.
AI geeft u snel antwoorden. De vraag of dit de juiste zijn, is vooralsnog een menselijke verantwoordelijkheid. En organisaties die die verantwoordelijkheid serieus nemen, zullen consequent beter presteren dan organisaties die dat niet doen.
Over Kepner-Tregoe
Al meer dan zestig jaar helpt Kepner-Tregoe organisaties bij het oplossen van problemen, het nemen van beslissingen, het beheersen van risico’s en het opbouwen van een cultuur van kritisch denken. De gestructureerde methodologieën van KT – Situation Appraisal, Problem Analysis, Decision Analysis, Potential Problem Analysis en Potential Opportunity Analysis – bieden de denkinfrastructuur die leiders en teams in staat stelt om op hun best te presteren wanneer het er het meest toe doet.
Abonneren
Meld u aan voor onze mailinglijst om op de hoogte te blijven van onze nieuwste inzichten, blogs en artikelen, podcasts, webinars en evenementen, aankomende cursusdata en meer.
