Es gibt einen Moment, der Führungskräften in allen Branchen zunehmend vertraut wird, da Unternehmen KI immer häufiger zur Unterstützung der Entscheidungsfindung einsetzen. Eine Frage, die einst einen mehrtägigen Analysezyklus erforderte, hat nun innerhalb von Sekunden eine plausible, gut strukturierte Antwort. Das KI-Tool hat die relevanten Daten synthetisiert, die wichtigsten Überlegungen organisiert und eine Empfehlung mit scheinbarer Zuversicht präsentiert. Das Meeting geht weiter.
Die Frage, die niemand stellte, ist, ob die Antwort richtig war.
Dies ist kein Argument gegen KI. Die Produktivitätssteigerungen durch KI-gestützte Entscheidungsfindung & Analyse sind real, messbar und beschleunigen sich. Die Tools werden leistungsfähiger, integrierter und zentraler für die Art und Weise, wie Organisationen Informationen verarbeiten und Empfehlungen generieren. Die Sorge gilt nicht der Technologie. Die Sorge gilt dem, was mit dem organisatorischen Urteilsvermögen geschieht, wenn sich die Herausforderung vom Informationszugang zur Bewertungsfrage verlagert. Die meisten Organisationen haben noch nicht die Fähigkeit aufgebaut, diese Verlagerung zu bewältigen.
Wie verändert KI die organisatorische Entscheidungsfindung?
Für den größten Teil der Geschichte moderner Organisationen war der limitierende Faktor bei der Entscheidungsfindung die Information. Die richtigen Daten in der richtigen Form schnell genug zu den richtigen Personen zu bringen, um darauf reagieren zu können. Eine enorme organisatorische Infrastruktur wurde um die Lösung dieses Problems herum aufgebaut: Data Warehouses (und sogar Data Lakes), Business-Intelligence-Plattformen, Analyseteams, Berichtsfunktionen. Die implizite Annahme war, dass bessere Informationen zu besseren Entscheidungen führen würden.
Künstliche Intelligenz hat das Problem des Informationszugangs weitgehend gelöst. Ein gut konfiguriertes KI-System kann relevante Daten aufbereiten, Muster erkennen, Zusammenfassungen erstellen und Empfehlungen schneller generieren als jedes menschliche Analyseteam. In vielen Bereichen tut es dies auch genauer. Das Informationsproblem ist, mit anderen Worten, zunehmend gelöst.
Was KI nicht gelöst hat, ist das Urteilsvermögen. Tatsächlich hat sie es noch verschärft. Als Informationen knapp und langsam waren, war der limitierende Faktor für schlechte Entscheidungen teilweise die Schwierigkeit, eine schlechte Analyse schnell genug zu erstellen, um darauf zu reagieren. Wenn Informationen reichlich und sofort verfügbar sind, ist der limitierende Faktor für schlechte Entscheidungen die Qualität des menschlichen Urteilsvermögens, das auf KI-Outputs angewendet wird. Dieses Urteilsvermögen hat in den meisten Organisationen nicht mit der Leistungsfähigkeit der Tools Schritt gehalten, die die Outputs generieren, die es bewerten soll.
KI hat das Problem des Informationszugangs bei der Entscheidungsfindung weitgehend gelöst. Was sie verschärft hat, ist das Problem des Urteilsvermögens.
Was sagt die Forschung über KI und Entscheidungsfindung?
Die rigoroseste Studie über die Auswirkungen von KI auf die Qualität der Entscheidungsfindung von Wissensarbeitern wurde bisher von Forschern der Harvard Business School, der Wharton School und des MIT im Jahr 2024 veröffentlicht. Die Studie, die Berater eines großen Unternehmens untersuchte, die KI-Unterstützung nutzten, fand ein auffälliges Muster: KI-Tools verbesserten die Leistung bei Aufgaben, die innerhalb der Fähigkeiten der KI lagen, erheblich, führten aber zu schlechteren Ergebnissen bei Aufgaben, die außerhalb lagen. Entscheidend ist, dass Mitarbeiter, die KI nutzten, seltener erkannten, wann sie diese Grenze überschritten hatten. Die selbstbewusste Ausgabe der KI unterdrückte die Skepsis, die sonst zu weiteren Untersuchungen geführt hätte.
Dieses Ergebnis, das die Forscher als „Jagged Frontier“-Problem bezeichneten, hat direkte Auswirkungen auf die Entscheidungsfindung von Führungskräften. Künstliche Intelligenz-Systeme sind innerhalb ihres effektiven Bereichs außergewöhnlich leistungsfähig und erzeugen Outputs, die über ihren gesamten Bereich hinweg gleichermaßen selbstbewusst erscheinen. Ein menschlicher Bewerter, der nicht erkennen kann, wo die Grenze liegt, wird sowohl hochzuverlässigen als auch wenig zuverlässigen KI-Outputs das gleiche Maß an Vertrauen entgegenbringen. Das Ergebnis ist nicht, dass KI Menschen bei allem schlechter macht. Es ist, dass KI Menschen selektiv bei den Dingen schlechter macht, die sie nicht mehr leicht identifizieren können.
Eine ergänzende Besorgnis wurde in der Forschung zur Automatisierungsverzerrung dokumentiert, der etablierten Tendenz von Menschen, sich übermäßig auf automatisierte oder algorithmische Empfehlungen zu verlassen, insbesondere unter Zeitdruck. Studien in der Luftfahrt, Medizin und Finanzdienstleistungen zeigen durchweg, dass das Vorhandensein einer systemgenerierten Empfehlung die Wahrscheinlichkeit verringert, dass ein menschlicher Bediener die zugrunde liegenden Beweise unabhängig bewertet, selbst wenn die Empfehlung falsch ist.
Der kumulative Effekt dieser beiden Dynamiken ist signifikant. KI erzeugt selbstbewusst klingende Outputs über einen Bereich, der sowohl ihre Stärken als auch ihre Grenzen umfasst. Menschen unter Zeitdruck wenden weniger unabhängige Prüfung auf systemgenerierte Empfehlungen an. Das Ergebnis in organisatorischen Entscheidungsfindungsszenarien ist eine systematische Reduzierung der Qualität des Urteilsvermögens, das auf KI-Outputs angewendet wird, genau in den Momenten, in denen besseres Urteilsvermögen am dringendsten benötigt wird.
Das Vorhandensein einer systemgenerierten Empfehlung verringert die Wahrscheinlichkeit, dass ein menschlicher Bediener die zugrunde liegenden Beweise unabhängig bewertet, selbst wenn die Empfehlung falsch ist.
Welche 3 Arten von KI-Risiken sollten Führungskräfte erkennen?
Nicht alle KI-Fehler sind gleich, und das Verständnis der verschiedenen Fehlermodi ist der Ausgangspunkt für den Aufbau besserer Bewertungsfähigkeiten. Drei Kategorien sind besonders relevant für Entscheidungsfindungsszenarien von Führungskräften.
Selbstbewusste Falschinformation – KI generiert selbstbewusste, aber falsche Informationen
KI-Sprachmodelle können plausibel klingende Informationen (einschließlich Zitate, Statistiken und Präzedenzfälle) generieren, die nicht existieren oder materiell ungenau sind. Die Ausgabe liest sich wie eine zuverlässige Analyse. Es gibt kein internes Signal, keine Einschränkung, keinen reduzierten Vertrauensindikator, der eine erfundene Tatsache von einer genauen unterscheidet. Bei Entscheidungen mit hohem Risiko, bei denen spezifische Beweise für die Schlussfolgerung wesentlich sind, kann dieser Fehlermodus folgenschwer und ohne bewusste Überprüfung schwer zu erkennen sein.
Muster-Extrapolation über den gültigen Bereich hinaus – Warum hat KI Schwierigkeiten mit neuen und unbekannten Situationen?
KI-Systeme lernen aus historischen Daten und sind effektiv darin, Muster innerhalb dieser Daten zu identifizieren. Sie sind wesentlich unzuverlässiger, wenn sie auf unbekannte Bedingungen, strukturelle Brüche oder Situationen angewendet werden, die sich von der Trainingsverteilung in einer Weise unterscheiden, die das System nicht erkennen kann. Eine Empfehlung, die aus historischen Betriebsdaten generiert wurde, berücksichtigt möglicherweise keine kürzliche regulatorische Änderung, eine neue Wettbewerbsdynamik oder eine Lieferkettenkonfiguration, die keinen historischen Präzedenzfall hat. Die KI weiß nicht, was sie nicht weiß, und ihre Ausgabe wird diese Einschränkung nicht widerspiegeln.
Framing Lock – Was passiert, wenn KI die falsche Frage gestellt wird?
KI-Systeme reagieren auf die Art und Weise, wie eine Frage gestellt wird. Eine gut formulierte Aufforderung erzeugt eine gut organisierte Antwort auf diese Formulierung. Wenn aber die Formulierung selbst falsch ist, wenn die gestellte Frage nicht die richtige Frage ist, wird die KI eine gründliche, gut organisierte Antwort auf die falsche Frage geben. Dies ist ein subtilerer Fehlermodus als die Falschinformation und in vielerlei Hinsicht gefährlicher: Die Analyse sieht vollständig aus, weil sie die gestellte Frage beantwortet, und es gibt kein internes Signal, dass die Frage selbst das Problem war.
Warum ist kritisches Denken bei der Nutzung von KI immer noch wichtig?
Diese Fehlermodi haben eine gemeinsame Eigenschaft: Sie sind nicht innerhalb des KI-Outputs selbst erkennbar. Ihre Identifizierung erfordert, dass der menschliche Bewerter etwas in die Interaktion einbringt, was die KI nicht liefern kann: einen strukturierten Rahmen dafür, wie eine gültige Antwort aussehen sollte, ein ausreichendes Verständnis des Themas, um zu erkennen, wann eine Antwort unplausibel ist, und die Disziplin, eine unabhängige Prüfung anzuwenden, anstatt selbstbewusst aussehende Outputs kritiklos zu akzeptieren.
Genau diese Fähigkeit entwickeln strukturierte Entscheidungsfindungsrahmen. Die Disziplin, ein Problem klar zu definieren, bevor Lösungen bewertet werden, wie in Artikel 1 und Artikel 2 dieser Reihe beschrieben, gilt direkt für die Bewertung von KI-Outputs. Eine Organisation, die die Grundursache eines Betriebsfehlers ohne KI-Unterstützung nicht genau diagnostizieren kann, ist auch eine Organisation, die nicht zuverlässig beurteilen kann, ob eine KI-generierte Diagnose korrekt ist.
Dasselbe gilt für die KI-gestützte Entscheidungsfindung. Eine Organisation, die nicht die interne Disziplin aufgebaut hat, Ziele zu klären, Alternativen systematisch zu bewerten, Annahmen aufzudecken und Kompromisse zu prüfen, wird diese Fähigkeiten nicht plötzlich erwerben, indem sie ihre Entscheidungsfindung über ein KI-Tool leitet. Die KI mag die Informationen effizienter organisieren. Aber die Qualität des Urteilsvermögens, das auf diese Informationen angewendet wird, wird durch die menschliche Fähigkeit im Raum bestimmt, nicht durch die Fähigkeit des Tools, das den Output generiert.
Dies ist das zentrale Argument für den menschlichen Vorteil in einer KI-Welt. Die Organisationen, die durchweg bessere Entscheidungen treffen werden, sind nicht diejenigen mit dem ausgeklügeltsten KI-Stack. Es sind diejenigen, die leistungsfähige Tools mit strukturiertem menschlichem Urteilsvermögen und kritischem Denken kombinieren, um diese Tools gut zu nutzen. Dazu gehört zu wissen, welche Fragen zu stellen sind, wie man erkennt, wann eine Antwort unvollständig oder falsch ist, und wie man die Art von unabhängigem kritischem Denken anwendet, die KI nicht replizieren kann.
Die Organisationen, die durchweg bessere Entscheidungen treffen werden, sind nicht diejenigen mit dem ausgeklügeltsten KI-Stack. Es sind diejenigen, die leistungsfähige Tools mit dem strukturierten menschlichen Urteilsvermögen kombinieren, um diese Tools gut zu nutzen.
Wie können Organisationen ihre Belegschaft auf die KI-Einführung vorbereiten?
Die praktische Implikation für Führungsteams ist nicht, die KI-Einführung zu verlangsamen. Die Produktivitäts- und Analysevorteile sind zu signifikant, und der Wettbewerbsdruck zur Einführung ist real. Die Implikation ist, parallel zu investieren: in die KI-Tools und in die menschliche Urteilsfähigkeit, die erforderlich ist, um sie gut zu nutzen.
Einige spezifische Praktiken, die leistungsstarke Organisationen in ihre KI-gestützten Workflows integrieren:
- Disziplin bei der Vorab-Framing von Antworten: Bevor ein KI-System für Analysen oder Empfehlungen zu einer wichtigen Entscheidung abgefragt wird, definiert das Team explizit, was eine gute Antwort enthalten müsste, welche Annahmen sie validieren müsste und welche alternativen Schlussfolgerungen in Betracht gezogen werden sollten. Hier geht es nicht darum, die KI-Abfrage zu verlangsamen. Es geht darum, sicherzustellen, dass die Menschen, die den Output bewerten, eine strukturierte Grundlage dafür haben.
- Aufdeckung von Annahmen: Für jede signifikante KI-generierte Entscheidungsempfehlung identifiziert das Team die im Output eingebetteten Schlüsselannahmen und bewertet jede unabhängig. Was nimmt diese Empfehlung über Marktbedingungen, Wettbewerberverhalten, interne Fähigkeiten oder das regulatorische Umfeld an? Welche dieser Annahmen ist am folgenschwersten, wenn sie falsch ist?
- Grenzprüfung: Wenn ein KI-Output zur Unterstützung einer wichtigen Entscheidung verwendet wird, fragt das Team explizit: Ist dies die Art von Frage, bei der KI-Tools wahrscheinlich zuverlässig sind? Hat diese Situation einen historischen Präzedenzfall in den Daten, mit denen das System trainiert wurde? Gibt es strukturelle Merkmale dieser Situation, die sie außerhalb des effektiven Bereichs der KI platzieren könnten?
- Unabhängige Überprüfung wesentlicher Fakten: Jede spezifische Statistik, jeder Präzedenzfall oder jeder Beweis, der für eine wichtige Entscheidung wesentlich ist, wird unabhängig überprüft, bevor die Entscheidung finalisiert wird. Dies ist kein Ausdruck von Misstrauen gegenüber dem Tool. Es ist die Erkenntnis, dass selbstbewusste Outputs und genaue Outputs nicht dasselbe sind.
Keine dieser Praktiken erfordert das Aufgeben von KI-Tools oder das Verlangsamen von Workflows. Sie erfordern den Aufbau der strukturierten Denkdisziplin, die es ermöglicht, KI-Outputs rigoros zu bewerten, anstatt sie reflexartig zu akzeptieren. Organisationen, die diese Disziplin aufbauen, erzielen einen sich verstärkenden Vorteil: Sie nutzen nicht nur ihre KI-Investitionen besser, sondern entwickeln auch das organisatorische Urteilsvermögen, das schwieriger zu replizieren ist, da KI-Tools selbst immer mehr zu Commodities werden.
Warum eine effektive KI-Implementierungsstrategie mehr als Technologie erfordert
Es gibt eine Version der KI-Einführungsgeschichte, die rein auf die Tool-Fähigkeit abzielt: Wer die fortschrittlichsten Tools hat, gewinnt. Diese Version ist kurzfristig überzeugend und mittelfristig fast sicher falsch. KI-Tools werden gleichzeitig leistungsfähiger und zugänglicher. Die Produktivitätsvorteile jeder spezifischen Tool-Konfiguration schwinden, sobald diese Konfiguration für alle verfügbar wird.
Der dauerhaftere Wettbewerbsvorteil ist die organisatorische Fähigkeit, diese Tools gut zu nutzen. Diese Fähigkeit umfasst die technische Infrastruktur, um KI-Systeme effektiv einzusetzen und zu warten. Sie umfasst auch die Infrastruktur des menschlichen Urteilsvermögens, um KI-Outputs kritisch zu bewerten, die Grenzen der KI-Zuverlässigkeit zu erkennen und strukturiertes Denken auf die Entscheidungen anzuwenden, die die KI-Analyse informiert.
Diese zweite Fähigkeit kommt nicht mit der Softwarelizenz. Sie wird durch bewusste Investitionen in kritisches Denken und Entscheidungsfindungsrahmen, diagnostische Disziplin und die kulturelle Erwartung aufgebaut, dass selbstbewusst aussehende Outputs, aus welcher Quelle auch immer, eine Prüfung verdienen, die proportional zu den Risiken der Entscheidung ist, die sie informiert.
KI liefert Ihnen schnell Antworten. Die Frage, ob es die richtigen sind, bleibt vorerst eine menschliche Verantwortung. Und Organisationen, die diese Verantwortung ernst nehmen, werden diejenigen, die dies nicht tun, durchweg übertreffen.
Über Kepner-Tregoe
Seit mehr als sechzig Jahren hilft Kepner-Tregoe Organisationen, Probleme zu lösen, Entscheidungen zu treffen, Risiken zu managen und Kulturen des kritischen Denkens aufzubauen. Die strukturierten Methoden von KT – Situationsanalyse, Problemanalyse, Entscheidungsanalyse, Potenzielle Problemanalyse und Potenzielle Chancenanalyse – bieten die Denkstruktur, die es Führungskräften und Teams ermöglicht, in den wichtigsten Momenten ihre beste Leistung zu erbringen.
Abonnieren
Treten Sie unserer Mailingliste bei, um über unsere neuesten Erkenntnisse, Blogs und Artikel, Podcasts, Webinare und Veranstaltungen, bevorstehende Kursdaten und mehr auf dem Laufenden zu bleiben.
