Menschliche Governance: Wer gestaltet die Bedingungen für den Bedingungsarchitekten?

Governance hat ein Reputationsproblem. Sie wird als Bremse erlebt, als Audit, als Unterschrift, die niemand geben möchte. Doch die Organisationen, die am schnellsten und mit Zuversicht vorankommen, sind diejenigen, in denen Menschen die Stellung, die Kompetenz und die Sicherheit erhalten haben, ihr Urteilsvermögen einzusetzen. Menschliche Governance ist die Gestaltung dieser Bedingungen, und sie ermöglicht es menschengeführten Organisationen, Strategie schnell umzusetzen.

Zwei Kreditsachbearbeiterinnen

Zwei Finanzdienstleistungsunternehmen führen dieselbe Art von Modell ein, um kommerzielle Kreditanträge vorab zu prüfen. Beide erledigen die formale Arbeit korrekt: eine Risikoklassifizierung, eine unterzeichnete Richtlinie und eine namentlich genannte leitende Kreditsachbearbeiterin mit der Befugnis, das Modell zu übersteuern.

Im ersten Unternehmen bemerkt die Kreditsachbearbeiterin in der sechsten Woche, dass das Modell ein Segment auf der Grundlage von Daten bewertet, die den Markt nicht mehr widerspiegeln. Sie übersteuert eine Handvoll Empfehlungen und kennzeichnet das Muster. Niemand fordert sie auf, sich gegen den Schwung des Programms zu rechtfertigen, denn die Nutzung der Übersteuerungsfunktion ist genau das, wofür die Rolle konzipiert wurde. Das Modell wird innerhalb eines Monats neu kalibriert. Das Führungsteam, nun zuversichtlich, dass Probleme frühzeitig erkannt werden, weitet das Programm vorzeitig auf zwei weitere Geschäftsbereiche aus.

Im zweiten Unternehmen bemerkt die Kreditsachbearbeiterin dieselbe Abweichung. Der CEO hat das Programm den Investoren als das Vorzeige-KI-Projekt des Unternehmens präsentiert. Sie äussert ihre Bedenken informell, ihr wird gesagt, der Anbieter prüfe dies, und sie nutzt ihre Übersteuerungsfunktion nicht, da dies bedeuten würde, dieser Zusage öffentlich zu widersprechen, basierend auf einem Muster, das sie erahnen, aber noch nicht beweisen kann. Monate später tritt eine Häufung von Zahlungsausfällen auf. Die Verantwortung fällt auf sie. Das Programm wird eingefroren.

Dasselbe Modell. Dieselbe Richtlinie. Dieselbe Befugnis auf dem Papier. Der Unterschied lag nicht in der Technologie, und er lag nicht in der Person. Es lag daran, ob jemand die Bedingungen gestaltet hatte, unter denen sie handeln konnte.

Gleiches Modell, gleiche Richtlinie und Befugnis

Die einzige Variable: die Bedingungen

Bedingungen gestaltet

Übersteuerung in Woche 6 genutzt

Bedankt, nicht infrage gestellt

Modell innerhalb eines Monats neu kalibriert

Problem früh erkannt

Früher als geplant ausgeweitet

Governance als Treiber

Bedingungen vorausgesetzt

Bedenken informell geäussert

Übersteuerung nicht genutzt

Ausfälle zeigen sich Monate später

Problem spät erkannt

Programm gestoppt

Verantwortung fällt auf sie zurück

(C) p-m-z.ch Philip Zollinger

Das ist es, was dieser Artikel mit menschlicher Governance meint. Und im ersten Unternehmen war es keine Bremse. Es war der Grund, warum das Programm schneller vorankommen konnte.

Warum Governance als Teufel dargestellt wird

Die meisten Menschen begegnen Governance als etwas, das ihnen angetan wird. Sie erscheint als Genehmigungsketten, Compliance-Checklisten und das Gefühl, dass jemand weiter oben ihnen die Entscheidung nicht zutraut. Führungskräfte erleben sie als eine Steuer auf den Schwung. Es ist keine Überraschung, dass im Zeitalter der KI, wo Geschwindigkeit als entscheidender Vorteil gilt, Governance so oft als das Hindernis positioniert wird.

Dieser Ruf ist verständlich und meistens durch Governance verdient, die auf Misstrauen ausgelegt war: Kontrolle, die hinzugefügt wurde, nachdem etwas schiefgelaufen war, mit dem Ziel, Menschen am Handeln zu hindern, anstatt sie zu befähigen, gut zu handeln.

Aber das beschreibt eine bestimmte Art von Governance, nicht Governance an sich. Dasselbe Wort deckt die Strukturen ab, die einem Junior Engineer das Recht geben, eine Produktionslinie anzuhalten, einem Ersten Offizier die Pflicht, einen Kapitän herauszufordern, und einer Kreditsachbearbeiterin das Vertrauen, ein Modell zu übersteuern, das ihr CEO befürwortet hat. Diese Strukturen schränken das menschliche Urteilsvermögen nicht ein. Sie sind es, die es nutzbar machen.

Die Frage, die der vorherige Artikel offenliess

Der vorherige Artikel argumentierte, dass Strategie menschlich bleiben wird. Eine Strategie ist eine Kette von Verpflichtungen, die Menschen bindet, die sie nicht eingegangen sind, und nur verantwortliche Menschen können diese Verpflichtungen verfassen, ihre Kompromisse offenlegen und die Bereitschaft erzeugen, die sie aufrechterhält.

Er endete mit einem berechtigten Einwand. Wenn Menschen der Mechanismus sind, durch den Strategie Realität wird, sind Menschen auch der Punkt, an dem sie scheitern kann. Führungskräfte sind fehlbar. Sie hören nur, was ihnen passt. Dieselben Führungszustände, die Strategie zum Leben erwecken, können schlecht genutzt werden.

Es gibt zwei Wege, auf diesen Einwand zu reagieren. Einer ist, die Abhängigkeit von Menschen zu reduzieren: mehr Automatisierung, mehr Regeln, weniger Ermessensspielraum. Dieser Weg gibt stillschweigend das Argument auf, dass Strategie menschlich ist. Der andere ist, menschliche Führung ernst genug zu nehmen, um sie zu gestalten: die Bedingungen zu schaffen, unter denen Menschen ihr Urteilsvermögen gut ausüben, sich erholen, wenn sie abdriften, und gehört werden, wenn sie etwas sehen, was andere nicht sehen.

Dieser Artikel wählt den zweiten Weg. Menschliche Governance ist nicht die Antwort auf die Frage, wie man Menschen kontrolliert. Sie ist die Antwort auf die Frage, wie man eine menschengeführte Organisation schnell zum Erfolg führt.

Bremsen ermöglichen schnelles Fahren

Die CCC-Stiftung führte ein Prinzip ein, das sich durch diese ganze Serie zieht: Stabilität geht vor Geschwindigkeit. Beschleunigung verstärkt alle bereits bestehenden Bedingungen.

Es gibt ein einfaches Bild dafür, was das in der Praxis bedeutet. Niemand würde ein Auto mit Autobahngeschwindigkeit fahren, wenn es keine Bremsen hätte. Die Bremsen sind nicht das, was das Auto auf der Autobahn verlangsamt; sie sind der Grund, warum überhaupt jemand bereit ist, so schnell zu fahren. Dasselbe gilt für die Architektur. Die Baustatik begrenzt nicht, wie hoch ein Gebäude sein kann. Sie ist der einzige Grund, warum ein Gebäude überhaupt hoch sein kann.

Menschliche Governance spielt diese Rolle in einer Organisation. Wenn Menschen wissen, wer etwas stoppen kann, wenn sie kompetent sind, es zu beurteilen, und wenn die Nutzung dieses Urteilsvermögens sicher und erwartet ist, können Führungskräfte schneller Ja sagen und weiter skalieren. Vertrauen reist schneller als Vorsicht, aber nur, wenn es durch Bedingungen gerechtfertigt ist, auf die sich Menschen verlassen können.

Bedingungen werden durch Bedingungen gesteuert

Das CCC-Framework beschreibt Führung als die Gestaltung von drei Bedingungen, unter denen Menschen zuverlässig handeln können: Klarheit, Fähigkeit und Klima. Führungskräfte sind Bedingungsarchitekten.

Ehrlich angewendet, kehrt sich das Framework in sich selbst zurück. Der Architekt steht nicht ausserhalb des Gebäudes. Er befindet sich darin, auf einer Etage, die jemand anderes entworfen hat, und arbeitet unter Bedingungen, die er nicht gewählt hat. Führungskräfte werden gebeten, psychologische Sicherheit zu schaffen, während sie in Räumen arbeiten, in denen Widerspruch Karrierekosten verursachen kann. Sie werden gebeten, KI-Kompetenz aufzubauen, während sie oft die geringste praktische Erfahrung mit der Technologie haben. Sie werden gebeten, Klarheit zu schaffen, während die Grenze zwischen Verwaltungsrat und Führungsautorität bei KI noch ungeklärt ist.

Der Architekt ist auch ein Bedingungsnehmer. Das ist kein Fehler der Menschen. Es ist eine normale Eigenschaft geschichteter Systeme, und es weist auf etwas Grosszügiges hin: Die Menschen, die wir bitten, Bedingungen für andere zu gestalten, verdienen selbst gut gestaltete Bedingungen.

Dies gibt dem Artikel sein Leitprinzip:

Bedingungen werden durch Bedingungen gesteuert. Menschliche Governance ist die bewusste Gestaltung der Bedingungen, unter denen Menschen, die Verantwortung tragen, diese mit Zuversicht ausüben können, gehört werden, wenn sie sehen, was andere übersehen, und zu ihrem besten Urteilsvermögen zurückkehren, wenn Druck sie davon ablenkt.

Es hilft, drei Ebenen zu trennen, die oft in einem Wort zusammengefasst werden. Corporate Governance definiert, wer Autorität besitzt und wer verantwortlich ist. KI-Governance definiert, wie algorithmische Systeme entwickelt, eingesetzt, überwacht und gestoppt werden. Menschliche Governance fragt, ob die in diesen ersten beiden Ebenen genannten Personen die Klarheit, Fähigkeit und das Klima haben, um das zu tun, was diese Ebenen von ihnen erwarten.

Corporate Governance

Wer hat die Befugnis und wer trägt Verantwortung?

KI-Governance

Wie Systeme entwickelt, eingesetzt, überwacht und gestoppt werden

Human Governance

Können die genannten Menschen tatsächlich handeln?

Klarheit

Befugnis zu handeln

Fähigkeit

Kompetenz zu urteilen

Klima

Sicherheit, sie zu nutzen

(C) p-m-z.ch Philip Zollinger

Die ersten beiden Ebenen betreffen die Struktur und die Systeme. Die dritte betrifft die Menschen, und sie ist die Ebene, die die anderen beiden von Dokumentation in etwas Funktionierendes verwandelt.

Beantwortung der Wächterfrage

Die älteste Frage in der Governance stammt vom römischen Dichter Juvenal:

"Quis custodiet ipsos custodes?" — Wer bewacht die Wächter selbst?

Sie wird gewöhnlich als Ratschlag des Misstrauens gelesen, der Beginn einer endlosen Kette von Aufsehern, die Aufseher beaufsichtigen. In einer menschengeführten Organisation gibt es eine bessere Antwort. Den Wächtern ist nicht am besten gedient, wenn ein weiterer Wächter über ihnen steht. Ihnen ist am besten gedient durch Bedingungen um sie herum: ein klares Mandat, die Kompetenz, es zu nutzen, Kollegen, die ehrlich sprechen, und Strukturen, die ehrliches Sprechen normal machen.

Menschen zu beobachten, macht sie vorsichtig. Bedingungen für sie zu gestalten, macht sie fähig.

Jeder Zustand hat eine Bandbreite

Um Strategie zum Leben zu erwecken, müssen Führungskräfte zwischen sechs Zuständen wechseln: Abgestimmt, Visionär, Direktive, Herausfordernd, Coaching und Klärend. Jeder ist wertvoll. Jeder hat auch eine Grenze, jenseits derer er seinen Zweck nicht mehr erfüllt. Wir haben diese im vorherigen Artikel untersucht.

Abstimmung kann sich darauf verengen, nur das zu hören, was den Plan bestätigt. Visionär kann sich so weit ausdehnen, dass Kosten kleiner klingen, als sie sind. Direktive kann sich zu Kontrolle verhärten. Herausfordernd kann in Einschüchterung umschlagen. Coaching kann dazu führen, Menschen abhängig zu halten. Klärend kann Reibung beseitigen, die die Organisation stillschweigend schützte.

Nichts davon bedeutet, dass Führungskräfte gefährlich sind. Es bedeutet, dass sie menschlich sind, und Menschen unter anhaltendem Druck neigen dazu, in einem Zustand gefangen zu sein. Die Schwierigkeit besteht darin, dass sich ein überdehnter Zustand von innen genau wie der gesunde anfühlt. Eine Führungskraft, die in Kontrolle abdriftet, erlebt sich selbst als entscheidungsfreudig.

Deshalb ist Selbstdisziplin, obwohl notwendig, allein nicht ausreichend, und hier zeigt menschliche Governance ihre grosszügigste Seite. Eine gute Struktur erkennt Abweichungen frühzeitig und hilft Führungskräften, in den Ruhezustand der Abstimmung zurückzukehren, wo sie spüren können, was die Situation tatsächlich erfordert. Sie schützt die Bandbreite der Führungskraft, anstatt die Organisation vor der Führungskraft zu schützen. Und eine Führungskraft, die weiss, dass Abweichungen ohne Drama bemerkt und benannt werden, ist frei, entscheidungsfreudig zu sein, denn Entscheidungsfreudigkeit muss nicht mehr makellos sein, um sicher zu sein.

Der Mensch im Kreislauf ist ein Designauftrag

Die Regulierung weist bereits in diese Richtung, auch wenn sie selten so gelesen wird.

Artikel 14 des EU-KI-Gesetzes verlangt, dass Hochrisikosysteme so gestaltet werden, dass sie von Menschen wirksam überwacht werden können, und beschreibt, was diese Menschen tun können müssen: die Fähigkeiten und Grenzen des Systems verstehen, sich der Tendenz zur Überabhängigkeit von dessen Ausgabe bewusst bleiben, diese Ausgabe korrekt interpretieren, entscheiden, sie nicht zu verwenden, sie zu übersteuern oder rückgängig zu machen und sie zu stoppen. Artikel 26 verlangt von den Betreibern, diese Aufsicht Personen mit der erforderlichen Kompetenz, Ausbildung und Autorität zu übertragen. Für Schweizer Organisationen, deren Systeme oder Ergebnisse den EU-Markt erreichen, ist dies Teil des Arbeitsumfelds.

Dies wird gewöhnlich als Compliance-Liste gelesen. Besser ist es, es als Designauftrag zur Befähigung von Menschen zu lesen. Autorität, die ohne Erlaubnis genutzt werden kann, ist Klarheit. Die Kompetenz, Ergebnisse zu interpretieren und Automatisierungsverzerrungen zu widerstehen, ist Fähigkeit. Eine Organisation, in der das Übersteuern des Systems akzeptabel und erwartet ist, ist Klima.

Der EU AI Act verlangt……was einer CCC-Bedingung entspricht

Befugnis, zu übersteuern und zu stoppen

Ohne Erlaubnis einzuholen

→

Klarheit

Gesetzlich verankert

Kompetenz, Ergebnisse zu interpretieren

Bewusstsein für Automatisierungsbias

→

Fähigkeit

Gesetzlich verankert

Sicher und ausdrücklich erwartet

Kein Gesetz kann dies verlangen

→

Klima

Führungsarbeit

(C) p-m-z.ch Philip Zollinger

Zwei dieser Bedingungen können gesetzlich festgelegt werden. Die dritte nicht. Kein Gesetz kann einer Kreditsachbearbeiterin das Gefühl geben, ein Modell widersprechen zu können, das ihr CEO befürwortet hat. Dieser Teil ist Führungsarbeit, und genau hier schafft menschliche Governance einen Wert, den keine Regulierung liefern kann.

Wenn diese Bedingungen fehlen, hat das Ergebnis einen Namen. Madeleine Clare Elish nannte es die moralische Knautschzone: Die Verantwortung für das Versagen eines Systems fällt auf den nächstgelegenen menschlichen Bediener, wodurch die Technologie auf Kosten dieser Person geschützt wird. Die Knautschzone ist nicht das, was Governance schafft. Sie entsteht in Abwesenheit menschlicher Governance, wenn Menschen in den Kreislauf eingebunden werden, ohne die Bedingungen, dort zu handeln.

Zwei Branchen, die gelernt haben, Menschen mehr zu vertrauen

Der überzeugendste Beweis dafür, dass Governance ein Treiber sein kann, kommt aus zwei Branchen, die unter grossen Kosten gelernt haben, Menschen mehr statt weniger Stellung einzuräumen.

Die erste ist die Luftfahrt. In den späten 1970er Jahren zeigten eine Reihe von Unfällen, einschliesslich der Kollision von Teneriffa 1977, dass erfahrene Besatzungen in eine Katastrophe fliegen konnten, selbst wenn jemand im Cockpit gespürt hatte, dass etwas nicht stimmte. Das Problem war nicht mangelnde Fähigkeit. Es war eine Hierarchie, in der es schwierig war, den Kapitän herauszufordern. Die Antwort der Branche wurde als Crew Resource Management bekannt. Es machte das Ansprechen zu einer definierten Pflicht, schulte Besatzungen darin, wie man herausfordert und wie man Herausforderungen annimmt, und verwandelte das Cockpit in ein Team statt in eine Befehlskette. Es schwächte die Autorität des Kapitäns nicht. Es machte diese Autorität besser informiert. Crew Resource Management hat sich seitdem weit über die Luftfahrt hinaus verbreitet, in die Chirurgie und andere Bereiche mit hohem Risiko.

Dieselbe Branche zeigt auch, was passiert, wenn diese Bedingungen erodieren. In ihrer Untersuchung von 2020 zu den beiden Abstürzen der Boeing 737 MAX beschrieb das US House Committee on Transportation and Infrastructure Produktionsdruck, Aufsicht, die an Personen innerhalb des zu überwachenden Unternehmens delegiert wurde, und Piloten, die nicht über das automatisierte System informiert worden waren, dem sie letztendlich entgegenwirken mussten. Die Lehre ist nicht, dass der Ansatz der Luftfahrt versagt hat. Es ist, dass befähigende Bedingungen aufrechterhalten werden müssen und dass sie stillschweigend erodieren, wenn kommerziellem Druck erlaubt wird, sie zu übertreffen.

Die zweite ist die Fertigungsindustrie. Toyotas Produktionssystem gab jedem Arbeiter an der Linie die Möglichkeit, die Produktion zu stoppen, wenn er ein Problem sah, mittels der Andon-Schnur. Für viele Manager sah dies damals wie eine Einladung zum Chaos aus. In der Praxis wurde es zu einer der am meisten untersuchten Quellen für Qualität und Lernen in der Industriegeschichte. Das Anhalten war billig, erwartet und wurde von Hilfe statt Schuldzuweisung gefolgt. Probleme traten auf, wenn sie klein waren, so dass die Linie mit Zuversicht laufen konnte.

Beide Fälle teilen dasselbe Design. Die Handlungsbefugnis wurde an die Menschen verlagert, die dem Signal am nächsten waren. Ihre Nutzung wurde normalisiert. Und die Organisation wurde gleichzeitig schneller und sicherer.

Das ist das Modell für menschliche Governance im Zeitalter der KI.

Wo befähigende Bedingungen am wichtigsten sind

Diese Bedingungen sind auf jeder Ebene wichtig, aber am wichtigsten sind sie dort, wo Macht und Tempo am grössten sind, denn dort sind die natürlichen Signale am schwächsten.

Die aktuellen Erkenntnisse deuten darauf hin, dass die Führungsebene noch Raum für Wachstum hat. Eine Untersuchung von The Conference Board zu S&P 500-Offenlegungen ergab, dass der Anteil der Unternehmen, die KI als Risiko nannten, zwischen 2023 und 2025 von 12 auf 83 Prozent stieg, während die offengelegte KI-Expertise unter den Direktoren über einen längeren Zeitraum nur von 1,5 auf 2,7 Prozent anstieg. Weniger als ein Viertel der befragten Führungskräfte hielten ihren Verwaltungsrat für hochgradig KI-kompetent.

Positiv gelesen ist dies keine Anklage. Es ist eine Chance. Verwaltungsräte und Führungsteams, die ihre eigene Fähigkeit zum Bewerten von KI aufbauen, anstatt sie nur zu bewundern, werden in der Lage sein, mit Zuversicht zuzustimmen, wo andere zögern.

Klarheit an der Spitze bietet dieselbe Chance. In vielen Organisationen hat die Frage, wer ein wesentliches KI-System stoppen kann, eine verteilte Antwort, was in der Praxis bedeutet, dass niemand sie hält. Initiativen driften ab, weil keine einzelne Person Nein sagen kann und daher auch niemand mit voller Überzeugung Ja sagen kann. Das Schweizer Gesellschaftsrecht bietet bereits einen Anker. Das Obligationenrecht weist dem Verwaltungsrat unübertragbare Pflichten zu, einschliesslich der Oberleitung der Gesellschaft und der Überwachung der mit der Geschäftsführung betrauten Personen. Eine Überwachung, die die Kompetenz umfasst, zu verstehen, was die Geschäftsführung einsetzt, verwandelt diese Pflicht von einer Formalität in eine Quelle des Vertrauens für die gesamte Organisation.

Das Klima an der Spitze ist der am wenigsten gemessene und vielleicht mächtigste Hebel. Organisationen erheben Engagement und psychologische Sicherheit in ihrer gesamten Belegschaft, doch selten innerhalb des Führungsteams oder des Verwaltungsrats. Im Zeitalter der KI gibt es einen spezifischen Druck, der genannt werden muss: die Angst, als rückständig zu erscheinen. Ein Führungsteam, dessen Klima es jemandem erlaubt zu sagen: "Wir sind noch nicht bereit", kann schneller adaptieren, wenn es bereit ist, weil es seiner eigenen Einschätzung vertraut.

Für inhabergeführte Unternehmen ohne formellen Verwaltungsrat ist die Gelegenheit noch direkter. Der Inhaber ist oft der Architekt, der Genehmiger und die einzige Person mit der Stellung, um beides zu überstimmen. Eine kleine Anzahl bewusster Bedingungen, wie ein vertrauenswürdiger Sparringspartner mit einem echten Mandat zur Herausforderung oder eine vereinbarte Regel, wann eine Entscheidung pausiert wird, kann dieser Person die Art von Unterstützung geben, die grössere Organisationen von ihren Strukturen erhalten.

Woher die Bedingungen kommen

Wenn der Architekt im Gebäude ist, müssen seine Bedingungen irgendwoher kommen. In der Praxis gibt es vier Quellen.

Die erste ist die darüberliegende Ebene. Verwaltungsräte gestalten Bedingungen für Führungskräfte, und Führungskräfte für ihre Teams. Dies funktioniert gut, wenn die höhere Ebene die Kompetenz hat, sinnvolle Bedingungen zu gestalten.

Die zweite ist die Peergroup. Ein Führungsteam ist selbst ein Team, mit denselben Bedürfnissen wie jedes andere: gemeinsames Verständnis, Vertrauen und konstruktiver Konflikt. Es als ein funktionierendes System statt als ein Entscheidungsforum zu behandeln, ist einer der wirkungsvollsten Schritte, die einem CEO zur Verfügung stehen.

Die dritte ist die Struktur: Mechanismen, die nicht von der Tagesstimmung abhängen. Definierte Stopp-Autorität, getrennte Rollen, geschützter Widerspruch, unabhängige Überprüfung. Struktur ist das, was Beziehungen unter Druck ehrlich bleiben lässt, weil Ehrlichkeit nicht jedes Mal improvisiert werden muss.

Die vierte ist das Selbst: Aufmerksamkeit, Energie und die Bereitschaft, sich widersprechen zu lassen. Essenziell und am effektivsten, wenn es unterstützt wird, anstatt alles allein tragen zu müssen.

An der Spitze einer Organisation dünnen die ersten beiden Quellen naturgemäss aus, weshalb die Struktur umso mehr Gewicht haben sollte, je höher man geht. Das klingt restriktiv. In der Praxis ist es befreiend. Führungskräfte, die sich auf eine gut gestaltete Struktur verlassen können, müssen nicht länger heldenhaft sein, um sicher zu sein.

Menschliche Governance als befähigender Mechanismus

Menschliche Governance wird real, wenn sie als Mechanismen ausgedrückt wird, die jeweils darauf ausgelegt sind, was sie ermöglichen:

• Benennen Sie die Person, die stoppen kann, damit andere weitermachen können. Für jedes wesentliche KI-System hat eine einzelne Person die Stopp-Autorität und weiss es. Wenn Risiko einen klaren Eigentümer hat, können alle anderen schneller handeln.

• Machen Sie die Übersteuerung günstig. Ihre Nutzung sollte keine Genehmigung nach oben erfordern und keine persönlichen Kosten verursachen. Vereinbaren Sie im Voraus, dass eine in gutem Glauben erfolgte Übersteuerung gedankt und nicht hinterfragt wird. Dies ist die Andon-Schnur für KI.

• Investieren Sie in Überwachungskompetenz. Definieren Sie, was der Überwacher können muss, und helfen Sie ihm, dies aufzubauen und regelmässig zu aktualisieren, wenn sich das System ändert. Fähigkeit verwandelt Autorität in Zuversicht.

• Trennen Sie Befürwortung von Absicherung. Lassen Sie eine Person die Einführung vorantreiben und eine andere die Bereitschaft beurteilen. Jede Rolle ist dann frei, ihre Aufgabe vollständig zu erfüllen, ohne sich selbst widersprechen zu müssen.

• Pflegen Sie das Klima an der Spitze. Verwenden Sie dieselben Instrumente im Führungsteam und im Verwaltungsrat, die in der gesamten Belegschaft eingesetzt werden, und behandeln Sie die Ergebnisse als Ressource, um die Führung nachhaltig zu gestalten.

• Geben Sie Widerspruch einen Weg, der irgendwohin führt. Eine glaubwürdige Besorgnis bezüglich einer KI-Implementierung sollte eine definierte Überprüfung durch jemanden ausserhalb der Berichtslinie des Sponsors auslösen. So erreichen die schwachen Signale, die Menschen erahnen, aber noch nicht beweisen können, schliesslich die Menschen, die darauf reagieren können.

Jeder dieser Punkte gibt jemandem Stellung, Kompetenz oder Sicherheit. Keiner von ihnen geht davon aus, dass Menschen das Problem sind. Alle gehen davon aus, dass Menschen die Lösung sind und entsprechende Bedingungen verdienen.

Gute Reibung und schlechte Reibung

Es gibt auch einen strukturellen Grund, warum dies jetzt wichtiger ist.

In einer rein menschlichen Organisation kündigen sich schwache Bedingungen selbst an. Unklare Strategie erzeugt Fragen. Fehlende Fähigkeiten erzeugen sichtbaren Kampf. Ein schlechtes Klima erzeugt Abwanderung. Diese Reibung ist unangenehm, aber sie trägt Informationen, und sie ist immer kostenlos angekommen.

Nicht-soziale Agenten erzeugen sie nicht. Ein algorithmischer Agent fragt nicht, welches Ziel gewinnt, wenn zwei kollidieren, widerspricht keiner unklaren Anweisung und kündigt nicht. Er führt ein unklares Mandat schnell, in grossem Massstab und ohne Beschwerde aus.

Dies ändert, was der Zustand des Klärens von Führungskräften verlangt. Reibung zu beseitigen, bleibt eine der wertvollsten Aufgaben einer Führungskraft. Aber nicht jede Reibung ist Verschwendung. Ein Teil davon ist, wie eine Organisation bemerkt, dass etwas nicht stimmt. Menschliche Governance hilft Führungskräften, die beiden zu unterscheiden, damit sie die schlechte Reibung mutig beseitigen können, wissend, dass die gute Reibung bewusst wieder eingebaut wurde.

Sicherstellen, dass es real ist

Eine berechtigte Sorge bei jedem Governance-Argument ist, dass es zu Papierkram werden kann: namentlich genannte Eigentümer, die nur Unterschriften sind, Widerspruchswege, die nur Formulare sind, Klimabefragungen, die niemand liest.

Die Absicherung ist einfach. Befähigende Bedingungen beweisen sich durch Gebrauch. Eine Übersteuerung, die genutzt wurde und deren Nutzer gedankt wurde, schafft mehr Vertrauen als jede Richtlinie. Ein Widerspruchsweg, der einmal eine Entscheidung geändert hat, sagt jedem, dass er real ist. Ein Klimagespräch, das die Arbeitsweise eines Führungsteams verändert hat, ist mehr wert als jede Punktzahl.

Die nützlichste Gewohnheit in der menschlichen Governance ist also nicht, mehr Regeln zu schreiben. Es ist, nach Beweisen zu suchen, dass die Bedingungen ausgeübt wurden, und dies zu feiern, wenn sie es wurden.

Stabilität geht vor Geschwindigkeit, beginnend an der Spitze

Bedingungen an der Spitze wirken sich durch jede Entscheidung, die sie gestalten, nach unten aus, und das funktioniert in beide Richtungen.

Wenn Klarheit an der Spitze stark ist, wissen die Menschen in der Organisation, wer entscheidet, und können handeln, ohne zu warten. Wenn Fähigkeit an der Spitze stark ist, wird neue Technologie mit Verständnis genehmigt, so dass sie mit Zuversicht skaliert werden kann. Wenn das Klima an der Spitze stark ist, lernt die Organisation, dass Ehrlichkeit geschätzt wird, und Informationen kommen an, solange es noch günstig ist, darauf zu reagieren.

Menschliche Governance ist, wie Bedingungsarchitekten sich selbst die gleichen Grundlagen geben, die sie von allen anderen verlangen. Sie verwandelt menschliche Führung von einem zu bewältigenden Risiko in den Motor einer schnellen, zuverlässigen Organisation.

Was diese Woche zu überprüfen ist

Nehmen Sie eine aktuelle KI-Entscheidung, die Ihre Organisation trifft. Keine Richtlinie. Eine Entscheidung, mit Geld und Konsequenzen verbunden. Dann stellen Sie vier Fragen.

Wer, namentlich, kann sie stoppen, und wissen sie, dass sie es können? Kann diese Person das System bewerten oder nur dessen Ausgabe empfangen? Was würde es sie kosten, ihre Autorität morgen zu nutzen, und wie könnten diese Kosten nahe Null gebracht werden?

Und die vierte Frage, die zeigt, ob Governance als Treiber funktioniert: Was hat die Autorität dieser Person bereits ermöglicht? Eine schnellere Neukalibrierung, eine breitere Einführung, ein Problem, das erkannt wurde, als es noch klein war?

Wenn Sie die vierte Frage beantworten können, befähigt Ihre Governance Ihre Organisation. Wenn nicht, haben Sie den Ausgangspunkt gefunden.

Führungskräfte gestalten die Bedingungen der Ausführung. Menschliche Governance ist, wie sie im Gegenzug gut gestaltete Bedingungen erhalten, damit Menschen mit Zuversicht führen, mit Sicherheit sprechen und Strategie in der Geschwindigkeit umsetzen können, die das Zeitalter der KI verlangt.

Hinweis

Dieser Artikel ist Teil einer Serie, die das CCC-Framework (Klarheit, Fähigkeit, Klima) erweitert, das in The Core Conditions for Organisations in the AI Era eingeführt wurde, und folgt auf Why Strategy Will Remain Human. Er lässt eine Frage für den nächsten Teil offen: Wenn Reibung nicht mehr über den Zustand unserer Bedingungen berichtet, wie können Organisationen diese kontinuierlich erfassen und diese Erfassung nutzen, um schneller voranzukommen? Von dort führt die Serie zu AUREA™ – dem Strategischen KI-Betriebsplan und später zu dem, was ich derzeit Die Gesunde Organisation und Die Kontinuum Organisation nenne.

Ausgewählte Referenzen

Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2).

Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, 5, 40–60.

Europäische Union (2024). Verordnung (EU) 2024/1689 (Gesetz über künstliche Intelligenz), Artikel 14 (Menschliche Aufsicht) und Artikel 26 (Pflichten der Betreiber).

Galbraith, J. (1977). Organization Design.

Helmreich, R. L., Merritt, A. C., & Wilhelm, J. A. (1999). The evolution of Crew Resource Management training in commercial aviation. International Journal of Aviation Psychology, 9(1).

ISO/IEC 42001:2023. Künstliche Intelligenz — Managementsystem.

Liker, J. K. (2004). The Toyota Way.

Meadows, D. (2008). Thinking in Systems.

NIST (2023). AI Risk Management Framework 1.0.

Parasuraman, R., & Manzey, D. (2010). Complacency and bias in human use of automation. Human Factors, 52(3).

Salas, E., Sims, D., & Burke, C. S. (2005). Is there a "Big Five" in teamwork? Small Group Research, 36(5).

Schneider, B., Ehrhart, M., & Macey, W. (2013). Organizational climate and culture. Annual Review of Psychology, 64.

Snowden, D., & Boone, M. (2007). A leader's framework for decision making. Harvard Business Review.

Schweizerisches Obligationenrecht, Art. 716a (Unübertragbare und unentziehbare Aufgaben des Verwaltungsrates).

U.S. House Committee on Transportation and Infrastructure (2020). Final Committee Report: The Design, Development & Certification of the Boeing 737 MAX.

Zusätzliche Datenquellen

The Conference Board (2026). Governing AI: Board oversight and disclosure in the S&P 500.

Deloitte Global (2025). Governance of AI: A critical imperative for today's boards.