KI wird Ihr Unternehmen nicht allein führen

9 Min. Lesezeit

Die Fantasie ist billig. Das Aufräumen ist teuer.

Verbreitung ist real. Magische Autonomie nicht.

Beginnen wir mit dem Teil, der stimmt.

KI steckt bereits in vielen realen Unternehmen. Laut dem 2025 AI Index Report von Stanford HAI berichteten 78 % der Organisationen, 2024 KI genutzt zu haben, gegenüber 55 % im Vorjahr. Das ist kein Randphänomen. Die Werkzeuge sind da. Budgets bewegen sich. Mitarbeiter experimentieren, ob die Führung die Mechanik versteht oder nicht.

Gleichzeitig ist derselbe Markt voll von Führungskräften, die reden, als würde KI bald eigenständig Software entwickeln, Support auf Autopilot fahren, interne Entscheidungen verarbeiten und vielleicht den lästigen menschlichen Mittelteil des Unternehmens gleich mit ersetzen.

Genau dort wird das Denken schlampig.

Die 29th Global CEO Survey von PwC ist hier nützlich, weil sie das Konferenzbühnen-Gepose durchschneidet. Sie basiert auf Antworten von 4.454 Vorstandschefs aus 95 Ländern und Territorien. Das ist ein besseres Signal als die nächste US-Tech-Panel-Show. Ja, 30 % der CEOs meldeten in den vorangegangenen zwölf Monaten höhere Umsätze durch KI. Gut. Aber 56 % meldeten weder Umsatzgewinne noch niedrigere Kosten, und nur 12 % meldeten beides. Das ist kein Bild müheloser Transformation. Das ist ein Bild breiter Experimente, ungleichmäßiger Wirkung und vieler Führungskräfte, die Werkzeuge schneller einkaufen, als sie betriebliche Disziplin darum herum aufbauen.

In normalem Deutsch: KI-Verbreitung ist real. KI-Magie nicht.

Warum Führung weiter an das Märchen glaubt

Nichttechnische Führung sieht den schlimmsten Teil des Organisationsalltags oft sehr klar: Verzögerungen, Meetings, Politik, Nacharbeit, verpasste Übergaben und Softwareteams, die schon wieder erklären müssen, warum ein Merkmal, das einfach aussah, eben nicht einfach war. Dieses Muster ist nicht speziell amerikanisch. Sie finden es im deutschen Mittelstand, in einer Bank in Panama, bei einem Händler in Kolumbien, in einer Behörde in Spanien oder in einem schnell wachsenden Unternehmen in Singapur. Die Substantive wechseln. Die Dysfunktion nicht.

Dann kommt KI mit glänzenden Demos.

Einen Prompt eingeben. Einen Ablauf bekommen.

Einen Prompt eingeben. Code bekommen.

Einen Prompt eingeben. Einen Bericht bekommen.

Nach zehn Minuten davon ist die Versuchung groß zu glauben, die teuren, sturen, meinungsstarken Menschen seien die ganze Zeit das Nadelöhr gewesen.

Waren sie nicht.

Das Nadelöhr war unbeherrschte Komplexität. Menschen waren nur die Einzigen, die sie getragen haben.

Softwareentwicklung ist nicht Tippen. Büroarbeit ist nicht Dokumentenerzeugung. Lieferung ist kein Stapel Aufgaben, der nur auf gehorsame Ausführung wartet. Der schwierige Teil besteht darin zu entscheiden, was zählt, Widersprüche zu erkennen, Mehrdeutigkeit aufzulösen, Ausnahmen zu behandeln, Verantwortung zuzuweisen und Realität zu absorbieren, wenn sie nicht zum Plan passt.

Das sind Urteilsprobleme.

KI kann Urteilskraft unterstützen. Sie besitzt sie nicht.

Warum autonome KI beim Kontakt mit realer Arbeit zerbricht

Es gibt einen Grund, warum die derzeit stärksten Geschichten über KI-Agenten meist aus engen, gut instrumentierten Umgebungen kommen.

Anthropic macht den Punkt in Building effective agents ungewöhnlich ehrlich: Beginnen Sie mit der einfachsten möglichen Lösung und prüfen Sie ernsthaft, ob Sie überhaupt Agenten bauen sollten. Das Argument ist nicht gegen Agenten gerichtet. Es ist gegen Fantasie gerichtet. Workflows sind für klar definierte Aufgaben berechenbarer. Agenten ergeben Sinn, wenn Sie wirklich flexible, modellgetriebene Entscheidungen brauchen und höhere Kosten sowie das Risiko kumulierender Fehler tolerieren können.

Dieser letzte Ausdruck ist entscheidend: kumulierende Fehler.

Genau das unterschätzen Führungskräfte.

Wenn ein Junior-Mitarbeiter in einem Meeting eine falsche Annahme trifft, merkt es meist jemand anders. Wenn ein KI-Agent am Anfang einer langen autonomen Kette eine falsche Annahme trifft, kann er die nächsten zwanzig Schritte damit verbringen, mit perfektem Selbstvertrauen wunderschön formulierten Unsinn aufzubauen.

OpenAI sagt den unbequemen Teil in Why language models hallucinate klar: Halluzinationen bleiben eine grundlegende Herausforderung großer Sprachmodelle. Neuere Modelle reduzieren sie. Sie beseitigen sie nicht. Das Problem ist nicht nur ein gelegentlicher Faktenfehler. Das Problem ist, dass das Modell plausible Falschheiten exakt in dem Ton erzeugen kann, dem überlastete Führungskräfte besonders gern vertrauen: klar, strukturiert und ruhig.

Packen Sie dieses Verhalten nun in Softwareentwicklung, Finanzoperationen, Einkauf, Rechtsprüfung, Personalwesen, mehrsprachigen Kundensupport oder Vorstandsberichte über mehrere Rechtsräume hinweg.

Das unmittelbare Problem ist nicht, dass die KI dumm wäre. Das unmittelbare Problem ist, dass sie flüssig klingt.

Flüssigkeit erzeugt falsches Vertrauen.

Softwareentwicklung ist der falsche Ort für magisches Denken

Genau hier entgleist viel KI-Strategie in der Führung.

Führungskräfte sehen zu, wie ein Agent einen Bildschirm, einen API-Endpunkt, eine Migration oder ein Bündel Tests produziert. Sie sehen sichtbaren Output und unterstellen, die unsichtbare Arbeit sei jetzt optional.

Ist sie nicht.

Jemand muss immer noch entscheiden:

• was das System tatsächlich tun soll
• wie Fehler erkannt und behoben werden
• was bei Nebenläufigkeit und Teilausfall passiert
• wie Sicherheitsgrenzen durchgesetzt werden
• was protokolliert, gemessen und alarmiert wird
• wie künftige Änderungen vorgenommen werden, ohne das Ganze zu zerreißen

Vibe Coding ist keine Software-Entwicklung ist deshalb nicht bloß eine Beschwerde über schlechte Praxis. Es ist eine Warnung vor einem Kategorienfehler. Menschen verwechseln Code-Erzeugung mit Produktentwicklung. Das ist nicht dasselbe.

Dasselbe gilt für agentische Entwicklung. Ein Agent kann in einer Codebasis extrem nützlich sein, wenn die Arbeit begrenzt ist und die Feedbackschleife hart bleibt. Wenn Tests scheitern, ist der Code falsch. Wenn Deployment-Prüfungen scheitern, ist die Änderung nicht bereit. Wenn die Beobachtbarkeit Regressionen zeigt, stoppen Sie.

Deshalb ist Tests schlagen Anweisungen für KI-Agenten wichtig. Prüfbare Umgebungen machen KI viel nützlicher, weil die Realität das System korrigiert statt Optimismus.

Führungskräfte, die hoffen, KI werde „einfach die Software bauen“, überspringen meist genau diese Disziplin-Ebene. Und wundern sich dann, wenn ein schneller Generator schnelle Schulden produziert.

Büros laufen auch nicht auf Textgenerierung

Die Bürofantasie ist genauso fehlerhaft.

Ja, KI kann Memos entwerfen, Meetings zusammenfassen, Tickets klassifizieren, erste Analysen vorbereiten, Routineanfragen weiterleiten und Standardfragen schneller beantworten als viele Menschen. Gut. Nutzen Sie das.

Aber ein Büro zu führen ist nicht dasselbe wie büroförmigen Text zu erzeugen.

Ein Büro lebt von Dingen, die KI immer noch nicht gut besitzt:

• Prioritäten, die miteinander kollidieren
• Ausnahmen, die die Prozesskarte sprengen
• Reputationsrisiko
• rechtliche und vertragliche Risiken
• politischen Kontext im Unternehmen
• stilles Wissen, das nie dokumentiert wurde
• Verantwortung, wenn etwas schiefgeht

Die hässliche Wahrheit ist: Viele Führungskräfte wollen gar keine Autonomie. Sie wollen Abstreitbarkeit bei geringerer Lohnsumme.

Das ist ein miserables Betriebsmodell.

Wenn ein KI-System den falschen Kandidaten ablehnt, die falsche Zahlung freigibt, die falsche Kundenbeschwerde klassifiziert, einen Risikobericht falsch zusammenfasst oder die Führung in die falsche Richtung schickt, kann die Organisation nicht achselzuckend der Maschine die Schuld geben. Die Verantwortung springt sofort zu den Menschen zurück, die ohne Kontrolle delegiert haben. Das bleibt wahr, egal ob auf der Tür CEO, Geschäftsführer, Managing Director, Founder oder Country Head steht.

Wo KI ihr Geld tatsächlich verdient

Gut eingesetzt ist KI bereits wertvoll.

Sie beschleunigt erste Entwürfe. Sie hilft beim Vergleich von Optionen. Sie reduziert mühsame Nachschlagearbeit. Sie erkennt Muster in großen Textmengen. Sie unterstützt explorative Codeänderungen. Sie verkürzt den Weg von der Frage zur brauchbaren Antwort. In der Softwareentwicklung kann sie bei Boilerplate, Refactorings, Testgenerierung, Repository-Erkundung und Erklärung von Altsystemen hervorragend sein. In der Büroarbeit kann sie bei Triage, Zusammenfassungen, Vorlagen, Wissensabruf und repetitiver Koordination helfen.

Das ist keine Kleinigkeit. Das ist echter Hebel.

Aber Hebel ist keine Selbstverwaltung.

Die stärksten Umsetzungen teilen ein paar langweilige Merkmale:

• die Aufgabe ist eng genug, um Erfolg klar zu definieren
• ein menschlicher Verantwortlicher bleibt für das Ergebnis zuständig
• das System hat Prüfpunkte, Protokolle und Rückrollpfade
• Fehler sind erkennbar, bevor sie sich ausbreiten
• Fachleute bleiben nah an der Schleife

Langweilig ist gut. Langweilig skaliert. Langweilig überlebt den Kontakt mit Prüfern, Kunden, Produktionsstörungen, Monatsabschluss und Quartalsdruck.

Magie nicht.

Was Führung stattdessen tun sollte

Wenn Sie ein Unternehmen führen, lautet der praktische Schritt nicht, zu fragen, ob KI alleine laufen kann. Der praktische Schritt ist zu entscheiden, wo Autonomie billig ist, wo sie gefährlich ist und wo sie dumm ist.

Und ja, das gilt, egal ob Sie einen börsennotierten Konzern, einen familiengeführten Hersteller, eine Regionalbank, eine öffentliche Institution oder ein Softwareunternehmen über mehrere Länder hinweg führen. Die Details der Führung unterscheiden sich. Der Bedarf an Urteilskraft nicht.

Beginnen Sie hier:

1. Setzen Sie KI in Workflows mit klarer Prüfung ein.

Wenn das Ergebnis getestet, geprüft, abgeglichen oder gegen einen objektiven Maßstab bewertet werden kann, gut. Das sind starke Kandidaten.

1. Halten Sie menschliche Verantwortliche bei geschäftskritischen Entscheidungen im Spiel.

Wenn die Arbeit Risikoprofil, Kundenvertrauen, Rechtsposition, Zahlungsbewegung, Systemzuverlässigkeit oder organisatorische Richtung verändert, muss ein benannter Mensch die Entscheidung verantworten.

1. Verlangen Sie Evidenz statt Demos.

Fragen Sie, wie Fehler erkannt werden. Fragen Sie, wie Rückrollung funktioniert. Fragen Sie, wer Ausnahmen prüft. Fragen Sie, welche Kennzahlen beweisen, dass der Workflow besser ist und nicht bloß schneller.

1. Streichen Sie die Fachleute nicht zuerst.

Die Menschen, die den Prozess, den Kunden, die Codebasis oder die regulatorischen Grenzfälle verstehen, machen KI sicherer und profitabler. Nehmen Sie sie zu früh heraus, behalten Sie das Werkzeug und löschen das Urteil.

1. Behandeln Sie KI als Veränderung des Betriebsmodells, nicht als Softwarekauf.

Wenn Rollen, Kontrollen, Kennzahlen, Eskalationspfade und Verantwortlichkeiten sich nicht ändern, haben Sie die Organisation nicht transformiert. Sie haben einen schnelleren Weg gekauft, ungeprüften Output zu erzeugen.

Die ernste Frage

Die ernste Frage ist nicht, ob KI autonom handeln kann.

Natürlich kann sie das in begrenzten Kontexten.

Die ernste Frage ist, ob Ihr Unternehmen die Disziplin besitzt zu entscheiden, wo diese Autonomie hingehört.

Das ist Führungsarbeit. Die Maschine erledigt sie nicht für Sie.

Führungskräfte, die erwarten, dass KI die Softwareentwicklung oder das Büro von selbst führt, sind nicht mutig. Sie versuchen, den Teil zu überspringen, in dem Management konkret werden muss.

Die Werkzeuge sind nützlich. Die Abkürzungen sind falsch. Bauen Sie um diese Realität herum, dann wird KI zum Verstärker. Ignorieren Sie sie, dann wird KI zu einer sehr schnellen Methode, Verwirrung zu produzieren.

Quellen

• Stanford HAI, 2025 AI Index Report
• PwC, 29th Global CEO Survey
• Anthropic, Building effective agents
• OpenAI, Why language models hallucinate