Künstliche Intelligenz ist in den Unternehmen angekommen. Noch nicht überall strategisch, noch nicht überall produktiv – aber längst sichtbar.
In Fachbereichen entstehen Copilots und interne Assistenten, im Kundenservice werden Chatbots getestet, Entwickler arbeiten mit Coding-Assistenten und in HR, Finance oder Marketing werden erste Prozesse mit generativer KI unterstützt. Kaum ein größeres Unternehmen beschäftigt sich heute nicht mit der Frage, wo KI sinnvoll eingesetzt werden kann.
Die Zahl der Anwendungen wächst schnell. Was vielerorts nicht im gleichen Tempo wächst, ist die Organisation dahinter. Genau darin liegt eine der wichtigsten Managementaufgaben der nächsten Jahre.
Denn solange KI vor allem aus einzelnen Experimenten besteht, lässt sich vieles pragmatisch lösen. Ein Team testet ein neues Werkzeug. Ein Fachbereich startet einen Piloten. Die IT unterstützt. Datenschutz oder Informationssicherheit werden bei Bedarf hinzugezogen.
Doch irgendwann wird aus Experimentieren Betrieb. Und dann reicht die Frage „Welche KI-Use-Cases haben wir?“ nicht mehr aus.
Unternehmen müssen beantworten können, wer über den Einsatz von KI entscheidet, wer Verantwortung für eine Anwendung trägt, wie Risiken bewertet werden, welche Plattformen zugelassen sind, welche Daten genutzt werden dürfen und woran erkennbar ist, ob eine Anwendung überhaupt einen wirtschaftlichen Nutzen erzeugt.
An diesem Punkt wird KI von einem Technologieprojekt zu einer Organisationsfrage.
KI braucht ein Operating Model – nicht nur Use Cases.
Die Experimentierphase geht in die nächste Runde
Der Einsatz künstlicher Intelligenz nimmt in europäischen Unternehmen deutlich zu. Nach Eurostat nutzten 2025 rund 20 Prozent der Unternehmen in der Europäischen Union mit mindestens zehn Beschäftigten zumindest eine KI-Technologie. Bei großen Unternehmen lag der Anteil bereits bei rund 55 Prozent.
KI wandert damit zunehmend aus Innovationslaboren und Pilotprojekten in den normalen Unternehmensbetrieb. Damit verändert sich auch die Diskussion. Vor einigen Jahren lautete die zentrale Frage vieler Unternehmen noch: Was kann generative KI eigentlich? Danach kam die Phase: Welche Use Cases könnten für uns interessant sein?
Jetzt beginnt eine dritte Phase. Ihre zentrale Frage lautet:
Wie organisieren wir KI, wenn aus einzelnen Versuchen ein dauerhafter Bestandteil unseres Unternehmens wird?
Das ist keine semantische Feinheit. Es ist ein fundamentaler Unterschied. Ein Pilot braucht eine gute Idee, etwas Budget und engagierte Menschen. Ein dauerhafter Unternehmensbetrieb braucht Verantwortung, Governance, Prozesse, Technologie, Kompetenzen und Steuerung.
Zwölf Use Cases sind noch keine KI-Strategie
Stellen wir uns ein Unternehmen vor, das innerhalb eines Jahres zwölf KI-Initiativen startet: HR testet einen Assistenten für Stellenausschreibungen. Finance experimentiert mit automatisierter Dokumentenanalyse. Marketing verwendet generative KI für erste Textentwürfe. Die IT setzt Coding-Assistenten ein. Im Kundenservice entsteht ein Chatbot. Projektteams lassen Besprechungen automatisch zusammenfassen.
Jede dieser Anwendungen kann sinnvoll sein. Das Problem beginnt eine Ebene darüber. Plötzlich nutzen mehrere Bereiche unterschiedliche Plattformen für ähnliche Aufgaben. Zwei Teams entwickeln unabhängig voneinander vergleichbare Lösungen. Datenschutz und Informationssicherheit beurteilen bei jedem Projekt ähnliche Fragen erneut. Verträge entstehen an unterschiedlichen Stellen und niemand hat einen vollständigen Überblick über Kosten, Datenflüsse und technische Abhängigkeiten.
Spätestens wenn der erste Pilot erfolgreich ist, taucht eine erstaunlich einfache Frage auf:
Wer übernimmt ihn jetzt eigentlich?
Das ist oft der Moment, in dem sichtbar wird, ob ein Unternehmen lediglich KI ausprobiert oder beginnt, eine echte organisatorische Fähigkeit aufzubauen. Viele Organisationen haben inzwischen keinen Mangel an KI-Ideen.
Sie haben einen Mangel an Struktur.
Ein Operating Model beantwortet eine andere Frage
Ein Operating Model beschreibt im Kern, wie eine Organisation funktionieren muss, damit aus strategischen Zielen verlässlich Leistung entsteht. Bei KI geht es deshalb nicht nur darum, welche Modelle, Plattformen oder Tools eingesetzt werden.
Ein AI Operating Model beantwortet eine grundlegendere Frage:
Wie organisiert ein Unternehmen die Auswahl, Entwicklung, Entscheidung, Nutzung und Steuerung von KI?
Das beginnt bei der Strategie. Ein Unternehmen muss entscheiden, welche Rolle KI für das eigene Geschäftsmodell, für Produktivität und Qualität spielen soll. Daraus muss ein Portfolio entstehen, das nicht einfach möglichst viele Ideen sammelt, sondern bewusst priorisiert.
Danach geht es um Verantwortung. Wer besitzt einen Use Case fachlich? Welche Rolle spielen IT, Informationssicherheit, Datenschutz, Legal oder Risikomanagement? Wer entscheidet, ob eine Anwendung in den produktiven Betrieb geht?
Hinzu kommen Technologie und Daten. Nicht jedes Team sollte unabhängig entscheiden müssen, welches Sprachmodell, welche Plattform und welche Infrastruktur eingesetzt wird. Gleichzeitig darf eine zentrale Architekturentscheidung Innovation nicht vollständig blockieren.
Und schließlich braucht es einen Lifecycle. Eine Idee muss einen klaren Weg von der ersten Bewertung über Pilotierung und Freigabe bis zum Betrieb haben. Ebenso wichtig ist die umgekehrte Richtung: Eine Anwendung muss auch beendet werden können, wenn Aufwand, Risiko und Nutzen nicht zusammenpassen.
Ein AI Operating Model verbindet damit sechs zentrale Elemente:
- Strategie und Portfolio
- Governance und Entscheidungen
- Technologie und Daten
- Use-Case-Lifecycle und Betrieb
- Kompetenzen und Veränderung
- Nutzen und Steuerung
Im Zentrum steht dabei immer die gleiche Frage:
Wer trägt die Verantwortung für den Geschäftsnutzen?
Ein AI Operating Model verbindet Strategie, Governance, Technologie und Umsetzung. Entscheidend ist, dass für jeden produktiven Use Case eine klare fachliche Verantwortung besteht.
Zentral oder dezentral? Die Frage greift zu kurz
Wenn Unternehmen beginnen, ihre KI-Aktivitäten zu strukturieren, taucht häufig sehr schnell eine Organisationsfrage auf: Soll KI zentral oder dezentral gesteuert werden?
Beide Antworten sind für sich genommen unbefriedigend.
- Ein stark zentrales Modell hat offensichtliche Vorteile. Kompetenzen können gebündelt, Plattformen standardisiert und Governance-Anforderungen konsistent umgesetzt werden. Ein zentrales AI Team kann zudem verhindern, dass jeder Fachbereich dieselben technologischen Fragen erneut löst. Die Schwäche ist ebenso offensichtlich. Ein solches Team kann schnell zum Flaschenhals werden. Es kennt nicht jeden Geschäftsprozess und kann weder alle Ideen bewerten noch alle Anwendungen entwickeln oder langfristig verantworten.
- Das andere Extrem ist vollständige Dezentralisierung. Fachbereiche experimentieren selbst, wählen Tools aus und treiben ihre Use Cases eigenständig voran. Das erhöht zunächst die Geschwindigkeit. Der Preis dafür kann allerdings hoch sein: Doppelentwicklungen, eine fragmentierte Technologielandschaft, unklare Verträge, Sicherheitsrisiken und steigende Kosten.
Für viele größere Organisationen ist deshalb ein föderiertes Modell die sinnvollere Antwort.
Technologische Plattformen, Sicherheitsanforderungen, grundlegende Governance, Methoden und Architekturentscheidungen können zentral organisiert werden. Die Verantwortung für konkrete Geschäftsprobleme, Prozesse und den wirtschaftlichen Nutzen bleibt dagegen dort, wo sie hingehört: in den Fachbereichen.
Standards dort zentralisieren, wo Einheitlichkeit notwendig ist. Verantwortung dort belassen, wo Wert entsteht.
Der wichtigste AI Owner sitzt oft nicht in der IT
Gerade bei neuen Technologien wiederholt sich ein bekanntes Muster. Ein Fachbereich bringt eine Idee ein. Die IT oder ein Innovationsteam baut eine Lösung. Nach einigen Monaten funktioniert der Pilot. Und dann beginnt die schwierigste Diskussion: Wer ist jetzt eigentlich verantwortlich? Ein produktiver KI-Use-Case braucht deshalb von Anfang an einen Business Owner.
Diese Person muss nicht verstehen, wie ein Large Language Model technisch aufgebaut ist. Sie muss aber sehr genau wissen, welches Problem gelöst werden soll, welchen Nutzen eine Anwendung bringen soll und wie sich dadurch der zugrunde liegende Geschäftsprozess verändert.
Technische Teams können Plattform und Betrieb verantworten. Informationssicherheit und Datenschutz bewerten Risiken. Ein AI Office kann Standards entwickeln und das Portfolio koordinieren.
Aber jemand muss dafür einstehen, dass die Anwendung aus Unternehmenssicht sinnvoll ist.
KI ohne Business Ownership produziert schnell interessante Technologie – aber noch keinen Unternehmenswert.
Governance darf nicht zum KI-TÜV werden
Mit zunehmender Nutzung wächst verständlicherweise auch der Wunsch nach Kontrolle. Und genau hier droht die nächste Fehlentwicklung. Viele Unternehmen reagieren auf Unsicherheit mit zusätzlichen Freigaben, Gremien und Prüfschritten. Im schlechtesten Fall entsteht ein zentrales AI Board, bei dem nahezu jeder neue Use Case zur Genehmigung landet. Das schafft zwar formale Kontrolle, aber nicht zwangsläufig gute Governance.
Eine Organisation, in der ein einfacher interner Assistent denselben Entscheidungsprozess durchlaufen muss wie eine KI-Anwendung mit sensiblen personenbezogenen Daten oder erheblichen Auswirkungen auf Menschen, hat ihr Governance-Modell nicht ausreichend differenziert. Sinnvoller ist eine risikobasierte Steuerung.
Anwendungen mit geringem Risiko können innerhalb klarer Leitplanken vergleichsweise autonom umgesetzt werden. Bei mittlerem Risiko werden definierte Fachstellen eingebunden. Anwendungen mit hohem Risiko benötigen dagegen einen formalen Prüf- und Entscheidungsprozess. Damit verändert sich das Verständnis von Governance.
Gute Governance bedeutet nicht, möglichst viele Entscheidungen nach oben zu ziehen.
Sie bedeutet, vorab klarzustellen, wer unter welchen Bedingungen selbst entscheiden darf.
Gerade dadurch kann Governance Geschwindigkeit schaffen.
Der AI Act macht die Organisationsfrage noch sichtbarer
Der europäische AI Act verstärkt diese Entwicklung. Sein risikobasierter Ansatz führt dazu, dass Unternehmen genauer verstehen müssen, welche KI-Systeme sie einsetzen, welche Rolle sie dabei einnehmen und welche Anforderungen mit dem konkreten Einsatz verbunden sind. Schon die scheinbar einfache Frage „Welche KI nutzen wir eigentlich?“ kann dabei anspruchsvoller sein, als sie klingt.
KI entsteht heute nicht nur in großen zentralen Projekten. Fachbereiche abonnieren Anwendungen, Mitarbeitende verwenden frei verfügbare Werkzeuge und bestehende Softwareprodukte erhalten neue KI-Funktionen über Updates. Damit kann KI schneller in eine Organisation einziehen, als ihre Governance-Strukturen folgen können.
Auch die Anforderungen an KI-Kompetenz zeigen, dass Regulierung und Organisation nicht voneinander getrennt werden können. Artikel 4 des AI Act adressiert Maßnahmen zur Entwicklung eines angemessenen Maßes an KI-Kompetenz bei Personen, die mit KI-Systemen arbeiten.
Das ist mehr als ein Schulungsthema. Eine Geschäftsführung benötigt ein anderes Verständnis von KI als ein Softwareentwickler. Führungskräfte müssen Auswirkungen auf Prozesse und Arbeit beurteilen können. Fachbereiche müssen Ergebnisse kritisch hinterfragen können. Governance-Funktionen benötigen wiederum Kenntnisse über regulatorische, technische und organisatorische Risiken.
AI Literacy ist deshalb keine einzelne Trainingsmaßnahme. Sie ist Teil des Betriebsmodells.
Nicht jeder gute Use Case ist ein guter Unternehmens-Use-Case
Mit zunehmender Verbreitung von KI entsteht noch ein weiteres Problem: Ideen werden nicht knapper. Sie werden zahlreicher. Damit verändert sich die Aufgabe des Managements. Die entscheidende Frage lautet nicht länger: Was könnten wir noch mit KI machen?
Sie lautet:
Was davon sollten wir tatsächlich tun?
Ein guter Use Case muss mehr leisten als technische Begeisterung auszulösen. Er sollte strategisch relevant sein, einen nachvollziehbaren Nutzen versprechen, technisch umsetzbar sein und mit einem vertretbaren Risiko betrieben werden können. Hinzu kommt eine Dimension, die häufig unterschätzt wird: der organisatorische Veränderungsaufwand.
Eine Anwendung kann technisch relativ einfach sein und trotzdem erhebliche Veränderungen verursachen. Vielleicht verändern sich Rollen. Vielleicht müssen Freigaben neu gestaltet werden. Vielleicht entfällt ein Arbeitsschritt, während an anderer Stelle neue Qualitätskontrollen notwendig werden. Je stärker KI in Kernprozesse eingreift, desto weniger ist ihre Einführung ein klassisches IT-Projekt.
Dann wird sie Organisationsentwicklung. Ein gutes AI-Portfolio bewertet daher nicht nur Technologie und potenziellen Nutzen. Es betrachtet auch Daten, Risiken, Prozessveränderungen und Umsetzungsfähigkeit.
Und es kennt eine Option, die in Innovationsprogrammen gerne vergessen wird:
Stoppen.
Ein Pilot ist nicht erfolgreich, weil die Technologie funktioniert.
Er ist erfolgreich, wenn er genügend Erkenntnisse liefert, um eine fundierte Entscheidung zu treffen: skalieren, verändern oder beenden.
Der interne Wissensassistent zeigt das Problem besonders gut
Kaum ein Beispiel verdeutlicht die Notwendigkeit eines Operating Models besser als ein interner KI-Assistent. Die Idee ist attraktiv: Mitarbeitende stellen Fragen zu Richtlinien, Prozessen oder Unternehmenswissen und erhalten in wenigen Sekunden eine verständliche Antwort.
Technisch lässt sich ein erster Prototyp inzwischen vergleichsweise schnell erstellen. Doch danach beginnen die interessanteren Fragen.
Welche Dokumente sind verbindlich? Wer garantiert ihre Aktualität? Welche Informationen darf ein Mitarbeiter aufgrund seiner Rolle überhaupt sehen? Wie werden bestehende Berechtigungen berücksichtigt? Was passiert, wenn die KI eine falsche Antwort liefert? Und wer ist zuständig, wenn eine Richtlinie geändert wird, aber der Assistent weiterhin auf eine alte Version zugreift?
Auch die Nutzenfrage muss beantwortet werden. Finden Mitarbeitende Informationen tatsächlich schneller? Gehen Rückfragen an zentrale Funktionen zurück? Verbessert sich die Qualität der Antworten? Oder entsteht lediglich ein zusätzliches System, das gepflegt und finanziert werden muss?
Der technische Prototyp beantwortet keine dieser Fragen. Er beweist lediglich, dass die Technologie etwas kann. Das Operating Model beantwortet die wichtigere Frage:
Wie kann die Organisation zuverlässig damit arbeiten?
KI darf keine Parallelorganisation werden
Eine weitere Gefahr liegt im Erfolg der ersten Initiativen. Neue Technologien erzeugen neue Strukturen. Ein AI Board entsteht, ein AI Office wird gegründet, eigene Budgets werden geschaffen, neue Reportingformate eingeführt und zusätzliche Prozesse definiert. In einer frühen Aufbauphase kann das richtig sein.
Langfristig darf daraus jedoch keine Parallelorganisation entstehen. KI ist kein separates Unternehmen im Unternehmen. Investitionsentscheidungen zu KI sollten in bestehende Strategie- und Portfolioprozesse integriert werden. Technologieentscheidungen gehören in die Architektur- und IT-Governance. Risiken müssen Teil der bestehenden Risk-, Compliance- und Informationssicherheitsstrukturen werden.
Und wenn KI einen Geschäftsprozess verändert, muss die Verantwortung langfristig beim Eigentümer dieses Prozesses liegen – nicht bei einem AI Team. Ein reifes AI Operating Model zeichnet sich deshalb paradoxerweise nicht dadurch aus, dass besonders viele neue KI-Strukturen geschaffen werden. Es zeichnet sich dadurch aus, dass KI schrittweise in die bestehenden Steuerungsstrukturen integriert wird.
Fünf Fragen für die Geschäftsführung
Ob eine Organisation bereits über ein belastbares AI Operating Model verfügt, lässt sich relativ schnell testen.
Eine Geschäftsführung sollte heute fünf Fragen beantworten können:
- Wer verantwortet das unternehmensweite AI-Portfolio?
- Wer trägt für jeden produktiven KI-Use-Case die fachliche und wirtschaftliche Verantwortung?
- Welche Entscheidungen werden zentral getroffen und welche bewusst dezentral?
- Nach welchen Kriterien werden Anwendungen gestartet, skaliert oder beendet?
- Können wir transparent darstellen, welche KI-Systeme wir einsetzen, welchen Nutzen sie liefern und welche wesentlichen Risiken damit verbunden sind?
Wenn diese Fragen nur schwer beantwortet werden können, fehlt der Organisation wahrscheinlich nicht die nächste KI-Idee.
Es fehlt ein Betriebsmodell.
Die nächste Phase von KI ist vor allem organisatorisch
Die technologische Entwicklung wird weitergehen. Modelle werden leistungsfähiger. Anwendungen werden einfacher. KI wird immer stärker Bestandteil von Standardsoftware. Viele Funktionen, die Unternehmen heute noch bewusst als „KI-Projekte“ einführen, werden in einigen Jahren so selbstverständlich sein wie Cloud-Dienste oder Videokonferenzen. Technologie wird deshalb nicht unwichtig. Aber sie wird immer weniger der einzige Engpass sein.
Auch Untersuchungen der OECD zur Einführung von KI in Unternehmen zeigen, dass das Produktivitätspotenzial künstlicher Intelligenz erheblich ist, eine erfolgreiche Nutzung aber von weiteren Voraussetzungen abhängt. Dazu zählen unter anderem Kompetenzen und organisatorische Fähigkeiten.
Das ist letztlich die entscheidende Managementperspektive. Der Wettbewerb wird sich nicht daran entscheiden, welches Unternehmen die meisten KI-Use-Cases auf einer PowerPoint-Folie vorweisen kann. Entscheidend wird sein, welche Organisation aus einzelnen Anwendungen eine dauerhaft funktionierende Fähigkeit entwickeln kann.
Dafür müssen Strategie, Verantwortung, Governance, Prozesse, Technologie, Kompetenzen und Steuerung zusammenspielen.
KI braucht deshalb mehr als gute Ideen. KI braucht Organisation.
Und genau dort beginnt der Unterschied zwischen einem Unternehmen, das KI ausprobiert – und einem Unternehmen, das mit KI tatsächlich arbeitet.
Quellen und weiterführende Literatur
Eurostat: Use of artificial intelligence in enterprises. Daten zur Nutzung künstlicher Intelligenz in Unternehmen der Europäischen Union.
Eurostat: Digitalisation in Europe – 2026 edition. Überblick zur Digitalisierung europäischer Unternehmen und zur Verbreitung von KI-Technologien.
Europäische Union: Verordnung (EU) 2024/1689 über künstliche Intelligenz – Artificial Intelligence Act. Insbesondere der risikobasierte Ansatz und Artikel 4 zur KI-Kompetenz.
OECD / BCG / INSEAD (2025): The Adoption of Artificial Intelligence in Firms: New Evidence for Policymaking. OECD Publishing, Paris.
