KI-Hub aufbauen: Warum KI-Projekte scheitern – und wie du es verhinderst

Von Victor 18. Mai 2026

Der Unterschied zwischen Unternehmen, die in sechs Monaten über 300.000 € zusätzlichen Umsatz freischalten, und solchen, die Monat für Monat Budget verbrennen, ist nicht, was sie vorhaben – sondern wie sie vorgehen. Victor hat mit seinem Team in den letzten zwei Jahren über 20 Unternehmen durch die KI-Transformation begleitet, vom Zwei-Personen-Startup bis zum Konzern mit über 3.400 Mitarbeitenden. Das Vorgehen, das sich dabei immer wieder bewährt: KI fest in der Organisation verankern – über ein sogenanntes KI-Hub. In diesem Beitrag erfährst du, warum ein KI-Hub das Scheitern von Projekten verhindert, wie du es aufbaust und wie du damit Entscheidungen, Use Cases und Organisationsentwicklung umsetzt.

Das Wichtigste in Kürze

• Rund 70 % der KI-Projekte scheitern am Menschen und an fehlenden Prozessen – nur 10 % an Technologie und 20 % an Daten.
• Ein KI-Hub bündelt vier Kompetenzen: Entscheidung, Technologie, Umsetzung und Schulung – und ist direkt unter der Geschäftsführung verankert.
• Es bleibt schlank (maximal vier bis fünf Personen) und arbeitet mit 15–20 KI-Champions aus den Fachbereichen zusammen.
• Das Hub hat drei Verantwortungen: Use-Case-Umsetzung, Enablement und Strategie – und soll KI-Entscheidungen von Monaten auf Tage verkürzen.

Warum KI-Projekte scheitern – und es selten an der Technik liegt

Die typische Ausgangslage: Als Geschäftsführer entscheidest du, dass dein Unternehmen sich KI genauer anschauen soll. Die Ziele ähneln sich in den meisten KMU – Personalkosten runter, Umsätze hoch, Margen und Wettbewerbsfähigkeit verbessern, schneller und digitaler arbeiten. Man setzt sich mit der Führungsebene zusammen und sammelt Use Cases. Spätestens bei der ersten Umsetzung tauchen die Fragezeichen auf: Welche Tools nutzen wir – Copilot, Gemini oder Claude? Was ist mit Compliance, Datenschutzbeauftragtem, EU AI Act, KI-Richtlinie? Sind unsere Daten überhaupt nutzbar? Rechnet sich der Use Case? Machen wir das intern oder extern – und wer ist verantwortlich, wenn etwas schiefgeht?

Jedes dieser Fragezeichen ist mit Kosten und dem Risiko einer Fehlinvestition verbunden, also werden Entscheidungen aufgeschoben. Die wöchentlichen Sitzungen laufen weiter, aber kaum eine Frage wird beantwortet – die Runde wird zum Kummerkasten, in dem IT, Personalabteilung und Geschäftsführung ihre Unsicherheiten einbringen. Irgendwann sagt der Geschäftsführer: „Schluss, lassen wir das.” Und KI gilt als gescheitert – obwohl das Problem gar kein Technologiethema war, sondern eine Mischung aus Unsicherheit, fehlender Klarheit über Verantwortlichkeiten und falschen Erwartungen.

Die 70/20/10-Regel

Dieses Muster lässt sich in einer Daumenregel zusammenfassen, die auf den Stanford-Professor Andrew Ng zurückgeht und von den Daten weitgehend gestützt wird: Etwa 10 % der KI-Projekte scheitern an Technologie und Algorithmen, 20 % an mangelnden Daten oder schlechten Integrationen – und ganze 70 % am Menschen und an fehlenden bzw. nicht unterstützenden Prozessen.

Ein einfacher Selbstcheck: Wie lange braucht in deinem Unternehmen eine Entscheidung, die sich auf KI bezieht? In vielen Unternehmen sind es Monate – Sitzung um Sitzung ohne signifikante Beschlüsse. Bei manchen sind es Wochen. Das Ziel eines KI-Hubs ist es, in den Bereich Tage zu kommen: Unsicherheiten in wenigen Tagen ausräumen, einen Fahrplan haben und bei Änderungen schnell neu entscheiden.

Was ein KI-Hub ist und welche Kompetenzen es bündelt

Ein KI-Hub ist im Kern eine Gruppe von Menschen im Unternehmen, die sich regelmäßig austauscht und vier Kompetenzen bündelt:

• Entscheidungskompetenz: Hier wird entschieden, welche Tools und Technologien genutzt werden.
• Technologiekompetenz: Es sitzen Personen drin, die sich mit KI auskennen oder gerne Zeit investieren, sich damit auseinanderzusetzen – klassisch etwa ein Werkstudent mit Zeit für neue Technologien.
• Umsetzungskompetenz: Im besten Fall jemand, der schon ein Software- oder IT-Projekt geleitet hat und die Hürden der Umsetzung kennt.
• Schulungskompetenz: Oft vernachlässigt – es geht darum, Formate zu entwickeln (z. B. interne Copilot-Schulungen per Videoaufnahme), um die Belegschaft mitzunehmen.

Das Hub ist direkt unter der Geschäftsführung verankert, und meist sitzt eine Person aus der Geschäftsführung mit drin, um Entscheidungen zu treffen – sei es der CEO, ein CTO, der CIO oder sogar der CFO. Wichtig ist, dass jemand sagen kann: „Passt, die 10.000 € Budget habe ich abgesegnet” – und dass die gesammelten Erkenntnisse an die Geschäftsführung zurückgespiegelt werden.

Wer im Hub sitzt – und die Rolle der KI-Champions

Das Hub sollte schlank bleiben: maximal vier bis fünf Personen, sonst häufen sich Terminverschiebungen und Entscheidungen verlangsamen sich. Typische Besetzung:

• Hub-Sponsor aus der Geschäftsführung, der Mandate und Budgets sichert.
• IT-Vertreter, sinnvoll vor allem bei Lizenzen – etwa um Copilot Studio direkt im Meeting freizugeben.
• KI-Enabler, oft aus einem Fachbereich, der die Technologie liebt und sie in Schulungsformate oder kleine Workshops übersetzt.
• KI-Techie, jemand, der schon Automatisierungen gebaut hat – häufig ein talentierter Werkstudent mit einem Zeitbudget für Technologie und Kompetenzaufbau.

Daneben stehen die KI-Champions: in einem 300-Personen-Unternehmen etwa 15 bis 20, verteilt über die Fachbereiche. Sie treten als Multiplikatoren auf und bringen die Fachkompetenz mit, um zu beurteilen, ob ein Use Case gut umgesetzt wurde. Champions können projektbasiert ins Hub geholt werden – baut man z. B. einen Chatbot für die Personalabteilung, sollte ein Champion aus genau dieser Abteilung dabei sein, denn nur er kann bewerten, ob das Ergebnis sinnvoll ist.

Die drei Verantwortungen des Hubs

Damit das Hub kein „Jugend-forscht-Kreis” ohne Ergebnisse wird, braucht es klare Verantwortungen und eine entsprechende Erwartungshaltung:

• Use-Case-Umsetzung: Eine Use-Case-Pipeline pflegen, daraus Proof-of-Concept-Lösungen bauen und ausgewählte in den produktiven Betrieb heben.
• Enablement / Kompetenzaufbau: Maßnahmen wie ein interner KI-Newsletter, kleine Videokurse („Wie nutze ich Copilot im Alltag?”) oder ein Hackathon – ein Tagesformat, bei dem ein Technologieexperte und eine Fachperson bis abends eine nutzbare Demo abliefern, die ein Unternehmensziel verfolgt; die beste Lösung wird prämiert.
• Strategie: Das Hub ist die Brücke zwischen Geschäftsführung, KI und Fachbereichen. Erkenntnisse zur Datenstrategie, Reifegradbewertungen, Investitionslogik und Fortschrittstracking werden hier gesammelt und an die Führungsebene zurückgespiegelt.

Wichtig: Den Hub-Mitgliedern müssen feste Zeitkontingente zugestanden werden – etwa 10 bis 20 % der Arbeitszeit –, sonst kommt der IT-Vertreter neben 1.000 anderen Aufgaben nie dazu, Use Cases oder Lizenzen freizugeben.

Die sieben Dimensionen der KI-Reife

Die gängige Literatur zur KI-Adoption im Mittelstand spannt sieben Dimensionen auf, deren Reifegrad das Hub erhöhen soll: Strategie & Führung, Kompetenzen/Rollen/Kultur, Technologie & Infrastruktur, Compliance & Ethik (gerade mit Blick auf den EU AI Act), Datenreife, Use Cases & Prozesse sowie Erfolgs- und Fortschrittsmessung.

Ein häufiges Missverständnis betrifft die Datenreife: Viele Geschäftsführer schieben mangelnde Datenqualität als Grund vor, gar nicht erst anzufangen. In der Praxis ist die Datenreife aber selten ein echtes Hindernis. Hat man erst einen Use Case, wird sichtbar, wo Daten fehlen – meist fehlen sie nicht, sondern liegen nur in schlechter Qualität vor. Genau das ist dann selbst ein Use Case: KI nutzen, um die Daten aufzubereiten. Entscheidend ist, das realisierbare Potenzial (was die Technologie könnte) und das realisierte Potenzial (was das Unternehmen heute umsetzen kann) zusammenzubringen, indem man den Reifegrad gezielt erhöht.

Was selbst machen, was externalisieren?

Die Frage „selbst oder extern?” ist besonders relevant für Unternehmensgruppen mit mehreren Gesellschaften. Victors Empfehlung: Das KI-Hub unabhängig von den einzelnen Geschäftsstellen aufstellen – idealerweise mit Personen aus verschiedenen Standorten – und mit den Champions vor Ort an der Umsetzung arbeiten. Extern vergeben sollte man vor allem das, wofür intern die Kompetenz fehlt: tiefere Use Cases oder regulatorische Themen wie einen AI-Audit, nachdem einige Systeme stehen.

Ganz wichtig dabei: Die Learnings aus dem Outsourcing müssen im Hub bleiben. Deshalb braucht es eine enge Zusammenarbeit zwischen externer Umsetzung und KI-Hub, damit die Erfahrungen auch dann im Unternehmen verankert werden, wenn nicht intern umgesetzt wird.

Fazit: Erst die Organisation, dann die Technologie

KI-Projekte scheitern selten an der Technologie – sie scheitern an Unklarheit über Verantwortung, an langsamen Entscheidungen und an fehlenden Prozessen. Ein gut besetztes, schlankes KI-Hub direkt unter der Geschäftsführung räumt genau diese Hürden aus dem Weg, bündelt die nötigen Kompetenzen und verkürzt KI-Entscheidungen von Monaten auf Tage.

Welche Werkzeuge das Hub den Mitarbeitenden an die Hand gibt, beschreibt der Beitrag zum KI-Betriebssystem.

Schau dir das vollständige Video oben an, um die einzelnen Bausteine im Detail zu sehen. In der Videobeschreibung findet sich zudem der kostenfreie Leitfaden – ausgearbeitet für ein 10-, 100- und 1.000-Personen-Unternehmen – der ganz ohne Angabe einer E-Mail-Adresse heruntergeladen werden kann.

Häufig gestellte Fragen

Was ist ein KI-Hub und wozu dient es?

Ein KI-Hub (auch KI-Taskforce oder KI-Kompetenzcluster) ist eine schlanke Gruppe von vier bis fünf Personen im Unternehmen, die KI-Kompetenzen bündelt – Entscheidung, Technologie, Umsetzung und Schulung – und direkt unter der Geschäftsführung verankert ist. Es pflegt die Use-Case-Pipeline, treibt den Kompetenzaufbau und dient als strategische Brücke zwischen Geschäftsführung und Fachbereichen, um KI-Entscheidungen von Monaten auf Tage zu verkürzen.

Warum scheitern die meisten KI-Projekte?

Nach der 70/20/10-Regel, die auf den Stanford-Professor Andrew Ng zurückgeht, scheitern nur rund 10 % der KI-Projekte an Technologie und 20 % an Daten oder Integrationen – aber etwa 70 % am Menschen und an fehlenden bzw. nicht unterstützenden Prozessen. Hauptursachen sind Unsicherheit, unklare Verantwortlichkeiten und falsche Erwartungen, die dazu führen, dass Entscheidungen über Monate aufgeschoben werden.

Wer sollte im KI-Hub sitzen?

Typischerweise ein Hub-Sponsor aus der Geschäftsführung (sichert Mandate und Budgets), ein IT-Vertreter (z. B. für Lizenzen), ein KI-Enabler, der die Technologie in Schulungen übersetzt, und ein KI-Techie, der Automatisierungen baut – oft ein talentierter Werkstudent. Ergänzt wird das Hub durch 15–20 KI-Champions aus den Fachbereichen, die als Multiplikatoren wirken und Use Cases fachlich bewerten.