Das KI-Department: Rollen im Organigramm mit KI besetzen

Die meisten Unternehmen führen KI als Werkzeug ein: hier ein Chat-Zugang, dort ein Copilot, irgendwo ein Pilotprojekt. Das Ergebnis ist ein Flickenteppich, bei dem niemand genau sagen kann, was die KI eigentlich tut, wer dafür verantwortlich ist und was es bringt. Das KI-Department setzt an einer anderen Stelle an: nicht beim Tool, sondern beim Organigramm. Dieser Leitfaden erklärt, wie das Betriebsmodell funktioniert, wie es gesteuert wird und wie Sie es einführen.

Kurz gesagt: Ein KI-Department besetzt einzelne Rollen im Organigramm ganz oder teilweise mit KI-Spezialisten, die nach echten Berufsbildern arbeiten, vom Lohnbuchhalter bis zum Disponenten. Ihr Team steuert sie in einem Cockpit, legt pro Aufgabe die Autonomiestufe fest und gibt jede kritische Entscheidung frei. Die Einführung beginnt mit einer Organigramm-Analyse, die nach zwei Wochen vorliegt, die ersten Agenten arbeiten typischerweise nach rund sechs Wochen.

Warum „KI als Tool“ in vielen Unternehmen stecken bleibt

Laut Statistischem Bundesamt setzten 2025 26 Prozent der Unternehmen mit mindestens zehn Beschäftigten in Deutschland KI ein, bei Unternehmen mit mehr als 250 Beschäftigten bereits 57 Prozent. Wer den Einsatz erwogen, aber nicht umgesetzt hat, nennt laut der Destatis-Tabelle zu den Gründen vor allem fehlendes Wissen (72 Prozent), gefolgt von Unklarheit über die rechtlichen Folgen (62 Prozent) und Bedenken zu Datenschutz und Privatsphäre (60 Prozent).

Diese drei Hürden lassen sich nicht mit einem weiteren Tool lösen. Sie verlangen Klarheit über drei Fragen:

1. Was genau soll die KI tun? Nicht „irgendwas mit KI“, sondern eine definierte Rolle mit Aufgaben, Eingaben und Ergebnissen.
2. Wer ist verantwortlich? Jede KI-Tätigkeit braucht einen Menschen, der sie fachlich verantwortet.
3. Wie wird kontrolliert? Wer gibt was frei, wie wird protokolliert, wie hält man die KI an?

Das KI-Department beantwortet diese Fragen über die Struktur, die jedes Unternehmen ohnehin hat: das Organigramm.

Was ein KI-Department ist und was nicht

Ein KI-Department ist eine Organisationseinheit, in der KI-Spezialisten bestimmte Rollen oder Teilaufgaben von Rollen übernehmen. Jeder Spezialist entspricht einem Berufsbild, also etwa Buchhaltung, Disposition, Kundenservice oder Marketing, und hat klar beschriebene Aufgaben, Werkzeuge und Grenzen.

Es ist ausdrücklich kein Plan, Menschen durch Maschinen zu ersetzen. In der Praxis übernimmt der KI-Spezialist meist die repetitiven Teile einer Rolle, während der Mensch steuert, prüft, Ausnahmen bearbeitet und die Verantwortung trägt. Viele Rollen werden dadurch nicht kleiner, sondern anspruchsvoller.

Ansatz	Ausgangspunkt	Verantwortung	Steuerung	Typisches Ergebnis
KI als Tool	einzelne Software-Lizenzen	beim einzelnen Nutzer	kaum, individuell	verstreute Effekte, schwer messbar
KI-Projekt	ein Use Case mit Budget	Projektleitung bis zum Go-live	im Projekt, danach unklar	Pilot, der oft nicht skaliert
Center of Excellence	zentrales Expertenteam	beim CoE	Standards und Beratung	Know-how, aber Abstand zum Tagesgeschäft
KI-Department	Rollen im Organigramm	bei der Fachabteilung	Cockpit, Autonomiestufen, Freigaben	messbare Entlastung pro Rolle

Ein Center of Excellence und ein KI-Department schließen sich nicht aus. Das CoE kann Standards setzen, während das KI-Department die operative Arbeit leistet. Mehr dazu im Artikel Center of Excellence für KI und zur Einordnung in die Gesamtorganisation unter KI-Organisationsstruktur.

Die Bausteine des Betriebsmodells

Spezialisten nach Berufsbildern

Statt einem Allzweck-Assistenten arbeitet das KI-Department mit spezialisierten Agenten. Was solche Agenten technisch von einem Chatbot unterscheidet und wie sie Werkzeuge nutzen, behandelt der Leitfaden KI-Agenten im Unternehmen ausführlich. Jeder kennt seine Aufgaben, seine Werkzeuge und seine Grenzen, so wie eine Stellenbeschreibung. Das macht Ergebnisse prüfbar und Fehler zuordenbar.

Ein Cockpit für die Steuerung

Alle Spezialisten werden an einer Stelle gesteuert: Aufgaben zuweisen, Ergebnisse prüfen, Freigaben erteilen, Kennzahlen sehen. Ohne zentrales Cockpit entsteht wieder der Flickenteppich, den man vermeiden wollte.

Vier Autonomiestufen

Wie viel ein Spezialist selbst entscheiden darf, wird pro Aufgabe festgelegt, nicht pauschal. Die Stufen reichen vom reinen Vorschlag über die vorbereitete Aktion mit Freigabe und das Ausführen mit Stichprobe bis zum überwachten autonomen Betrieb. Neue Aufgaben starten unten und steigen erst auf, wenn die Qualität über einen längeren Zeitraum stimmt. Die Stufen im Detail erklärt der Artikel KI-Agenten im Unternehmen.

Freigabe-Tore

An bestimmten Punkten hält der Ablauf an, und ein Mensch entscheidet: vor Kundenkommunikation, vor Zahlungen, vor Vertragszusagen, vor Änderungen an Produktivsystemen. Der Grundsatz lautet: Ein Freigabe-Tor hält immer ein Mensch. Das OWASP-Projekt nennt die menschliche Freigabe folgenreicher Aktionen ausdrücklich als Schutz gegen das Risiko Excessive Agency, also gegen zu viel Funktionalität, Berechtigung und Autonomie.

Not-Aus

Jeder Spezialist und das gesamte Department müssen sich sofort anhalten lassen. Das ist nicht nur gesunder Menschenverstand: Der EU AI Act verlangt für Hochrisiko-Systeme in Artikel 14, dass Menschen das System über einen „Stopp“-Knopf oder ein ähnliches Verfahren sicher anhalten können.

AI-Act-Protokoll

Jede Aktion, jede Freigabe und jede Ablehnung wird protokolliert. Das Protokoll beantwortet im Zweifel die Fragen von Kunden, Prüfern, Datenschutz und Betriebsrat: Wer hat was wann entschieden, und auf welcher Grundlage?

Portale auf einer Datenbasis

Ein KI-Department arbeitet nicht im luftleeren Raum. Mitarbeitende, Kunden und Dienstleister brauchen Zugänge, etwa über ein Team-, Kunden-, Dienstleister- und Onboarding-Portal. Wichtig ist, dass alle Portale auf derselben Datenbasis arbeiten, damit die KI-Spezialisten nicht mit widersprüchlichen Ständen hantieren. Wo Spezialisten auf Handbücher, Verträge oder Richtlinien zugreifen, sollten ihre Antworten mit Quellenbeleg aus geprüften Dokumenten kommen; wie das datenschutzkonform gelingt, erklärt der Leitfaden Wissens-KI mit RAG im Unternehmen.

Welche Rollen sich zuerst eignen

Nicht jede Rolle ist ein guter Startpunkt. Bewährt haben sich vier Kriterien:

• Volumen: Die Rolle erledigt viele gleichartige Vorgänge.
• Regelklarheit: Es gibt nachvollziehbare Kriterien für ein gutes Ergebnis.
• Datenzugang: Die nötigen Informationen liegen digital vor.
• Begrenzter Schaden: Ein Fehler lässt sich erkennen und korrigieren, bevor er teuer wird.

Gute Kandidaten finden sich oft in Buchhaltung, Disposition, Kundenservice, Vertriebsinnendienst und Marketing. Schlechte Startpunkte sind Rollen mit seltenen, hochindividuellen Entscheidungen oder mit großer Tragweite für einzelne Personen, etwa Personalauswahl. Wie Sie Kandidaten systematisch bewerten, beschreibt der Artikel KI-Readiness und Potenzialanalyse.

Die Einführung: von der Analyse zum ersten Agenten

Woche 1 bis 2: Organigramm-Analyse

Wir gehen Ihr Organigramm Rolle für Rolle durch: Welche Aufgaben fallen an, wie oft, mit welchem Aufwand, auf welcher Datenbasis? Daraus entsteht eine priorisierte Liste der Rollen mit dem größten Hebel, ergänzt um Quick Wins und eine Roadmap für die nächsten sechs Monate. Die Analyse liegt nach zwei Wochen vor.

Ab Woche 3: Spezialisten konfigurieren und anbinden

Für die priorisierten Rollen werden die KI-Spezialisten eingerichtet: Aufgaben, Werkzeuge, Rechte, Autonomiestufen und Freigabe-Tore. Parallel werden die nötigen Systeme angebunden, etwa ERP, CRM, Postfach oder Dokumentenablage.

Ab etwa Woche 6: erste Agenten im Betrieb

Die ersten Spezialisten arbeiten im Cockpit, Ihr Team prüft und gibt frei. In dieser Phase zählt vor allem das Messen: Durchlaufzeit, Fehlerquote, Anteil der Freigaben ohne Korrektur. Diese Werte entscheiden, ob eine Aufgabe höher gestuft wird.

Danach: ausbauen und hochstufen

Erst wenn die ersten Rollen stabil laufen, kommen weitere dazu. Bewährte Aufgaben steigen in der Autonomie, neue starten wieder unten. Wie Sie das in eine längerfristige Planung übersetzen, zeigt der Artikel KI-Roadmap erstellen.

Menschen, Betriebsrat und Kompetenz

Ein KI-Department verändert Arbeit, und das spüren die Betroffenen zuerst. Drei Punkte sind deshalb Pflicht:

Früh einbinden. Die Mitarbeitenden in den betroffenen Rollen wissen am besten, wo die Routine steckt und wo die Ausnahmen lauern. Sie gehören in die Analyse, nicht nur in die Schulung danach. Hinweise dazu im Artikel KI-Change-Management.

Betriebsrat beteiligen. Sobald KI-Systeme Leistung oder Verhalten von Beschäftigten auswerten können, sind Mitbestimmungsrechte berührt. Das Protokoll und die klaren Freigaberegeln eines KI-Departments erleichtern diese Gespräche erheblich. Mehr dazu unter KI und Betriebsrat.

Kompetenz aufbauen. Nach Artikel 4 des EU AI Act müssen Betreiber von KI-Systemen Maßnahmen zur Unterstützung der KI-Kompetenz ihres Personals ergreifen, abgestimmt auf Vorwissen und Einsatzkontext; ein bestimmtes Kompetenzniveau müssen sie nach der Digital-Omnibus-Verordnung (EU) 2026/1744 nicht garantieren. Wer KI-Spezialisten steuert und freigibt, muss verstehen, wo deren Grenzen liegen.

Typische Fehler beim Aufbau

Zu viele Rollen auf einmal. Wer gleich ein Dutzend Rollen besetzen will, verliert den Überblick über Qualität und Verantwortung. Besser sind zwei oder drei Rollen, die nach wenigen Wochen messbar entlasten und intern als Beleg dienen.

Freigaben als Formalität. Wenn Freigaben nur noch durchgeklickt werden, sind sie wertlos. Planen Sie realistische Prüfzeit ein und messen Sie, wie oft Freigaben zu Korrekturen führen. Sinkt dieser Wert dauerhaft, ist das ein Signal für eine höhere Autonomiestufe, nicht für unaufmerksames Abnicken. Welche Kennzahlen beides unterscheiden und wie Sie Automation Bias vorbeugen, zeigt der Artikel zu Freigabe-Toren und Human in the Loop.

Fehlende fachliche Verantwortung. Ein KI-Spezialist ohne zuständigen Menschen in der Fachabteilung wird zur Blackbox. Die IT betreibt die Technik, aber die Fachabteilung verantwortet die Ergebnisse.

Keine Ausgangsmessung. Ohne Werte vor dem Start lässt sich später nicht zeigen, was das KI-Department gebracht hat. Durchlaufzeiten und Fehlerquoten sollten deshalb Teil der Organigramm-Analyse sein. Ein methodischer Rahmen für das Risikomanagement ist das freiwillige AI Risk Management Framework des NIST.

Aus meinen Produkten

Ich habe das KI-Department zuerst für mein eigenes Unternehmen gebaut: seit 2021 KI-first aufgebaut, heute zu rund 80 % mit KI-Agenten betrieben. Daraus ist das Unternehmens-Cockpit entstanden: 51 KI-Spezialisten nach Berufsbildern in 11 Kategorien, vier Autonomiestufen, ein Not-Aus und ein AI-Act-Protokoll für jede Aktion. Team-, Kunden-, Dienstleister- und Onboarding-Portal laufen auf einer gemeinsamen Datenbasis. Die wichtigste Regel habe ich früh festgelegt und nie geändert: Ein Freigabe-Tor hält immer ein Mensch. Weil ein Betriebsmodell nur so gut ist wie seine Zuverlässigkeit, läuft der komplette Demo-Pfad als automatisierter Playwright-E2E-Test. Bei einem Logistik-Mittelständler brachte ein KI-System für Routenoptimierung und Lagerlogistik 40 Prozent Effizienzgewinn. Solche Effekte entstehen nicht durch das Modell allein, sondern durch klare Rollen und saubere Freigaben.

Wenn Sie prüfen wollen, welche Rollen in Ihrem Organigramm sich zuerst eignen, finden Sie unter KI-Department den Ablauf der Organigramm-Analyse.

Häufig gestellte Fragen

Was ist ein KI-Department?

Ein KI-Department ist ein Betriebsmodell, bei dem einzelne Rollen im Organigramm ganz oder teilweise mit KI-Spezialisten besetzt werden. Die Spezialisten arbeiten nach echten Berufsbildern und werden von Ihrem Team in einem Cockpit gesteuert. Kritische Entscheidungen gibt immer ein Mensch frei.

Ersetzt ein KI-Department Mitarbeitende?

Das ist nicht das Ziel. In der Praxis übernehmen KI-Spezialisten vor allem die repetitiven Anteile einer Rolle, während Menschen steuern, prüfen, Ausnahmen klären und Verantwortung tragen. Welche Folgen das für Stellen und Aufgaben hat, sollte früh und offen mit Mitarbeitenden und Betriebsrat besprochen werden.

Wie lange dauert die Einführung?

Die Organigramm-Analyse mit priorisierten Rollen, Quick Wins und Roadmap liegt nach zwei Wochen vor. Die ersten KI-Spezialisten arbeiten typischerweise nach rund sechs Wochen im Cockpit. Danach wird das Department schrittweise erweitert.

Wie wird verhindert, dass die KI falsche Entscheidungen trifft?

Durch drei Mechanismen: Autonomiestufen, die pro Aufgabe festlegen, wie viel die KI selbst entscheiden darf, Freigabe-Tore vor jeder schwer umkehrbaren Aktion und einen Not-Aus, der jeden Spezialisten sofort anhält. Jede Aktion wird zudem protokolliert, sodass Fehler nachvollziehbar sind.

Ist ein KI-Department mit dem EU AI Act vereinbar?

Ja, das Modell ist darauf ausgelegt. Menschliche Freigaben, ein Not-Aus und ein lückenloses Protokoll entsprechen den Grundgedanken des EU AI Act zu menschlicher Aufsicht und Nachvollziehbarkeit. Welche konkreten Pflichten gelten, hängt vom Einsatzbereich ab, besonders wenn Rollen in Hochrisiko-Bereiche wie Personal fallen.