# KI-Agenten im Unternehmen: Was sie können und wie Sie sicher starten URL: https://andreasindorf.com/ki-agenten-unternehmen/ Autor: Andreas Indorf · Veröffentlicht: 2026-11-07 · Aktualisiert: 2026-11-07 · Thema: KI-Agenten & Automatisierung > Was KI-Agenten von Chatbots und RPA unterscheidet, wo sie sich lohnen, welche Risiken bestehen und wie Sie mit Freigabe-Toren sicher starten. KI-Agenten sind das nächste große Thema nach dem Chatbot: Statt nur Fragen zu beantworten, arbeiten sie Aufgaben ab. Sie lesen eine E-Mail, prüfen den Kunden im CRM, schreiben ein Angebot und legen es zur Freigabe vor. Dieser Leitfaden erklärt, was ein KI-Agent technisch ist, wo er sich lohnt, wie viel Autonomie Sie ihm geben sollten und wie Sie ohne böse Überraschungen starten. **Kurz gesagt:** Ein KI-Agent ist ein Sprachmodell, das ein Ziel erhält und selbst entscheidet, welche Schritte und Werkzeuge es dafür nutzt. Er lohnt sich bei wiederkehrenden, mehrstufigen Wissensarbeiten mit klaren Qualitätskriterien. Sicher wird der Einsatz durch eng begrenzte Rechte, abgestufte Autonomie und Freigabe-Tore, an denen ein Mensch entscheidet, bevor etwas nach außen geht oder Geld bewegt. ## Was ist ein KI-Agent? Ein KI-Agent kombiniert drei Bausteine: ein Sprachmodell als „Denkapparat“, Werkzeuge wie Datenbankabfragen, E-Mail-Versand oder API-Aufrufe und eine Steuerschleife, die so lange plant, handelt und prüft, bis das Ziel erreicht ist oder eine Abbruchbedingung greift. Anthropic unterscheidet in seinem Leitfaden [Building effective agents](https://www.anthropic.com/engineering/building-effective-agents) zwei Bauformen: **Workflows**, bei denen Sprachmodelle und Werkzeuge entlang fest programmierter Pfade arbeiten, und **Agenten**, bei denen das Modell den Lösungsweg und die Werkzeugnutzung selbst steuert. Für die Praxis ist diese Unterscheidung wichtig. Viele Aufgaben, die als „Agent“ verkauft werden, sind eigentlich Workflows, und das ist oft gut so: Sie sind berechenbarer, billiger und leichter zu prüfen. Derselbe Leitfaden empfiehlt ausdrücklich, mit der einfachsten Lösung zu beginnen und Komplexität nur dann hinzuzufügen, wenn sie messbar etwas bringt. Einen Überblick über verwandte Begriffe wie Sprachmodell, Prompt oder RAG finden Sie im [Glossar](https://andreasindorf.com/glossar/). ## Agent, Chatbot oder RPA: der Unterschied Die drei Ansätze werden häufig verwechselt. Die folgende Tabelle zeigt die wesentlichen Unterschiede: | Merkmal | Chatbot | RPA-Bot | KI-Agent | |---|---|---|---| | Grundprinzip | beantwortet Fragen im Dialog | wiederholt fest programmierte Klickfolgen | verfolgt ein Ziel und plant die Schritte selbst | | Umgang mit Varianten | gut bei Sprache, keine Aktionen | bricht bei unerwarteten Masken ab | passt sich an unstrukturierte Eingaben an | | Werkzeuge | meist keine oder nur Wissensabfrage | Benutzeroberflächen, Makros | APIs, Datenbanken, E-Mail, Dateien | | Typische Aufgabe | FAQ, Erstauskunft | Datenübertrag zwischen Altsystemen | Anfrage prüfen, Angebot entwerfen, Vorgang anlegen | | Hauptrisiko | falsche Auskunft | stille Fehler bei Layoutänderungen | falsche Aktion mit echter Wirkung | | Steuerung | Antwortregeln | Skripte | Rechte, Autonomiestufen, Freigaben | Der entscheidende Punkt steht in der vorletzten Zeile: Ein Chatbot kann sich irren, ein Agent kann sich irren **und handeln**. Deshalb braucht er eine andere Form der Kontrolle. ## Wo KI-Agenten sich heute lohnen Gute Kandidaten erkennen Sie an drei Merkmalen: Die Aufgabe kommt häufig vor, sie besteht aus mehreren Schritten über verschiedene Systeme hinweg, und es gibt ein klares Kriterium, wann das Ergebnis gut ist. Typische Einsatzfelder: ### Vertrieb und Kundenservice Agenten qualifizieren eingehende Anfragen, recherchieren Firmendaten, priorisieren Leads und bereiten Angebote vor. Am Telefon übernehmen [Voice Agents](https://andreasindorf.com/voice-agents-unternehmen-guide/) die Anrufannahme und Terminvereinbarung. Die Übergabe an Menschen bleibt dabei Teil des Designs, nicht der Notfallplan. ### Backoffice und Finanzen Rechnungseingang, Belegprüfung, Mahnwesen und Stammdatenpflege sind klassische Felder: viele Varianten, klare Regeln, gut messbare Fehlerquoten. Hier ersetzen Agenten oft RPA-Strecken, die bei jeder Formularänderung brechen. ### Marketing und Content Agenten erstellen Entwürfe für Kampagnen, Posts und Anzeigen, testen Varianten und werten Ergebnisse aus. Veröffentlicht wird erst nach einer Freigabe, weil jede Veröffentlichung die Marke betrifft. ### Softwareentwicklung und IT-Betrieb Coding-Agenten setzen klar beschriebene Tickets um, schreiben Tests und dokumentieren Änderungen. Der Mensch bleibt für Review und Merge verantwortlich. ### Wissensarbeit Agenten durchsuchen Verträge, Handbücher und Richtlinien und bereiten Antworten mit Quellenangabe vor. Die Grundlage dafür ist meist eine [Wissens-KI mit RAG](https://andreasindorf.com/wissens-ki-rag-unternehmen/). Wie Sie aus solchen Ideen die richtigen Kandidaten auswählen, beschreibt der Artikel [KI-Use-Cases identifizieren](https://andreasindorf.com/ki-use-cases-identifizieren/). ## Autonomiestufen: Wie viel darf der Agent selbst entscheiden? Autonomie ist kein Schalter, sondern eine Skala. Bewährt hat sich eine Einteilung in vier Stufen, die Sie pro Aufgabe festlegen, nicht pro Agent: | Stufe | Was der Agent tut | Was der Mensch tut | Geeignet für | |---|---|---|---| | 1 – Vorschlagen | erstellt Entwürfe und Analysen | entscheidet und führt aus | neue Aufgaben, sensible Themen | | 2 – Vorbereiten mit Freigabe | bereitet die Aktion vollständig vor | prüft und gibt frei | Angebote, Kundenmails, Buchungen | | 3 – Ausführen mit Stichprobe | handelt selbst innerhalb fester Grenzen | prüft Stichproben und Ausnahmen | interne Routine mit geringem Schaden | | 4 – Autonom mit Überwachung | handelt selbst, meldet Auffälligkeiten | überwacht Kennzahlen, greift bei Alarm ein | gut erprobte, reversible Abläufe | Neue Agenten starten auf Stufe 1 oder 2. Erst wenn die Fehlerquote über einen festgelegten Zeitraum stabil niedrig ist, steigt die Stufe. Umgekehrt muss jede Stufe sofort zurückgestuft werden können. ## Freigabe-Tore und Human-in-the-Loop Ein Freigabe-Tor ist ein fester Punkt im Ablauf, an dem der Agent stoppt und ein Mensch entscheidet. Sinnvolle Tore liegen überall dort, wo eine Aktion schwer umkehrbar ist: - Kommunikation nach außen: E-Mails an Kunden, Veröffentlichungen, Anzeigen - Geldbewegungen: Bestellungen, Zahlungen, Gutschriften - Verträge und Zusagen: Angebote, Preise, Fristen - Personenbezogene Entscheidungen: alles, was Bewerber, Mitarbeitende oder Kunden direkt betrifft - Änderungen an Produktivsystemen: Code-Merges, Konfigurationen, Löschungen Das OWASP-Projekt zur Sicherheit generativer KI beschreibt das Risiko unter dem Namen [Excessive Agency](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/): zu viele Funktionen, zu weitreichende Rechte und zu viel Autonomie. Als Gegenmaßnahmen nennt es unter anderem die menschliche Freigabe für folgenreiche Aktionen, minimale Rechte für jedes Werkzeug und eine Berechtigungsprüfung im Zielsystem statt im Sprachmodell. Diese drei Punkte sind für mich der Kern jeder Agenten-Architektur. Wichtig ist außerdem ein **Not-Aus**: Jeder Agent muss sich sofort anhalten lassen, ohne dass halbfertige Vorgänge im System hängen bleiben. Wie Sie Schwellen, Stichproben und Eskalation im Detail gestalten und verhindern, dass Freigaben zur Routine werden, beschreibt der Artikel [Human in the Loop: Freigabe-Tore für KI-Agenten](https://andreasindorf.com/human-in-the-loop-ki-agenten/). ## Die wichtigsten Risiken **Falsche Aktionen durch Halluzination.** Ein Sprachmodell kann plausible, aber falsche Annahmen treffen. Bei einem Agenten wird daraus eine falsche Buchung oder eine falsche Mail. Gegenmittel: Freigabe-Tore und Quellenbindung. **Prompt Injection.** Ein Agent, der E-Mails oder Webseiten liest, kann versteckte Anweisungen darin für Befehle halten. Gegenmittel: Eingaben als Daten behandeln, Werkzeugrechte minimal halten, kritische Aktionen nie allein auf Basis externer Inhalte ausführen. Mehr dazu im Artikel [Prompt Engineering im Unternehmen](https://andreasindorf.com/prompt-engineering-unternehmen/); wie Sie Abwehr, Monitoring und Notfallpläne zu einem Gesamtkonzept verbinden, beschreibt der Leitfaden zur [KI-Sicherheitsstrategie](https://andreasindorf.com/ki-sicherheitsstrategie/). **Fehlerketten.** Kleine Fehler in frühen Schritten setzen sich fort. Anthropic weist darauf hin, dass autonome Agenten höhere Kosten und sich aufschaukelnde Fehler mit sich bringen können, und empfiehlt umfangreiche Tests in abgeschotteten Umgebungen. **Unklare Verantwortung.** Wenn niemand für den Agenten zuständig ist, fällt ein Fehler erst beim Kunden auf. Jeder Agent braucht einen fachlich verantwortlichen Menschen. Wie Sie diese Zuständigkeiten für viele Agenten sauber organisieren, zeigt der Leitfaden zum [KI-Department mit Rollen und Verantwortlichkeiten](https://andreasindorf.com/ki-department-leitfaden/). **Kostenexplosion.** Agenten rufen Modelle in Schleifen auf. Ohne Budgetgrenzen und Iterationslimits steigen die Kosten unbemerkt. ## Was der EU AI Act für KI-Agenten bedeutet Der [EU AI Act](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) regelt keine „Agenten“ als eigene Kategorie, sondern KI-Systeme nach ihrem Risiko. Für Agenten sind vor allem drei Punkte relevant: - **KI-Kompetenz:** Nach Artikel 4 müssen Anbieter und Betreiber Maßnahmen zur Unterstützung der KI-Kompetenz ihres Personals ergreifen, abgestimmt auf Vorwissen und Einsatzkontext; ein bestimmtes Kompetenzniveau müssen sie nach der Digital-Omnibus-Verordnung (EU) 2026/1744 nicht garantieren. - **Transparenz:** Agenten, die direkt mit Menschen kommunizieren, etwa per Mail, Chat oder Telefon, müssen als KI erkennbar sein, sofern das nicht offensichtlich ist. - **Hochrisiko-Bereiche:** Entscheidet ein Agent etwa über Bewerbungen oder Kredite, gelten die Hochrisiko-Pflichten. Dazu gehört die menschliche Aufsicht nach [Artikel 14](https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14): Menschen müssen die Ausgaben überstimmen und das System über einen „Stopp“-Knopf oder ein ähnliches Verfahren sicher anhalten können. Auch außerhalb des Hochrisiko-Bereichs lohnt es sich, diese Prinzipien zu übernehmen. Ein sauberes Protokoll, wer wann was freigegeben hat, ist zugleich Ihr bester Nachweis gegenüber Kunden, Prüfern und dem Betriebsrat. Den rechtlichen Rahmen im Detail erklärt der Leitfaden [EU AI Act in Deutschland](https://andreasindorf.com/eu-ai-act-deutschland/), die organisatorische Seite der Artikel zur [KI-Governance](https://andreasindorf.com/ki-governance/). ## Der Einstieg in vier Schritten ### Schritt 1: Eine Aufgabe auswählen, nicht eine Abteilung Wählen Sie einen konkreten Ablauf mit hoher Wiederholung und klarer Qualitätsdefinition, etwa „eingehende Anfragen qualifizieren und Antwortentwurf erstellen“. Messen Sie vorher, wie lange der Ablauf heute dauert und wie viele Fehler passieren. ### Schritt 2: Rechte und Tore festlegen Legen Sie fest, welche Systeme der Agent lesen und welche er schreiben darf, und zwar so wenig wie möglich. Definieren Sie die Freigabe-Tore und die Start-Autonomiestufe, in der Regel Stufe 1 oder 2. Benennen Sie den verantwortlichen Menschen. ### Schritt 3: Im Schattenbetrieb testen Lassen Sie den Agenten zwei bis vier Wochen parallel zum bestehenden Prozess laufen, ohne dass seine Ergebnisse nach außen gehen. Vergleichen Sie Qualität, Durchlaufzeit und Kosten mit dem Status quo. Erst dann geht er live. ### Schritt 4: Messen, hochstufen, ausbauen Protokollieren Sie jede Aktion und jede Freigabe. Steigt die Qualität stabil, erhöhen Sie die Autonomiestufe für einzelne Teilaufgaben. Erst wenn der erste Agent im Alltag trägt, kommt der zweite. Wie Sie den Nutzen sauber belegen, zeigt der Artikel [KI-ROI berechnen](https://andreasindorf.com/ki-roi-berechnen/). ## Aus meinen Produkten Mein eigenes Unternehmen habe ich seit 2021 KI-first aufgebaut, heute wird es zu rund 80 % mit KI-Agenten betrieben. Die wichtigste Lehre daraus: Nicht die Intelligenz des Modells entscheidet über den Erfolg, sondern die Steuerung drumherum. Im Unternehmens-Cockpit, das ich dafür gebaut habe, arbeiten 51 KI-Spezialisten nach Berufsbildern. Jede Aufgabe hat eine von vier Autonomiestufen, es gibt einen Not-Aus, und jede Aktion landet in einem AI-Act-Protokoll. Die Regel, die ich nie aufweiche: Ein Freigabe-Tor hält immer ein Mensch. Bei ultimate-marketing.io heißt das konkret, dass keine Anzeige ohne Ampel-Freigabe live geht. Bei anitask setzt ein Agent-Worker Entwicklungs-Tasks selbstständig um, Review und Merge macht aber ein Mensch. Diese Trennung zwischen „Agent arbeitet“ und „Mensch entscheidet“ ist der Grund, warum der Betrieb ruhig läuft. Wenn Sie KI-Agenten in Ihrem Unternehmen einführen wollen, finden Sie unter [KI-Department](https://andreasindorf.com/leistungen/ki-department/) mein Vorgehen. Wie aus einzelnen Agenten ein komplettes Betriebsmodell mit Rollen, Verantwortlichkeiten und Steuerung wird, beschreibt der Leitfaden [Das KI-Department: Organisation für Agenten im Betrieb](https://andreasindorf.com/ki-department-leitfaden/). ## Häufig gestellte Fragen ### Was ist der Unterschied zwischen einem KI-Agenten und einem Chatbot? Ein Chatbot beantwortet Fragen im Dialog. Ein KI-Agent verfolgt ein Ziel, plant die nötigen Schritte selbst und nutzt dafür Werkzeuge wie CRM, E-Mail oder Datenbanken. Dadurch kann er echte Aktionen auslösen und braucht entsprechend strengere Kontrollen. ### Sind KI-Agenten nach dem EU AI Act erlaubt? Ja. Der EU AI Act verbietet nur bestimmte Praktiken und reguliert KI-Systeme nach ihrem Risiko. Für die meisten Agenten im Backoffice, Vertrieb oder Marketing gelten vor allem die Pflicht, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen (Art. 4), und Transparenzpflichten. Entscheidet ein Agent in Hochrisiko-Bereichen wie Personal oder Kreditvergabe, kommen strengere Anforderungen wie menschliche Aufsicht hinzu. ### Welche Aufgaben eignen sich für den ersten KI-Agenten? Am besten eignen sich häufige, mehrstufige Aufgaben mit klarer Qualitätsdefinition und geringem Schaden im Fehlerfall, zum Beispiel die Qualifizierung eingehender Anfragen oder die Vorprüfung von Belegen. Weniger geeignet sind seltene Sonderfälle und Entscheidungen mit großer Tragweite für einzelne Personen. ### Was ist ein Freigabe-Tor? Ein Freigabe-Tor ist ein fester Punkt im Ablauf, an dem der Agent anhält und ein Mensch prüft und entscheidet. Es gehört vor jede schwer umkehrbare Aktion, etwa vor Kundenkommunikation, Zahlungen, Vertragszusagen oder Änderungen an Produktivsystemen. So bleibt die Verantwortung klar beim Menschen. ### Wie lange dauert die Einführung eines KI-Agenten? Für einen klar umrissenen Ablauf sollten Sie mit einigen Wochen rechnen: Auswahl und Messung des Ist-Zustands, Festlegung von Rechten und Freigaben, Schattenbetrieb von zwei bis vier Wochen und anschließend den schrittweisen Livegang. Länger dauert es meist, wenn Daten erst bereinigt oder Schnittstellen gebaut werden müssen.