# EU AI Act in Deutschland: Risikoklassen, Fristen, Pflichten und Aufsicht

URL: https://andreasindorf.com/eu-ai-act-deutschland/
Autor: Andreas Indorf · Veröffentlicht: 2025-11-12 · Aktualisiert: 2026-11-07 · Thema: Recht & Compliance

> Was der EU AI Act in Deutschland verlangt: Risikoklassen, Fristen nach dem Digital Omnibus, Pflichten für Anbieter und Betreiber, Aufsicht und Bußgelder.

Die [EU-KI-Verordnung (Verordnung (EU) 2024/1689)](https://eur-lex.europa.eu/eli/reg/2024/1689/oj), kurz EU AI Act, regelt seit August 2024 schrittweise, wie KI-Systeme entwickelt, in Verkehr gebracht und genutzt werden dürfen. Sie betrifft praktisch jedes Unternehmen, das KI einsetzt – auch dann, wenn die KI nur in gekaufter Standardsoftware steckt. Dieser Leitfaden erklärt das Gesetz selbst: was gilt, ab wann, für wen und wer es in Deutschland überwacht.

**Kurz gesagt:** Der EU AI Act teilt KI-Systeme in vier Risikoklassen ein und verteilt Pflichten nach Rolle – Anbieter tragen die meisten, Betreiber wie nutzende Unternehmen eigene. Verbote und Art. 4 zur KI-Kompetenz gelten seit Februar 2025, Pflichten für General-Purpose-Modelle seit August 2025, Transparenzpflichten seit August 2026. Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat Art. 4 abgeschwächt und die Hochrisiko-Pflichten auf Dezember 2027 bzw. August 2028 verschoben. In Deutschland ist nach dem KI-MIG vor allem die Bundesnetzagentur zuständig.

**Abgrenzung:** Dieser Artikel behandelt das Gesetz. Wie Sie intern Rollen, Gremien und Freigaben aufbauen, um es umzusetzen, beschreibt der Beitrag [KI-Governance und Responsible AI](https://andreasindorf.com/ki-governance/). Was die DSGVO beim KI-Einsatz verlangt – Rechtsgrundlagen, Datenschutz-Folgenabschätzung, Art. 22 –, steht im Artikel [KI-Ethik und Datenschutz](https://andreasindorf.com/ki-ethik-datenschutz/).

## Der risikobasierte Ansatz: vier Risikoklassen

Je größer das Risiko für Gesundheit, Sicherheit und Grundrechte, desto strenger die Pflichten.

| Risikoklasse | Beispiele | Folge |
|---|---|---|
| Unannehmbares Risiko | Social Scoring, manipulative Techniken, Emotionserkennung am Arbeitsplatz | verboten |
| Hohes Risiko | Personalauswahl, Kreditwürdigkeit, Bildung, kritische Infrastruktur | umfassende Pflichten für Anbieter und Betreiber |
| Transparenzrisiko | Chatbots, KI-generierte Inhalte, Deepfakes | Kennzeichnungs- und Informationspflichten |
| Minimales Risiko | Spamfilter, Empfehlungen, einfache Automatisierung | keine spezifischen Pflichten, freiwillige Kodizes |

Unabhängig von der Klasse gilt für alle Anbieter und Betreiber Art. 4 zur KI-Kompetenz.

## Zeitplan: Was gilt wann?

Laut [EU-Kommission](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai) gilt nach den Anpassungen durch die [Digital-Omnibus-Verordnung (EU) 2026/1744](https://eur-lex.europa.eu/eli/reg/2026/1744/oj) (im Amtsblatt veröffentlicht am 24. Juli 2026, in Kraft seit 27. Juli 2026):

| Datum | Was gilt |
|---|---|
| 2. Februar 2025 | verbotene KI-Praktiken; Art. 4 KI-Kompetenz (seit 27. Juli 2026 in der Omnibus-Fassung: Maßnahmen zur Förderung, kein garantiertes Niveau) |
| 2. August 2025 | Governance-Regeln und Pflichten für General-Purpose-AI-Modelle |
| 2. August 2026 | Transparenzpflichten nach Art. 50 (für die Kennzeichnung nach Art. 50 Abs. 2 vier Monate Übergang für Systeme, die vorher auf dem Markt waren) |
| 2. Dezember 2026 | durch den Omnibus neu eingefügte Verbote (Art. 5 Abs. 1a und 1b) |
| 2. Dezember 2027 | Hochrisiko-Regeln für Anwendungsfälle aus Anhang III (z. B. Beschäftigung, Bildung, Biometrie, kritische Infrastruktur) |
| 2. August 2028 | Hochrisiko-Regeln für KI in regulierten Produkten nach Anhang I |

Die Verschiebung ist kein Grund zum Abwarten: Bestandsaufnahme, Dokumentation und Lieferantenklärung brauchen in mittelständischen Unternehmen erfahrungsgemäß viele Monate.

## Pflichten nach Rolle: Anbieter und Betreiber

Entscheidend ist zuerst Ihre Rolle. **Anbieter** entwickeln ein KI-System oder bringen es unter eigenem Namen in Verkehr. **Betreiber** setzen ein KI-System in eigener Verantwortung ein – das ist die Rolle der meisten Unternehmen. Wer ein fremdes Hochrisiko-System wesentlich verändert oder unter eigenem Namen vertreibt, kann selbst zum Anbieter werden.

### Anforderungen an Hochrisiko-Systeme (Anbieter)

- **Risikomanagement** über den gesamten Lebenszyklus
- **Daten-Governance:** Trainings-, Validierungs- und Testdaten müssen relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein; mehr im Beitrag zur [KI-Datenstrategie](https://mysoftwarelab.com/blog/ki-datenstrategie)
- **Technische Dokumentation** zu Funktionsweise, Leistung und Grenzen
- **Protokollierung** und Transparenz gegenüber Betreibern
- **Menschliche Aufsicht:** wirksame Überwachungs- und Eingriffsmöglichkeiten
- **Robustheit und Cybersicherheit** (wie Sie das technisch umsetzen, zeigt der Leitfaden zur [KI-Sicherheitsstrategie](https://andreasindorf.com/ki-sicherheitsstrategie/))
- **Konformitätsbewertung** vor dem Inverkehrbringen

### Pflichten der Betreiber von Hochrisiko-Systemen

Art. 26 der Verordnung verlangt von Betreibern unter anderem:

- das System gemäß der Gebrauchsanweisung zu verwenden
- die menschliche Aufsicht Personen zu übertragen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen
- den Betrieb zu überwachen, bei Risiken den Anbieter und die Marktüberwachungsbehörde zu informieren und die Nutzung auszusetzen
- automatisch erzeugte Protokolle, soweit sie unter ihrer Kontrolle stehen, mindestens sechs Monate aufzubewahren
- als Arbeitgeber die Arbeitnehmervertretung und betroffene Beschäftigte vor dem Einsatz am Arbeitsplatz zu informieren; mehr dazu im Beitrag [KI und Betriebsrat](https://andreasindorf.com/ki-betriebsrat/)

Menschliche Aufsicht lässt sich architektonisch verankern, etwa durch Freigabe-Tore und abgestufte Autonomie. Was das für Systeme bedeutet, die selbstständig handeln, erklären der Leitfaden [KI-Agenten im Unternehmen](https://andreasindorf.com/ki-agenten-unternehmen/) und der Beitrag zu [Human in the Loop bei KI-Agenten](https://andreasindorf.com/human-in-the-loop-ki-agenten/).

## Transparenzpflichten nach Art. 50

- **KI-Interaktion offenlegen:** Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die Betroffenen erfahren, dass sie mit einer KI kommunizieren – es sei denn, das ist offensichtlich. Das betrifft Chatbots ebenso wie Sprach-Assistenten am Telefon; Details zur Telefonie im Beitrag [KI-Telefonie und DSGVO](https://andreasindorf.com/ki-telefonie-dsgvo/).
- **Synthetische Inhalte kennzeichnen:** Anbieter generativer Systeme müssen Ausgaben maschinenlesbar als künstlich erzeugt markieren.
- **Deepfakes offenlegen:** Betreiber müssen offenlegen, dass Bild-, Audio- oder Videoinhalte künstlich erzeugt oder manipuliert sind.

## Wer in Deutschland zuständig ist

Mit dem [KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)](https://www.gesetze-im-internet.de/ki-mig/BJNR0DF0B0026.html) vom 22. Juli 2026 hat Deutschland die Aufsicht geregelt. Zentrale Marktüberwachungsbehörde ist die Bundesnetzagentur, soweit das Gesetz nichts anderes bestimmt; für bestimmte Bereiche, etwa KI im Finanzsektor, sind andere Stellen wie die BaFin zuständig. Auf EU-Ebene beaufsichtigt das KI-Büro der Kommission vor allem General-Purpose-Modelle.

## Bußgelder

Artikel 99 sieht gestaffelte Höchstbeträge vor: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Millionen Euro oder 3 Prozent bei Verstößen gegen andere Pflichten und bis zu 7,5 Millionen Euro oder 1 Prozent bei falschen Angaben gegenüber Behörden. Für KMU und Start-ups gilt jeweils der niedrigere der beiden Werte.

## Fahrplan zur Umsetzung

1. **Inventar und Klassifizierung:** alle KI-Systeme erfassen – eigene Anwendungen ebenso wie KI-Funktionen in Standardsoftware –, jedes einer Risikoklasse zuordnen und die eigene Rolle klären.
2. **Gap-Analyse:** für Hochrisiko-Systeme Ist-Zustand und Anforderungen vergleichen, Lücken in Dokumentation, Prozessen und Technik festhalten.
3. **Zuständigkeiten:** eine verantwortliche Person benennen und einen Prüfprozess für neue KI-Vorhaben festlegen. Wie Gremien, Rollen und Richtlinien dafür aussehen, beschreibt der Beitrag zur [KI-Governance](https://andreasindorf.com/ki-governance/).
4. **Maßnahmen:** Dokumentationsvorlagen, Protokollierung, Lieferantenverträge und Schulungen zur KI-Kompetenz umsetzen und dokumentieren. Vertragliche Fragen vertieft der Artikel [KI-Verträge im Unternehmen](https://andreasindorf.com/ki-vertraege-unternehmen/).
5. **Laufende Überwachung:** Abweichungen erkennen, bei wesentlichen Änderungen an Hochrisiko-Systemen die Konformität neu bewerten.

## Typische Stolpersteine

- **Unklare Rolle:** Wer ein gekauftes System anpasst, prüft, ob er dadurch zum Anbieter wird.
- **Versteckte KI:** KI-Funktionen in Standardsoftware fehlen im Inventar.
- **Lieferanten:** Nicht geregelt, wer welche Dokumentation und Protokolle liefert.
- **Personenbezogene Daten:** Der AI Act ersetzt die DSGVO nicht – beide gelten nebeneinander.

## Aus meinen Produkten

Im Unternehmens-Cockpit habe ich die Anforderungen an menschliche Aufsicht und Protokollierung direkt in die Software gebaut. Jeder KI-Spezialist arbeitet auf einer von vier Autonomiestufen, kritische Schritte laufen über Freigabe-Tore, ein Not-Aus stoppt im Zweifel alle Agenten, und ein Freigabe-Tor hält immer ein Mensch. Ein AI-Act-Protokoll hält fest, welche Aktion wann und mit welcher Freigabe stattfand. Die Lehre: Protokolle und Aufsicht, wie Art. 26 sie von Betreibern verlangt, sind Architekturentscheidungen. Nachträglich angebaut, werden sie teuer und lückenhaft.

## Fazit

Der AI Act wirkt komplex, folgt aber einer klaren Logik: Rolle klären, Risikoklasse bestimmen, Pflichten ableiten. Wer jetzt sein Inventar erstellt, hat bis zu den Hochrisiko-Fristen genug Zeit. Bei Strategie, Governance und Umsetzung unterstützt das [KI-Department](https://andreasindorf.com/leistungen/ki-department/); nachvollziehbare, quellengestützte KI-Lösungen zeigt die Leistung [Wissens-KI und RAG](https://andreasindorf.com/leistungen/wissens-ki-rag/). Fachbegriffe erklärt das [Glossar](https://andreasindorf.com/glossar/).

Dieser Beitrag ersetzt keine Rechtsberatung.

## Häufig gestellte Fragen

### Ab wann gilt der EU AI Act für Unternehmen?

Schrittweise. Verbote und Art. 4 zur KI-Kompetenz gelten seit Februar 2025, die Transparenzpflichten seit August 2026. Hochrisiko-Pflichten greifen nach der Digital-Omnibus-Verordnung ab 2. Dezember 2027 für Anhang-III-Systeme und ab 2. August 2028 für KI in regulierten Produkten.

### Betrifft der AI Act auch Unternehmen, die KI nur nutzen?

Ja, als Betreiber. Sie müssen Maßnahmen zur Förderung der KI-Kompetenz ergreifen, Transparenzpflichten beachten und bei Hochrisiko-Systemen unter anderem menschliche Aufsicht sicherstellen und Protokolle aufbewahren. Der Umfang hängt von der Risikoklasse ab.

### Wer überwacht den AI Act in Deutschland?

Nach dem KI-MIG grundsätzlich die Bundesnetzagentur als zentrale Marktüberwachungsbehörde. Für bestimmte Bereiche, etwa KI im Finanzsektor, sind andere Behörden wie die BaFin zuständig. Auf EU-Ebene beaufsichtigt das KI-Büro vor allem General-Purpose-Modelle.

### Was hat die Digital-Omnibus-Verordnung geändert?

Sie hat Art. 4 abgeschwächt – verlangt werden Maßnahmen zur Förderung der KI-Kompetenz, kein bestimmtes Niveau –, die Hochrisiko-Pflichten auf Dezember 2027 und August 2028 verschoben und neue Verbote eingefügt, die ab Dezember 2026 gelten.

### Ersetzt der AI Act die DSGVO?

Nein. Beide gelten nebeneinander: Der AI Act regelt das KI-System nach seinem Risiko, die DSGVO jede Verarbeitung personenbezogener Daten. Was das konkret bedeutet, erklärt der Beitrag [KI-Ethik und Datenschutz](https://andreasindorf.com/ki-ethik-datenschutz/).
