
KI-Strategie & Organisation
KI-Anbieter auswählen: Software und Plattformen bewerten, verhandeln, steuern
Software- und Plattformanbieter für KI auswählen, kombinieren und steuern: Kriterien mit Gewichtung, Ablauf vom RFI bis zum Proof of Concept, Vertragsklauseln, Anker-Plattform und Spezialanbieter, Orchestrierung, Scorecards und Exit-Strategie.

Die Wahl der KI-Anbieter ist eine der folgenreichsten Entscheidungen auf dem Weg zur KI-Nutzung. Sie kaufen nicht nur eine Technologie, sondern gehen Beziehungen ein, die über Jahre Kosten, Datenschutz und Wechselfähigkeit bestimmen. Und kein einzelner Anbieter deckt alle Anforderungen ab: Die Frage lautet daher nicht nur, welcher Anbieter der beste ist, sondern welche Kombination von Partnern zu Ihrer Strategie passt und wie diese Systeme zusammenspielen. Dieser Leitfaden führt durch den ganzen Weg: Anforderungen, Auswahl, Vertrag, Anbieter-Architektur und laufende Steuerung.
Zur Abgrenzung: Hier geht es um den Einkauf von KI-Software und -Plattformen – Modell-APIs, Cloud-Plattformen und Fachanwendungen. Einen Marktüberblick über die Werkzeugkategorien gibt KI-Tools für Unternehmen. Wenn Sie stattdessen externe Beratung oder einen Umsetzungsdienstleister suchen, lesen Sie KI-Berater beauftragen.
Kurz gesagt: Wählen Sie Software- und Plattformanbieter für KI anhand gewichteter Kriterien aus – strategische Passung, Technik und Integration, Sicherheit und Datenschutz, Support, Referenzen und Gesamtkosten über drei bis fünf Jahre – und testen Sie die zwei besten Kandidaten in einem bezahlten Proof of Concept mit Ihren Daten. Verträge brauchen KI-spezifische Klauseln zu Modellqualität, Modelländerungen, Datennutzung und Exit. Für das Gesamtbild setzen Sie auf eine Anker-Plattform plus wenige Spezialanbieter, jeweils hinter einer eigenen Schnittstelle. Nach dem Kauf steuern Sie Anbieter über Scorecards und ein Partnerregister.
Was beim Einkauf von KI anders ist
Klassische IT-Beschaffung bewertet Funktionen. Bei KI kommen Faktoren hinzu, die sich in einer Feature-Liste kaum abbilden lassen:
- Datenabhängigkeit: Die Ergebnisqualität hängt wesentlich von Ihren eigenen Daten ab.
- Stille Veränderungen: Anbieter aktualisieren Modelle, und Ergebnisse verschieben sich, obwohl die Schnittstelle gleich bleibt.
- Nachvollziehbarkeit, Fairness und Bias: Sie müssen Ergebnisse erklären können; verzerrte Ergebnisse sind ein rechtliches und ein Reputationsrisiko.
- Intransparente Kosten: Token-, Nutzungs- und Skalierungsgebühren sind schwer vorherzusagen.
- Integration: Der Nutzen entsteht erst, wenn das System sauber in ERP, CRM oder Dokumentenablage eingebunden ist.
Der zweite Punkt ist der wichtigste Unterschied: Ein KI-Dienst kann sich nach Vertragsschluss anders verhalten als im Test. Darauf müssen Auswahl, Vertrag und Steuerung ausgerichtet sein.
Vor der Auswahl: Problem, Anforderungen, Risiko
Beschreiben Sie das Geschäftsproblem, den betroffenen Prozess und den erwarteten Nutzen in messbaren Größen – etwa Bearbeitungszeit oder Fehlerquote. Denken Sie in Fähigkeiten, die Sie mehrfach brauchen, nicht in einzelnen Use Cases. Zu den Anforderungen gehören neben Funktionen auch Datenquellen, Schnittstellen, Antwortzeiten, Skalierbarkeit, Betriebsort der Daten sowie Protokollierung und Nachvollziehbarkeit. Ob Sie überhaupt kaufen sollten, klärt der Beitrag zur Make-or-Buy-Entscheidung.
Prüfen Sie früh, ob der geplante Einsatz unter eine Hochrisiko-Kategorie der KI-Verordnung (EU) 2024/1689 fällt, etwa im Personalbereich, und wer im Projekt Anbieter und wer Betreiber ist. Die Verordnung verteilt Pflichten entlang der Wertschöpfungskette: Nach Artikel 25 kann etwa ein Betreiber selbst zum Anbieter werden, wenn er ein Hochrisiko-System wesentlich verändert oder unter eigenem Namen anbietet, und der Anbieter eines Hochrisiko-Systems muss mit Zulieferern von Modellen, Werkzeugen und Komponenten schriftlich vereinbaren, welche Informationen und Unterstützung er für die Einhaltung braucht. Klären Sie diese Rollen mit jedem Partner.
Auswahlkriterien: ein strukturierter Bewertungsrahmen
Strategische Passung: Passt die Produkt-Roadmap des Anbieters zu Ihren Zielen, Ihrer Branche und Ihrer bestehenden Systemlandschaft?
Technische Reife und Integration: API-Qualität und Dokumentation, offene Standards, Konnektoren zu Ihren Kernsystemen, Betriebsoptionen (Cloud, On-Premises, hybrid), Stabilität der Modelle und Transparenz der Produkt-Roadmap. Verlangen Sie messbare Zusagen zu Antwortzeit, Verfügbarkeit und Qualität – und messen Sie diese im Proof of Concept selbst nach.
Datenschutz, Sicherheit und Transparenz: Auftragsverarbeitungsvertrag, Datenstandort, Unterauftragsverarbeiter, Nachweise wie ISO 27001 oder SOC 2. Für KI-Dienste aus der Cloud bietet der AI Cloud Service Compliance Criteria Catalogue (AIC4) des BSI einen Prüfmaßstab. Er ergänzt den Cloud-Kriterienkatalog C5 um KI-spezifische Kriterien, etwa zu Robustheit, Datenqualität, Erklärbarkeit und Bias. Eine Zertifizierung auf Basis von AIC4 gibt es laut BSI derzeit nicht, wohl aber Prüfberichte – fragen Sie danach. Für die Einbindung externer generativer Modelle in eigene Anwendungen hat das BSI zudem einen eigenen Kriterienkatalog sowie Hinweise zu Angriffen auf Sprachmodelle veröffentlicht. Bei wissensbasierten Systemen heißt Nachvollziehbarkeit konkret: Quellenbeleg für jede Antwort – wie Sie das prüfen, zeigt der Beitrag RAG-Evaluierung.
Support und Befähigung: Bietet der Anbieter Dokumentation, Schulungen und erreichbaren Support, sodass Ihr Team das Produkt selbst betreiben kann, statt dauerhaft von Dienstleistungen abhängig zu sein? Dieser Faktor wird am häufigsten unterschätzt.
Stabilität und Exit-Fähigkeit: finanzielle Lage, Marktposition, Übernahmerisiken, Datenportabilität, Kündigungsfristen, Migrationsunterstützung.
| Kriterium | Beispiel-Gewicht |
|---|---|
| Strategische Passung (Geschäftsziele, Branche) | 25 % |
| Technische Kompetenz und Integration | 20 % |
| Sicherheit, Datenschutz und Compliance | 15 % |
| Support und Befähigung | 15 % |
| Referenzen und Erfolgsnachweise | 10 % |
| Gesamtkosten über drei Jahre | 10 % |
| Stabilität und Exit-Fähigkeit | 5 % |
Passen Sie die Gewichte an, aber legen Sie sie fest, bevor Sie Angebote sehen. Dann bleibt die Entscheidung nachvollziehbar.
Der Auswahlprozess
- Request for Information: Unternehmensstruktur, Team, Technologie-Stack, verwendete Modelle, Datenstandort und Unterauftragsverarbeiter, Sicherheitsnachweise, Referenzen, Preismodelle; bei Hochrisiko-Systemen zusätzlich die Unterlagen nach der KI-Verordnung.
- Angebote bewerten: drei bis fünf qualifizierte Anbieter zum Briefing einladen; die Angebote beschreiben neben der Technik auch Einführungsweg, Zeitplan, Support und Preismodell. Sprechen Sie mit Referenzkunden ähnlicher Größe und Branche.
- Proof of Concept: Für strategische Vorhaben ein bezahlter Proof of Concept mit den zwei besten Kandidaten, mit Ihren echten Daten und einem gemeinsamen Testdatensatz. Lassen Sie sich zeigen, welche Teile austauschbar sind und wie ein Datenexport funktioniert.
Rechnen Sie mit etwa zwölf Wochen: je zwei Wochen für Anforderungen, Marktrecherche und RFI, Shortlist, Präsentationen und Referenzgespräche, Proof of Concept sowie finale Bewertung und Verhandlung.
Verträge KI-gerecht gestalten
Viele Standard-IT-Verträge decken KI-spezifische Risiken nicht ab. Verhandeln Sie, solange Sie noch nicht abhängig sind:
- Qualitätskennzahlen statt reiner Verfügbarkeit: Antwortzeit, Durchsatz und Ergebnisqualität auf einem gemeinsamen Testdatensatz, mit Konsequenzen bei Unterschreitung.
- Änderungsmanagement: Vorankündigungsfristen bei Modellwechseln und API-Änderungen.
- Datenschutz: Verarbeitet der Anbieter personenbezogene Daten in Ihrem Auftrag, ist ein Auftragsverarbeitungsvertrag nach Art. 28 der DSGVO Pflicht. Regeln Sie Datenstandort, Unterauftragsverarbeiter, Auditrechte, Meldepflichten und den Ausschluss der Nutzung Ihrer Daten für das Training des Anbieters.
- Rechte an Ergebnissen: Wem gehören angepasste Modelle und generierte Ergebnisse?
- Preismodell: Festpreis, Time & Material, Retainer, nutzungsbasiert pro Aufruf, Token oder Minute oder erfolgsbasiert – bei nutzungsbasierten Modellen immer mit Kostenobergrenzen und klaren Staffeln.
- Exit: Fristen, Datenrückgabe in nutzbaren Formaten, Übergangsunterstützung.
Berechnen Sie die Gesamtkosten über drei bis fünf Jahre inklusive Infrastruktur, interner Ressourcen, Schulungen und Support – siehe KI-Budget und Gesamtkosten. Vertragsdetails und SLAs vertieft der Beitrag KI-Verträge im Unternehmen.
Multi-Vendor-Strategie: vom Einzelanbieter zum Ökosystem
Ohne Strategie wächst die Partnerlandschaft zufällig: inkompatible Systeme, doppelte Lizenzen, Mitarbeitende, die Ergebnisse von Hand von einem System ins nächste übertragen. Vier Grundregeln haben sich bewährt:
- Mit einer Anker-Plattform starten: eine primäre Cloud-Plattform als konsistente Basis für Identitäten, Sicherheit und Governance. Die Wahl hängt von Ihrer Landschaft ab – Microsoft-zentrierte Unternehmen landen oft bei Azure, andere bei AWS oder Google Cloud.
- Spezialisten gezielt ergänzen: nur dort, wo ein Spezialanbieter deutlich besser ist, etwa bei Telefonie, Vertragsanalyse, Bildverarbeitung in der Qualitätskontrolle oder Wissenssuche mit Quellenbeleg. Starten Sie mit zwei bis drei Partnern; jeder weitere erhöht den Steuerungsaufwand.
- Abstraktionsschichten einziehen: Ihre Anwendungen sprechen nicht direkt mit Anbieter-APIs, sondern mit eigenen Wrapper-Services. Bei einem Wechsel ändern Sie nur den Wrapper.
- Datenflüsse regeln: Legen Sie fest, welche Daten zu welchem Partner fließen dürfen und wer für welche Datenbestände verantwortlich ist.
Integration und Orchestrierung
Integration verbindet Systeme technisch, Orchestrierung lässt sie gemeinsam arbeiten. Ein Beispiel aus der Fertigung: Erkennt die Qualitätskontrolle Abweichungen, wird automatisch der Wartungsstatus der Maschine geprüft und die Produktionsplanung angepasst – aus drei isolierten Systemen wird ein Prozess. Bewährte Bausteine sind Workflow-Werkzeuge, Event-Streaming, ein API-Gateway als einheitlicher Zugang und offene Protokolle wie das Model Context Protocol. Die Spezifikation beschreibt MCP als offenes Protokoll, das LLM-Anwendungen mit externen Datenquellen und Werkzeugen verbindet, und verlangt unter anderem, dass Hosts vor jedem Werkzeugaufruf die ausdrückliche Zustimmung der Nutzer einholen. Hinweise zu Altsystemen und Datenformaten gibt der Beitrag zur KI-Systemintegration.
Das wichtigste Architekturprinzip ist Entkopplung in Schichten – Infrastruktur, Plattform, Integration, Anwendung, Governance –, mit zentralem Monitoring und einheitlichen Identitäten und Berechtigungen für Menschen und Agenten. Übernehmen KI-Agenten selbst die Orchestrierung über mehrere Systeme, werden begrenzte Befugnisse und Freigabepunkte zur Pflicht; mehr dazu im Leitfaden KI-Agenten im Unternehmen.
Nach dem Kauf: Lieferanten und Ökosystem steuern
- Leistung messen: technisch (Modellqualität auf Ihren Testfällen, Latenz, Fehlerrate, API-Stabilität), geschäftlich (realisierter Nutzen, Kostenentwicklung) und in der Governance (Sicherheitsvorfälle, Zertifizierungen). Fassen Sie die Werte quartalsweise in Scorecards mit Ampellogik zusammen und wiederholen Sie Ihre Qualitätstests nach jeder Modellaktualisierung des Anbieters.
- Partnerregister: Verträge, Ansprechpartner, Datenflüsse, Kosten und SLA-Status pro Partner und Use Case.
- Freigabeprozess für neue Partner und für neue Verkettungen – eine Verkettung kann ein unkritisches System in einen Hochrisiko-Kontext bringen.
- Audit Trail: lückenlos protokollieren, welches System wann was entschieden hat, besonders wenn Ergebnisse eines Systems automatisch Entscheidungen in einem anderen auslösen.
- Zentrale Verantwortung: Ab mehreren Anbietern lohnt eine zentrale Stelle, etwa ein Kompetenzteam im KI-Department, das Bewertungen standardisiert und Verlängerungen datenbasiert entscheidet.
Für geschäftskritische Dienste sollten Sie einen getesteten Zweitanbieter bereithalten. Wie Sie Abhängigkeiten begrenzen und einen geordneten Wechsel mit Parallelbetrieb und Rollback planen, zeigt der Beitrag zur KI-Souveränität.
Warnsignale
- ROI-Garantien ohne Analyse Ihrer Ausgangslage
- Technologie-Verkäufer, die neueste Tools statt Ihrer Ziele in den Mittelpunkt stellen
- Ausweichende Antworten zu Datenstandort, Modellen und Unterauftragsverarbeitern
- Keine Exit-Regelung und kein Datenexport in offenen Formaten
- Zu viele Partner zu früh oder Partnerauswahl ohne Integrationskonzept – es entstehen neue Silos
Aus meinen Produkten
Bei meinen eigenen Produkten bin ich selbst Einkäufer von KI-Diensten, und drei Entscheidungen haben sich dabei als tragfähig erwiesen.
Erstens: Das Wissen gehört nicht dem Modellanbieter. Bei unserer Wissens-KI anirag.io liegt es in einer eigenen Vektordatenbank (Qdrant), und ein LLM-Router verteilt Anfragen auf Anthropic, OpenAI EU, Mistral oder Aleph Alpha. Ein Modellwechsel ist damit eine Konfigurationsfrage, kein Migrationsprojekt. Die Grenze: Austauschbar heißt nicht gleichwertig – nach jedem Wechsel muss die Antwortqualität neu geprüft werden.
Zweitens: Jeder Partner bekommt eine eigene, klar abgegrenzte Schnittstelle. Unser KI-Telefonist anicall.io verbindet in seiner Echtzeit-Pipeline Twilio, Deepgram für die Spracherkennung, Groq mit Llama 4 und ElevenLabs für die Sprachausgabe. Weil jeder Dienst hinter einer eigenen Schnittstelle liegt, bleibt messbar, welcher Partner ein Problem verursacht – bei vier Anbietern in einer Kette ist das keine Kür.
Drittens: Nach außen offene, abgesicherte Anschlüsse statt proprietärer Kopplung. anicall.io bietet einen MCP-Server und HMAC-signierte Webhooks, damit Kunden das System in ihr eigenes Ökosystem einbinden können, ohne sich festzulegen. Die Architekturfragen für Wissenssysteme vertieft der Leitfaden zur Wissens-KI im Unternehmen.
Wenn Sie eine herstellerunabhängige Begleitung bei Auswahl, Partnerstrategie und Lieferantensteuerung suchen, finden Sie Details unter KI-Department; die technische Integration übernimmt die Software-Entwicklung.
Häufig gestellte Fragen
Welche Kriterien sind bei der Wahl eines KI-Anbieters am wichtigsten?
Am stärksten sollten strategische Passung und technische Kompetenz gewichtet werden, gefolgt von Sicherheit, Datenschutz und Support. Datenschutz, Exit-Fähigkeit, Referenzen und Gesamtkosten runden die Bewertung ab. Legen Sie die Gewichtung fest, bevor Sie Angebote vergleichen.
Lohnt sich ein bezahlter Proof of Concept?
Bei strategischen Vorhaben ja. Ein Proof of Concept mit Ihren eigenen Daten zeigt, ob Zusagen zu Qualität, Geschwindigkeit und Integration halten, und Sie erleben, wie die Zusammenarbeit im Alltag funktioniert.
Welche Klauseln sind in KI-Verträgen besonders wichtig?
Messbare Qualitäts- und Leistungskennzahlen, ein Auftragsverarbeitungsvertrag mit Ausschluss der Datennutzung für Training, Vorankündigungsfristen bei Modelländerungen und klare Exit-Regeln. Halten Sie außerdem fest, wem angepasste Modelle und erzeugte Ergebnisse gehören.
Wie viele KI-Partner sollte ein Unternehmen haben?
Für den Start reichen meist zwei bis drei: eine Anker-Plattform und ein bis zwei Spezialanbieter für Kernanwendungen. Jeder weitere Partner erhöht den Steuerungs- und Integrationsaufwand. Ergänzen Sie nur dort, wo ein klarer Mehrwert gegenüber der Anker-Plattform besteht.
Wie vermeide ich einen Vendor-Lock-in bei KI?
Bauen Sie eine Abstraktionsschicht zwischen Ihre Anwendungen und die Dienste der Anbieter, halten Sie Ihre Daten und Ihr Wissen in eigenen Systemen, setzen Sie auf offene Formate und sichern Sie Datenportabilität vertraglich ab. Halten Sie für kritische Anwendungen einen getesteten Zweitanbieter bereit und prüfen Sie den Export, bevor Sie ihn brauchen.

Über den Autor
Andreas Indorf
Gründer & Geschäftsführer der mysoftwarelab GmbH, KI-Software-Architekt. 7 KI-SaaS-Produkte live, 20+ Jahre Enterprise-IT.
Passende Leistung
KI-Department & KI-Strategie
Weiterlesen
Verwandte Artikel

Nächster Schritt
Lassen Sie uns bauen, was bei Ihnen arbeitet.
30 Minuten, kostenlos und unverbindlich. Sie erfahren, wo KI in Ihrem Unternehmen den größten Hebel hat – und wie schnell er sich umsetzen lässt.
Antwort in der Regel innerhalb von 24 Stunden.

