Cloud oder On-Premise: Wo sollte KI betrieben werden?
Die Entscheidung für ein KI-Modell ist nur ein Teil der technischen Architektur. Mindestens ebenso wichtig ist die Frage, wo und unter wessen Kontrolle das Modell und die zugehörige Anwendung betrieben werden.
In der Cloud außerhalb oder innerhalb der EU oder der Betrieb auf eigener Infrastruktur unterscheiden sich dabei nicht einfach in „mehr oder weniger Sicherheit“. Sie verteilen Kontrolle, Verantwortung, Flexibilität und Betriebsaufwand unterschiedlich.
Welche Variante passt, hängt deshalb vor allem davon ab, welche Daten verarbeitet werden, welche Anforderungen an Sicherheit und Verfügbarkeit bestehen und wie viel technische Verantwortung eine Organisation selbst übernehmen möchte.
Kurz gesagt
Eine allgemeingültig beste Betriebsform für KI gibt es nicht.
Cloud-Dienste können einen schnellen Zugang zu leistungsfähiger Infrastruktur und KI-Modellen ermöglichen und den eigenen Betriebsaufwand reduzieren. EU-Hosting kann für Anforderungen an den Speicher- und Verarbeitungsort relevant sein, beantwortet aber nicht automatisch alle Fragen zu Datenschutz, Anbieterjurisdiktion oder Datenzugriff. On-Premise bietet weitreichende Kontrolle über Infrastruktur und Datenverarbeitung, verlagert dafür aber auch Verantwortung und Betriebsaufwand in die eigene Organisation.
Die passende Betriebsform ergibt sich deshalb aus dem konkreten Anwendungsfall und seinen Anforderungen.
Cloud ist nicht gleich Cloud
„Die KI läuft in der Cloud“ sagt zunächst wenig darüber aus, wie eine Lösung tatsächlich betrieben wird.
Cloud-Angebote unterscheiden sich beispielsweise darin, welcher Anbieter beteiligt ist, an welchen Standorten Daten verarbeitet werden, welche technischen und organisatorischen Sicherheitsmaßnahmen bestehen und welche Teile der Infrastruktur der Anbieter oder die nutzende Organisation verantwortet.
Auch die Art des Dienstes macht einen Unterschied. Eine Organisation kann ein fertiges KI-Angebot als Dienst nutzen, ein Modell über eine API ansprechen oder eigene Modelle auf gemieteter Cloud-Infrastruktur betreiben.
Für die Bewertung ist deshalb nicht das Etikett „Cloud“ entscheidend, sondern die konkrete Architektur dahinter.
Das BSI betont bei der sicheren Nutzung von Cloud-Diensten ebenfalls die Aufteilung von Aufgaben und Verantwortung zwischen Anbieter und Kunde. Mit dem Cloud Computing Compliance Criteria Catalogue (C5) stellt es Kriterien bereit, anhand derer unter anderem die Informationssicherheit von Cloud-Diensten bewertet werden kann.
Was bedeutet EU-Hosting in der Cloud tatsächlich?
Wird ein KI-Dienst innerhalb der Europäischen Union betrieben, kann das ein wichtiges Kriterium sein. Insbesondere der Ort, an dem Daten gespeichert und verarbeitet werden, lässt sich damit begrenzen.
Der Standort eines Rechenzentrums beantwortet jedoch nicht jede Frage zum Datenzurgiff.
Neben dem Speicher- und Verarbeitungsort können beispielsweise relevant sein, welches Unternehmen den Dienst anbietet, welcher Rechtsordnung es unterliegt, welche Unterauftragnehmer beteiligt sind und ob Daten oder Zugriffe über die EU hinaus gelangen können.
„Hosting in der EU“ und „europäischer Anbieter“ sind deshalb keine Synonyme. Ebenso wenig bedeutet EU-Hosting automatisch, dass sämtliche datenschutzrechtlichen oder sicherheitsbezogenen Anforderungen erfüllt sind.
On-Premise schafft Kontrolle – und eigene Aufgaben
Beim On-Premise-Betrieb wird die KI-Lösung innerhalb einer Infrastruktur betrieben, die von der Organisation selbst beziehungsweise in ihrem Auftrag kontrolliert wird.
Das kann besonders interessant sein, wenn sensible Daten die kontrollierte Umgebung nicht verlassen sollen oder hohe Anforderungen an Datenhoheit, Datenzugriff und technische Kontrolle bestehen.
Allerdings ist On-Premise nicht automatisch sicherer.
Die Organisation oder dessen Dienstleister muss selbst dafür sorgen, dass Infrastruktur und Anwendung angemessen geschützt, aktualisiert und überwacht werden. Dazu gehören je nach Lösung beispielsweise Zugriffsmanagement, Sicherheitsupdates, Monitoring, Backup- und Wiederherstellungskonzepte sowie ausreichende Rechenkapazitäten.
Damit entsteht ein Zielkonflikt: Mehr Kontrolle über die technische Umgebung bedeutet zugleich mehr Verantwortung für den sicheren und zuverlässigen Betrieb.
Welche Kriterien sollten die Entscheidung bestimmen?
Statt mit der Frage „Cloud oder On-Premise?“ zu beginnen, lohnt sich zunächst ein Blick auf die Anforderungen des Anwendungsfalls.
- Daten: Welche Informationen werden verarbeitet? Enthalten sie personenbezogene, vertrauliche oder besonders schützenswerte Inhalte?
- Sicherheit: Welcher Schutzbedarf besteht für Vertraulichkeit, Integrität und Verfügbarkeit?
- Kontrolle: Welche Vorgaben gibt es für Speicherort, Verarbeitung, Zugriffe und beteiligte Dienstleister?
- Skalierbarkeit: Wie stark schwankt der Bedarf an Rechenleistung? Muss die Lösung kurzfristig und schnell wachsen können?
- Integration: Wo liegen die Systeme und Daten, mit denen die KI zusammenarbeiten soll?
- Flexibilität: Wie einfach lassen sich Infrastruktur, Anbieter oder Modell später wechseln?
- Kosten: Welche Kosten entstehen über den gesamten Betrieb hinweg – einschließlich Infrastruktur, Nutzung, Wartung und internem Aufwand?
Gerade die letzte Frage wird leicht unterschätzt. Ein Cloud-Dienst kann nutzungsabhängige Kosten verursachen und durch hohe Nutzungszahlen instabil sein , während beim eigenen Betrieb Infrastruktur und Personal vorgehalten werden müssen. Welches Modell wirtschaftlicher ist, hängt deshalb stark von Nutzung und Betriebsanforderungen ab.
Auch ein Wechsel sollte mitgedacht werden
Die Betriebsentscheidung muss nicht für die gesamte Lebensdauer einer Anwendung unveränderlich bleiben.
Architekturen können beispielsweise so gestaltet werden, dass Modelle oder Infrastrukturkomponenten später ausgetauscht werden können. Auch regulatorisch gewinnt diese Wechselmöglichkeit an Bedeutung: Der EU Data Act enthält Vorgaben, die den Wechsel zwischen Anbietern von Datenverarbeitungsdiensten erleichtern und Hindernisse für einen Anbieterwechsel reduzieren sollen.
Für die Planung einer KI-Lösung bedeutet das: Nicht nur prüfen, wo sie heute betrieben werden kann, sondern auch, welche Abhängigkeiten dadurch für morgen entstehen.
Die Betriebsform folgt den Anforderungen
Für Justiz, öffentliche Verwaltung und andere regulierte Organisationen kann der Betriebsort eine zentrale Rolle spielen. Trotzdem führt die Anforderung nach Kontrolle nicht automatisch zu On-Premise – genauso wenig wie die Nutzung einer Cloud automatisch Kontrollverlust bedeutet.
Entscheidend ist die konkrete Ausgestaltung.
Welche Daten fließen wohin? Wer kann darauf zugreifen? Wer trägt welche Verantwortung? Welche Sicherheitsmaßnahmen bestehen? Welche Abhängigkeiten entstehen? Und kann die Organisation das gewählte Betriebsmodell dauerhaft zuverlässig tragen?
Die passende Betriebsform ist deshalb nicht die mit dem höchsten vermeintlichen Sicherheitsversprechen, sondern diejenige, die Schutzbedarf, Kontrolle, technische Möglichkeiten und Betriebsaufwand sinnvoll zusammenbringt.
