Digitale Souveränität und KI

Kaum ein Unternehmen im deutschen Mittelstand hat heute keinen KI-Prototyp in der Schublade. Ein Chatbot, der auf Testdaten läuft. Ein Skript, das Rechnungen liest. Ein Proof of Concept, das in der Demo überzeugt hat. Und trotzdem läuft ein Großteil dieser Projekte nie produktiv. Der Grund liegt selten an der KI selbst — er liegt an der Lücke zwischen Prototyp und operativem Betrieb, und zunehmend auch an einer Frage, die viele Unternehmen zu spät stellen: Wo läuft eigentlich das Modell, auf dem meine Daten landen?

Bei VIALUTIONS beschäftigt uns dieses Thema doppelt: als Berater für digitale Souveränität und als Unternehmen, das seine eigene Microsoft-365-Infrastruktur konsequent auf souveräne Open-Source-Technologie umgestellt hat. Was für Nextcloud, MailCow und KeyCloak gilt, gilt für KI-Infrastruktur genauso — nur ist die Ausgangslage bei KI ungleich komplizierter, weil Modell, Hosting, Trainingsdaten und Anwendung oft von unterschiedlichen Akteuren in unterschiedlichen Rechtsräumen stammen.

KI-Souveränität ist keine Fußnote, sondern eine Architekturentscheidung

Digitale Souveränität bedeutet, jederzeit selbstbestimmt über die eigenen Systeme und Daten entscheiden zu können — ohne technologische Isolation, aber mit echter Wahlfreiheit, Robustheit und Resilienz gegenüber Anbieterabhängigkeiten. Bei generativer KI wird diese Frage besonders scharf, weil Unternehmensdaten in einem KI-Workflow nicht nur gespeichert, sondern aktiv verarbeitet, kontextualisiert und teilweise an Dritte weitergereicht werden.

Wer heute ein KI-Projekt aufsetzt, ohne sich Gedanken über Modellherkunft und Hosting-Standort zu machen, baut häufig genau die Abhängigkeit neu auf, die man sich mit dem Wechsel von Microsoft 365 gerade abgewöhnt hat — nur diesmal auf Ebene der Modelle statt der Office-Suite. Drei Fragen sollten am Anfang jedes KI-Projekts stehen:

Wo werden die Daten verarbeitet? EU-Rechtsraum ist die Mindestanforderung, physischer Serverstandort in Europa der belastbarere Standard.

Wer trainiert mit meinen Daten? Viele US-Anbieter behalten sich implizite oder explizite Trainingsrechte an Prompts vor, sofern nicht vertraglich ausgeschlossen.

Was passiert bei Anbieterausfall oder -abkündigung? Ein Exit-Szenario sollte von Anfang an mitgedacht werden, nicht erst wenn der Vertrag gekündigt wird.

Die vier Methoden, mit denen Unternehmen KI heute einsetzen

Bevor man über Souveränität sprechen kann, muss man verstehen, welche Art von KI-Einsatz überhaupt gemeint ist. Die Begriffe werden in der Praxis oft synonym verwendet, meinen aber sehr unterschiedliche Architekturen mit unterschiedlichen Risikoprofilen.

Generative KI ist die Grundfunktion: ein Sprachmodell erzeugt Text, Code oder Bilder auf Basis eines Prompts. Das ist die Einstiegsstufe — ein Chat-Interface, ein Schreibassistent, eine Zusammenfassungsfunktion. Das Risiko ist überschaubar, solange klar ist, welches Modell antwortet und wo es gehostet wird.

RAG (Retrieval Augmented Generation) verbindet ein Sprachmodell mit den eigenen Unternehmensdaten. Statt sich auf das antrainierte Wissen des Modells zu verlassen, durchsucht das System zunächst die eigene Wissensbasis — Dokumente, Wikis, Datenbanken — und reicht die relevanten Treffer als Kontext an das Modell weiter. Das reduziert Halluzinationen erheblich und macht KI-Antworten nachvollziehbar, weil sie auf konkrete Quellen zurückgeführt werden können. Für RAG gilt: Sobald Unternehmensdaten in den Kontext eines Prompts wandern, ist die Frage nach Modellstandort und Datenverarbeitung nicht mehr optional.

MCP (Model Context Protocol) ist die technische Schnittstellen-Schicht, über die ein Sprachmodell strukturiert auf externe Systeme zugreifen kann — CRM, ERP, Datenbanken, interne Tools. MCP standardisiert, wie ein Modell Werkzeuge "sieht" und aufruft, ähnlich wie eine API-Spezifikation zwischen Anwendungen. Für Unternehmen bedeutet MCP: Die KI bekommt nicht nur Lesezugriff auf Dokumente, sondern potenziell auch Schreibzugriff auf Geschäftsprozesse. Damit steigt die Sorgfaltspflicht bei Rechten, Protokollierung und Freigabelogik erheblich.

Agentic AI geht noch einen Schritt weiter: Statt auf eine einzelne Anfrage zu antworten, plant ein KI-Agent mehrstufige Aufgaben eigenständig, ruft dabei Werkzeuge auf (oft über MCP), trifft Zwischenentscheidungen und arbeitet Workflows ab — etwa einen kompletten Rechnungseingangsprozess von der Erkennung bis zur Freigabe-Weiterleitung. Agentic AI liefert den größten Automatisierungsgewinn, aber auch das höchste Kontrollrisiko: Wer haftet, wenn ein Agent eine falsche Entscheidung trifft? Wie wird ein autonom laufender Agent auditierbar gemacht?

Die vier Methoden bauen aufeinander auf. Ein realistischer Weg für die meisten Mittelständler führt von generativer KI über RAG zu ersten MCP-Anbindungen und erst dann, mit entsprechender Reife der Governance, zu echten agentischen Workflows.

Prototyp und Produktivbetrieb sind zwei verschiedene Projekte

Der häufigste Fehler bei KI-Projekten ist, den Sprung vom Prototyp zum produktiven System zu unterschätzen. Ein Proof of Concept beweist, dass etwas grundsätzlich funktioniert. Ein produktives System muss das zuverlässig, sicher und wiederholbar tun — für alle Nutzer, unter realer Last, über Jahre.

Der Kernunterschied ist nicht technischer, sondern organisatorischer Natur: Ein Prototyp muss überzeugen, ein Produktivsystem muss verantwortet werden können. Das betrifft Datenschutzbeauftragte, IT-Sicherheit, Compliance und — bei kritischer Infrastruktur oder regulierten Branchen — auch aufsichtsrechtliche Anforderungen. Wer diesen Übergang nicht bewusst plant, bleibt im Pilotstadium hängen oder bringt ein Sicherheitsrisiko in den Wirkbetrieb.

Darum ist europäisches Hosting kein Nice-to-have

Für Unternehmen, die KI-Souveränität ernst nehmen, ist die Wahl der Modell- und Hosting-Infrastruktur die zentrale Weichenstellung. Der europäische Markt für souveräne KI-Infrastruktur hat sich in den letzten Monaten spürbar entwickelt. Ein Überblick über einige Ansätze:

TextCortex (Berlin) positioniert sich als Agenten-Infrastruktur für Unternehmen: ein zentraler, DSGVO-konformer Zugang zu verschiedenen KI-Modellen, mit visuellem Agenten-Builder und Integrationen in Slack, Teams und SharePoint. Das Unternehmen wirbt mit ISO- und SOC2-Zertifizierung sowie dem Verzicht auf Datentraining mit Kundendaten. Der Fokus liegt auf schneller unternehmensweiter Einführung und Modellunabhängigkeit — die Souveränität bezieht sich hier primär auf Compliance und Kontrolle, weniger zwingend auf ausschließlich europäische Modellherkunft.

Melious verfolgt einen konsequenteren Infrastruktur-Ansatz: eine einheitliche, zu OpenAI- und Anthropic-Schnittstellen kompatible API für über 60 offene Modelle, betrieben ausschließlich auf europäischer Infrastruktur. Die Rechenzentren verteilen sich auf mehrere europäische Anbieter in acht Ländern, unabhängig von einem einzelnen Provider geprüft. Nach eigenen Angaben werden Kundendaten nicht für Trainingszwecke genutzt und bleiben durchgängig unter europäischer Jurisdiktion. Für Unternehmen, die bestehenden Code mit OpenAI- oder Anthropic-SDKs weiterverwenden, aber auf europäische Infrastruktur umziehen wollen, ist das ein pragmatischer Weg ohne Refactoring.

9brains (Deutschland) adressiert gezielt den Mittelstand mit einer mehrschichtigen Plattform: sicherer KI-Chat mit Zugriff auf marktführende Modelle wie Claude, GPT, Gemini und Mistral in einer zentralen, DSGVO-konformen Umgebung, ergänzt um eine Data-Integration-Ebene für RAG, API- und MCP-Anbindungen an Cloud- und On-Premise-Systeme sowie eine Automatisierungsebene mit wiederverwendbaren "Skills" und persistenten Agenten. Gehostet wird die Plattform bei Hetzner in Deutschland. Damit deckt 9brains bereits alle vier eingangs beschriebenen Einsatzarten — generativ, RAG, MCP und Agentic — auf einer Plattform ab, was den Weg vom Prototyp zum produktiven Einsatz strukturell erleichtert.

Polen als europäischer KI-Standort verdient dabei besondere Aufmerksamkeit — nicht nur wegen der engen Verzahnung von VIALUTIONS consult (Berlin) mit VIALUTIONS sp. z o.o. in Wrocław, sondern weil Polen gezielt in staatlich geförderte KI-Souveränität investiert. Mit PLLuM (Polish Large Language Model) betreibt ein Konsortium unter Führung von NASK, der Technischen Universität Wrocław und mehreren Instituten der Polnischen Akademie der Wissenschaften ein offenes, auf polnischen Daten trainiertes Modell. Das Modell wurde vollständig mit staatlicher Förderung entwickelt und wird bewusst auf organischen, manuell aufbereiteten Daten statt auf synthetischen Daten anderer Modelle trainiert. Als zentrales Merkmal nennt das Projekt die volle Kontrolle über das Modell und die Unabhängigkeit von ausländischen Anbietern, verbunden mit niedrigeren Kosten durch eigene technische Lösungen. Mittlerweile stehen elf neue Modellvarianten offen und kostenlos zur Verfügung, von leichten Varianten für einfache Aufgaben bis zu einem 70-Milliarden-Parameter-Modell für anspruchsvollere Textverarbeitung. Erste Kommunen wie Gdynia testen PLLuM bereits produktiv in Bürger-Chatbots. Für Unternehmen mit Polen-Bezug — oder generell für alle, die ein europäisches Modell abseits der üblichen westeuropäischen Anbieter suchen — lohnt ein Blick auf diese Entwicklung.

Der gemeinsame Nenner dieser Anbieter: Souveränität wird nicht durch ein einzelnes Modell erreicht, sondern durch eine Infrastruktur, die Modellwahl, Hosting-Standort und Datenverarbeitung transparent macht und im Zweifel einen Wechsel ermöglicht — genau das Prinzip, das auch hinter Nextcloud, MailCow und KeyCloak als Microsoft-Alternativen steht.

Was das für Ihre KI-Operationalisierung bedeutet

Aus unserer eigenen Erfahrung mit der Migration von Microsoft 365 auf eine souveräne Infrastruktur — und aus der Arbeit an KI-Projekten für unsere Kunden — lassen sich einige Leitplanken ableiten, die den Sprung vom Prototyp zum produktiven KI-Einsatz erleichtern:

Beginnen Sie mit dem einfachsten sinnvollen Anwendungsfall. Generative KI oder ein erstes RAG-Setup auf einer klar abgegrenzten Wissensbasis liefert schneller belastbare Erfahrung als ein ambitionierter Agentic-Workflow, der von Anfang an in alle Geschäftsprozesse eingreift.

Entkoppeln Sie Anwendung und Modell. Wer über eine modellunabhängige API oder Plattform arbeitet, kann Anbieter wechseln, ohne die Anwendung neu zu bauen — das ist die praktische Umsetzung von Wahlfreiheit.

Klären Sie Hosting-Standort und Trainingsrechte vertraglich, nicht nur werblich. Ein Auftragsverarbeitungsvertrag mit klarer Aussage zu Serverstandort und Datennutzung gehört vor den ersten produktiven Prompt, nicht danach.

Planen Sie MCP- und Agentic-Funktionen erst, wenn Governance steht. Rollen, Freigaben, Protokollierung und ein Eskalationsweg für Fehlentscheidungen sind Voraussetzung, nicht Nachgedanke.

Digitale Souveränität bei KI ist kein Zustand, den man einmal erreicht und dann abhakt. Es ist, wie bei unserer eigenen Migration weg von Microsoft 365, ein Prozess aus bewussten Entscheidungen — welches Modell, welcher Standort, welcher Automatisierungsgrad — die sich mit der Reife des Unternehmens und des europäischen KI-Ökosystems weiterentwickeln. Wer heute die Architektur richtig aufsetzt, spart sich morgen die Migration.

VIALUTIONS berät Unternehmen bei der Ablösung von Microsoft-Abhängigkeiten und der Operationalisierung von KI auf souveräner, europäischer Infrastruktur — von der ersten Souveränitäts-Beratung bis zum produktiven Betrieb.