EU-gehostete KI-Modelle führen Inferenz auf Rechenkapazität innerhalb der EU aus. Praktische Optionen im Jahr 2026 sind Connic KI-Modelle für bereitgestellte Agenten, Scaleway Generative APIs, OVHcloud AI Endpoints und KI-Modelle mit offenen Gewichten auf eigener Infrastruktur. Mistrals EU-Endpunkt verarbeitet Daten in einem größeren Gebiet, das EU und EFTA umfasst. Wenn ausschließlich die Verarbeitung in EU-Mitgliedstaaten zulässig ist, muss dieser Umfang daher vertraglich bestätigt werden. Verarbeitungsort, Aufbewahrung, Betreiber, Portabilität, Fallbacks und der übrige Datenpfad der Anwendung sind gleichermaßen relevant.
Was bedeutet EU-gehostet bei einem KI-Modell?
Das Herkunftsland eines KI-Modells bestimmt nicht automatisch, wo ein Prompt verarbeitet wird. Ein amerikanisches KI-Modell kann auf einem Server in Paris laufen; ein europäisches KI-Modell an einem globalen Endpoint. Für die Beschaffung zählt der Datenpfad des tatsächlich im Produktivbetrieb verwendeten Endpoints.
EU-gehostete KI-Modell-Provider und Deployment-Optionen im Vergleich
Diese Tabelle wurde am 17. August 2026 anhand der Provider-Dokumentation verifiziert. Sie vergleicht den Umfang der Zusagen für das Produktivsystem und bewertet nicht die Qualität der KI-Modelle. Diese ändert sich schneller und muss am jeweiligen Workload getestet werden.
| Option | EU-Grenze | Retention | KI-Modell-Auswahl | Interface | Beste Eignung |
|---|---|---|---|---|---|
| Connic KI-Modelle | Jeder connic/*-Aufruf nutzt EU-Inferenz-Kapazität. Der Katalog kennzeichnet Ausnahmen bei der Aufbewahrung durch vorgelagerte Anbieter. | Prompt- und Output-Inhalte werden nicht für die Abrechnung gespeichert. Eng begrenzte Ausnahmen für Sicherheits- und Fehlerfälle sowie gekennzeichnete Ausnahmen vorgelagerter Anbieter können gelten. | Verwalteter Katalog mehrerer Anbieter | KI-Modell-ID in Agenten-YAML | Teams, die KI-Modelle in einer Agenten-Runtime mit integrierter Observability nutzen möchten |
| Mistral Regional Inference | Der Endpoint api.eu.mistral.ai verarbeitet Requests in Rechenzentren in EU und EFTA. Seine Control Plane ist nicht regional. | Zero Data Retention (ZDR) muss für die Organisation genehmigt werden, ist kostenpflichtigen Tarifen vorbehalten und gilt nur für unterstützte zustandslose API-Aufrufe. | Am EU-Endpunkt von Mistral verfügbare KI-Modelle | Mistral SDK oder HTTP API | Direkte Nutzer der Mistral API, die deren regionale Grenzen akzeptieren können |
| Scaleway Generative APIs | Serverless und Dedicated Inferenz laufen in europäischen Rechenzentren. Die öffentliche API befindet sich derzeit in Paris, fr-par. | Inhalte werden standardmäßig nicht aufbewahrt (ZDR). Ausnahmsweise können schädliche oder fehlerhafte Requests bis zu zwei Wochen gespeichert werden; anonymisierte Nutzungsmetadaten bis zu sechs Monate. | Kuratierter Serverless-Katalog oder dediziertes Deployment | OpenAI-kompatible API | Anwendungen, die eine direkte europäische KI-Modell-API benötigen |
| OVHcloud AI Endpoints | AI Endpoints läuft auf der europäischen Infrastruktur von OVHcloud und wirbt mit Zero Data Retention über Billing-Daten hinaus. | Der Provider gibt an, nur für die Abrechnung erforderliche Daten zu speichern. | Breiter Katalog mit KI-Modellen mit offenen Gewichten | OpenAI-kompatible API | Teams, die eine in Frankreich gehostete, europäisch betriebene API für KI-Modelle mit offenen Gewichten suchen |
| Selbst gehostete Open Weights | Der Betreiber wählt EU-Region, Netzwerk, Logs und Aufbewahrungsrichtlinie. | Bestimmt durch die Kontrollen für Logging, Speicherung, Support und die Reaktion auf Vorfälle des Betreibers. | Jedes KI-Modell mit passender Lizenz und passenden Hardware-Anforderungen | vLLM, Ollama oder eine andere Serving-Lösung | Anforderungen mit Infrastrukturkontrolle oder Betrieb im privaten Netzwerk |
Quellen: Datenverarbeitung bei Connic-Modellen, regionale Inferenz bei Mistral, Datenschutzkontrollen von Mistral, Geltungsbereich von Mistral ZDR, Datenrichtlinie von Scaleway und Funktionen von OVHcloud AI Endpoints.
Ein connic/* KI-Modell in Agenten-YAML genügt für ein Deployment mit bereits angebundenen Traces, Retries, Budgets und Evaluation.
Connic KI-Modelle entdeckenWelche Option passt zu welchem Workload?
Was ergab die von der Kommission angeforderte Cloud- und KI-Studie?
Die am 11. August 2026 veröffentlichte Studie benennt zwei miteinander verbundene Probleme: begrenzte und geografisch konzentrierte Rechenkapazität in der EU sowie die Abhängigkeit von Cloud- und KI-Services nicht europäischer Provider. Sie untersucht außerdem Lock-in-Praktiken entlang des KI-Computing-Stacks und Risiken durch Drittstaatenrecht mit extraterritorialer Wirkung. Zusammenfassung der Kommission zur Studie von 2026.
Der Bericht verwendet Kapazitätsdaten aus dem Jahr 2025, obwohl er 2026 veröffentlicht wurde. Deutschland, Frankreich, die Niederlande und Irland stellen 63 % der geschätzten EU27-Kapazität unter den erfassten Rechenzentrumsbetreibern, Cloud-Anbietern und Telekommunikationsstandorten. Unternehmensrechenzentren, öffentliche Einrichtungen und Hochleistungsrechenzentren sind nicht Teil dieses Inventars. Kapazitätsmethode und Quellenjahre der Studie.
Ein dokumentierter oder vertraglich begrenzter EU-Endpunkt beantwortet, wo die Verarbeitung stattfindet. Beschaffungsteams sollten die Kontrolle über den Betreiber, den Einfluss von Drittstaatenrecht und die Portabilität separat prüfen.
EU-Endpunkte für KI-Modelle vor der Beschaffung prüfen
Erforderlich sind Antworten zum exakten Produkt, Betreiber und Endpunkt. Eine allgemeine Seite zur Cloud-Region kann weder belegen, wohin eine KI-Modell-API einen Prompt sendet, noch wie leicht sich das Deployment verschieben lässt.
- Basis-URL des Produktivsystems, Regionsauswahl, KI-Modell-ID, Betreiber und jede Fallback-Route erfassen.
- Den Weg von Prompts, Ausgaben, Caches, Sicherheitskopien, Logs, Embeddings, Tool-Nutzdaten und Evaluationsdaten durch alle verarbeitenden Systeme nachvollziehen.
- Aufbewahrungsregeln und Ausnahmen prüfen; bestätigen, ob Zero Data Retention standardmäßig gilt oder pro Konto aktiviert werden muss.
- Vertragspartner, Eigentumsverhältnisse und Kontrolle, Unterauftragsverarbeiter, Standorte des Support-Zugriffs, Backups, Failover-Regionen und jedes Drittstaatenrecht prüfen, das Zugriff erzwingen könnte.
- Den Anbieterwechsel dokumentieren: portable APIs und Formate, Export der Modell- und Runtime-Konfiguration sowie der Traces und eine getestete primäre oder Fallback-Route über einen anderen Betreiber.
- Grenzen der Datenverarbeitung sowie Vorgaben für Betreiber und Fallbacks im DPA oder Bestellformular festhalten und einen Prüftermin für Änderungen an KI-Modell, Endpoint oder Service ergänzen.
Dieselbe Prüfung muss die umgebende Agentenplattform abdecken. Retrieval-Speicher, Traces, Tool-Aufrufe, Judges und Guardrails können dieselben Kundendaten wie der Modell-Prompt enthalten. Der vollständige Datenpfad des Agenten muss verglichen werden, bevor ein EU-Endpunkt für KI-Modelle als Beleg für durchgängige Datenresidenz gilt.
Datenresidenz begrenzt die Auswahl, Tests bestimmen das KI-Modell
Sobald der Datenverarbeitungsumfang akzeptabel ist, sollten die KI-Modelle anhand repräsentativer Fälle evaluiert werden. Zu vergleichen sind Aufgabenerfolg, Gültigkeit strukturierter Ausgaben, Genauigkeit der Tool-Aufrufe, Latenz und gesamte Token-Kosten. Ein Benchmark-Ergebnis zeigt nicht, ob ein Agent für Erstattungen das richtige Tool gewählt oder das von der Anwendung erwartete Schema erzeugt hat.
Mit unserer Plattform lassen sich verwaltete und BYOK-Modelle als primäre Modelle und Fallbacks kombinieren. Dieselbe Testsuite kann gegen jeden Kandidaten laufen. A/B-Tests mit Live-Traffic vergleichen die Varianten im laufenden Betrieb, wenn ein Offline-Test nicht genügt. Der Umfang der EU-Datenverarbeitung sollte auf beiden Seiten des Tests identisch bleiben.