Alle Lösungen

Azure OpenAI / Foundry · EU Data Zone

bis Stufe 1 · US

Managed OpenAI-/Foundry-Modelle in EU Data Zone; AVV, kein Training. Echtes Zero Data Retention nur auf Antrag (Enterprise). Cloud-Act-Restrisiko.

AVV · EU-Region · ZDR-auf-Antrag · Cloud-Act-Risiko

AWS Bedrock (EU, Frankfurt)

bis Stufe 1 · US

Multi-Vendor-Marktplatz (Claude, Llama, Mistral, Nova) in EU-Region; AVV, kein Training (Default). Souveräne AWS-EU-Region (DE) seit 01/2026, aber nur Amazon Nova. Cloud-Act-Restrisiko.

AVV · EU-Region · Multi-Modell · Cloud-Act-Risiko

Google Vertex AI (EU)

bis Stufe 1 · US

Gemini in EU-Region/Multi-Region; AVV, kein Training (Default). Neueste Modelle teils nur über EU-Multi-Region. Cloud-Act-Restrisiko.

AVV · EU-Region · Cloud-Act-Risiko

OpenAI Platform API (EU Data Residency)

bis Stufe 1 · US

Direkte GPT-API mit EU-Datenresidenz (in-region, ZDR für berechtigte Projekte), Aufpreis ~10%. US-Mutter, Cloud-Act-Restrisiko bleibt.

API · EU-Residency · ZDR-möglich · Cloud-Act-Risiko

Anthropic Claude API

bis Stufe 1 · US

Claude direkt per API; native API ohne EU-Datenresidenz (US). EU-Residenz nur über AWS Bedrock / Google Vertex. AVV, kein Training (Default), ZDR optional.

API · keine-native-EU-Residency · ZDR-möglich

xAI Grok API

bis Stufe 1 · US

Grok-API des US-Anbieters. Kein Training auf Geschäftskundendaten laut Anbieter-FAQ (anders als die Verbraucher-App Grok), Aufbewahrung 30 Tage. EU-Residenz nicht belegt. Schwächste Zertifikatslage der Gruppe.

API · Aufbewahrung-30-Tage · keine-EU-Residenz

AI21 Jamba (API / Open-Weight / On-Prem)

bis Stufe 1 · andere

Israelischer Anbieter: Israel hat EU-Angemessenheitsbeschluss (seit 2011), Transfers daher ohne SCC zulässig. Jamba ist Open-Weight (HF) und on-prem/VPC deploybar → dann faktisch bis Stufe 3 souverän. Zertifikate vor Einsatz prüfen.

API · Open-Weight · On-Prem · EU-Angemessenheit-IL

Cohere Command / North (API + On-Prem)

bis Stufe 1 · andere

Kanadischer Anbieter (EU-Angemessenheit). North komplett on-prem/air-gapped betreibbar (kein Anbieter-Datenzugriff) → dann bis Stufe 3. Stärkstes Self-Hosting-Profil der proprietären API-Anbieter.

API · On-Prem · air-gapped · Kanada-Angemessenheit

Exoscale · Managed/Dedicated Inference

bis Stufe 2 · EU

Schweizer IaaS (A1/Telekom-Austria) mit europäischer Inferenz auf eigener GPU-Hardware und GPU-Instanzen für Self-Hosting. Verfügbar ist die dedizierte Variante (eigene Endpunkte, OpenAI-kompatibel); der Modell-Katalog nach Verbrauch ist angekündigt, aber noch nicht verfügbar.

EU · CH · Open-Weight · GPU

Gcore Everywhere Inference

bis Stufe 2 · EU

Luxemburger Anbieter: verwaltete Inferenz plus GPU-Cloud (H100/H200/B200) und Stack für private KI. Sitz und Vertragspartner in der EU; eine zugesagte EU-Datenregion für den Inferenz-Dienst nennt der Anbieter öffentlich nicht.

EU · managed-Inferenz · GPU · Edge

3DS Outscale · LLMaaS / AI Factories

bis Stufe 2 · EU

Hochzertifizierter franz. Souveränitäts-Cloud (erste SecNumCloud-3.2-Public-Cloud) mit eigenem LLMaaS und GPU-„AI Factories" für Self-Hosting.

EU · souverän · SecNumCloud · LLMaaS

Cloud Temple · LLMaaS

bis Stufe 2 · EU

Stark zertifizierter franz. Souveränitäts-Cloud mit eigenem SecNumCloud-qualifiziertem LLMaaS (32 Modelle, von Chat und Programmierung über Bild bis Übersetzung); Daten werden nach Anbieterangabe nach der Verarbeitung weder verwertet noch gespeichert.

EU · souverän · SecNumCloud · LLMaaS

Hetzner (GPU-Server für Self-Hosting)

bis Stufe 3 · EU

Dt. Low-Cost-GPU-/Server-Anbieter (RTX 4000 Ada bis RTX PRO 6000 Blackwell). Reine Infrastruktur für Self-Hosting eigener Open-Weights (Ollama/vLLM); kein eigener KI-Dienst.

Infrastruktur · GPU · DE · Low-Cost

Nebius (GPU-Cloud)

bis Stufe 3 · EU

Niederländisch/finnischer GPU-Hyperscaler (NVIDIA-Vollstack) für Training/Inferenz eigener Modelle; Daten in der EU. Reine GPU-Infrastruktur, kein kuratierter LLM-Dienst; NVIDIA-finanziert.

Infrastruktur · GPU · EU · börsennotiert

Open WebUI

Baustein · erbt die Stufe · EU

Populärstes self-hosted Chat-Frontend (RAG, Tools, MCP). Lizenz seit v0.6.6 source-available (Branding-Klausel); interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · source-available

LibreChat

Baustein · erbt die Stufe · EU

Self-hosted Multi-Modell-Chat-UI (RAG, Agenten, MCP); MIT-Lizenz (sauberes Open Source). Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · MIT

AnythingLLM

Baustein · erbt die Stufe · EU

Self-hosted All-in-one mit Fokus auf privater Dokument-RAG (Workspaces) + Agenten; MIT-Lizenz. Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · MIT

Dify

Baustein · erbt die Stufe · EU

LLMOps-Plattform: RAG + Agenten + Workflow-Builder; Lizenz source-available (kein Multi-Tenant-SaaS ohne Genehmigung, Branding). Interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · RAG · Agenten · Workflow · +1

RAGFlow

Baustein · erbt die Stufe · EU

RAG-Engine mit tiefer Dokumentenstruktur-Erkennung + Agenten; Apache 2.0 (echtes Open Source). Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · Apache-2.0