Alle Lösungen

Azure OpenAI / Foundry · EU Data Zone

bis Stufe 1 · US

Managed OpenAI-/Foundry-Modelle in EU Data Zone; AVV, kein Training. Echtes Zero Data Retention nur auf Antrag (Enterprise). Cloud-Act-Restrisiko.

AVV · EU-Region · ZDR-auf-Antrag · Cloud-Act-Risiko

AWS Bedrock (EU, Frankfurt)

bis Stufe 1 · US

Multi-Vendor-Marktplatz (Claude, Llama, Mistral, Nova) in EU-Region; AVV, kein Training (Default). Souveräne AWS-EU-Region (DE) seit 01/2026, aber nur Amazon Nova. Cloud-Act-Restrisiko.

AVV · EU-Region · Multi-Modell · Cloud-Act-Risiko

Google Vertex AI (EU)

bis Stufe 1 · US

Gemini in EU-Region/Multi-Region; AVV, kein Training (Default). Neueste Modelle teils nur über EU-Multi-Region. Cloud-Act-Restrisiko.

AVV · EU-Region · Cloud-Act-Risiko

Google Gemini for Workspace / Enterprise

bis Stufe 1 · US

In Google Workspace integrierter Assistent mit konfigurierbarer EU-Datenresidenz und Sovereign-Controls. US-Mutter, Cloud-Act-Restrisiko.

Anwender-Plattform · EU-Region · Sovereign-Controls

Cognigy (NiCE)

bis Stufe 1 · andere

Enterprise-Conversational- und Agentic-AI für Kundenservice (Sprache und Chat), Sitz Düsseldorf, außergewöhnlich stark zertifiziert (inkl. ISO 42001, BSI C5 Type II, AIC4). Seit 09/2025 Tochter der israelischen NiCE Ltd. (NASDAQ-notiert), Israel hat einen EU-Angemessenheitsbeschluss.

Anwender-Plattform · Conversational-AI · Mutter ausserhalb der EU

Confidential Computing / TEE bei Hyperscaler (GPU)

bis Stufe 1 · US · Lösungsart

Vertrauliche GPU-Inferenz in versiegelter Enklave (CPU+GPU-Attestation), GA bei Azure/Google. Technischer Abfluss-Schutz Stufe-3-Niveau (T hoch), aber Jurisdiktion bleibt US (R Stufe 1), Mischfall. AWS Nitro ohne GPU-Passthrough.

TEE · Attestation · Mischfall-T-hoch-R-US

Confidential Computing / TEE · EU-Anbieter (Edgeless Privatemode)

bis Stufe 3 · EU

Dt. Anbieter: vertrauliche Inferenz in versiegelter Enklave, weder Betreiber noch Unterbau sehen Klartext. T hoch UND R EU: der seltene Vollschutz. Das Produkt heißt seit dem Umbau Privatemode (vormals Continuum), OpenAI-kompatible API.

TEE · Attestation · T-hoch-R-EU

Tinfoil (vertrauliche Inferenz)

bis Stufe 1 · US

US-Anbieter: vertrauliche Inferenz auf NVIDIA Hopper UND Blackwell (Multi-GPU-CC), Runtime-Attestation + Transparency-Logs. T hoch, aber R US: Mischfall.

TEE · Attestation · Multi-GPU · Mischfall-T-hoch-R-US

Mithril BlindLlama (EU, Alpha)

bis Stufe 3 · EU

Franz. Open-Source-Ansatz für vertrauliche Inferenz (TPM-Attestation). EU-Jurisdiktion, aber explizit Alpha: NICHT produktionsreif; nur zum Beobachten.

TEE · EU · OSS · Alpha-nicht-produktiv

Apple Private Cloud Compute (Referenz)

bis Stufe 0 · US

Goldstandard für nachweisbare Abschottung (stateless, verifiable transparency), aber NUR Referenzarchitektur, nicht als Drittanbieter-Inferenzdienst nutzbar.

TEE · Referenzarchitektur · nicht-beziehbar

LibreChat

Baustein · erbt die Stufe · EU

Self-hosted Multi-Modell-Chat-UI (RAG, Agenten, MCP); MIT-Lizenz (sauberes Open Source). Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · MIT

AnythingLLM

Baustein · erbt die Stufe · EU

Self-hosted All-in-one mit Fokus auf privater Dokument-RAG (Workspaces) + Agenten; MIT-Lizenz. Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · MIT