Alle Lösungen

OpenAI Platform API (EU Data Residency)

bis Stufe 1 · US

Direkte GPT-API mit EU-Datenresidenz (in-region, ZDR für berechtigte Projekte), Aufpreis ~10%. US-Mutter, Cloud-Act-Restrisiko bleibt.

API · EU-Residency · ZDR-möglich · Cloud-Act-Risiko

Anthropic Claude API

bis Stufe 1 · US

Claude direkt per API; native API ohne EU-Datenresidenz (US). EU-Residenz nur über AWS Bedrock / Google Vertex. AVV, kein Training (Default), ZDR optional.

API · keine-native-EU-Residency · ZDR-möglich

xAI Grok API

bis Stufe 1 · US

Grok-API des US-Anbieters. Kein Training auf Geschäftskundendaten laut Anbieter-FAQ (anders als die Verbraucher-App Grok), Aufbewahrung 30 Tage. EU-Residenz nicht belegt. Schwächste Zertifikatslage der Gruppe.

API · Aufbewahrung-30-Tage · keine-EU-Residenz

AI21 Jamba (API / Open-Weight / On-Prem)

bis Stufe 1 · andere

Israelischer Anbieter: Israel hat EU-Angemessenheitsbeschluss (seit 2011), Transfers daher ohne SCC zulässig. Jamba ist Open-Weight (HF) und on-prem/VPC deploybar → dann faktisch bis Stufe 3 souverän. Zertifikate vor Einsatz prüfen.

API · Open-Weight · On-Prem · EU-Angemessenheit-IL

Cohere Command / North (API + On-Prem)

bis Stufe 1 · andere

Kanadischer Anbieter (EU-Angemessenheit). North komplett on-prem/air-gapped betreibbar (kein Anbieter-Datenzugriff) → dann bis Stufe 3. Stärkstes Self-Hosting-Profil der proprietären API-Anbieter.

API · On-Prem · air-gapped · Kanada-Angemessenheit

3DS Outscale · LLMaaS / AI Factories

bis Stufe 2 · EU

Hochzertifizierter franz. Souveränitäts-Cloud (erste SecNumCloud-3.2-Public-Cloud) mit eigenem LLMaaS und GPU-„AI Factories" für Self-Hosting.

EU · souverän · SecNumCloud · LLMaaS

Cloud Temple · LLMaaS

bis Stufe 2 · EU

Stark zertifizierter franz. Souveränitäts-Cloud mit eigenem SecNumCloud-qualifiziertem LLMaaS (32 Modelle, von Chat und Programmierung über Bild bis Übersetzung); Daten werden nach Anbieterangabe nach der Verarbeitung weder verwertet noch gespeichert.

EU · souverän · SecNumCloud · LLMaaS

SAP Generative AI Hub / EU AI Cloud

bis Stufe 2 · EU

Dt. Enterprise-KI-Plattform: Generative AI Hub (Multi-Modell: SAP-eigene + Claude, Gemini, Cohere) plus „EU AI Cloud" als souveräne Full-Stack-Variante (mit Cohere). Für SAP-zentrierte Unternehmen.

EU · Enterprise · EU-AI-Cloud · Cohere

Confidential Computing / TEE bei Hyperscaler (GPU)

bis Stufe 1 · US · Lösungsart

Vertrauliche GPU-Inferenz in versiegelter Enklave (CPU+GPU-Attestation), GA bei Azure/Google. Technischer Abfluss-Schutz Stufe-3-Niveau (T hoch), aber Jurisdiktion bleibt US (R Stufe 1), Mischfall. AWS Nitro ohne GPU-Passthrough.

TEE · Attestation · Mischfall-T-hoch-R-US

Confidential Computing / TEE · EU-Anbieter (Edgeless Privatemode)

bis Stufe 3 · EU

Dt. Anbieter: vertrauliche Inferenz in versiegelter Enklave, weder Betreiber noch Unterbau sehen Klartext. T hoch UND R EU: der seltene Vollschutz. Das Produkt heißt seit dem Umbau Privatemode (vormals Continuum), OpenAI-kompatible API.

TEE · Attestation · T-hoch-R-EU

Tinfoil (vertrauliche Inferenz)

bis Stufe 1 · US

US-Anbieter: vertrauliche Inferenz auf NVIDIA Hopper UND Blackwell (Multi-GPU-CC), Runtime-Attestation + Transparency-Logs. T hoch, aber R US: Mischfall.

TEE · Attestation · Multi-GPU · Mischfall-T-hoch-R-US

Mithril BlindLlama (EU, Alpha)

bis Stufe 3 · EU

Franz. Open-Source-Ansatz für vertrauliche Inferenz (TPM-Attestation). EU-Jurisdiktion, aber explizit Alpha: NICHT produktionsreif; nur zum Beobachten.

TEE · EU · OSS · Alpha-nicht-produktiv

Apple Private Cloud Compute (Referenz)

bis Stufe 0 · US

Goldstandard für nachweisbare Abschottung (stateless, verifiable transparency), aber NUR Referenzarchitektur, nicht als Drittanbieter-Inferenzdienst nutzbar.

TEE · Referenzarchitektur · nicht-beziehbar

LiteLLM (AI-Gateway, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway vor dem LLM: Routing über 100+ APIs, Kosten/Budgets, Logging; PII-Maskierung via Presidio. Erbt die Stufe des Backends. Patch-Management beachten (Lücke 06/2026).

Aufbau · Gateway · Routing · PII-via-Presidio · +1

Portkey AI Gateway (OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway (Apache 2.0), Routing zu 1.600+ Modellen, 50+ Guardrails, Observability. Erbt Backend-Stufe. Seit 2026 zu Palo Alto Networks, Lizenzpolitik beobachten.

Aufbau · Gateway · Routing · Guardrails · +1

Kong AI Gateway

Baustein · erbt die Stufe · EU

Aufbauklasse: Multi-LLM-Routing über AI-Proxy-Plugin; self-hostbar. OSS-Kern eingeschränkt: Semantic Caching/Analytics/Compliance erfordern Kong Enterprise.

Aufbau · Gateway · Routing · Open-Core

Apache APISIX (ai-proxy)

Baustein · erbt die Stufe · EU

Aufbauklasse: voll-OSS-Gateway mit Multi-Modell-Routing, Token-Rate-Limiting, Prompt-Transformation. PII-Maskierung nicht out-of-the-box.

Aufbau · Gateway · Routing · OSS

anymize (DSGVO-Anonymisierungs-Proxy)

Baustein · erbt die Stufe · EU

Kaufbarer dt. Vorschalt-Dienst: erkennt personenbezogene Angaben, ersetzt sie durch Platzhalter, bevor etwas an ein Cloud-Modell geht, und setzt sie in der Antwort wieder ein. EU-Hosting in deutschen Rechenzentren; daneben zwei eigene Modelle.

Aufbau · Gateway · PII-Anonymisierung · DE · +1