Alle Lösungen

Exoscale · Managed/Dedicated Inference

bis Stufe 2 · EU

Schweizer IaaS (A1/Telekom-Austria) mit europäischer Inferenz auf eigener GPU-Hardware und GPU-Instanzen für Self-Hosting. Verfügbar ist die dedizierte Variante (eigene Endpunkte, OpenAI-kompatibel); der Modell-Katalog nach Verbrauch ist angekündigt, aber noch nicht verfügbar.

EU · CH · Open-Weight · GPU

Gcore Everywhere Inference

bis Stufe 2 · EU

Luxemburger Anbieter: verwaltete Inferenz plus GPU-Cloud (H100/H200/B200) und Stack für private KI. Sitz und Vertragspartner in der EU; eine zugesagte EU-Datenregion für den Inferenz-Dienst nennt der Anbieter öffentlich nicht.

EU · managed-Inferenz · GPU · Edge

Hetzner (GPU-Server für Self-Hosting)

bis Stufe 3 · EU

Dt. Low-Cost-GPU-/Server-Anbieter (RTX 4000 Ada bis RTX PRO 6000 Blackwell). Reine Infrastruktur für Self-Hosting eigener Open-Weights (Ollama/vLLM); kein eigener KI-Dienst.

Infrastruktur · GPU · DE · Low-Cost

Nebius (GPU-Cloud)

bis Stufe 3 · EU

Niederländisch/finnischer GPU-Hyperscaler (NVIDIA-Vollstack) für Training/Inferenz eigener Modelle; Daten in der EU. Reine GPU-Infrastruktur, kein kuratierter LLM-Dienst; NVIDIA-finanziert.

Infrastruktur · GPU · EU · börsennotiert

Confidential Computing / TEE bei Hyperscaler (GPU)

bis Stufe 1 · US · Lösungsart

Vertrauliche GPU-Inferenz in versiegelter Enklave (CPU+GPU-Attestation), GA bei Azure/Google. Technischer Abfluss-Schutz Stufe-3-Niveau (T hoch), aber Jurisdiktion bleibt US (R Stufe 1), Mischfall. AWS Nitro ohne GPU-Passthrough.

TEE · Attestation · Mischfall-T-hoch-R-US

Confidential Computing / TEE · EU-Anbieter (Edgeless Privatemode)

bis Stufe 3 · EU

Dt. Anbieter: vertrauliche Inferenz in versiegelter Enklave, weder Betreiber noch Unterbau sehen Klartext. T hoch UND R EU: der seltene Vollschutz. Das Produkt heißt seit dem Umbau Privatemode (vormals Continuum), OpenAI-kompatible API.

TEE · Attestation · T-hoch-R-EU

Tinfoil (vertrauliche Inferenz)

bis Stufe 1 · US

US-Anbieter: vertrauliche Inferenz auf NVIDIA Hopper UND Blackwell (Multi-GPU-CC), Runtime-Attestation + Transparency-Logs. T hoch, aber R US: Mischfall.

TEE · Attestation · Multi-GPU · Mischfall-T-hoch-R-US

Mithril BlindLlama (EU, Alpha)

bis Stufe 3 · EU

Franz. Open-Source-Ansatz für vertrauliche Inferenz (TPM-Attestation). EU-Jurisdiktion, aber explizit Alpha: NICHT produktionsreif; nur zum Beobachten.

TEE · EU · OSS · Alpha-nicht-produktiv

Apple Private Cloud Compute (Referenz)

bis Stufe 0 · US

Goldstandard für nachweisbare Abschottung (stateless, verifiable transparency), aber NUR Referenzarchitektur, nicht als Drittanbieter-Inferenzdienst nutzbar.

TEE · Referenzarchitektur · nicht-beziehbar

LiteLLM (AI-Gateway, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway vor dem LLM: Routing über 100+ APIs, Kosten/Budgets, Logging; PII-Maskierung via Presidio. Erbt die Stufe des Backends. Patch-Management beachten (Lücke 06/2026).

Aufbau · Gateway · Routing · PII-via-Presidio · +1

Portkey AI Gateway (OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway (Apache 2.0), Routing zu 1.600+ Modellen, 50+ Guardrails, Observability. Erbt Backend-Stufe. Seit 2026 zu Palo Alto Networks, Lizenzpolitik beobachten.

Aufbau · Gateway · Routing · Guardrails · +1

Apache APISIX (ai-proxy)

Baustein · erbt die Stufe · EU

Aufbauklasse: voll-OSS-Gateway mit Multi-Modell-Routing, Token-Rate-Limiting, Prompt-Transformation. PII-Maskierung nicht out-of-the-box.

Aufbau · Gateway · Routing · OSS

Microsoft Presidio (PII-Baustein, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse (Baustein, kein Routing-Gateway): OSS-PII-Erkennung/-Pseudonymisierung, läuft vollständig lokal; typ. in ein Gateway eingebunden. Keine 100%-Erkennung.

Aufbau · PII-Maskierung · OSS · Baustein

Flowise

Baustein · erbt die Stufe · EU

Visueller Agenten-/Flow-Builder (Low-Code); Community Edition Apache 2.0, Governance-Features (SSO/RBAC) kostenpflichtig. Erbt Backend-Stufe.

Aufbau · Agenten · Low-Code · Apache-2.0-CE