Alle Lösungen

AI21 Jamba (API / Open-Weight / On-Prem)

bis Stufe 1 · andere

Israelischer Anbieter: Israel hat EU-Angemessenheitsbeschluss (seit 2011), Transfers daher ohne SCC zulässig. Jamba ist Open-Weight (HF) und on-prem/VPC deploybar → dann faktisch bis Stufe 3 souverän. Zertifikate vor Einsatz prüfen.

API · Open-Weight · On-Prem · EU-Angemessenheit-IL

Cohere Command / North (API + On-Prem)

bis Stufe 1 · andere

Kanadischer Anbieter (EU-Angemessenheit). North komplett on-prem/air-gapped betreibbar (kein Anbieter-Datenzugriff) → dann bis Stufe 3. Stärkstes Self-Hosting-Profil der proprietären API-Anbieter.

API · On-Prem · air-gapped · Kanada-Angemessenheit

Perplexity Enterprise

bis Stufe 1 · US

Recherche-/Antwort-Assistent mit Enterprise-Ausbau; US-Hosting, EU-Transfers via SCC/DPF. DSGVO-Aufstellung schwächer als EU-Anbieter; Tracking-Kritik.

Anwender-Plattform · US-Hosting · Recherche-Assistent

Self-hosted Open-Weights · EU/permissiv (Mistral, Teuken) · Ollama/vLLM

bis Stufe 3 · EU · Lösungsart

EU-Modelle mit permissiver Lizenz (Mistral Apache 2.0; Teuken/OpenGPT-X, EuroLLM) selbst betrieben: Daten verlassen die Kontrolle nie. Runtimes: vLLM (Produktion), Ollama/LM Studio (Einstieg). Achtung: kann KI-VO-Anbieterrolle auslösen.

Open-Weight · On-Prem · Apache-2.0 · souverän

Self-hosted Open-Weights · international (Llama, Qwen, Gemma 4, DeepSeek, Phi)

bis Stufe 3 · EU · Lösungsart

International führende Open-Weights selbst betrieben (volle techn. Kontrolle). Lizenz-/Herkunfts-Vorsicht: Llama 4 schließt EU-Firmen bei Multimodal aus + Custom-Lizenz; Gemma erst ab v4 Apache 2.0; Qwen/DeepSeek permissiv, aber China-Herkunft als Governance-Kriterium.

Open-Weight · On-Prem · Lizenz-Vorsicht

Mithril BlindLlama (EU, Alpha)

bis Stufe 3 · EU

Franz. Open-Source-Ansatz für vertrauliche Inferenz (TPM-Attestation). EU-Jurisdiktion, aber explizit Alpha: NICHT produktionsreif; nur zum Beobachten.

TEE · EU · OSS · Alpha-nicht-produktiv

LiteLLM (AI-Gateway, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway vor dem LLM: Routing über 100+ APIs, Kosten/Budgets, Logging; PII-Maskierung via Presidio. Erbt die Stufe des Backends. Patch-Management beachten (Lücke 06/2026).

Aufbau · Gateway · Routing · PII-via-Presidio · +1

Portkey AI Gateway (OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway (Apache 2.0), Routing zu 1.600+ Modellen, 50+ Guardrails, Observability. Erbt Backend-Stufe. Seit 2026 zu Palo Alto Networks, Lizenzpolitik beobachten.

Aufbau · Gateway · Routing · Guardrails · +1

Apache APISIX (ai-proxy)

Baustein · erbt die Stufe · EU

Aufbauklasse: voll-OSS-Gateway mit Multi-Modell-Routing, Token-Rate-Limiting, Prompt-Transformation. PII-Maskierung nicht out-of-the-box.

Aufbau · Gateway · Routing · OSS

Microsoft Presidio (PII-Baustein, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse (Baustein, kein Routing-Gateway): OSS-PII-Erkennung/-Pseudonymisierung, läuft vollständig lokal; typ. in ein Gateway eingebunden. Keine 100%-Erkennung.

Aufbau · PII-Maskierung · OSS · Baustein