Alle Lösungen

AI21 Jamba (API / Open-Weight / On-Prem)

bis Stufe 1 · andere

Israelischer Anbieter: Israel hat EU-Angemessenheitsbeschluss (seit 2011), Transfers daher ohne SCC zulässig. Jamba ist Open-Weight (HF) und on-prem/VPC deploybar → dann faktisch bis Stufe 3 souverän. Zertifikate vor Einsatz prüfen.

API · Open-Weight · On-Prem · EU-Angemessenheit-IL

Perplexity Enterprise

bis Stufe 1 · US

Recherche-/Antwort-Assistent mit Enterprise-Ausbau; US-Hosting, EU-Transfers via SCC/DPF. DSGVO-Aufstellung schwächer als EU-Anbieter; Tracking-Kritik.

Anwender-Plattform · US-Hosting · Recherche-Assistent

Mistral · La Plateforme / Le Chat (Vibe) Enterprise

bis Stufe 2 · EU

Führender EU-LLM-Anbieter, EU-Datenhaltung, nicht Cloud-Act-unterworfen. Viele Modelle Apache 2.0 (self-hostbar), Flaggschiffe teils proprietär; Le Chat Enterprise als Workspace.

EU · Open-Weight · self-hostbar · Anwender-Plattform

IONOS AI Model Hub

bis Stufe 2 · EU

Deutsche DSGVO-konforme Plattform mit kuratiertem Open-Weight-Katalog (Llama 3.3, Teuken-7B, Mistral). Modelle gehostet (API), Fine-Tuning via Studio.

EU · BSI C5 · Open-Weight · Teuken

OVHcloud AI Endpoints

bis Stufe 2 · EU · SEAL-3

40+ Open-Source-Modelle als Managed Endpoints (Llama 3.3, Mixtral); DSGVO-konform. SEAL-3 über Post-Telecom/CleverCloud-Konsortium (EU-Vergabe 04/2026).

EU · Open-Weight · SEAL-3

Scaleway Generative APIs

bis Stufe 2 · EU · SEAL-3

Mehrsprachiger Open-Weight-Katalog (Mistral, Llama, Qwen, Gemma) als Managed APIs. SEAL-3 als Einzelanbieter (EU-Vergabe 04/2026); SecNumCloud-qualifiziert.

EU · Open-Weight · SEAL-3

Open Telekom Cloud · AI Foundation Services

bis Stufe 2 · EU

OpenAI-kompatible API mit 15-30+ Open-Source-LLMs (Llama 3.3, Mistral, DeepSeek R1) auf dt. Telekom-Infrastruktur; private Instanzen möglich. Souveränes Modell SOOFI im Aufbau. Zertifikate (C5/ISO) plausibel, vor Einsatz verifizieren.

EU · Open-Weight · reguliert · SOOFI

Exoscale · Managed/Dedicated Inference

bis Stufe 2 · EU

Schweizer IaaS (A1/Telekom-Austria) mit europäischer Inferenz auf eigener GPU-Hardware und GPU-Instanzen für Self-Hosting. Verfügbar ist die dedizierte Variante (eigene Endpunkte, OpenAI-kompatibel); der Modell-Katalog nach Verbrauch ist angekündigt, aber noch nicht verfügbar.

EU · CH · Open-Weight · GPU

Self-hosted Open-Weights · EU/permissiv (Mistral, Teuken) · Ollama/vLLM

bis Stufe 3 · EU · Lösungsart

EU-Modelle mit permissiver Lizenz (Mistral Apache 2.0; Teuken/OpenGPT-X, EuroLLM) selbst betrieben: Daten verlassen die Kontrolle nie. Runtimes: vLLM (Produktion), Ollama/LM Studio (Einstieg). Achtung: kann KI-VO-Anbieterrolle auslösen.

Open-Weight · On-Prem · Apache-2.0 · souverän

Self-hosted Open-Weights · international (Llama, Qwen, Gemma 4, DeepSeek, Phi)

bis Stufe 3 · EU · Lösungsart

International führende Open-Weights selbst betrieben (volle techn. Kontrolle). Lizenz-/Herkunfts-Vorsicht: Llama 4 schließt EU-Firmen bei Multimodal aus + Custom-Lizenz; Gemma erst ab v4 Apache 2.0; Qwen/DeepSeek permissiv, aber China-Herkunft als Governance-Kriterium.

Open-Weight · On-Prem · Lizenz-Vorsicht

Open WebUI

Baustein · erbt die Stufe · EU

Populärstes self-hosted Chat-Frontend (RAG, Tools, MCP). Lizenz seit v0.6.6 source-available (Branding-Klausel); interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · source-available

LibreChat

Baustein · erbt die Stufe · EU

Self-hosted Multi-Modell-Chat-UI (RAG, Agenten, MCP); MIT-Lizenz (sauberes Open Source). Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · MIT

AnythingLLM

Baustein · erbt die Stufe · EU

Self-hosted All-in-one mit Fokus auf privater Dokument-RAG (Workspaces) + Agenten; MIT-Lizenz. Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · MIT

Dify

Baustein · erbt die Stufe · EU

LLMOps-Plattform: RAG + Agenten + Workflow-Builder; Lizenz source-available (kein Multi-Tenant-SaaS ohne Genehmigung, Branding). Interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · RAG · Agenten · Workflow · +1

RAGFlow

Baustein · erbt die Stufe · EU

RAG-Engine mit tiefer Dokumentenstruktur-Erkennung + Agenten; Apache 2.0 (echtes Open Source). Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · Apache-2.0