Alle Lösungen

Open Telekom Cloud · AI Foundation Services

bis Stufe 2 · EU

OpenAI-kompatible API mit 15-30+ Open-Source-LLMs (Llama 3.3, Mistral, DeepSeek R1) auf dt. Telekom-Infrastruktur; private Instanzen möglich. Souveränes Modell SOOFI im Aufbau. Zertifikate (C5/ISO) plausibel, vor Einsatz verifizieren.

EU · Open-Weight · reguliert · SOOFI

S3NS · PREMI3NS

bis Stufe 2 · EU · SEAL-2

Souveränes Betreibermodell (EU-betrieben) auf Google-Technik: Souveränität über Betrieb/Jurisdiktion, Technologiebasis aber US. SEAL-2. DE-Region für Ende 2026 angekündigt.

EU · souveränes-Betreibermodell · SEAL-2 · Label-Vorsicht

3DS Outscale · LLMaaS / AI Factories

bis Stufe 2 · EU

Hochzertifizierter franz. Souveränitäts-Cloud (erste SecNumCloud-3.2-Public-Cloud) mit eigenem LLMaaS und GPU-„AI Factories" für Self-Hosting.

EU · souverän · SecNumCloud · LLMaaS

Cloud Temple · LLMaaS

bis Stufe 2 · EU

Stark zertifizierter franz. Souveränitäts-Cloud mit eigenem SecNumCloud-qualifiziertem LLMaaS (32 Modelle, von Chat und Programmierung über Bild bis Übersetzung); Daten werden nach Anbieterangabe nach der Verarbeitung weder verwertet noch gespeichert.

EU · souverän · SecNumCloud · LLMaaS

Clarence (Proximus / LuxConnect)

bis Stufe 2 · EU · SEAL-2

Luxemburger Souveränitäts-Cloud als vom Internet getrennte („disconnected") Umgebung auf Google-Cloud-Technik, lokal betrieben. Teil des Proximus-Konsortiums mit SEAL-2 in der EU-Vergabe 04/2026.

EU · souverän · disconnected · SEAL-2

Proximus NXT (Sovereign Cloud)

bis Stufe 2 · EU · SEAL-2

Belgischer Souveränitäts-Cloud; KI über europäische Partner (Mistral, S3NS, Clarence) statt Eigenentwicklung. SEAL-2 (EU-Vergabe 04/2026).

EU · souverän · Partner-KI · SEAL-2

LiteLLM (AI-Gateway, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway vor dem LLM: Routing über 100+ APIs, Kosten/Budgets, Logging; PII-Maskierung via Presidio. Erbt die Stufe des Backends. Patch-Management beachten (Lücke 06/2026).

Aufbau · Gateway · Routing · PII-via-Presidio · +1

Portkey AI Gateway (OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse: OSS-Gateway (Apache 2.0), Routing zu 1.600+ Modellen, 50+ Guardrails, Observability. Erbt Backend-Stufe. Seit 2026 zu Palo Alto Networks, Lizenzpolitik beobachten.

Aufbau · Gateway · Routing · Guardrails · +1

Kong AI Gateway

Baustein · erbt die Stufe · EU

Aufbauklasse: Multi-LLM-Routing über AI-Proxy-Plugin; self-hostbar. OSS-Kern eingeschränkt: Semantic Caching/Analytics/Compliance erfordern Kong Enterprise.

Aufbau · Gateway · Routing · Open-Core

Apache APISIX (ai-proxy)

Baustein · erbt die Stufe · EU

Aufbauklasse: voll-OSS-Gateway mit Multi-Modell-Routing, Token-Rate-Limiting, Prompt-Transformation. PII-Maskierung nicht out-of-the-box.

Aufbau · Gateway · Routing · OSS

Microsoft Presidio (PII-Baustein, OSS)

Baustein · erbt die Stufe · EU

Aufbauklasse (Baustein, kein Routing-Gateway): OSS-PII-Erkennung/-Pseudonymisierung, läuft vollständig lokal; typ. in ein Gateway eingebunden. Keine 100%-Erkennung.

Aufbau · PII-Maskierung · OSS · Baustein

anymize (DSGVO-Anonymisierungs-Proxy)

Baustein · erbt die Stufe · EU

Kaufbarer dt. Vorschalt-Dienst: erkennt personenbezogene Angaben, ersetzt sie durch Platzhalter, bevor etwas an ein Cloud-Modell geht, und setzt sie in der Antwort wieder ein. EU-Hosting in deutschen Rechenzentren; daneben zwei eigene Modelle.

Aufbau · Gateway · PII-Anonymisierung · DE · +1

Open WebUI

Baustein · erbt die Stufe · EU

Populärstes self-hosted Chat-Frontend (RAG, Tools, MCP). Lizenz seit v0.6.6 source-available (Branding-Klausel); interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · source-available

LibreChat

Baustein · erbt die Stufe · EU

Self-hosted Multi-Modell-Chat-UI (RAG, Agenten, MCP); MIT-Lizenz (sauberes Open Source). Erbt Backend-Stufe.

Aufbau · Chat-UI · RAG · MIT

Jan (Desktop)

Baustein · erbt die Stufe · EU

Desktop-Chat-UI, 100% offline, OpenAI-kompatible lokale API; Apache 2.0. Ideal für streng regulierte Offline-Arbeitsplätze.

Aufbau · Chat-UI · offline · Apache-2.0

AnythingLLM

Baustein · erbt die Stufe · EU

Self-hosted All-in-one mit Fokus auf privater Dokument-RAG (Workspaces) + Agenten; MIT-Lizenz. Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · MIT

Dify

Baustein · erbt die Stufe · EU

LLMOps-Plattform: RAG + Agenten + Workflow-Builder; Lizenz source-available (kein Multi-Tenant-SaaS ohne Genehmigung, Branding). Interne Nutzung frei. Erbt Backend-Stufe.

Aufbau · RAG · Agenten · Workflow · +1

RAGFlow

Baustein · erbt die Stufe · EU

RAG-Engine mit tiefer Dokumentenstruktur-Erkennung + Agenten; Apache 2.0 (echtes Open Source). Erbt Backend-Stufe.

Aufbau · RAG · Dokumente · Apache-2.0

Flowise

Baustein · erbt die Stufe · EU

Visueller Agenten-/Flow-Builder (Low-Code); Community Edition Apache 2.0, Governance-Features (SSO/RBAC) kostenpflichtig. Erbt Backend-Stufe.

Aufbau · Agenten · Low-Code · Apache-2.0-CE

n8n

Baustein · erbt die Stufe · EU

Führende Workflow-Automation mit KI-/Agenten-Knoten (400+ Integrationen); dt. Anbieter. „Sustainable Use License" (intern frei, kein Weiterverkauf als Service). Erbt Backend-Stufe.

Aufbau · Automation · Agenten · DE · +1