Lösung · K6 (K6)
LiteLLM (AI-Gateway, OSS)
Anbieter: BerriAIgithub.com/BerriAI/litellm
Aufbauklasse: OSS-Gateway vor dem LLM: Routing über 100+ APIs, Kosten/Budgets, Logging; PII-Maskierung via Presidio. Erbt die Stufe des Backends. Patch-Management beachten (Lücke 06/2026).
Aufbau · Gateway · Routing · PII-via-Presidio · OSS
Souveränitäts-Profil
Baustein · ohne eigene Schutzstufe
Läuft auf einer der Lösungsklassen K0 bis K5 und erbt deren Stufe samt Profil. Welche Stufe erreicht wird, entscheidet also das Backend, nicht dieser Baustein.
Recht (r)
erbt
Technik (t)
erbt
Autonomie (a)
erbt
Datenblatt
- Jurisdiktion
- EU
- Betriebsmodell
- self-hostbar (OSS), beliebiges Backend
- AVV verfügbar
- n/a
- Training auf Kundendaten
- nein
- Offene Gewichte
- nein
- Selbst betreibbar
- ja
- Zuletzt geprüft
- 2026-08-01
Wofür sie taugt
Vorschaltschicht vor vielen Modell-Anbietern: eine Schnittstelle, dahinter wechselbare Backends, dazu Schlüsselverwaltung, Kostenzählung und Ausfall-Umleitung. Nützlich genau dann, wenn Sie sich die Möglichkeit offenhalten wollen, den Anbieter zu wechseln.
Grenzen
Die Lizenz ist geteilt. Der Kern steht unter MIT, die Inhalte im Verzeichnis enterprise/ unter einer gesonderten Lizenz. Wer Enterprise-Funktionen einsetzt, prüft deren Bedingungen separat.
Als Baustein bringt der Dienst keine eigene Schutzstufe mit: er erbt sie vom Modell-Backend, das Sie anbinden. Ein selbst betriebenes Werkzeug vor einem US-Cloud-Modell bleibt in der Summe ein US-Cloud-Vorgang.
Weiterführend
- Quellcode (repo)
Quellen1
- LiteLLM: LICENSE (MIT-Kern, gesonderte Enterprise-Lizenz) vertragstext · abgerufen 2026-08-01
Prüfhistorie
- 2026-08-01 Kürzel-Beleg durch die Lizenzdatei ersetzt. Geteilte Lizenz benannt: MIT-Kern, Enterprise-Verzeichnis gesondert. (github.com/BerriAI/litellm)
Nächster Schritt
Welche Schutzstufe Ihr Vorhaben verlangt, hängt von Ihren Daten, der Rechtslage und dem Einsatzzweck ab. Die Peilung ermittelt Ihre Mindeststufe in vier Schritten (KI-VO, Daten, Branche, Unabhängigkeit) und zeigt anschließend alle Lösungen, die sie erfüllen.