Lösungsart · Self-Hosting (Open-Weights) (Self-Host)
Self-hosted Open-Weights · EU/permissiv (Mistral, Teuken) · Ollama/vLLM
Umfasst: Eigenbetriebmistral.ai
Kein einzelnes Produkt, sondern eine Bauweise beziehungsweise eine Gruppe vergleichbarer Angebote. Die Angaben unten beschreiben, was für diese Art typisch ist.
EU-Modelle mit permissiver Lizenz (Mistral Apache 2.0; Teuken/OpenGPT-X, EuroLLM) selbst betrieben: Daten verlassen die Kontrolle nie. Runtimes: vLLM (Produktion), Ollama/LM Studio (Einstieg). Achtung: kann KI-VO-Anbieterrolle auslösen.
Open-Weight · On-Prem · Apache-2.0 · souverän
Souveränitäts-Profil
Recht (r)
3
Technik (t)
3
Autonomie (a)
3
Datenblatt
- Jurisdiktion
- EU
- Betriebsmodell
- On-Prem / eigene oder EU-Private GPU
- AVV verfügbar
- n/a
- Training auf Kundendaten
- nein
- Offene Gewichte
- ja
- Selbst betreibbar
- ja
- Zuletzt geprüft
- 2026-08-01
Wofür sie taugt
Europäische Modelle auf eigener oder gemieteter EU-Hardware: die Daten verlassen Ihre Kontrolle nicht, und die Modellherkunft ist ebenfalls europäisch. Für den Betrieb nimmt man vLLM in der Produktion, Ollama oder LM Studio zum Einstieg.
Grenzen
Die Lizenz hängt an der Variante, nicht am Modellnamen. Mistral veröffentlicht seine kleinen Modelle unter Apache 2.0. Teuken aus dem OpenGPT-X-Projekt gibt es dagegen in zwei Ausführungen: die kommerzielle steht unter Apache 2.0, die Forschungs-Variante nicht (die Projektseite nennt für Teuken-7B CC BY-NC 4.0, also ohne kommerzielle Nutzung). Wer sich das falsche Paket von der Modell-Plattform lädt, betreibt es unter nicht-kommerziellen Bedingungen. Vor dem Einsatz die Lizenz der konkret geladenen Datei prüfen, nicht die Meldung über das Modell.
Dazu die übliche Rechnung des Eigenbetriebs: Aktualisierung, Absicherung und Abschaltung veralteter Stände sind Ihre Aufgabe, und die europäischen Modelle liegen in der Leistung je nach Aufgabe hinter den großen internationalen.
Pflichten beim Einsatz
- Eigenbetrieb: kein Anbieter-AVV nötig, solange die Daten Ihre Infrastruktur nicht verlassen. Läuft das Modell auf gemieteter Infrastruktur (z. B. GPU-Cloud), mit diesem Infrastruktur-Anbieter einen AVV (Art. 28 DSGVO) schließen.
- Verantwortung für Updates, Sicherheit und Protokollierung liegt bei Ihnen. Eigenes Anpassen/Finetunen von Open-Weights kann Sie unter der KI-VO zum Anbieter machen.
- KI-VO-Pflichten (Hochrisiko nach Annex III, Transparenz nach Art. 50) hängen vom Anwendungsfall ab · separat prüfen.
- Gilt immer: KI-Kompetenz sicherstellen (Art. 4 KI-VO, seit 2.2.2025) · Mitarbeitende schulen, Nutzungsregeln festlegen, beides dokumentieren.
Quellen3
- Mistral AI: Mistral Small 3 unter Apache 2.0 anbieter-doku · abgerufen 2026-08-01
- Teuken-7B, kommerzielle Variante (Apache-2.0) anbieter-doku · abgerufen 2026-08-01
- OpenGPT-X: Teuken-7B, Lizenzangabe der Forschungs-Variante anbieter-doku · abgerufen 2026-08-01
Prüfhistorie
- 2026-08-01 Kürzel-Beleg durch drei Quellen ersetzt. Dabei präzisiert: Teuken ist nicht pauschal permissiv lizenziert, es gibt eine kommerzielle Variante unter Apache 2.0 und eine Forschungs-Variante ohne kommerzielle Nutzung. Die frühere Sammelaussage „permissive Lizenz" hätte in die Irre führen können. (mistral.ai, huggingface.co/openGPT-X, opengpt-x.de)
Nächster Schritt
Ob Stufe 3 für Ihr Vorhaben genügt, hängt von Ihren Daten, der Rechtslage und dem Einsatzzweck ab. Die Peilung ermittelt Ihre Mindeststufe in vier Schritten (KI-VO, Daten, Branche, Unabhängigkeit) und zeigt anschließend alle Lösungen, die sie erfüllen.