Lösungsart · Self-Hosting (Open-Weights) (Self-Host)
Self-hosted Open-Weights · EU/permissiv (Mistral, Teuken) · Ollama/vLLM
Umfasst: Eigenbetriebmistral.ai
Kein einzelnes Produkt, sondern eine Bauweise beziehungsweise eine Gruppe vergleichbarer Angebote. Die Angaben unten beschreiben, was für diese Art typisch ist.
EU-Modelle mit permissiver Lizenz (Mistral Apache 2.0; Teuken/OpenGPT-X, EuroLLM-22B, dazu Apertus aus der Schweiz) selbst betrieben: Daten verlassen die Kontrolle nie. Runtimes: vLLM (Produktion), Ollama/LM Studio (Einstieg). Achtung: kann KI-VO-Anbieterrolle auslösen.
Open-Weight · On-Prem · Apache-2.0 · souverän
Souveränitäts-Profil
Recht (r)
3
Technik (t)
3
Autonomie (a)
3
Datenblatt
- Jurisdiktion
- EU
- Betriebsmodell
- On-Prem / eigene oder EU-Private GPU
- AVV verfügbar
- n/a
- Training auf Kundendaten
- nein
- Offene Gewichte
- ja
- Selbst betreibbar
- ja
- Zuletzt geprüft
- 2026-09-28
Wofür sie taugt
Europäische Modelle auf eigener oder gemieteter EU-Hardware: die Daten verlassen Ihre Kontrolle nicht, und die Modellherkunft ist ebenfalls europäisch. Für den Betrieb nimmt man vLLM in der Produktion, Ollama oder LM Studio zum Einstieg.
Grenzen
Die Lizenz hängt an der Variante, nicht am Modellnamen. Mistral veröffentlicht seine kleinen Modelle unter Apache 2.0. Teuken aus dem OpenGPT-X-Projekt gibt es dagegen in zwei Ausführungen: die kommerzielle steht unter Apache 2.0, die Forschungs-Variante nicht (die Projektseite nennt für Teuken-7B CC BY-NC 4.0, also ohne kommerzielle Nutzung). Wer sich das falsche Paket von der Modell-Plattform lädt, betreibt es unter nicht-kommerziellen Bedingungen. Vor dem Einsatz die Lizenz der konkret geladenen Datei prüfen, nicht die Meldung über das Modell.
Zwei neuere Modelle mit offener Herkunft. EuroLLM-22B (Instruct-Fassung vom Dezember 2025) stammt von einem europäischen Forschungskonsortium unter Führung des Instituto Superior Técnico in Lissabon, steht unter Apache 2.0 und deckt 35 Sprachen ab, darunter alle 24 Amtssprachen der EU. Laut Modellbeschreibung ist es nicht auf menschliche Präferenzen abgestimmt; rechnen Sie mit mehr Nacharbeit an den Antworten als bei kommerziellen Modellen. Apertus von EPFL, ETH Zürich und dem Schweizer Rechenzentrum CSCS geht bei der Offenheit am weitesten: Gewichte, Zwischenstände, Code, Rezepte und Skripte zur Rekonstruktion der Trainingsdaten sind veröffentlicht. Die Version 1.0 (8B und 70B, September 2025) steht unter Apache 2.0, dazu kommen Nutzungsbedingungen mit einer Freistellungsklausel zugunsten von ETH und EPFL. Die Version 1.5 vom Juli 2026 ist nur nach Anmeldung und Zustimmung abrufbar. Apertus stammt aus der Schweiz, nicht aus der EU; für den Selbstbetrieb ändert das am Datenfluss nichts.
Dazu die übliche Rechnung des Eigenbetriebs: Aktualisierung, Absicherung und Abschaltung veralteter Stände sind Ihre Aufgabe, und die europäischen Modelle liegen in der Leistung je nach Aufgabe hinter den großen internationalen.
Pflichten beim Einsatz
- Eigenbetrieb: kein Anbieter-AVV nötig, solange die Daten Ihre Infrastruktur nicht verlassen. Läuft das Modell auf gemieteter Infrastruktur (z. B. GPU-Cloud), mit diesem Infrastruktur-Anbieter einen AVV (Art. 28 DSGVO) schließen.
- Verantwortung für Updates, Sicherheit und Protokollierung liegt bei Ihnen. Eigenes Anpassen/Finetunen von Open-Weights kann Sie unter der KI-VO zum Anbieter machen.
- KI-VO-Pflichten (Hochrisiko nach Annex III, Transparenz nach Art. 50) hängen vom Anwendungsfall ab · separat prüfen.
- Gilt immer: KI-Kompetenz sicherstellen (Art. 4 KI-VO, seit 2.2.2025) · Mitarbeitende schulen, Nutzungsregeln festlegen, beides dokumentieren.
Quellen8
- Mistral AI: Mistral Small 3 unter Apache 2.0 anbieter-doku · abgerufen 2026-08-01
- Teuken-7B, kommerzielle Variante (Apache-2.0) anbieter-doku · abgerufen 2026-08-01
- OpenGPT-X: Teuken-7B, Lizenzangabe der Forschungs-Variante anbieter-doku · abgerufen 2026-08-01
- EuroLLM-22B-Instruct-2512: Modellbeschreibung (Apache 2.0, 35 Sprachen, Konsortium) anbieter-doku · abgerufen 2026-09-28
- EuroLLM-Team: Veröffentlichung von EuroLLM-22B (14.12.2025) anbieter-doku · abgerufen 2026-09-28
- ETH Zürich: Apertus, ein vollständig offenes mehrsprachiges Sprachmodell (02.09.2025) presse · abgerufen 2026-09-28
- Apertus-70B-Instruct-2509: Modellbeschreibung (Apache 2.0, Nutzungsbedingungen) anbieter-doku · abgerufen 2026-09-28
- Apertus 1.5 (24.07.2026) anbieter-doku · abgerufen 2026-09-28
Prüfhistorie
- 2026-08-01 Kürzel-Beleg durch drei Quellen ersetzt. Dabei präzisiert: Teuken ist nicht pauschal permissiv lizenziert, es gibt eine kommerzielle Variante unter Apache 2.0 und eine Forschungs-Variante ohne kommerzielle Nutzung. Die frühere Sammelaussage „permissive Lizenz" hätte in die Irre führen können. (mistral.ai, huggingface.co/openGPT-X, opengpt-x.de)
- 2026-09-28 EuroLLM-22B und Apertus ergänzt, statt sie als eigene Einträge zu führen: beides offene Modelle für den Selbstbetrieb, die unter diese Kategorie fallen. Sprachanzahl von EuroLLM auf 35 präzisiert (nicht nur die 24 EU-Amtssprachen). Bei Apertus Freistellungsklausel und die nur nach Anmeldung abrufbare Version 1.5 vermerkt. (huggingface.co, ethz.ch, apertus-ai.org)
Nächster Schritt
Ob Stufe 3 für Ihr Vorhaben genügt, hängt von Ihren Daten, der Rechtslage und dem Einsatzzweck ab. Die Peilung ermittelt Ihre Mindeststufe in vier Schritten (KI-VO, Daten, Branche, Unabhängigkeit) und zeigt anschließend alle Lösungen, die sie erfüllen. Im Erstgespräch klären wir, welcher Weg zu Ihrem Anwendungsfall passt.