Erläuterungen & Quellen

Acht KI-Praktiken sind EU-weit untersagt · unabhängig von Daten oder Branche, anwendbar seit 2. Februar 2025. Für mittelständische Unternehmen am ehesten relevant: Emotionserkennung am Arbeitsplatz oder in der Bildung, Social Scoring von Personen, manipulative bzw. die Schutzbedürftigkeit ausnutzende Systeme sowie bestimmte biometrische Verfahren. Durch den KI-Omnibus (beschlossen: Parlament 16. Juni, Rat 29. Juni 2026; Veröffentlichung im Amtsblatt für Juli 2026 erwartet) kommt ein Verbot der Erzeugung nicht-einvernehmlicher intimer Bilder und von CSAM hinzu (gilt ab 2. Dezember 2026).

Praktisch: Trifft eine dieser Praktiken zu, ist der Einsatz zu unterlassen · eine Stufenwahl erübrigt sich.

Quellen: KI-VO (EU) 2024/1689, EUR-Lex · Art. 5 (AI Act Explorer)

Annex III nennt acht Bereiche, in denen KI als hochriskant gilt · meist wegen erheblicher Wirkung auf Menschen: u.a. Beschäftigung/Personal, Zugang zu wesentlichen Diensten (Kreditwürdigkeit, Versicherung), Bildung, Biometrie, kritische Infrastruktur. Für den Mittelstand sind Personalauswahl/-bewertung und Kreditwürdigkeit die häufigsten Fälle.

Hochrisiko bedeutet nicht „verboten", aber pflichtenreich (Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht u.a.). Die Pflichten für Annex-III-Systeme gelten · nach Verschiebung durch den KI-Omnibus · spätestens ab 2. Dezember 2027; der genaue Geltungsbeginn ist an die Verfügbarkeit harmonisierter Normen gekoppelt und kann früher liegen. Der Omnibus ist beschlossen (Parlament 16. Juni, Rat 29. Juni 2026), die Veröffentlichung im EU-Amtsblatt wird für Juli 2026 erwartet. Für kleinere Unternehmen und „Small Mid-Caps" (unter 750 Mitarbeitende, unter 150 Mio. € Umsatz) sieht der Omnibus vereinfachte Compliance-Pfade vor.

Quellen: Annex III · Art. 6 (Klassifizierung) · KI-VO, EUR-Lex

Auch wenn ein Einsatz in einen Annex-III-Bereich fällt, gilt er nicht als hochriskant, wenn er kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt und eine der vier Bedingungen erfüllt: enge Verfahrensaufgabe, Verbesserung eines bereits abgeschlossenen menschlichen Ergebnisses, Erkennen von Mustern ohne die menschliche Bewertung zu ersetzen, oder reine Vorbereitungsaufgabe. Ausnahme: Sobald Profiling natürlicher Personen stattfindet, bleibt es hochriskant.

Wer sich auf die Entlastung beruft, muss die Einschätzung vor dem Einsatz dokumentieren (Art. 6 Abs. 4).

Quellen: Art. 6 Abs. 3/4 (AI Act Explorer)

Unabhängig von der Stufe und auch für harmlose Anwendungen: Nutzer müssen erkennen, dass sie mit einer KI sprechen (Chatbots/Assistenten); KI-erzeugte Inhalte sind maschinenlesbar zu markieren; Deepfakes und KI-Texte zu öffentlichem Interesse sind zu kennzeichnen; bei Emotionserkennung/biometrischer Kategorisierung sind Betroffene zu informieren. Stichtag: 2. August 2026 (Markierungspflichten nach Art. 50 Abs. 2 mit Übergang bis Dez 2026) · vom KI-Omnibus unberührt.

Quellen: Art. 50 (AI Act Explorer)

Die eine Pflicht, die jedes Unternehmen trifft · unabhängig von Stufe, Lösungsklasse und Anwendungsfall: Anbieter und Betreiber müssen seit dem 2. Februar 2025 für ausreichende KI-Kompetenz der Mitarbeitenden sorgen, die KI-Systeme einsetzen · angemessen zu Rolle, Vorwissen und Einsatzkontext. Praktisch heißt das: Schulungen und klare Nutzungsregeln etablieren und beides dokumentieren. Eine niedrige Schutzstufe entbindet davon nicht · und wer die Peilung durchläuft, hat den ersten Schritt bereits getan.

Quellen: Art. 4 (AI Act Explorer)

Sobald personenbezogene Daten verarbeitet werden, greift die DSGVO; besondere Kategorien (Gesundheit, Biometrie u.a.) nach Art. 9 sind strenger geschützt. Schützenswertes Know-how ohne Personenbezug fällt unter das Geschäftsgeheimnisgesetz. Faustregel: Sobald Personenbezug oder Internas im Spiel sind, reicht kein öffentliches Consumer-Tool · es braucht mindestens ein sauberes Compliance-Setup (Auftragsverarbeitung, EU-Region).

Quellen: DSGVO (EU) 2016/679, EUR-Lex · GeschGehG

Mit Auftragsverarbeitungsvertrag (Art. 28 DSGVO), Datenschutz-Folgenabschätzung (Art. 35) und EU-Region erreichen Sie eine rechtlich verteidigbare Position · auch bei US-Anbietern. Allerdings kann der US CLOUD Act US-Unternehmen verpflichten, Daten herauszugeben, selbst wenn diese in der EU liegen. Wer dieses Restrisiko für seine Daten nicht akzeptieren kann, braucht einen Anbieter außerhalb der US-Jurisdiktion (EU-Sitz, EU-Eigentum/Kontrolle).

Zur sauberen Stufe-1-Praxis gehört bei US-Anbietern ein dokumentiertes Transfer Impact Assessment: Das EU-US Data Privacy Framework trägt derzeit die Übermittlung, sein Bestand ist aber rechtlich wie politisch regelmäßig strittig · das Restrisiko gehört bewertet und festgehalten. Der Vollständigkeit halber: Auch die EU kennt Zugriffsinstrumente · die E-Evidence-Verordnung erlaubt ab dem 18. August 2026 direkte Herausgabe- und Sicherungsanordnungen europäischer Strafverfolgungsbehörden an Diensteanbieter. Stufe 2 adressiert den fremdstaatlichen, nicht den rechtsstaatlich kontrollierten Zugriff.

Quellen: BDSG · DSGVO Art. 28/35, EUR-Lex · US CLOUD Act · E-Evidence-VO (EU) 2023/1543

Ein Vertrag schützt rechtlich · technisch verarbeitet ein per API eingebundenes LLM Ihre Daten jedoch unverschlüsselt im Klartext, unmittelbar bevor sie ins neuronale Netz gehen. Wer einen Datenabfluss technisch ausschließen will, kommt um lokale bzw. abgeschottete Lösungen nicht herum: self-hosted Open-Weight-Modelle auf eigener Hardware oder Confidential Computing / Trusted Execution Environments, bei denen selbst der Betreiber keinen Klartextzugriff hat.

Quellen: BSI (Confidential Computing, C5)

Bestimmte Branchen und Datenarten lösen zusätzliche Pflichten aus und heben die Mindeststufe: Berufsgeheimnis (§203 StGB · Ärzte, Anwälte, Steuerberater), Gesundheits-/Sozialdaten (Art. 9 DSGVO, SGB; perspektivisch Europäischer Gesundheitsdatenraum EHDS, gestaffelt ab 2027), Steuergeheimnis (§30 AO), Finanzsektor (DORA, BaFin · mit Exit-Strategien und Begrenzung von Konzentrationsrisiko), KRITIS/NIS2 (Risikomanagement, Meldepflichten, Lieferkettensicherheit) sowie Geschäftsgeheimnisse (GeschGehG).

Quellen: §203 StGB · §30 AO · DORA (EU) 2022/2554 · NIS2-Richtlinie · BSI (NIS2/KRITIS)

Unabhängig von Vertraulichkeit geht es hier um Unabhängigkeit und Handlungsfähigkeit: Können Sie den Anbieter wechseln (Exit-Fähigkeit, offene Standards, Datenportabilität), und bleiben Sie auch unter geopolitischem Druck handlungsfähig? Hoher Bedarf verschiebt Sie zu offenen, EU-basierten oder selbst betreibbaren Lösungen. Der Finanzsektor macht es über DORA vor, indem er Exit-Strategien ausdrücklich verlangt · ein gutes Vorbild auch außerhalb der Finanzbranche.

Seit September 2025 hat dieser Anspruch ein gesetzliches Fundament: Der Data Act verpflichtet Anbieter von Cloud- und anderen Datenverarbeitungsdiensten, den Wechsel aktiv zu ermöglichen (Vertrags-, Interoperabilitäts- und Unterstützungspflichten); ab dem 12. Januar 2027 entfallen Wechselentgelte. Zur Einordnung: Das erleichtert den Wechsel des Dienstes, nicht automatisch den des Modells · wer Prompts, Feinjustierung und Workflows auf ein proprietäres Modell gebaut hat, bleibt gebunden. Offene Standards und Open Weights bleiben die verlässlichere Absicherung.

Quellen: DORA (Exit-Strategien) · BMWK (Digitale Souveränität) · Gaia-X · Data Act (EU) 2023/2854

Drei Pflichtenkreise hängen nicht an Branche oder Datenart, sondern an der Rolle, in die ein Unternehmen hineinwächst. KI-VO-Anbieterrolle: Wer Open-Weights selbst anpasst oder KI unter eigenem Namen in Verkehr bringt, trägt Anbieter- statt nur Betreiberpflichten; beim Training sind zudem Urheber-Vorbehalte zu beachten (Text-und-Data-Mining-Opt-outs nach § 44b UrhG, Trainingsdaten-Transparenz nach Art. 53 KI-VO). CRA-Herstellerrolle: Wer KI-Funktionen in ein eigenes Produkt mit digitalen Elementen einbaut und vermarktet, fällt unter den Cyber Resilience Act · Meldepflichten für aktiv ausgenutzte Schwachstellen ab dem 11. September 2026, CE-Kennzeichnung mit Security by Design und Update-Pflichten ab dem 11. Dezember 2027. Produkthaftung: Nach der neuen Produkthaftungsrichtlinie (Umsetzung bis Dezember 2026) gelten Software und KI als Produkte, mit Beweiserleichterungen für Geschädigte.

Die Kehrseite für den Einkauf: Ab Ende 2027 tragen zugekaufte digitale Produkte CE-Sicherheitskennzeichnung und Update-Zusagen · ein zusätzliches Beschaffungskriterium neben AVV und Zertifikaten. Sonderfall Medizin: KI mit medizinischer Zweckbestimmung ist Medizinprodukt (MDR/IVDR) und fällt zugleich unter Anhang I der KI-VO.

Quellen: Cyber Resilience Act (EU) 2024/2847 · Produkthaftungs-RL (EU) 2024/2853 · § 44b UrhG

Das Ergebnis der Selbstverortung ist eine von vier kumulativen Stufen · jede höhere enthält die Anforderungen der niedrigeren. Sie ergeben sich aus Datensensibilität, Jurisdiktions- und Autonomiebedarf.

Stufe 0 Offen

Öffentliche, unkritische Daten · öffentliche KI-Tools genügen.

Stufe 1 Compliance-sicher

Rechtssichere Position per AVV, DSFA und EU-Region. Cloud-Act-Restrisiko bleibt.

Stufe 2 Jurisdiktions-souverän

Echter Schutz vor fremdstaatlichem Zugriff: EU-Anbieter ohne US-Mutter.

Stufe 3 Abfluss-/betriebssouverän

Technische Garantie: Daten verlassen die eigene Kontrolle nie.

K0–K5 sind Bezugsklassen · sie bestimmen, woher die Intelligenz kommt und welche Schutzstufe damit erreichbar ist. K6–K8 sind Aufbauklassen · Architekturmuster, die auf einer Bezugsklasse laufen und deren Stufe erben. Eine konkrete Lösung kann im Einzelfall abweichen · maßgeblich sind ihre tatsächlichen Eigenschaften.