Glossar
Dieses Glossar erklärt die wichtigsten Begriffe rund um KI im Mittelstand, von LLM über RAG bis souveräne KI. Jeder Begriff ist in zwei bis drei Sätzen erklärt, ohne Buzzwords und mit Bezug zur betrieblichen Praxis. Wo es passt, verweisen wir auf eine vertiefende Seite.
Die Begriffe, die in fast jedem KI-Gespräch fallen.
KI
Künstliche Intelligenz ist der Oberbegriff für Software, die Aufgaben übernimmt, für die man bisher menschliche Intelligenz brauchte, etwa Sprache verstehen, Muster erkennen oder Entscheidungen vorbereiten. Der Begriff umfasst viele Verfahren, von einfachen Regeln bis zu großen Sprachmodellen. Im Mittelstand meint KI heute meist generative Werkzeuge, die Texte, Bilder oder Code erzeugen.
Mehr dazu: Souveräne KI
ML
Machine Learning ist der Teil der KI, bei dem ein System aus Beispielen lernt, statt festen Regeln zu folgen. Man zeigt dem Modell viele Daten, und es leitet daraus selbst Muster ab. Für Unternehmen heißt das etwa: Ein Modell kann Rechnungen automatisch einordnen, sobald es genug Beispiele gesehen hat.
Deep Learning ist eine Form des Machine Learning, die mit künstlichen neuronalen Netzen aus vielen Schichten arbeitet. Diese Netze erkennen komplexe Muster in Sprache, Bildern oder Ton. Große Sprachmodelle und moderne Bilderkennung beruhen darauf.
LLM
Ein Large Language Model ist ein Sprachmodell, das auf sehr großen Textmengen trainiert wurde und natürliche Sprache versteht, fortschreibt oder umformuliert. Es ist die Grundlage heutiger KI-Assistenten wie ChatGPT oder Claude. Im Unternehmen dient ein LLM etwa als Assistent für Texte, Zusammenfassungen oder Recherche.
Mehr dazu: RAG-Assistenten
Generative KI bezeichnet Modelle, die neue Inhalte erzeugen: Texte, Bilder, Audio, Video oder Code. Anders als klassische KI, die nur einordnet oder vorhersagt, produziert generative KI eigenständige Ergebnisse. Für den Mittelstand ist sie oft der erste greifbare Anwendungsfall, etwa im Marketing.
Mehr dazu: KI im Marketing Workshop
GPAI
General-Purpose AI, auf Deutsch KI-Modelle mit allgemeinem Verwendungszweck, sind universell einsetzbare Modelle wie GPT, Claude oder Gemini, die für viele Aufgaben taugen. Die EU-KI-Verordnung regelt sie gesondert und verpflichtet ihre Anbieter zu Transparenz. Wer solche Modelle nutzt, sollte prüfen, dass die Anbieter diese Pflichten erfüllen.
Mehr dazu: EU KI-Verordnung
Ein Token ist die kleinste Verarbeitungseinheit eines Sprachmodells, meist ein Wortteil. Modelle rechnen intern nicht in Wörtern, sondern in Tokens, und viele KI-Dienste werden pro Token abgerechnet. Ein deutscher Satz umfasst grob 15 bis 30 Tokens.
Ein Prompt ist die Eingabe, mit der Sie einem KI-Modell eine Aufgabe stellen. Prompt Engineering meint das gezielte Formulieren dieser Eingaben, damit das Ergebnis brauchbar wird. Gute Prompts sind konkret, geben Kontext und benennen das gewünschte Format.
Das Kontextfenster ist die Textmenge, die ein Modell auf einmal berücksichtigen kann, gemessen in Tokens. Ist es zu klein, verliert das Modell frühere Teile einer langen Unterhaltung oder eines Dokuments. Größere Kontextfenster erlauben es, ganze Handbücher oder Verträge in einem Durchgang zu verarbeiten.
Als Halluzination bezeichnet man eine Antwort, die ein KI-Modell überzeugend, aber sachlich falsch formuliert. Das Modell erfindet dann Fakten, Quellen oder Zahlen, die es nicht gibt. Verfahren wie RAG und menschliche Kontrolle senken das Risiko, schließen es aber nicht vollständig aus.
Mehr dazu: RAG-Assistenten
Inferenz ist der Betrieb eines fertig trainierten Modells: der Moment, in dem es eine konkrete Eingabe verarbeitet und eine Antwort liefert. Sie unterscheidet sich vom Training, das einmalig und aufwendig ist. Wer Modelle selbst betreibt, braucht für die Inferenz passende Hardware, oft Grafikprozessoren.
Mehr dazu: Souveräne KI
Wie aus Modellen konkrete Anwendungen im Unternehmen werden.
Ein Embedding ist die numerische Repräsentation eines Textes, mit der sich inhaltliche Ähnlichkeit vergleichbar machen lässt. Ähnliche Inhalte liegen im Zahlenraum nah beieinander. Embeddings sind die Voraussetzung für semantische Suche und für RAG.
Mehr dazu: RAG-Assistenten
Eine Vektordatenbank speichert Embeddings und findet zu einer Anfrage die inhaltlich ähnlichsten Einträge. Sie ist der Suchspeicher hinter einem RAG-System. Beispiele sind pgvector, Qdrant oder Elasticsearch.
Mehr dazu: RAG-Assistenten
RAG
Retrieval-Augmented Generation ist ein Architekturmuster, bei dem ein Sprachmodell seine Antwort auf Basis eigener, zuvor durchsuchter Dokumente erzeugt, statt nur aus seinem Trainingsstand. So beantwortet ein Assistent Fragen mit dem aktuellen Wissen Ihres Unternehmens. RAG senkt das Risiko von Halluzinationen und macht Quellen nachvollziehbar.
Mehr dazu: RAG-Assistenten
Fine-Tuning ist die gezielte Weiterbildung eines vortrainierten Modells auf eigenen Daten, um Stil, Fachsprache oder bestimmte Aufgaben zu verbessern. Es lohnt sich, wenn ein Modell dauerhaft eine besondere Aufgabe beherrschen soll. Für reine Wissensfragen ist oft RAG der einfachere und günstigere Weg.
Mehr dazu: RAG-Assistenten
Ein KI-Agent ist ein System, das eigenständig mehrstufige Aufgaben löst, indem es Ziele verfolgt, Werkzeuge aufruft und Zwischenergebnisse selbst bewertet. Anders als ein Chatbot antwortet ein Agent nicht nur, sondern handelt. Im Unternehmen sollte er in klaren Grenzen und mit menschlicher Freigabe laufen.
Mehr dazu: KI-Agenten im Unternehmen
Ein Chatbot ist ein Dialogsystem, das auf Eingaben antwortet, klassisch nach festen Regeln, heute meist mit einem Sprachmodell im Hintergrund. Er reagiert auf Fragen, löst aber keine mehrstufigen Aufgaben eigenständig aus. Das unterscheidet ihn vom KI-Agenten.
Mehr dazu: KI-Agenten im Unternehmen
Agentic Coding, auch AI Coding, bezeichnet Softwareentwicklung, bei der ein KI-Agent Aufgaben im Code eigenständig plant, umsetzt und prüft, angeleitet durch das Entwicklungsteam. Werkzeuge wie Claude Code arbeiten nicht mehr nur zeilenweise, sondern über ganze Aufgaben hinweg. Diese Website selbst wurde auf diese Weise gebaut.
Mehr dazu: AI Coding im Team
Multimodale KI verarbeitet mehrere Arten von Daten zugleich, etwa Text, Bild, Audio und Video. Ein multimodales Modell kann zum Beispiel ein Foto beschreiben oder eine Tabelle aus einem Screenshot auslesen. Für Unternehmen öffnet das Anwendungsfälle jenseits reiner Textverarbeitung.
Die Begriffe rund um Kontrolle, Unabhängigkeit und Regulierung.
Souveräne KI meint einen KI-Einsatz, bei dem Daten, Modelle und Betrieb unter Kontrolle des Unternehmens bleiben, als Gegenentwurf zur reinen Abhängigkeit von Cloud-APIs. Sie kann self-hosted oder in EU-Rechenzentren laufen. Für den Mittelstand verbindet sie KI-Nutzung mit Datenschutz und Unabhängigkeit.
Mehr dazu: Souveräne KI
Digitale Souveränität ist die Fähigkeit eines Unternehmens, selbstbestimmt über seine Daten, Software und Infrastruktur zu verfügen, ohne in kritische Abhängigkeiten zu geraten. Bei KI heißt das, die Wahl über Modell, Betriebsort und Datenfluss zu behalten. Sie ist die Grundlage souveräner KI.
Mehr dazu: Digitale Souveränität
On-Premise bedeutet, dass Software und Daten auf Servern im eigenen Haus oder in einer selbst kontrollierten Umgebung laufen, nicht in der öffentlichen Cloud eines Anbieters. Bei KI erlaubt das, sensible Daten das Unternehmen nicht verlassen zu lassen. Der Preis ist mehr Verantwortung für Betrieb und Hardware.
Mehr dazu: Umsetzung
Ein lokales LLM ist ein Sprachmodell, das auf eigener Infrastruktur statt über eine fremde Cloud-API läuft. Möglich wird das durch Open-Weight-Modelle, deren Gewichte frei verfügbar sind, etwa aus den Reihen Llama, Mistral oder Qwen. So bleibt die Verarbeitung im Haus, oft zum Preis etwas geringerer Leistung als bei den größten Cloud-Modellen.
Mehr dazu: Souveräne KI
Vendor Lock-in beschreibt die Abhängigkeit von einem einzelnen Anbieter, aus der ein Wechsel nur mit hohem Aufwand oder Kosten möglich ist. Bei KI entsteht er etwa durch proprietäre Schnittstellen oder Datenformate. Offene Standards und portable Architekturen halten die Wechselmöglichkeit offen.
Mehr dazu: Digitale Souveränität
AI Act
Die EU-KI-Verordnung, englisch AI Act, ist die erste umfassende KI-Regulierung der EU (Verordnung 2024/1689). Sie ordnet KI-Systeme nach Risiko und knüpft daran gestaffelte Pflichten. Für den Mittelstand am wichtigsten sind die Schulungspflicht nach Artikel 4 und die Transparenzregeln.
Mehr dazu: EU KI-Verordnung
Die Datenschutz-Grundverordnung regelt in der EU den Umgang mit personenbezogenen Daten. Bei KI ist sie überall dort einschlägig, wo solche Daten in Modelle fließen, etwa in Prompts oder Trainingsdaten. Souveräne, self-hosted Ansätze erleichtern die Einhaltung, weil die Daten kontrollierbar bleiben.
Mehr dazu: Souveräne KI
Im Wissens-Hub finden Sie ausführliche Einordnungen zu souveräner KI, RAG, KI-Agenten und der EU-KI-Verordnung. Oder Sie klären Ihre Fragen direkt im Erstgespräch.