KI-Agenten im Unternehmen

Vom Chatbot zum Agenten.

KI-Agenten sind der nächste Schritt nach dem Chatbot — Systeme, die Ziele entgegennehmen, eigenständig planen, Werkzeuge aufrufen und Aufgaben mehrstufig durchführen. Hier zeigen wir, was sie von klassischen Chatbots unterscheidet, aus welchen Bausteinen sie bestehen, wofür sie sich im Mittelstand wirklich eignen — und was an Governance dazugehört, damit aus Effizienz kein Compliance- Problem wird.

Was Agenten von Chatbots unterscheidet

Drei Dimensionen machen den Unterschied. Auf den ersten Blick sieht ein Agent aus wie ein etwas klügerer Chatbot — der Unterschied wird erst dort sichtbar, wo Konsequenzen entstehen.

01

Reagieren vs. Handeln

Chatbot

Chatbot: wartet auf eine Frage, liefert eine Antwort, und der Dialog ist zu Ende. Wer Folgeschritte will, muss selbst tippen.

Agent

Agent: nimmt ein Ziel entgegen („Sammle alle offenen Angebote und erinnere die Kunden") und führt die nötigen Schritte eigenständig aus — inklusive Aufruf externer Systeme.

02

Ein Schritt vs. mehrere Schritte

Chatbot

Chatbot: ein Input, ein Output. Plant nicht, prüft sich nicht selbst, korrigiert sich nicht.

Agent

Agent: zerlegt Aufgaben in Teilschritte, prüft Zwischenergebnisse, korrigiert den Plan bei Bedarf. Schleifen aus Beobachten, Bewerten, Handeln statt einer einzigen Antwort.

03

Antworten vs. Auslösen

Chatbot

Chatbot: Output ist Text. Was damit passiert, entscheiden Sie.

Agent

Agent: ruft Werkzeuge auf — APIs, Datenbanken, E-Mail-Versand, CRM-Einträge. Das macht Agenten produktiv, aber auch deutlich heikler in Sachen Governance.

Die vier Bausteine eines Agenten

Jeder Agent — ob in LangGraph, CrewAI oder n8n gebaut — besteht aus denselben vier Bausteinen. Sie zu verstehen hilft, Aufwand und Risiken realistisch einzuschätzen.

01

LLM — das Sprachmodell

Das Gehirn, das versteht und plant.

Der zentrale Reasoning-Schritt: Aus dem Ziel und dem aktuellen Stand bestimmt das Modell die nächste sinnvolle Aktion. Souverän heißt hier: lokales LLM oder EU-konforme API — kein automatischer Datenfluss in die USA.

Beispiel: Llama 3.1, Mistral, Qwen self-hosted; oder Mistral / Aleph Alpha als EU-API.

02

Toolbox — die Werkzeuge

Wie der Agent in die Welt eingreift.

Jedes Werkzeug ist eine Funktion mit klar beschriebener Schnittstelle: Datenbank-Query, CRM-Lookup, Ticket-Anlage, Mail-Versand, Web-Suche. Der Agent darf nur das, was die Toolbox erlaubt — das ist gleichzeitig die wichtigste Sicherheits-Stellschraube.

Beispiel: „erstelle_jira_ticket(projekt, titel, beschreibung)" als Tool — der Agent kann Tickets anlegen, aber keine löschen.

03

Memory — das Gedächtnis

Was der Agent über die Sitzung mitnimmt.

Kurzfristig: Was wurde im aktuellen Auftrag schon erledigt, welche Werkzeuge schon mit welchem Ergebnis aufgerufen. Langfristig: Was hat der Agent in früheren Aufträgen über den Kunden, das System, den Prozess gelernt — typischerweise wieder in einer Vektor-Datenbank.

Beispiel: Ein Support-Agent merkt sich pro Kunde frühere Tickets und löst neue Anfragen im Kontext.

04

Task-Planer — die Orchestrierung

Wer entscheidet, was als Nächstes passiert.

Die Schicht, die das Ziel in Teilschritte zerlegt, Werkzeug-Aufrufe orchestriert und auf Zwischenergebnisse reagiert. Frameworks wie LangGraph, CrewAI oder n8n bauen genau diese Schicht — der Aufwand liegt selten im LLM, fast immer im Plan-Loop.

Beispiel: ReAct-Muster — Reason, Act, Observe — in Schleife, bis das Ziel erreicht oder eine Eskalation nötig ist.

Wofür Agenten im Mittelstand taugen

Vier Muster, die im Mittelstand mit überschaubarem Aufwand produktiv werden. Gemeinsame Klammer: wiederkehrende Aufgaben mit klaren Regeln, in denen die Routine den Großteil der Arbeit ausmacht und Sonderfälle sauber an Menschen eskalieren.

01

Vertriebs-Berichte aus dem CRM

Wöchentliche Pipeline-Auswertungen, Forecast-Updates, Kunden-Briefings vor Terminen — der Agent liest CRM, ERP und Mail-Korrespondenz, formuliert daraus den Bericht und legt ihn im Sharepoint ab.

Governance: Lese-Zugriff reicht. Versand-Aktionen brauchen menschliche Freigabe.

02

IT-Logfile-Analyse und Incident-Triage

Bei Alarmen prüft der Agent Logs, korreliert über Systeme, schlägt die wahrscheinlichste Ursache und einen Maßnahmen-Plan vor — und legt automatisch ein Jira-Ticket mit allen Belegen an. Spart die teure Erst-Analyse.

Governance: Tickets anlegen ja, Konfigurationen ändern nein — das bleibt bei den Admins.

03

Dokumenten-Verarbeitung in Routine-Prozessen

Rechnungen prüfen, Lieferantenstammdaten ergänzen, Eingangs-Mails klassifizieren und an die richtige Abteilung weiterleiten. Wiederholungs-Aufgaben mit klaren Regeln und vielen Sonderfällen — der Sweet-Spot für Agenten.

Governance: Stichproben-Audit der Agenten-Entscheidungen, Schwellen für „bei Unsicherheit Mensch fragen".

04

Reporting-Automatisierung über Quellen hinweg

Monatliche KPI-Reports, die Daten aus drei Datenbanken, dem CRM und der Buchhaltung kombinieren — bisher ein Tag Handarbeit eines Analysten. Der Agent zieht die Zahlen, fasst sie zusammen und schickt den Entwurf zur Freigabe.

Governance: Versand erst nach menschlicher Freigabe, gerade bei extern adressierten Reports.

Vorsicht ist Pflicht

Agenten ohne Governance sind ein Compliance-Risiko, kein Effizienz-Gewinn.

Ein Agent, der eigenständig Mails verschickt, Tickets anlegt oder Buchungen vornimmt, kann Schaden anrichten, den ein Chatbot nie anrichten könnte. Vier Praktiken sind Pflicht — keine Empfehlung, kein „nice-to-have“:

Sandbox-Umgebungen
Agenten testen in einer isolierten Umgebung mit eigenen Daten und gespiegelten Systemen — nicht direkt gegen Produktion. Fehlentscheidungen kosten dann Zeit, kein Vertrauen.
Menschliche Freigabeschritte
Aktionen mit Außenwirkung (Mail-Versand, Vertrags-Änderungen, Buchungen) gehen durch ein Freigabe-Gate. Routine-Aktionen können automatisch laufen, Schwellen-überschreitende nicht.
Auditierbarkeit
Jeder Werkzeug-Aufruf wird protokolliert: was, von welchem Agenten, mit welchem Argument, mit welchem Ergebnis. Ein nicht-protokollierter Agenten-Aufruf ist eine Black-Box, die niemand verantworten kann.
Kosten-Caps
LLM-Aufrufe kosten Geld, Agenten können in Schleifen geraten. Pro Auftrag ein hartes Token- oder Euro-Budget, bei Überschreitung Abbruch und Eskalation — sonst entstehen vier-stellige Rechnungen aus einem Konfigurations-Fehler.

Vertiefung

Warum Agenten nicht einfach der nächste Hype, sondern ein struktureller Bruch sind — und welche Risiken besonders im regulierten Umfeld zu adressieren sind — lesen Sie in unserem Blog-Beitrag: Agenten: Der nächste Schritt in der KI-Evolution?

Agenten bauen, statt nur darüber reden.

Im Workshop bauen Sie an einem Tag einen funktionierenden Agenten auf souveräner Infrastruktur — mit lokalem LLM, eigener Vektor-DB und allen Governance-Bausteinen. Oder wir setzen Agenten direkt in Ihren Prozessen um.

KI-Agenten im Unternehmen | souveraign