KI-Agenten im Unternehmen
KI-Agenten sind der nächste Schritt nach dem Chatbot: Systeme, die Ziele entgegennehmen, eigenständig planen, Werkzeuge aufrufen und Aufgaben mehrstufig durchführen. Hier zeigen wir, was sie von klassischen Chatbots unterscheidet, aus welchen Bausteinen sie bestehen, wofür sie sich im Mittelstand wirklich eignen und was an Governance dazugehört, damit aus Effizienz kein Compliance- Problem wird.
Drei Dimensionen machen den Unterschied. Auf den ersten Blick sieht ein Agent aus wie ein etwas klügerer Chatbot, der Unterschied wird erst dort sichtbar, wo Konsequenzen entstehen.
Chatbot
Chatbot: wartet auf eine Frage, liefert eine Antwort, und der Dialog ist zu Ende. Wer Folgeschritte will, muss selbst tippen.
Agent
Agent: nimmt ein Ziel entgegen („Sammle alle offenen Angebote und erinnere die Kunden") und führt die nötigen Schritte eigenständig aus, inklusive Aufruf externer Systeme.
Chatbot
Chatbot: ein Input, ein Output. Plant nicht, prüft sich nicht selbst, korrigiert sich nicht.
Agent
Agent: zerlegt Aufgaben in Teilschritte, prüft Zwischenergebnisse, korrigiert den Plan bei Bedarf. Schleifen aus Beobachten, Bewerten, Handeln statt einer einzigen Antwort.
Chatbot
Chatbot: Output ist Text. Was damit passiert, entscheiden Sie.
Agent
Agent: ruft Werkzeuge auf: APIs, Datenbanken, E-Mail-Versand, CRM-Einträge. Das macht Agenten produktiv, aber auch deutlich heikler in Sachen Governance.
Jeder Agent (ob in LangGraph, CrewAI oder n8n gebaut) besteht aus denselben vier Bausteinen. Sie zu verstehen hilft, Aufwand und Risiken realistisch einzuschätzen.
LLM: das Sprachmodell
Der zentrale Reasoning-Schritt: Aus dem Ziel und dem aktuellen Stand bestimmt das Modell die nächste sinnvolle Aktion. Souverän heißt hier: lokales LLM oder EU-konforme API, kein automatischer Datenfluss in die USA.
Beispiel: Llama 3.1, Mistral, Qwen self-hosted; oder Mistral / Aleph Alpha als EU-API.
Toolbox: die Werkzeuge
Jedes Werkzeug ist eine Funktion mit klar beschriebener Schnittstelle: Datenbank-Query, CRM-Lookup, Ticket-Anlage, Mail-Versand, Web-Suche. Der Agent darf nur das, was die Toolbox erlaubt. Das ist gleichzeitig die wichtigste Sicherheits-Stellschraube.
Beispiel: „erstelle_jira_ticket(projekt, titel, beschreibung)" als Tool: der Agent kann Tickets anlegen, aber keine löschen.
Memory: das Gedächtnis
Kurzfristig: Was wurde im aktuellen Auftrag schon erledigt, welche Werkzeuge schon mit welchem Ergebnis aufgerufen. Langfristig: Was hat der Agent in früheren Aufträgen über den Kunden, das System, den Prozess gelernt, typischerweise wieder in einer Vektor-Datenbank.
Beispiel: Ein Support-Agent merkt sich pro Kunde frühere Tickets und löst neue Anfragen im Kontext.
Task-Planer: die Orchestrierung
Die Schicht, die das Ziel in Teilschritte zerlegt, Werkzeug-Aufrufe orchestriert und auf Zwischenergebnisse reagiert. Frameworks wie LangGraph, CrewAI oder n8n bauen genau diese Schicht. Der Aufwand liegt selten im LLM, fast immer im Plan-Loop.
Beispiel: ReAct-Muster (Reason, Act, Observe) in Schleife, bis das Ziel erreicht oder eine Eskalation nötig ist.
Gartner erwartet, dass bis 2028 rund 33 Prozent der Unternehmenssoftware agentische KI enthalten, nach unter 1 Prozent im Jahr 2024. Der Trend ist real; entscheidend ist, wo er im Mittelstand trägt. Vier Muster werden hier mit überschaubarem Aufwand produktiv. Gemeinsame Klammer: wiederkehrende Aufgaben mit klaren Regeln, in denen die Routine den Großteil der Arbeit ausmacht und Sonderfälle sauber an Menschen eskalieren.
Wöchentliche Pipeline-Auswertungen, Forecast-Updates, Kunden-Briefings vor Terminen: der Agent liest CRM, ERP und Mail-Korrespondenz, formuliert daraus den Bericht und legt ihn im Sharepoint ab.
Governance: Lese-Zugriff reicht. Versand-Aktionen brauchen menschliche Freigabe.
Bei Alarmen prüft der Agent Logs, korreliert über Systeme, schlägt die wahrscheinlichste Ursache und einen Maßnahmen-Plan vor und legt automatisch ein Jira-Ticket mit allen Belegen an. Spart die teure Erst-Analyse.
Governance: Tickets anlegen ja, Konfigurationen ändern nein. Das bleibt bei den Admins.
Rechnungen prüfen, Lieferantenstammdaten ergänzen, Eingangs-Mails klassifizieren und an die richtige Abteilung weiterleiten. Wiederholungs-Aufgaben mit klaren Regeln und vielen Sonderfällen: der Sweet-Spot für Agenten.
Governance: Stichproben-Audit der Agenten-Entscheidungen, Schwellen für „bei Unsicherheit Mensch fragen".
Monatliche KPI-Reports, die Daten aus drei Datenbanken, dem CRM und der Buchhaltung kombinieren, bisher ein Tag Handarbeit eines Analysten. Der Agent zieht die Zahlen, fasst sie zusammen und schickt den Entwurf zur Freigabe.
Governance: Versand erst nach menschlicher Freigabe, gerade bei extern adressierten Reports.
Vorsicht ist Pflicht
Ein Agent, der eigenständig Mails verschickt, Tickets anlegt oder Buchungen vornimmt, kann Schaden anrichten, den ein Chatbot nie anrichten könnte. Gartner prognostiziert, dass über 40 Prozent der Agentic-AI-Projekte bis Ende 2027 abgebrochen werden, vor allem wegen unklaren Nutzens und fehlender Governance. Vier Praktiken sind Pflicht, keine Empfehlung, kein „nice-to-have“:
Vertiefung
Warum Agenten nicht einfach der nächste Hype, sondern ein struktureller Bruch sind und welche Risiken besonders im regulierten Umfeld zu adressieren sind, lesen Sie in unserem Blog-Beitrag: Agenten: Der nächste Schritt in der KI-Evolution?
Im Workshop bauen Sie an einem Tag einen funktionierenden Agenten auf souveräner Infrastruktur, mit lokalem LLM, eigener Vektor-DB und allen Governance-Bausteinen. Oder wir setzen Agenten direkt in Ihren Prozessen um.
Weiterlesen