KI-Agenten für den Mittelstand: Praxisleitfaden

Ein KI-Agent lohnt sich für ein mittelständisches Unternehmen dann, wenn er einen klar beschriebenen Prozess verlässlich unterstützt. Der Einstieg beginnt deshalb nicht mit einem Modell oder einer Plattform, sondern mit einer wiederkehrenden Aufgabe, bekannten Daten und einem Ergebnis, das sich prüfen lässt. Dieser Leitfaden zeigt, wie Sie ohne eigene KI-Abteilung den ersten Agenten auswählen, pilotieren und in den Betrieb bringen.
Was ein KI-Agent im Mittelstand leisten soll
Ein KI-Agent ist mehr als ein Chatfenster. Er erhält eine Aufgabe, liest dafür freigegebene Datenquellen, nutzt definierte Werkzeuge wie eine CRM-Abfrage oder ein Ticketsystem und liefert ein Ergebnis zurück: einen Entwurf, eine Einordnung, eine vorbereitete Buchung. Im Unterschied zu klassischer Regelautomatisierung kann er mit unstrukturierten Eingaben umgehen, etwa mit Freitext-E-Mails, PDF-Anhängen oder Gesprächsnotizen.
Für mittelständische Unternehmen ist das interessant, weil genau diese Vorarbeit viel Zeit kostet und sich mit starren Regeln schlecht automatisieren lässt. Gleichzeitig gilt: Ein Agent, der falsche Schlüsse zieht oder in Systemen unkontrolliert schreibt, verursacht mehr Aufwand, als er spart. Deshalb steht am Anfang die Frage, wo der Agent helfen soll und wo ein Mensch die Kontrolle behält.
Welche Prozesse sich für den ersten Agenten eignen
Der beste Pilot ist fachlich relevant, aber technisch und organisatorisch begrenzbar. Er verarbeitet wiederkehrende Eingaben, greift auf definierte Quellen zu und erzeugt ein Ergebnis, das geprüft werden kann. Wenn ein Fehler sofort hohe finanzielle, rechtliche oder sicherheitskritische Folgen hätte, sollte dieser Prozess nicht der erste Einsatz sein.
Gute Voraussetzungen
- hoher manueller Recherche-, Sortier- oder Übertragungsaufwand,
- genügend reale Beispiele, an denen sich richtige Ergebnisse festmachen lassen,
- zugängliche und fachlich gepflegte Datenquellen,
- eine Person, die den Prozess verantwortet und Ergebnisse beurteilen kann.
Warnsignale
- unklare Zuständigkeiten oder ständig wechselnde Regeln,
- fehlende Rechte- und Zugriffskonzepte für die beteiligten Systeme,
- ein Ziel, das nur als „mehr KI“ beschrieben wird,
- kritische Aktionen, die nicht rückgängig zu machen wären.
Hilfreich ist eine einfache Bewertung jedes Kandidaten nach zwei Achsen: Wie groß ist der Nutzen, wenn der Agent funktioniert? Und wie gut ist der Prozess heute umsetzbar, gemessen an Datenlage, Schnittstellen und Risiko? Eine strukturierte Prozessanalyse mit Business Case macht diese Bewertung vergleichbar, bevor Geld in die Entwicklung fließt.
In der Praxis ergibt sich die Kandidatenliste meist aus Gesprächen mit den Fachabteilungen: Wo wird viel kopiert, gesucht, abgeglichen oder nachgefragt? Wo warten Kunden oder Kollegen auf eine Antwort, weil die Vorarbeit liegen bleibt? Sammeln Sie diese Abläufe zunächst ohne Bewertung und schätzen Sie dann für jeden Kandidaten Volumen, heutigen Aufwand und Fehlerfolgen. Schon diese grobe Schätzung trennt meist zwei oder drei ernsthafte Kandidaten von vielen Ideen, die eher in eine spätere Ausbaustufe gehören.
Use-Case-Auswahl: Nutzen und Umsetzbarkeit
Typische Anwendungsfälle nach Abteilung
Die folgenden Beispiele sind keine fertigen Produkte. Sie zeigen, wie sich ein Prozess so beschreiben lässt, dass Nutzen, technische Anforderungen und Kontrollpunkte überprüfbar werden.
Vertrieb
Im Vertrieb bereitet ein Agent Gespräche vor: Er fasst Accountdaten, frühere Angebote und Gesprächsnotizen zusammen, recherchiert öffentlich verfügbare Informationen und schlägt einen nächsten Schritt vor. Die Kundenkommunikation selbst bleibt beim Vertriebsteam.
Kundenservice
Im Service ordnet ein Agent eingehende Anfragen ein, sucht passende Antworten in freigegebenen Wissensquellen und erstellt einen Antwortentwurf. Mitarbeitende prüfen und versenden. Unklare oder heikle Fälle leitet der Agent direkt an die zuständige Person weiter.
Einkauf
Im Einkauf vergleicht ein Agent eingehende Angebote mit der Anfrage, extrahiert Preise, Lieferzeiten und Konditionen und markiert Abweichungen. Die Vergabeentscheidung trifft weiterhin der Einkauf.
Buchhaltung und Backoffice
In der Buchhaltung prüft ein Agent Eingangsrechnungen gegen Bestellung und Wareneingang, schlägt Kontierungen vor und sammelt Rückfragen. Gebucht wird erst nach Freigabe. Im Backoffice übernimmt er ähnliche Vorprüfungen für Verträge, Formulare oder Stammdatenänderungen.
Personal
In der Personalabteilung beantwortet ein Agent wiederkehrende Fragen von Beschäftigten auf Basis interner Richtlinien, jeweils mit Quellenangabe. Bei Bewerbungen ist Zurückhaltung angebracht: Automatisierte Bewertungen von Personen berühren Datenschutz, Gleichbehandlung und regulatorische Anforderungen. Ein Überblick dazu findet sich im Ratgeber zu KI-Agenten, DSGVO und AI Act.
Produktion und technische Dokumentation
In Produktion und Technik durchsucht ein Agent Handbücher, Wartungsprotokolle und Störungsberichte und liefert Technikern eine Zusammenfassung mit Quellenverweisen. In der technischen Redaktion entwirft er Änderungen an Dokumentationen, die eine Fachperson freigibt. Weitere Szenarien für Fertigungsbetriebe beschreibt die Seite KI-Agenten für Industrie 4.0.

| Anwendungsfall | Eingabe | Ergebnis des Agenten | Freigabe durch |
|---|---|---|---|
| Vertrieb: Gespräch vorbereiten | CRM-Daten, Angebote, Gesprächsnotizen | Zusammenfassung und Vorschlag für den nächsten Schritt | Vertriebsmitarbeitende vor Kundenkontakt |
| Service: Anfragen einordnen | E-Mail, Formular, CRM-Kontext | Kategorie, Antwortentwurf, zuständige Queue | Serviceteam vor Versand |
| Einkauf: Angebote vergleichen | Angebots-PDFs, Anfrage, Lieferantenstammdaten | Vergleichsübersicht mit markierten Abweichungen | Einkauf vor Vergabe |
| Buchhaltung: Rechnungen vorprüfen | Rechnung, Bestellung, Wareneingang | Abgleich, Kontierungsvorschlag, Rückfragen | Buchhaltung vor Buchung |
| HR: Fragen zu Richtlinien beantworten | Freigegebene interne Richtlinien | Antwort mit Quelle und Versionshinweis | Stichprobenprüfung durch HR |
| Technik: Wissen recherchieren | Handbücher, Wartungs- und Störungsberichte | Zusammenfassung mit Quellenverweisen | Fachkraft vor Maßnahme |
Wer beteiligt sein muss
Ein KI-Agent berührt Fachprozesse, Systeme, personenbezogene Daten und häufig auch Arbeitsabläufe von Beschäftigten. Im Mittelstand übernehmen oft wenige Personen mehrere dieser Rollen. Wichtig ist, dass jede Rolle bewusst besetzt ist.
- Prozessverantwortung: Die Fachabteilung definiert Ziel, Soll-Ergebnisse und Grenzfälle, beurteilt die Qualität und entscheidet über den Betrieb.
- IT und Systemverantwortliche: Sie klären Schnittstellen, Zugriffsrechte, Protokollierung und die Frage, wo der Agent betrieben wird.
- Datenschutz und Informationssicherheit: Sie prüfen, welche Daten verarbeitet werden, wo sie verarbeitet werden und welche Vereinbarungen mit Dienstleistern nötig sind.
- Betriebsrat: Wenn der Agent Daten verarbeitet, die Rückschlüsse auf Verhalten oder Leistung von Beschäftigten erlauben, können Mitbestimmungsrechte berührt sein. Eine frühe Information vermeidet spätere Blockaden.
- Anwenderinnen und Anwender: Sie arbeiten täglich mit den Ergebnissen. Ihre Rückmeldungen sind die wichtigste Quelle für Verbesserungen.
Bewährt hat sich, eine Person als Ansprechpartner für das gesamte Vorhaben zu benennen, meist aus dem Fachbereich. Sie hält die Fäden zusammen, beruft kurze Abstimmungen ein und entscheidet bei Zielkonflikten, etwa wenn eine zusätzliche Funktion den Datenschutzaufwand erhöht. Ohne diese Rolle zerfasert ein Pilot schnell zwischen Fachabteilung, IT und externem Dienstleister.
Der Weg zum ersten Agenten: Pilot in Etappen
Ein Pilot soll nicht möglichst viele Funktionen zeigen. Er soll klären, ob der Agent unter realistischen Bedingungen zuverlässig genug arbeitet und ob die Verbesserung den zusätzlichen Betriebsaufwand rechtfertigt.
Der Weg zum ersten Agenten
- 01Prozess wählen
- 02Daten klären
- 03Soll-Fälle
- 04Pilot
- 05Betrieb
- Prozess abgrenzen: ein konkreter Ablauf, ein verantwortliches Team und eine messbare Zielgröße, etwa Durchlaufzeit oder Bearbeitungsaufwand pro Vorgang.
- Daten und Rechte klären: Quellen, Schnittstellen, Rollen, Schreibrechte und Aufbewahrung werden vor dem Pilot festgelegt, ebenso die Betriebsform des Modells.
- Soll-Fälle definieren: Reale Beispiele zeigen, welche Ergebnisse richtig, unvollständig oder gefährlich wären. Sie dienen später als Prüfmaßstab.
- Begrenzten Pilot bauen: Der Agent arbeitet zunächst mit wenigen Werkzeugen, überwiegend lesend und mit klarer menschlicher Freigabe.
- Wirkung messen: Qualität, Durchlaufzeit, Kosten und Eskalationen werden mit dem bisherigen Prozess verglichen. Auf dieser Grundlage fällt die Entscheidung über den Betrieb.
Am Ende des Piloten sollte ein kurzer Ergebnisbericht stehen: Welche Fälle hat der Agent gut gelöst, wo lag er daneben, wie viel Prüfaufwand blieb, und welche Änderungen wären für den Betrieb nötig? Dieser Bericht ist die Grundlage für die Entscheidung über Ausbau, Nachbesserung oder Abbruch. Ein Abbruch ist dabei kein Scheitern, sondern ein günstig gewonnenes Ergebnis, wenn er auf gemessenen Werten beruht.
Für die Wirtschaftlichkeit sollten Sie neben den Entwicklungskosten auch laufende Kosten für Modellnutzung, Betrieb, Pflege und interne Prüfzeit einplanen. Wie sich diese Blöcke zusammensetzen, erklärt der Ratgeber Was kostet ein KI-Agent?
Betriebsform und Integration
Ein Agent ist nur so nützlich wie sein Zugang zu den richtigen Systemen. Über Schnittstellen oder standardisierte Protokolle wie MCP liest er Informationen aus CRM, ERP oder Dokumentenablage und übergibt vorbereitete Vorgänge. Entscheidend ist die Begrenzung: Welche Daten darf der Agent sehen? Welche Aktion darf er selbst ausführen? Wann muss ein Mensch bestätigen? Wie wird nachvollzogen, was passiert ist?
Bei der Betriebsform stehen Cloud-Dienste großer Modellanbieter, private Cloud-Umgebungen und lokale KI auf eigener Hardware zur Wahl. Für Daten mit hohem Schutzbedarf, etwa Konstruktionsdaten oder Personalakten, kann ein lokaler Betrieb die Freigabe durch Datenschutz und Informationssicherheit erleichtern. Die Entscheidung sollte aus Schutzbedarf, Qualitätsanforderung und Gesamtkosten abgeleitet werden, nicht aus Gewohnheit.
Plattform, Eigenentwicklung oder Mischform?
Standardplattformen eignen sich, wenn der Prozess nahe an vorhandenen Funktionen liegt und wenig individuelle Integration benötigt. Eine eigene Entwicklung wird interessanter, wenn Datenquellen, Rollen oder Prozesslogik unternehmensspezifisch sind. In vielen Fällen ist ein hybrider Ansatz sinnvoll: bewährte Modell- und Plattformdienste, kombiniert mit eigener Integrations- und Kontrolllogik. Wichtig ist, dass Ihr Unternehmen die Anweisungen, Testfälle und Schnittstellenbeschreibungen behält, damit ein späterer Wechsel des Modells oder des Dienstleisters möglich bleibt.
Vom Pilot in den Betrieb
Ein Agent, der im Pilot überzeugt, ist noch kein stabiler Betrieb. Modelle werden aktualisiert, Datenquellen ändern sich, neue Fallarten tauchen auf. Damit die Qualität erhalten bleibt, braucht der Betrieb drei Dinge: eine benannte Verantwortung im Fachbereich, eine regelmäßige Messung anhand der Soll-Fälle und einen geregelten Weg, Rückmeldungen der Anwender in Verbesserungen umzusetzen.
Sinnvolle Kennzahlen verbinden technische Qualität mit der Wirkung auf den Prozess:
- Ergebnisqualität: Wie oft entspricht das Ergebnis dem definierten Soll?
- Eskalationen: Welche Fälle muss ein Mensch übernehmen, und warum?
- Durchlaufzeit: Wie verändert sich die Zeit vom Eingang bis zum verwertbaren Ergebnis?
- Nacharbeit: Wie häufig müssen Ergebnisse korrigiert oder neu erstellt werden?
- Kosten pro Vorgang: Modell-, Infrastruktur- und Prüfkosten zusammen betrachtet.
Wenn der erste Agent stabil läuft, stellt sich die Frage nach dem nächsten. Statt jeden Fall einzeln zu bauen, lohnt sich dann ein Blick auf gemeinsame Grundlagen: wiederverwendbare Schnittstellen, ein einheitliches Rechtekonzept und abgestimmte Freigabeprozesse. Wie Unternehmen ihre Abläufe schrittweise darauf ausrichten, beschreibt die Seite zur Agentifizierung.
Bereit für den Pilot? Diese Fragen sollten beantwortet sein
- Der Prozess ist abgegrenzt und hat eine verantwortliche Person im Fachbereich.
- Der heutige Aufwand ist bekannt, zumindest als begründete Schätzung.
- Es gibt reale Beispielfälle mit bekanntem richtigem Ergebnis.
- Datenquellen, Zugriffsrechte und Schreibrechte sind festgelegt.
- Datenschutz, Informationssicherheit und Betriebsrat sind informiert.
- Es ist definiert, wann ein Mensch freigibt und wann der Agent eskaliert.
- Die Kriterien für die Entscheidung über den Betrieb stehen vor dem Pilotstart fest.
Häufige Fehler und wie Sie sie vermeiden
- Mit der Technologie beginnen: Wer zuerst eine Plattform kauft und dann einen Anwendungsfall sucht, landet oft bei einem Prozess, der zur Plattform passt, aber wenig Nutzen bringt.
- Zu viel auf einmal: Ein Agent, der fünf Systeme lesen und drei verändern soll, ist als erster Pilot zu groß. Jede zusätzliche Schnittstelle erhöht Aufwand und Risiko.
- Keine Soll-Fälle: Ohne vorher festgelegte Beispiele bleibt die Bewertung ein Bauchgefühl. Dann lässt sich weder ein Fortschritt noch ein Rückschritt nachweisen.
- Beteiligte zu spät einbinden: Wenn Datenschutz oder Betriebsrat erst kurz vor dem Start erfahren, was geplant ist, verzögert sich der Betrieb häufig erheblich.
- Den Betrieb vergessen: Ohne Verantwortung, Messung und Pflege verliert ein Agent schleichend an Qualität, bis ihn niemand mehr nutzt.
Häufige Fragen
Braucht ein mittelständisches Unternehmen eine eigene KI-Abteilung für den ersten Agenten?
Nein. Für den ersten KI-Agenten genügen eine fachlich verantwortliche Person, Ansprechpartner in der IT und eine frühe Abstimmung mit Datenschutz und gegebenenfalls Betriebsrat. Entwicklung und Integration können extern unterstützt werden, die Verantwortung für Prozess und Ergebnis bleibt jedoch im Unternehmen.
Welcher Prozess eignet sich für den ersten KI-Agenten?
Für den ersten KI-Agenten eignet sich ein wiederkehrender Prozess mit spürbarem manuellem Aufwand, zugänglichen Datenquellen und einem Ergebnis, das ein Mensch prüfen kann. Ungeeignet sind Abläufe, in denen ein Fehler sofort hohe finanzielle, rechtliche oder sicherheitskritische Folgen hätte oder nicht rückgängig zu machen wäre.
Wie lange dauert ein Pilot mit einem KI-Agenten?
Die Dauer eines Piloten hängt vor allem von Datenzugängen, Schnittstellen und internen Freigaben ab, weniger vom KI-Modell. Ein eng abgegrenzter Prozess mit lesendem Zugriff auf wenige Systeme lässt sich deutlich schneller prüfen als ein Agent, der mehrere Kernsysteme verändern darf. Planen Sie die Abstimmung mit IT, Datenschutz und Betriebsrat von Anfang an in den Zeitplan ein.
Muss ein KI-Agent im Mittelstand autonom handeln?
Nein, ein KI-Agent muss nicht autonom handeln, um Nutzen zu stiften. Gerade am Anfang sind Antwortentwürfe, vorbereitete Buchungen oder vorausgefüllte Vorgänge mit menschlicher Freigabe die verlässlichere Architektur. Mehr Selbstständigkeit wird erst eingeräumt, wenn Messungen zeigen, dass der Agent in einem klar umrissenen Fallbereich zuverlässig arbeitet.
Muss der Betriebsrat bei der Einführung eines KI-Agenten beteiligt werden?
In vielen Fällen ja, denn KI-Agenten verarbeiten häufig Daten, die Rückschlüsse auf Verhalten oder Leistung von Beschäftigten zulassen können. Welche Beteiligungsrechte im konkreten Fall greifen, sollte arbeitsrechtlich geprüft werden. Unabhängig von der Rechtslage hilft eine frühe Einbindung, Akzeptanz zu schaffen und spätere Verzögerungen zu vermeiden.
Woran erkennt man, ob ein KI-Agent nach dem Pilot in den Betrieb gehen sollte?
Ein KI-Agent sollte in den Betrieb gehen, wenn er die vorab festgelegten Qualitätskriterien an realen Fällen erfüllt und der Nutzen den laufenden Aufwand für Modell, Betrieb und Prüfung übersteigt. Dazu gehören eine messbar verbesserte Durchlaufzeit oder Entlastung, eine akzeptable Nacharbeitsquote und ein Team, das die Ergebnisse tatsächlich nutzt. Fehlt eines davon, ist Nachbessern oder Beenden die ehrlichere Entscheidung.
Aus dem Wissen einen produktiven KI-Agenten machen
Wir prüfen Ihren Geschäftsprozess, die benötigten Daten und Integrationen und entwickeln daraus einen kontrollierbaren B2B-Workflow.