Ein Large Language Model ist kein Allzweckwerkzeug. Für klar abgegrenzte Text- und Extraktionsaufgaben ist es stark, in freien Entscheidungsprozessen ist es riskant. Wir zeigen den Unterschied.
Der Kern von LLM-Nutzen im Mittelstand sind drei Klassen von Aufgaben: strukturierte Extraktion aus unstrukturierten Texten (Mails, PDFs, Formulare), Klassifikation von Vorgängen (Reklamation, Anfrage, Beschwerde) und Textgenerierung nach klaren Vorlagen (Antwortentwürfe, Datenblatt-Rohtexte, Wartungsberichte).
In allen drei Klassen ist der Business-Case rechenbar: Menge mal Bearbeitungszeit mal Lohnkosten minus Modell- und Betriebskosten. Ist das positiv und über der Toleranzschwelle, geht der Fall in einen Piloten. Ist es negativ oder knapp, bleibt es beim manuellen Prozess. Diese Nüchternheit fehlt in vielen Diskussionen.
Nicht sinnvoll ist generative KI dort, wo eine falsche Antwort teuer ist und nicht auffällt: Rechtsauskünfte, medizinische Empfehlungen, verbindliche Preisberechnungen ohne Vier-Augen-Prüfung. Hier ist die Halluzinations-Rate zu hoch für den Produktivbetrieb ohne engmaschige Kontrolle.
Ein LLM produziert plausibel klingenden Text, auch wenn die Fakten falsch sind. Aktuelle Modelle haben je nach Aufgabe Halluzinations-Raten zwischen 3 und 20 Prozent. Für eine Extraktion von Auftragspositionen aus einer Bestell-Mail sind 3 Prozent zu viel, wenn 100 Prozent der Extraktionen ungeprüft ins ERP fließen.
Deshalb ist die Frage bei jedem Anwendungsfall: Was ist die Fehler-Toleranz und wie wird der Fehler entdeckt? Bei einer Vorklassifikation, die von einem Sachbearbeiter binnen Sekunden bestätigt wird, sind 10 Prozent Fehlklassifikation vielleicht akzeptabel. Bei einer vollautomatischen Preiskalkulation nicht.
Guardrails sind kein Nice-to-have. Konkret: Ausgabe-Schemas mit Pflichtfeldern, Plausibilitätsprüfungen (Zahlen in erwarteten Bereichen), Konfidenz-Schwellen (unter X Prozent an Mensch), Log aller Ausgaben für Audit. Ohne diese Grundausstattung ist ein produktiver LLM-Einsatz fahrlässig.
Wir arbeiten in drei Schritten. Erstens: Prozess-Inventur. Welche Textprozesse laufen im Betrieb, wie viele Vorgänge pro Monat, wie lang dauert ein Vorgang manuell? Ohne diese Basiszahlen ist jede Kalkulation Kaffeesatz.
Zweitens: Trefferquoten-Test an echten Daten. Wir nehmen 100 bis 300 reale Vorgänge aus dem Archiv, lassen sie durchs Modell laufen und prüfen manuell die Ergebnisse. Das kostet ein bis zwei Wochen und liefert die entscheidende Zahl für den Business-Case: die reale Trefferquote in diesem konkreten Prozess bei diesem konkreten Unternehmen.
Drittens: Rechnung mit ehrlichen Kosten. Modellkosten pro Vorgang, Betriebskosten (Hosting, Monitoring, Wartung), Change-Management-Aufwand im Fachbereich. Erst mit diesen drei Blöcken ist der Business-Case belastbar. Kommt eine Payback-Zeit unter 18 Monaten heraus, ist der Fall meistens gut. Über 24 Monaten wird es im Mittelstand schwer zu rechtfertigen.
In unserem kostenlosen Audit prüfen wir für einen konkret gewählten Textprozess, ob generative KI wirtschaftlich Sinn ergibt. Ergebnis: eine belastbare Business-Case-Skizze und eine ehrliche Ja/Nein-Empfehlung. Ohne Vertriebsdruck.
Zum Audit: /audit