Large Language Model (LLM)

Was ein Large Language Model wirklich ist

Ein Large Language Model ist ein neuronales Netz, das mit Hunderten von Milliarden Wörtern aus Texten, Code und strukturierten Daten trainiert wurde. Das Trainingsziel ist verblüffend einfach: Das Modell sagt das nächste Token voraus, also grob gesagt das nächste Wortfragment, und stützt sich dabei auf alles Vorangegangene. Wiederholt man dieses Ziel über einen enormen Textkorpus hinweg, entwickelt das Modell ein funktionierendes Verständnis von Grammatik, Fakten, Formatierungskonventionen und Denkmustern.

Für Finanzverantwortliche zählt vor allem eine Erkenntnis: Ein LLM ist eine universell einsetzbare Sprach-Engine. Ihre Kundenstammdaten, Ihre Streitfall-Codes oder Ihre Regeln zum Zahlungsabgleich kennt es von Haus aus nicht. Was es mitbringt, ist die Fähigkeit, unstrukturierten Text zu lesen (eine E-Mail mit Zahlungsavis, eine gescannte Rechnung, eine Gutschrift, eine Kundenbeschwerde) und daraus strukturierten Output zu erzeugen (einen JSON-Payload, einen Antwortentwurf, eine Zusammenfassung, eine Klassifizierung).

So funktionieren LLMs, einfach erklärt

Moderne LLMs basieren auf der Transformer-Architektur, die Google-Forscher 2017 vorstellten und die Labore wie OpenAI, Anthropic, Google DeepMind und Meta konsequent skaliert haben. Der Transformer arbeitet mit einem Mechanismus namens Attention. Damit gewichtet das Modell, wie relevant jedes Wort der Eingabe für jedes andere Wort ist. Genau das versetzt ein LLM in die Lage, einer langen Rechnungsbeschreibung zu folgen, eine Avis-Position der richtigen offenen Rechnung zuzuordnen oder ein mehrstufiges Klärgespräch zu führen.

Wenn Sie LLMs im Finanzkontext vergleichen, kommt es auf drei Kennzahlen an:

• Parameteranzahl: die Größe des Modells, oft im Bereich von Hunderten Milliarden. Sie korreliert mit der Qualität der Schlussfolgerungen.
• Kontextfenster: wie viel Text das Modell gleichzeitig berücksichtigen kann, bei aktuellen Spitzenmodellen typischerweise 100.000 bis 1 Million Tokens. Das zählt, wenn Sie ihm einen kompletten Kontoauszug oder einen 40-seitigen Kundenvertrag vorlegen.
• Kosten pro Token: der Preis für die Inferenz. Bei Rechnungsvolumina im Unternehmensmaßstab wird er von einer vernachlässigbaren Größe zu einem echten Kostenposten.

Wo LLMs in Finanzteams und in der Debitorenbuchhaltung wirklich zählen

LLMs sind kein Finanzprodukt. Sie sind eine Fähigkeit, die mehrere Debitorenprozesse erschließt, an denen klassische Automatisierung bislang scheiterte oder zu fehleranfällig war:

• Zahlungsavise und Rechnungen verstehen: Zahler, Rechnungsnummern, Beträge, Abzüge und Ursachencodes (Abzugsgründe) aus PDFs, E-Mails und Portal-Screenshots auslesen. Zusammen mit einem Vision-Modell treibt das den modernen automatischen Zahlungsabgleich an.
• Streitfälle und Abzüge klassifizieren: eine kurze Begründung lesen (Transportschaden, Preisabweichung bei Bestellung 4471) und sie dem richtigen Streitfall-Code und Bearbeitungspfad zuordnen.
• Kunden-E-Mails triagieren: eingehende Debitoren-Postfächer auswerten, die Absicht erkennen (Zahlungsbestätigung, Streitfall, Anforderung einer Rechnungskopie) und eine Antwort entwerfen.
• Finance-Copiloten: Damit kann ein Sachbearbeiter im Forderungsmanagement in normalem Deutsch fragen „Zeig mir alle überfälligen Rechnungen für Konten mit einem seit mehr als 30 Tagen offenen Abzug in EMEA“ und erhält eine brauchbare Antwort.
• Auswertungen zur Debitorensituation: einen Fälligkeitsbericht mit 50 Zeilen zu einer Kurzzusammenfassung in drei Stichpunkten für das Montags-Cash-Meeting verdichten.

Stärken und Grenzen, die Finanzteams einplanen sollten

Die Stärken sind real. LLMs arbeiten strukturunabhängig, und genau das brauchen unstrukturierte Eingaben in der Debitorenbuchhaltung. Sie bewältigen den Long Tail, denn jeder Kunde formatiert sein Zahlungsavis anders, ohne dass jemand eine neue Vorlage schreiben muss. Sie bieten eine Schnittstelle in natürlicher Sprache, und so fällt es Finanzanwendern leichter, mit ihren eigenen Daten zu arbeiten.

Die Grenzen sind ebenso real, und sie sollten jede produktive Umsetzung prägen:

• Halluzination: LLMs erzeugen mitunter Ausgaben, die selbstbewusst und plausibel klingen, aber falsch sind. Womöglich erfinden sie eine Rechnungsnummer, die es gar nicht gibt.
• Kein natives Rechnen: LLMs sind schwach in Arithmetik. Buchen Sie jede Zahlung, Saldierung oder Berechnung deterministisch im Code, nicht im Modell.
• Grenzen des Kontextfensters: Selbst ein Fenster mit einer Million Token hat ein Ende. Lange Vertragsprüfungen brauchen weiterhin Strategien für Chunking und Retrieval.
• Kosten in großem Umfang: Schon wenige Cent pro tausend Token summieren sich: Wer eine Million Rechnungspositionen pro Monat verarbeitet, sieht das spürbar in der laufenden Kostenrechnung. Die Modellwahl, also Frontier-Modell oder kleineres Modell, wird zur architektonischen Entscheidung.

LLMs sind nicht dasselbe wie agentische KI

Diesen Unterschied übersehen Finanzentscheider im Unternehmen am häufigsten. Ein LLM allein ist nichts weiter als eine Funktion: Text rein, Text raus. Es kann in Ihrem ERP-System keinen Button anklicken, Ihr Data Warehouse nicht abfragen, kein dauerhaftes Gedächtnis über einzelne Sitzungen hinweg aufbauen und keinen mehrstufigen Arbeitsablauf planen.

Agentische KI erweitert ein LLM um drei Fähigkeiten: Sie nutzt Tools (ruft APIs auf, fragt Datenbanken ab, bucht ins ERP-System), sie plant (zerlegt ein Ziel wie „heute alle nicht zugeordneten Zahlungen ausgleichen“ in geordnete Schritte) und sie besitzt ein Gedächtnis (merkt sich etwa, dass dieser Kunde stets um die Frachtkosten gekürzt zahlt). Das LLM denkt, der Agent handelt. Eine Automatisierung der Debitorenbuchhaltung, die echte Ergebnisse liefert (gebuchte Zahlungen, gelöste Streitfälle, versendete Mahnungen), arbeitet agentisch. Das LLM ist dabei nur ein Baustein.

Schutzmechanismen für den produktiven Finanzeinsatz

Ein LLM, das ins Hauptbuch schreibt, hat ein anderes Risikoprofil als ein LLM, das Marketingtexte entwirft. Fünf Schutzmechanismen sollten für jeden Einsatz in der Debitorenbuchhaltung oder im Order-to-Cash-Prozess nicht verhandelbar sein:

• Deterministische Prüfungen für jede Zahl: Das LLM schlägt vor, der Code prüft nach. Die Summe der Zuordnungen muss dem Zahlungsbetrag entsprechen, ausnahmslos.
• Konfidenzschwellen: Zuordnungen mit hoher Konfidenz bucht das System automatisch; Positionen mit geringerer Konfidenz landen in einer Aufgabenliste zur manuellen Prüfung, samt der Begründung, die das LLM anzeigt.
• Audit-Trail pro Entscheidung: Für SOX-Zwecke und die interne Revision erfassen Sie jede Modellausgabe, jeden Prompt, jede Version und jedes Quelldokument.
• Human-in-the-Loop bei Grenzfällen: Abschreibungen oberhalb eines Schwellenwerts, Streitfälle mit Neukunden und nicht zugeordnete Zahlungen legen Sie stets zur manuellen Freigabe vor.
• Kontrollen zu Datenstandort und Datenschutz: Rechnungs- und Kundendaten sollten nicht ins Training von Foundation Models Dritter fließen. Achten Sie auf API-Verträge ohne Datenspeicherung (Zero-Retention) und, wo relevant, auf einen Datenstandort in der EU.

So eingesetzt, sind LLMs kein Experiment mehr, sondern verhalten sich wie Infrastruktur: unsichtbar für den Controller, doch sie übernehmen das Lesen, Klassifizieren und Entwerfen, das früher Monat für Monat ganze Personenwochen verschlang.

Häufig gestellte Fragen

Ist ein Large Language Model dasselbe wie ChatGPT?

Nein. ChatGPT ist ein Endkundenprodukt, das auf einem LLM aufsetzt (der GPT-Familie von OpenAI). Das LLM ist das Modell darunter. Zum Produkt gehören die Chat-Oberfläche, die Sicherheitsebene und der Memory-Layer, die es umschließen. Finanzteams in Unternehmen greifen meist über APIs von Anbietern wie OpenAI, Anthropic oder Google auf LLMs zu oder über privat gehostete Open-Weight-Modelle, nicht über die Chat-App für Endkunden.

Kann ein LLM Zahlungen direkt in unser ERP-System buchen?

Nicht von allein, und Sie sollten es auch nicht damit beauftragen. Das LLM kann ein Zahlungsavis lesen, eine Zuordnung vorschlagen und begründen, warum. Buchen sollte dagegen deterministischer Code, mit Validierungsregeln (Summenprüfungen, Abgleich mit den Debitorenstammdaten, Zuordnung offener Rechnungen) und einem Prüfpfad. Genau diese Trennung macht den Prozess für die Finanzabteilung sicher.

Erfindet ein LLM Rechnungsnummern oder Beträge?

Das kann passieren. Deshalb vertrauen produktive Debitorensysteme bei numerischen Feldern niemals dem rohen LLM-Output. Das Muster lautet: Das LLM extrahiert mögliche Werte, der Code prüft sie gegen die offenen Posten der Debitorenbuchhaltung, und nur bestätigte Treffer werden automatisch gebucht. Alles, was sich nicht bestätigen lässt, geht an einen Menschen, samt der Begründung des Modells.

Worin unterscheidet sich ein LLM von klassischer OCR?

Klassische OCR wandelt Pixel in Zeichen um und braucht starre Vorlagen, um Felder zu finden. Sie versagt in dem Moment, in dem ein Kunde sein Avis-Format ändert. Ein LLM (meist gekoppelt mit einem Vision-Modell) liest das Dokument so, wie ein Mensch es liest: Es versteht, dass „Inv 4471 less 2% disc“ eine bestimmte Rechnung und einen Abzug meint. Deshalb bewältigt die LLM-gestützte Extraktion den Long Tail, ohne dass Sie für jeden Kunden Vorlagen pflegen müssen.

Was kostet der Betrieb eines LLM bei unternehmensweitem Debitorenvolumen?

Das hängt vom gewählten Modell und der Komplexität der Dokumente ab. Als grobe Faustregel gilt aber: Ein typisches Zahlungsavis über ein Frontier-Modell zu verarbeiten, kostet Cents, keine Euros. Bei einer Million Transaktionen pro Jahr wird daraus ein echter Budgetposten. Kluge Implementierungen setzen für die Routine-Extraktion ein kleineres, günstigeres Modell ein und heben Frontier-Modelle für komplexe Streitfälle oder Eskalationen auf.

Brauchen wir agentische KI, oder reicht ein LLM?

Wollen Sie Dokumente lesen, Daten zusammenfassen oder Texte entwerfen, reicht ein LLM. Wollen Sie nicht zugeordnete Zahlungen tatsächlich ausgleichen, Streitfälle klären oder das Mahnwesen ohne menschliches Eingreifen betreiben, brauchen Sie agentische KI: ein LLM plus Tool-Nutzung, Planung und Gedächtnis. Die meisten Finanzentscheider wollen Ergebnisse, keine Zusammenfassungen. Und deshalb bewegt sich der Markt von LLM-Funktionen hin zu agentischen Debitorenplattformen.