Fine-Tuning bezeichnet den Prozess, bei dem ein vortrainiertes Foundation Model auf einem kuratierten Datensatz weitertrainiert wird, damit es Verhalten, Stil oder Leistung an eine bestimmte Domäne anpasst. In Finanzteams ist Fine-Tuning neben RAG und Prompt Engineering eine von drei zentralen Methoden, um Large Language Models für Prozesse in der Debitorenbuchhaltung und im Order-to-Cash-Bereich anzupassen.
Beim Fine-Tuning nehmen Sie ein vortrainiertes Foundation Model und trainieren es mit einem kleineren, sorgfältig kuratierten Datensatz weiter. So passen Sie sein Verhalten, seinen Stil oder seine Leistung an eine bestimmte Domäne an. Dabei verändern sich die Gewichte des Modells. Nach dem Fine-Tuning liefert derselbe Prompt eine andere Antwort als beim Basismodell.
Am besten grenzen Sie Fine-Tuning von drei verwandten Techniken ab:
Die Denkweise dahinter: Pre-Training baut das Gehirn, Fine-Tuning prägt Gewohnheiten, RAG reicht dem Modell ein Nachschlagewerk, und Prompt Engineering sagt ihm, welche Aufgabe es heute erledigen soll.
Full Fine-Tuning aktualisiert jeden einzelnen Parameter des Modells. Bei einem modernen Modell mit 70 Milliarden Parametern brauchen Sie dafür eine erhebliche GPU-Infrastruktur, und es entsteht ein komplett neuer Modell-Checkpoint. Pro Trainingslauf kostet das typischerweise zwischen 10.000 und über 100.000 Euro, und das fertige Modell müssen Sie als eigenes Deployment hosten.
Parameter-Efficient Fine-Tuning (PEFT) aktualisiert nur einen kleinen Teil der Parameter und lässt den Großteil des Modells eingefroren. LoRA (Low-Rank Adaptation) ist die dominierende PEFT-Methode: Sie fügt neben den ursprünglichen Gewichten kleine trainierbare Matrizen ein und trainiert nur diese. Ein LoRA-Adapter ist oft nur wenige Megabyte groß und lässt sich bei Bedarf in ein gemeinsam genutztes Basismodell ein- und ausklinken. Das Training beansprucht einige Stunden GPU-Zeit und kostet pro Lauf typischerweise 100 bis 1.000 Euro. Damit kann sich das jedes Finanz-IT-Team leisten.
Instruction Tuning und RLHF (Reinforcement Learning from Human Feedback) richten ein Modell über viele Aufgaben hinweg an menschlichen Präferenzen aus. Genau das macht aus einem reinen Sprachmodell einen Chat-Assistenten. Diese Methode übernehmen die Anbieter der Foundation Models, und für den einzelnen Unternehmenseinsatz ist sie nur selten das richtige Mittel.
In der Debitorenbuchhaltung und im Order-to-Cash lohnt sich Fine-Tuning immer dann, wenn dasselbe eng umrissene Verhalten tausendfach und mit hoher Konsistenz wiederkehren muss. Sinnvolle Beispiele sind:
Achten Sie darauf, was hier fehlt: Kundendaten, Vertragskonditionen, aktuelle Salden, Streitfallhistorie. All das sollten Sie nicht per Fine-Tuning einfließen lassen. Es gehört in ein RAG.
Die drei Techniken konkurrieren nicht miteinander. Sie lösen unterschiedliche Probleme und lassen sich meist kombinieren.
Im Finanzbereich gilt diese Rangfolge: zuerst Prompt Engineering, dann RAG, dann Fine-Tuning. RAG ist dem Fine-Tuning fast immer vorzuziehen. Denn Kundendaten ändern sich ständig, Audits verlangen Erklärbarkeit über Quellenangaben, und wer Daten in die Modellgewichte einbrennt, handelt sich unter der DSGVO Komplikationen bei der Datenresidenz ein.
PEFT- und LoRA-Trainingsläufe kosten in der Regel 100 bis 1.000 Euro an GPU-Zeit und sind in wenigen Stunden erledigt. Ein vollständiges Fine-Tuning kostet 10.000 bis über 100.000 Euro und zieht sich über Tage bis Wochen. Bei fine-getunten Modellen kommen oft höhere Inferenzkosten hinzu: API-Anbieter verlangen für individuell angepasste Endpunkte häufig einen Aufpreis pro Token, und selbst gehostete Custom-Modelle verursachen laufende Kosten für das GPU-Hosting.
Diese Fallstricke treffen Unternehmensteams am härtesten:
Setzen Sie Fine-Tuning nur für stabile, klar umrissene Aufgaben ein: um Ausgabeformate zu vereinheitlichen, in eine feste Taxonomie einzuordnen oder die Markenstimme in vorformulierten Nachrichten zu treffen. Sobald aktuelles, unternehmensspezifisches Wissen gefragt ist, greifen Sie zu RAG. Und genau darum geht es in der Debitorenbuchhaltung und im Order-to-Cash fast immer.
Bevor Sie ein Fine-Tuning-Projekt starten, richten Sie einen Evaluierungsrahmen ein: eine zurückgehaltene Menge repräsentativer Eingaben samt erwarteter Ausgaben, die Menschen oder ein leistungsfähiges Judge-Modell bewerten. Fehlt dieser Rahmen, können Sie nicht beurteilen, ob das Fine-Tuning genützt, geschadet oder schlicht nichts bewirkt hat.
Entfernen Sie personenbezogene Daten und kundenspezifische Informationen aus den Trainingsdaten. Was sich später löschen, aktualisieren oder mit Zugriffsrechten versehen lassen muss, gehört nicht in die Modellgewichte. Behandeln Sie den fine-getunten Adapter als versioniertes Artefakt: trainieren, bewerten, ausrollen, überwachen und planmäßig neu trainieren, während sich die Basismodelle weiterentwickeln. Den meisten Debitorenteams bringt eine KI-native Plattform mit starkem RAG und durchdachtem Prompt Engineering 90 Prozent des Nutzens von Fine-Tuning, und das ganz ohne Infrastrukturaufwand oder Audit-Risiko.
Beim Fine-Tuning trainieren Sie das Modell mit Beispielen und verändern so seine Gewichte, sodass es sich danach anders verhält. RAG lässt die Gewichte unangetastet und ruft stattdessen zur Laufzeit passende Dokumente ab, die in den Prompt einfließen. Fine-Tuning prägt, wie das Modell antwortet. RAG steuert, auf welches Wissen es zugreift. Im Finanzbereich fällt die Wahl auf RAG, sobald es um Kundendaten, Verträge oder Kontostände geht, denn diese Daten ändern sich ständig und müssen nachvollziehbar bleiben.
Fine-Tuning lohnt sich, wenn das gewünschte Verhalten über Tausende Aufrufe hinweg absolut konsistent bleiben muss, wenn die Aufgabe eng umrissen und klar definiert ist und wenn der System-Prompt so groß geworden ist, dass er Kosten oder Latenz in die Höhe treibt. Lässt sich das Verhalten mit weniger als 100 Zeilen Anweisung auf einem leistungsfähigen Foundation Model festlegen, ist Prompt Engineering fast immer günstiger. Es lässt sich schneller anpassen und leichter prüfen.
LoRA steht für Low-Rank Adaptation. Diese parametereffiziente Fine-Tuning-Methode (PEFT) trainiert nur wenige zusätzliche Matrizen neben dem eingefrorenen Basismodell, statt sämtliche Gewichte zu aktualisieren. Ein LoRA-Adapter ist oft nur wenige Megabyte groß, kostet im Training 100 bis 1.000 Euro und lässt sich in ein gemeinsam genutztes Basismodell ein- und ausklinken. So wird Fine-Tuning auch für Unternehmensteams praktikabel, die sich ein vollständiges Fine-Tuning zuvor nicht leisten konnten.
PEFT- und LoRA-Durchläufe kosten meist 100 bis 1.000 Euro an GPU-Zeit pro Trainingszyklus und sind in wenigen Stunden fertig. Ein vollständiges Fine-Tuning eines großen Modells kann 10.000 bis über 100.000 Euro kosten und zieht sich über Tage bis Wochen. Für die Inferenz zahlen Sie bei individuell angepassten Modellen oft einen höheren Preis pro Token, und selbst gehostete Custom-Checkpoints verursachen laufende Kosten für das GPU-Hosting.
Ja. Sind Daten erst einmal in die Modellgewichte eingebrannt, lassen sie sich nicht mehr gezielt löschen. Das führt zu ernsten Problemen bei den Betroffenenrechten nach DSGVO und bei der Datenresidenz. Bereinigen Sie deshalb jeden Trainingsdatensatz von personenbezogenen Daten und kundenspezifischen Datensätzen. Könnte eine Information jemals gelöscht, aktualisiert oder zugriffsbeschränkt werden, gehört sie nicht in die Gewichte. Nutzen Sie für solche Daten stattdessen RAG.
Nein. Beide lösen unterschiedliche Probleme, und in der Regel kombinieren Sie sie. Fine-Tuning sorgt für konsistentes Verhalten und einen einheitlichen Stil. RAG liefert das aktuelle Wissen zu Kunde, Rechnung, Vertrag und Streitfall, das das Modell braucht, um bei einem bestimmten Konto zu helfen. Eine KI-native AR-Plattform stützt sich für unternehmensspezifisches Wissen meist stark auf RAG und setzt Fine-Tuning gezielt und sparsam ein, etwa für stabile Aufgaben wie Ausgabeformat und Markenstimme.
