Ein Tabular Foundation Model ist ein einzelnes vortrainiertes neuronales Netz, das Vorhersagen auf neuen tabellarischen Datensätzen im Zero-Shot- oder In-Context-Learning-Verfahren trifft, ohne datensatzspezifisches Training oder Feature Engineering.
Ein Tabular Foundation Model ist ein neuronales Netz, das auf einer riesigen Sammlung synthetischer und realer tabellarischer Datensätze vortrainiert wurde. So kann es Vorhersagen für eine neue Tabelle treffen, ohne dass Sie es neu trainieren müssen. Zur Inferenzzeit übergeben Sie ihm eine gelabelte Trainingstabelle und eine ungelabelte Testtabelle, und es liefert die Vorhersagen in einem einzigen Forward Pass. Es gibt kein Gradientenverfahren auf Ihren Daten, keine Hyperparametersuche und kein datensatzspezifisches Feature Engineering.
Das bricht deutlich mit der Art und Weise, wie tabellarisches Machine Learning im letzten Jahrzehnt funktioniert hat. Gradient-Boosting-Bibliotheken für Entscheidungsbäume wie XGBoost und LightGBM bleiben der Standard für strukturierte Daten, doch jeder Datensatz braucht nach wie vor einen eigenen Trainingslauf und Tuning-Durchgang. Tabular Foundation Models verlagern diese Arbeit in die Vortrainingsphase und nutzen anschließend ein einziges Modell für viele Aufgaben. Genau dieses Prinzip hat große Sprachmodelle praxistauglich gemacht.
Die meisten Tabular Foundation Models bauen auf In-Context Learning. Das Modell erhält einen Prompt mit den Trainingszeilen samt ihren Labels, gefolgt von den Testzeilen. Anschließend sagt es die Test-Labels vorher, indem es Attention über den gesamten Kontext anwendet. Zum Zeitpunkt der Inferenz passt es die Gewichte nicht an, sondern führt lediglich einen Forward Pass aus.
TabPFN, vorgestellt von Hollmann und Kolleginnen und Kollegen auf der ICLR 2023, machte den Ansatz der Prior-Data Fitted Networks bekannt. Die Autorinnen und Autoren erzeugten Millionen synthetischer Tabellendatensätze aus einem Prior auf Basis eines strukturellen kausalen Modells. Danach trainierten sie einen Transformer, um Bayes’sche Inferenz über diesen Prior durchzuführen. Das Ergebnis verhält sich wie ein approximativer Bayes-Prädiktor und liefert kalibrierte Wahrscheinlichkeiten, ohne beim Pre-Training jemals echte Daten gesehen zu haben. TabPFN v2, veröffentlicht im Jahr 2025, erweiterte das Original um größere Tabellen, gemischte Merkmalstypen sowie Regression zusätzlich zur Klassifikation. TabICL trieb In-Context Learning mit Curriculum-Training auf echten Tabellenkorpora weiter voran, während TabuLa-8B und GTT Sprachmodell-Backbones untersuchten, die Tabellen als serialisierten Text einlesen.
TabPFN und TabPFN v2 sind nach wie vor die am häufigsten in Benchmarks getesteten Tabular Foundation Models. Bei Datensätzen mit weniger als zehntausend Zeilen erreicht v2 dabei Spitzenwerte auf den Benchmark-Suites TabZilla und OpenML-CC18. TabICL deckt ähnliche Anwendungsbereiche ab, setzt den Schwerpunkt aber auf den Transfer aus realen Tabellen. TabuLa-8B interpretiert die Vorhersage neu, nämlich als Next-Token-Generierung auf serialisierten Zeilen, und wird dadurch für gemischte Text- und Zahlenmerkmale interessant. GTT, der Generalist Tabular Transformer, konzentriert sich auf den datensatzübergreifenden Transfer über ein breiteres Feature-Schema hinweg. Erste kommerzielle Wrapper kommen langsam auf den Markt, und mehrere Forschungsgruppen haben für die Jahre 2025 und 2026 Enterprise-Editionen angekündigt.
Die größte Stärke liegt in der Zero-Shot-Genauigkeit. Bei kleinen und mittelgroßen Tabellen ziehen Tabular Foundation Models mit sorgfältig abgestimmten XGBoost- und LightGBM-Pipelines gleich oder übertreffen sie sogar, und das ganz ohne Tuning und mit Inferenzzeiten von wenigen Sekunden. Oft kalibrieren sie besser als ein behelfsmäßiges Platt-Scaling auf Boosted Trees, und den Aufwand für Feature Engineering sparen Sie sich praktisch vollständig.
Ebenso deutlich zeigen sich die Grenzen. Die meisten Modelle stoßen bei einigen tausend bis zehntausenden Zeilen in einem einzigen Kontext an ihre Obergrenze. Sehr große Trainingsdatensätze müssen Sie deshalb per Subsampling verkleinern oder in Blöcke aufteilen. Breite Tabellen mit hunderten Merkmalen können die Feature-Obergrenze überschreiten. Bei den größten Datensätzen behält abgestimmtes Gradient Boosting weiterhin die Oberhand, denn hier optimiert der Modellierer stundenlang auf die jeweilige Verteilung. Probabilistische Ausgaben liefert TabPFN von Haus aus, bei den sprachmodellartigen Ansätzen sind sie jedoch weniger ausgereift. Auch die Latenz unter Last kann höher ausfallen als bei einem eingefrorenen XGBoost-Modell auf handelsüblicher Hardware.
Order-to-Cash-Teams bearbeiten Dutzende tabellarischer Prognoseaufgaben parallel. Das Kreditrisiko-Scoring sagt Zahlungsausfälle anhand von Kundenfinanzdaten, Zahlungshistorie und Handelsreferenzen voraus. Bei der Klassifizierung des Zahlungszeitpunkts geht es um die Frage, ob ein Kunde eine Rechnung früh, pünktlich oder verspätet begleicht, oft aufgeschlüsselt nach Kundensegment und Land. Das Scoring der Streitfallwahrscheinlichkeit markiert Rechnungen, die voraussichtlich beanstandet werden, bevor sie überfällig werden. Die Prognose von Abzugsgründen leitet Minderzahlungen an die richtige Klärstelle weiter. Und die Cashflow-Prognose auf Kundenebene verdichtet all diese Signale zu einer wöchentlichen Sicht auf die Zahlungseingänge.
Heute lösen Teams diese Aufgaben typischerweise mit einer ganzen Flotte von XGBoost- oder LightGBM-Modellen, eines je Segment, Land oder Produktlinie, jeweils mit eigener Trainingspipeline und eigenem Drift-Monitoring. Ein Tabular Foundation Model ersetzt diese Flotte durch ein einziges vortrainiertes Modell. Es nutzt den relevanten Ausschnitt der Historie als kontextbezogene Beispiele und liefert Prognosen für neue Rechnungen oder Kunden. Neue Segmente lassen sich vom ersten Tag an bedienen, ohne dass Sie erst einen Trainingsdatensatz aufbauen müssen. Und auf Drift reagieren Sie nicht länger, indem Sie neu trainieren, sondern indem Sie die kontextbezogenen Beispiele aktualisieren.
Transformance.ai evaluiert Tabular Foundation Models für die Kredit- und Zahlungsprognose in Debitorenprozessen, siehe unsere Benchmark-Notizen im Vergleich zu optimierten XGBoost-Baselines.
Behandeln Sie ein Tabular Foundation Model wie jedes andere Modell, das zur Auswahl steht. Vergleichen Sie es mit Ihrer aktuellen Produktivmethode, meist ein optimiertes XGBoost oder eine logistische Regression. Nutzen Sie dafür denselben Holdout-Datensatz und dieselben Kennzahlen, darunter Kalibrierung und Lift an dem Entscheidungsschwellenwert, den Sie tatsächlich verwenden. Sorgen Sie dafür, dass Ihre Trainingstabellen in den Modellkontext passen. Ist das nicht der Fall, testen Sie Subsampling-Strategien. Prüfen Sie, ob das Modell Wahrscheinlichkeiten liefert, auf die Sie sich bei Entscheidungen zum Kreditlimit verlassen können, und nicht nur Punktschätzungen. Messen Sie die Inferenzlatenz bei den Volumina, die Sie pro Stunde verarbeiten, und prüfen Sie den Rollback-Pfad unter Last. Tabular Foundation Models erweitern den Werkzeugkasten wirklich. Doch den Produktivstatus verdienen sie sich wie jedes andere Modell: indem sie einen fairen direkten Vergleich bei den Kennzahlen gewinnen, die Ihr Working Capital beeinflussen.
Ein Tabular Foundation Model ist ein neuronales Netz, das mit Millionen tabellarischer Datensätze vortrainiert wurde. Dadurch kann es Vorhersagen für eine neue Tabelle in einem einzigen Forward Pass treffen, ganz ohne datensatzspezifisches Training, ohne Tuning und ohne Feature Engineering.
XGBoost und LightGBM lernen Sie für jeden Datensatz von Grund auf neu an und müssen die Hyperparameter jedes Mal tunen. Ein Tabular Foundation Model trainieren Sie dagegen einmal und setzen es über verschiedene Datensätze hinweg wieder ein. Seine Vorhersagen liefert es per In-Context Learning statt per Gradient Boosting.
Am häufigsten prüfen Benchmarks TabPFN und TabPFN v2, doch auch TabICL, TabuLa-8B und GTT erhalten viel Aufmerksamkeit. Bei kleinen und mittelgroßen Tabellen führt derzeit TabPFN v2 die öffentlichen Benchmarks an.
Ja. Das Scoring des Kreditrisikos ist ein klassisches Problem der tabellarischen Klassifikation und eignet sich gut für Tabular Foundation Models. Diese verarbeiten neue Kundensegmente ohne erneutes Training und liefern oft gut kalibrierte Wahrscheinlichkeiten.
Die Größe des Kontextfensters begrenzt, wie viele Zeilen und Merkmale in einen Vorhersagelauf passen. Bei sehr großen Datensätzen hat getuntes Gradient Boosting weiterhin die Nase vorn, und nicht alle neuen Modelle liefern kalibrierte probabilistische Ergebnisse.
Sie kommen direkt beim Kreditrisiko-Scoring zum Einsatz, ebenso bei der Klassifikation von Zahlungszeitpunkten, beim Scoring der Streitfallwahrscheinlichkeit, bei der Vorhersage von Abzugsgründen und bei der kundenbezogenen Cashflow-Prognose. Häufig ersetzen sie ganze Flotten segmentspezifischer XGBoost-Modelle durch ein einziges vortrainiertes Modell.
