NVIDIA a présenté aujourd’hui Kumo Tabular, une nouvelle famille de modèles de fondation pour les données tabulaires. les poids sont publiés sous licence OpenMDW-1.1 et l’ensemble arrive aussi dans la bibliothèque open source structured-data-models (SDM), d’après l’entreprise.
Ces modèles visent des usages en finance, en santé, dans le commerce ou l’industrie. NVIDIA dit qu’ils peuvent prédire la cible d’une nouvelle ligne à partir de lignes de contexte annotées, en un seul passage, sans entraînement propre à chaque tâche, sans réglage d’hyperparamètres et sans passer par la création manuelle de variables.
L’autre point marquant, c’est l’ouverture du dispositif. Les poids sont diffusés sous licence OpenMDW-1.1, qui autorise un usage commercial, tandis que la bibliothèque structured-data-models (SDM) est proposée sous licence Apache-2.0. Sur le terrain, ce choix peut compter, surtout pour des déploiements en production.
Kumo Tabular se décline en trois tailles, Small, Medium et Large, pour un volume d’environ 28 à 215 millions de paramètres, toujours d’après NVIDIA. L’environnement visé repose sur Python 3.11 ou plus, PyTorch 2.7 ou plus, et surtout sur des machines dotées de GPU CUDA.
NVIDIA place ces modèles dans structured-data-models (SDM), son framework open source orienté GPU pour les données structurées.
On y trouve également TabICLv2, TabFM de Google et KumoRelational pour les jeux de données multi-tables, le tout avec une interface commune, TableTensor. S’y ajoutent des briques de prétraitement, d’ensemble et de gestion des problèmes avec un très grand nombre de classes, là encore selon NVIDIA.
Kumo Tabular a été conçu pour les tables, et pas comme une adaptation de dernière minute. NVIDIA explique que l’architecture mêle une attention par colonne, par ligne et en contexte, avec des représentations de cellules numériques et catégorielles fondées notamment sur des caractéristiques de Fourier apprises. Viennent ensuite des représentations de lignes avec self-attention induite et quatre tokens CLS entraînables, avant qu’un Transformer de contexte ne produise la prédiction.
Détail assez singulier, d’après NVIDIA : les lignes à prédire peuvent consulter les lignes de contexte, mais pas l’inverse. L’intérêt est très concret, puisque les clés et valeurs du contexte peuvent être calculées une seule fois puis réutilisées pour évaluer un grand nombre de lignes. En régression, le modèle sort 999 quantiles, ce qui permet d’obtenir à la fois une prédiction centrale et une estimation de l’incertitude.
Le préentraînement a été mené entièrement sur des données synthétiques issues de modèles causaux structurels, avec des tables contenant des valeurs manquantes, des catégories à forte cardinalité, des cibles à queue lourde, ainsi que des lignes dupliquées ou contradictoires, si l’on suit la présentation de NVIDIA. L’entraînement s’est déroulé en trois étapes, avec des contextes allant de 1 024 à 60 000 lignes et jusqu’à 100 colonnes.
NVIDIA affirme prendre la tête de TabArena avec un score ELO de 1 950, devant BeyondArena, TALENT et ScoringBench. Le groupe annonce aussi, dans son propre protocole, un gain de vitesse de 17 à 26 fois par rapport à LimiX-2. Prudence, quand même.
Les validations indépendantes restent rares, et plusieurs questions restent ouvertes : comportement en boîte noire, coût d’inférence sur GPU, taille du contexte, explicabilité dans les secteurs régulés, ou encore baisse possible de précision quand les données réelles s’écartent des schémas vus au préentraînement. Malgré ces réserves, une chose se confirme : les modèles de fondation pour les données métier structurées sont bien en train d’arriver. Et face à TabPFN, la publication des poids pourrait peser lourd.
Author: Jesús Pina
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Jesús Pina verfolgt, was künstliche Intelligenz an der Software wirklich verändert, die wir täglich benutzen — und trennt dabei, was schon funktioniert, von dem, was bisher nur eine Ankündigung ist. Ihn interessiert die praktische Wirkung: welches Werkzeug echte Zeit spart, welches auf halbem Weg stehen bleibt und welches man sich vor der Installation zweimal ansehen sollte. Er arbeitet täglich mit KI-Modellen mitten im redaktionellen Prozess von Softonic und kennt deren Grenzen deshalb recht genau.",
"en-US": "Jesús Pina follows what artificial intelligence is actually changing in the software people use every day, telling apart what already works from what is still only an announcement. What interests him is the practical effect: which tool saves real time, which one stops halfway and which one deserves a second look before you install it. He works daily with AI models inside Softonic's own editorial process, so he knows their limits fairly well.",
"es-ES": "Jesús Pina sigue lo que la inteligencia artificial está cambiando de verdad en el software que usamos cada día, separando lo que ya funciona de lo que por ahora solo es un anuncio. Le interesa el efecto práctico: qué herramienta ahorra tiempo real, cuál se queda a medias y cuál conviene mirar dos veces antes de instalarla. Trabaja a diario con modelos de IA dentro del propio proceso editorial de Softonic, así que conoce bastante bien sus límites.",
"fr-FR": "Jesús Pina suit ce que l'intelligence artificielle change réellement dans les logiciels du quotidien, en distinguant ce qui fonctionne déjà de ce qui n'est encore qu'une annonce. Ce qui l'intéresse, c'est l'effet pratique : quel outil fait gagner du temps, lequel s'arrête à mi-chemin et lequel mérite un second examen avant installation. Il travaille au quotidien avec des modèles d'IA au cœur du processus éditorial de Softonic, et connaît donc assez bien leurs limites.",
"it-IT": "Jesús Pina segue ciò che l'intelligenza artificiale sta davvero cambiando nel software di ogni giorno, distinguendo quello che già funziona da quello che per ora è solo un annuncio. Gli interessa l'effetto pratico: quale strumento fa risparmiare tempo, quale si ferma a metà e quale conviene guardare due volte prima di installarlo. Lavora ogni giorno con modelli di IA dentro il processo editoriale di Softonic, e per questo ne conosce bene i limiti.",
"nl-NL": "Jesús Pina volgt wat kunstmatige intelligentie echt verandert aan de software die we dagelijks gebruiken, en scheidt daarbij wat al werkt van wat nog slechts een aankondiging is. Wat hem interesseert is het praktische effect: welke tool echt tijd bespaart, welke halverwege blijft steken en welke je beter twee keer bekijkt voordat je hem installeert. Hij werkt dagelijks met AI-modellen binnen het redactieproces van Softonic en kent daardoor hun grenzen vrij goed.",
"pl-PL": "Jesús Pina śledzi to, co sztuczna inteligencja rzeczywiście zmienia w programach używanych codziennie, oddzielając rozwiązania, które już działają, od tych, które są na razie tylko zapowiedzią. Interesuje go efekt praktyczny: które narzędzie naprawdę oszczędza czas, które zatrzymuje się w połowie drogi, a które warto sprawdzić dwa razy przed instalacją. Codziennie pracuje z modelami AI wewnątrz procesu redakcyjnego Softonica, więc dobrze zna ich ograniczenia.",
"pt-BR": "Jesús Pina acompanha o que a inteligência artificial está realmente mudando nos programas que usamos todos os dias, separando o que já funciona do que ainda é apenas anúncio. O que lhe interessa é o efeito prático: qual ferramenta economiza tempo de verdade, qual para no meio do caminho e qual merece uma segunda olhada antes de instalar. Trabalha diariamente com modelos de IA dentro do próprio processo editorial da Softonic, e por isso conhece bem seus limites."
}
View all posts by Jesús Pina