RecherchearXiv cs.RO 15 octobre 2026

Élagage complémentaire des jetons futurs pour les modèles d'action du monde

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs proposent CF-Prune, un cadre d'élagage sans réentraînement conçu pour les « world action models » (WAMs) préentraînés. Ces modèles prédisent conjointement les états visuels futurs et les actions du robot, mais le traitement de tokens denses issus des images futures alourdit fortement la latence d'inférence. CF-Prune supprime une partie de ces tokens en combinant l'attention portée à l'instruction et celle portée aux actions, afin d'identifier les tokens utiles à la tâche dès la première passe de débruitage, alors même que les représentations des images futures et des actions restent très bruitées. Un mécanisme d'identification de phases fondé sur l'entropie rétablit un calcul dense pendant les phases de précision, pour limiter la dégradation due à l'élagage. Les tests couvrent les benchmarks de simulation RoboLab et RoboCasa ainsi que des tâches de manipulation réelles. Avec 35 % de tokens élagués, l'accélération moyenne atteint 1,19 à 1,27x, avec des taux de réussite en hausse. À 50 %, elle monte à 1,29-1,33x sur les deux benchmarks simulés, avec un taux de réussite global à moins d'un point de pourcentage de la référence.

L'enjeu est la latence de boucle de contrôle, un frein concret au déploiement des modèles de fondation robotiques. Les WAMs offrent une meilleure compréhension de la dynamique physique que les VLA classiques (modèles vision-langage-action), mais prédire des vidéos futures coûte cher en calcul embarqué. L'idée centrale, selon laquelle les prédictions visuelles servent l'action et n'ont pas besoin de la fidélité requise pour la synthèse vidéo, montre qu'une part importante du calcul est redondante. Pour un intégrateur ou un responsable industriel, cela signifie qu'on peut gagner en fréquence de contrôle sans réentraîner ni changer de matériel, ce qui réduit le coût d'adaptation. Les gains restent toutefois modestes : environ un tiers de temps en moins au mieux, ce qui ne change pas l'ordre de grandeur de la latence. Le résumé ne précise ni la taille des modèles testés, ni les plateformes matérielles, ni l'ampleur des essais réels. Ces chiffres sont des moyennes en simulation et ne garantissent pas la robustesse en production.

Ce travail s'inscrit dans la vague de recherches sur les modèles combinant génération vidéo et politique d'action, qui cherchent à hériter des connaissances physiques des modèles vidéo préentraînés. Il prolonge aussi les méthodes d'élagage de tokens issues des transformeurs de vision et des VLA, ici adaptées à une structure où les tokens futurs et les actions sont débruités ensemble, comme dans les modèles à diffusion. Il s'agit d'une prépublication arXiv (v1), non évaluée par des pairs, sans produit commercial ni déploiement annoncé. La suite logique sera de vérifier si l'approche tient sur des WAMs plus grands, sur du calcul embarqué et sur des tâches longues, et si elle se combine avec d'autres techniques d'accélération comme la distillation ou la quantification.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLA arXiv cs.RO

À lire aussi

1arXiv cs.RO

VLA-ACL : élagage de jetons visuels cohérent avec les actions pour des modèles vision-langage-action (VLA) efficaces

Des chercheurs publient sur arXiv VLA-ACL (Action Consistency Learning), une méthode d'élagage de tokens visuels pour les modèles Vision-Language-Action (VLA), dont le code est disponible sur GitHub. Le système apprend une politique d'élagage légère tout en laissant le modèle VLA de base entièrement gelé. L'entraînement vise à ce que les actions produites à partir d'un contexte visuel élagué restent cohérentes avec celles d'un modèle enseignant qui voit le contexte complet. Les actions de référence (ground truth) ne servent que de supervision auxiliaire. Les tests portent sur le benchmark de simulation LIBERO et sur des tâches de manipulation en conditions réelles. La méthode élimine jusqu'à 87,5 % des tokens visuels tout en gardant des performances jugées compétitives. Elle réduit le calcul jusqu'à 75 % et accélère l'inférence d'un facteur 1,5. Ces chiffres comptent pour le déploiement. Un VLA doit traiter de longues séquences de tokens à chaque pas de contrôle, et les patchs visuels dominent cette séquence. Cette charge limite le temps réel sur le matériel embarqué. Le gain d'inférence de 1,5x reste nettement inférieur à la réduction de calcul de 75 %. Cet écart suggère que les coûts hors visuel, comme le décodage des actions, plafonnent l'accélération réelle. Les résultats viennent de l'article seul, sans reproduction indépendante. La notion de « performance compétitive » n'est pas chiffrée dans le résumé, et on ignore sur quels modèles de base et quels robots les tests réels ont été faits. La méthode gèle le modèle de base, donc un intégrateur peut l'ajouter à un VLA existant sans le réentraîner. Elle illustre aussi un changement d'approche : choisir les tokens selon leur effet sur la commande finale plutôt que selon des scores d'attention. Les travaux antérieurs d'élagage pour VLA se répartissent en deux familles. La première regroupe des heuristiques sans entraînement, fondées sur les scores d'attention ou des seuils de mouvement, jugées indirectes par les auteurs. La seconde exige un réglage fin coûteux du modèle de base. VLA-ACL se place entre les deux : une supervision au niveau de l'action, sans toucher aux poids du VLA. Les auteurs affirment un meilleur compromis performance-efficacité que les méthodes d'élagage existantes pour VLA gelés. La suite dépendra de la généralisation à d'autres architectures (Pi-0, GR00T, Helix et leurs équivalents) et de tests sur plus de tâches réelles. Le code étant public, la communauté pourra vérifier ces résultats rapidement.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

LeapBot-JAC : chaînes d'actions conjointes pour les modèles d'action du monde

LeapBot-JAC (Joint Action Chains), présenté sur arXiv, propose une réorganisation du budget de tokens d'action dans les politiques robotiques à « action chunking », c'est-à-dire celles qui prédisent une séquence de commandes futures mais n'en exécutent qu'un préfixe avant de replanifier. Au lieu d'ajouter des tokens ou des paramètres, la méthode répartit le budget fixe en deux chaînes au sein d'un unique « action expert » partagé : des références clairsemées de commandes lointaines et des cibles d'exécution denses. Les deux chaînes sont supervisées par les commandes issues des démonstrations et débruitées conjointement, à des positions temporelles physiques alignées. Une attention dirigée permet aux tokens d'exécution de lire les tokens de référence, dans le respect des contraintes de visibilité du modèle hôte. Les deux chaînes participent à l'inférence, mais seule la chaîne d'exécution pilote le robot. Sur le benchmark LIBERO, la méthode atteint 98,3 % de succès avec FastWAM et LeapBot-WA, contre 97,0 % et 97,3 % auparavant. En zero-shot sur LIBERO-Plus, les taux passent de 53,5 % à 70,4 % pour FastWAM et de 73,1 % à 77,3 % pour LeapBot-WA. RoboTwin et deux tâches en conditions réelles complètent l'évaluation. Pour les équipes qui travaillent sur les « world action models » (WAM), ces modèles qui combinent prédiction du monde et génération d'actions, le résultat suggère qu'un gain notable de robustesse peut venir de l'organisation des tokens plutôt que de la taille du modèle. Le bénéfice est surtout visible hors distribution : +16,9 points sur LIBERO-Plus pour FastWAM, contre +1,3 point sur LIBERO standard, benchmark déjà proche de la saturation. Ce point compte pour les intégrateurs, car la généralisation à des perturbations non vues pèse davantage sur la fiabilité en production que le score sur un banc d'essai connu. Le coût d'intégration paraît faible, la méthode n'ajoutant ni tokens ni paramètres, ce qui la rend potentiellement greffable sur d'autres architectures. Des réserves s'imposent toutefois : les auteurs reconnaissent des comparaisons à graine d'entraînement unique, ce qui limite la portée statistique des écarts, et seules deux tâches réelles sont rapportées, sans chiffres de succès, de temps de cycle ni de taux d'échec détaillés dans le résumé. Le gain bien plus faible sur LeapBot-WA (+4,2 points sur LIBERO-Plus) indique aussi que l'effet dépend de la base de départ. Ces travaux s'inscrivent dans la course aux politiques VLA et WAM, où des modèles comme Pi-0, GR00T ou Helix cherchent à améliorer la précision et la réactivité du pilotage par chunks d'actions. La tension entre horizon de prédiction long, qui donne de la cohérence, et exécution dense, qui donne de la précision, est un problème ouvert que JAC aborde sans modifier le coût d'inférence nominal. Il s'agit d'une publication académique, sans produit commercialisé ni déploiement industriel annoncé. Les prochaines étapes à surveiller sont la réplication avec plusieurs graines, l'évaluation sur davantage de tâches réelles et l'adoption éventuelle de ce schéma par d'autres modèles d'action en diffusion ou en flow matching.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Ce qui compte pour la modélisation du monde dans les modèles vision-langage-action (VLA)

Une équipe de chercheurs publie sur arXiv (2610.19825) une étude systématique visant à déterminer ce qui compte réellement lorsqu'on intègre un modèle du monde dans un modèle Vision-Langage-Action (VLA), c'est-à-dire une politique robotique qui convertit images et instructions textuelles en actions. Les auteurs classent les approches existantes en quatre paradigmes: Implicit Future Alignment, Explicit Future Query, MoT Future Expert (un expert dédié au futur, découplé de la politique, dans une architecture de type Mixture-of-Transformers) et External World Predictor. Chacun est réimplémenté dans un cadre unifié, puis évalué avec plusieurs représentations du monde et plusieurs architectures de politique. Les tests couvrent des scénarios in-domain, hors distribution (OOD), à long horizon, dynamiques, few-shot et en conditions réelles. Les résultats chiffrés détaillés figurent sur la page projet, que les auteurs accompagnent de vidéos de démonstration. Quatre conclusions se dégagent. L'efficacité d'une représentation du monde dépend du paradigme, mais les représentations sémantiques 2D apportent des gains robustes dans tous les cas. Aucun paradigme ne domine partout, même si le MoT Future Expert offre de bonnes performances globales, surtout en robustesse OOD. Le modèle du monde profite systématiquement aux politiques bâties sur des VLM standards, tandis que les conceptions découplées s'accordent mieux avec des VLA déjà pré-entraînés. Enfin, par rapport à des références limitées à la prédiction d'actions, le modèle du monde améliore les résultats dans plusieurs configurations, avec des gains notables sur les tâches longues et dynamiques. L'intérêt pour l'industrie tient à la clarification d'un champ où les publications comparaient des méthodes qui différaient à la fois par la représentation, le mode d'intégration et le backbone, ce qui rendait les attributions de gains peu fiables. Pour les équipes qui développent des VLA, le message est pragmatique: prédire des features sémantiques 2D du futur est un choix peu risqué, et une architecture découplée permet de greffer un modèle du monde sur un VLA existant sans tout réentraîner. Les gains sur les tâches longues et dynamiques correspondent précisément aux limites des politiques purement réactives en environnement industriel. Il faut toutefois rester prudent: il s'agit d'un banc d'essai académique, sans chiffres de déploiement ni de cadence, et la validation en conditions réelles reste vraisemblablement limitée en échelle. Ce travail s'inscrit dans la montée des modèles du monde dans la robotique fondationnelle, où des acteurs comme NVIDIA (GR00T), Physical Intelligence (Pi-0) ou Figure (Helix) cherchent à dépasser le simple mappage observation-action. Les choix d'architecture restent encore peu consensuels. La suite logique consiste à tester ces paradigmes à plus grande échelle, avec des VLA pré-entraînés sur de très grands corpus et sur des plateformes variées. Aucun calendrier de pilote n'est annoncé, s'agissant d'une contribution de recherche.

RecherchePaper

1 source

4arXiv cs.RO

WAMJET : un cadre pour accélérer les modèles d'action du monde

WAMJET, présenté sur arXiv (2610.03797, version 2), est un « harness » agentique qui accélère l'inférence des World Action Models (WAM). Ces modèles réutilisent des modèles de fondation vidéo pré-entraînés pour la manipulation robotique, en prédisant conjointement la vidéo future et les actions. Ce couplage et la taille des backbones rendent l'inférence coûteuse. Le harness dote des agents de code de consignes d'optimisation réutilisables et d'outils de mesure et de validation. L'agent suit un flux piloté par les goulots d'étranglement : il profile l'inférence, modifie le code ciblé, valide les effets, puis affine la pile d'accélération à mesure que les goulots se déplacent, sans dégrader la qualité des actions. Les expériences couvrent six WAM, trois agents de code et deux architectures de GPU. WAMJET atteint jusqu'à 9,95x d'accélération sans perte par rapport aux implémentations amont. Des optimisations par approximation et adaptées au matériel réduisent encore la latence, avec des taux de succès comparables. Ce travail s'attaque à un frein concret du déploiement des WAM : leurs latences d'inférence. Les techniques d'accélération existent déjà (quantification, distillation, réduction du nombre de pas de diffusion, optimisation des noyaux), mais choisir et composer celles qui conviennent à chaque modèle et à chaque plateforme matérielle demande un travail d'ingénierie lourd et répété. En automatisant cette étape avec des agents de code, les auteurs proposent de la traiter comme un problème d'optimisation outillé plutôt que comme du sur-mesure. Pour un intégrateur ou une équipe qui porte un WAM sur un robot réel, le gain de latence conditionne la fréquence de contrôle atteignable. Le résultat suggère aussi que les implémentations amont des WAM laissent beaucoup de performance inexploitée. Le chiffre de 9,95x est un maximum, obtenu sur le meilleur cas, et non une moyenne. L'extrait disponible ne détaille ni les latences absolues ni la liste des six modèles, ce qui limite la lecture de ce chiffre. La mention de taux de succès « comparables » pour les variantes approximatives demande à être vérifiée sur des tâches physiques variées, et pas seulement sur des benchmarks. Cette approche s'inscrit dans deux tendances. La première est la montée des modèles d'action fondés sur la vidéo, qui héritent de la qualité des modèles vidéo génératifs, mais aussi de leur coût de calcul, par opposition aux VLA classiques, plus légers. La seconde est l'usage d'agents de code pour optimiser des systèmes, sur le modèle de l'ingénierie assistée de noyaux GPU. Les travaux concurrents sur l'accélération des VLA, comme les politiques à flow matching ou à diffusion réduite en pas, visent le même objectif de contrôle temps réel, mais sans automatiser la composition des techniques. La suite logique est une validation sur robots physiques et sur davantage de plateformes, notamment embarquées, où les contraintes de calcul sont les plus fortes.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source