RecherchearXiv cs.RO 28 septembre 2026

Causeway : restaurer l'accessibilité des tâches pour le changement d'instructions dans les politiques VLA

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié le 30 septembre 2026 sur arXiv (2609.30913v1) un article intitulé "Causeway: Restoring Task Accessibility for Instruction Switching in VLA Policies", qui s'attaque à un problème concret des politiques vision-langage-action (VLA) : une tâche exécutée de façon fiable depuis un état initial standard devient souvent impossible à réaliser si le robot vient d'en terminer une autre, son état physique ayant changé entre-temps. Les auteurs baptisent ces états inaccessibles des "task islands". Leur solution, Causeway, est une intervention sans entraînement appliquée au moment de l'inférence : à partir de l'état courant et d'une pose de réentrée pour la tâche cible, elle rétropropage à travers le calcul de décodage gelé du modèle et applique une écriture ciblée dans la représentation du flux d'actions, laissant le VLA générer lui-même le mouvement de retour, sans mise à jour de paramètres, sans nouvelle tête d'action ni générateur externe. Testée sur 71 paires d'objets croisées, trois moments de changement de consigne et trois architectures VLA différentes sur le benchmark LIBERO-Goal, la méthode fait passer le taux de réussite du changement d'instruction "brut" de 3-26% à 47-65%, et améliore de 42 à 72 points de pourcentage le taux d'atteinte de la zone de transfert intermédiaire, selon les modèles.

Ce résultat pointe un angle mort de l'évaluation actuelle des VLA : la quasi-totalité des benchmarks testent une tâche unique depuis un état initial propre, alors qu'un déploiement industriel réel implique des changements d'instructions en cours d'exécution, par exemple une interruption humaine ou une réorganisation de la file de tâches. Un taux de réussite de base aussi bas que 3 à 26% en cas de changement de consigne illustre un écart net entre les démonstrations contrôlées et la robustesse nécessaire en production. Pour les intégrateurs et décideurs B2B, l'intérêt de Causeway tient surtout à son caractère training-free : un correctif à l'inférence, applicable sans réentraînement ni collecte de données supplémentaire, est nettement moins coûteux à déployer qu'un fine-tuning spécifique.

Le travail s'inscrit dans la vague de recherche sur les politiques VLA généralistes, où un même modèle doit enchaîner des tâches de manipulation à partir d'instructions en langage naturel plutôt que de politiques spécialisées par tâche. Les expériences complémentaires sur LIBERO-Object et sur un bras réel xArm indiquent que la récupération d'accessibilité ne se limite pas au cadre principal LIBERO-Goal et se transfère, au moins partiellement, du simulateur au robot physique. L'article est un dépôt arXiv récent, non encore validé par relecture par les pairs, et ne précise pas de calendrier d'intégration dans des piles VLA commerciales.

Dans nos dossiers

IA physique & VLA arXiv cs.RO

À lire aussi

1arXiv cs.RO

Au-delà de la reconstruction : qu'est-ce qui compte dans la tokenisation d'actions pour les politiques robotiques ?

Les politiques robotiques autorégressives, dont les modèles vision-langage-action (VLA), convertissent des séquences de tokens discrets en commandes continues grâce à un « tokenizer » d'actions. Une équipe de chercheurs publie sur arXiv (2610.09170) ProAct, pour Predictable and Robust Action Tokenization, une méthode d'entraînement de ces tokenizers. Elle ne dépend d'aucune politique particulière et n'utilise que des jeux de données d'actions. Testée sur les benchmarks Robomimic, LIBERO et RoboTwin, avec plusieurs architectures de tokenizers, elle améliore le taux de réussite en rollout de 11,3 points de pourcentage en moyenne. Le gain atteint 21,8 points sur des VLA et 36,7 points en manipulation robotique réelle. Les résumés de ce type ne précisent pas toujours les tâches, les robots ou le nombre d'essais physiques. Il faudra donc lire l'article complet pour juger de la robustesse de ces chiffres. La plupart des tokenizers apprennent la correspondance entre tokens et actions par un objectif de reconstruction. Les auteurs montrent qu'une reconstruction suffisamment fidèle ne garantit pas une bonne politique. Deux autres propriétés comptent. La politique doit prédire les bons tokens face à des observations nouvelles. Et les tokens qu'elle prédit sans les avoir vus à l'entraînement doivent quand même se décoder en actions plausibles. Ni l'une ni l'autre n'est favorisée par la seule reconstruction. ProAct complète donc celle-ci pour améliorer la prévisibilité et la robustesse. Pour les équipes qui construisent des VLA, le message est concret : le tokenizer n'est pas un simple module de compression. C'est une interface de conception à part entière, qui doit équilibrer fidélité, prévisibilité et robustesse. Le gain le plus marqué en conditions réelles suggère aussi qu'une partie de l'écart entre démonstration et déploiement pourrait venir de ce maillon, et pas seulement de la taille des modèles ou du volume de données. Ce travail s'inscrit dans le courant des politiques qui discrétisent les actions pour réutiliser les architectures de modèles de langage, comme l'approche de tokenisation par compression popularisée avec les modèles de type Pi-0-FAST. Il rejoint les critiques sur les méthodes qui jugent un tokenizer à sa seule erreur de reconstruction. Le fait que ProAct soit indépendant de la politique et n'utilise que des données d'actions facilite son intégration dans des pipelines existants, sans réentraîner l'ensemble de la pile. Les concurrents sont les approches continues, notamment par diffusion ou flow matching, qui évitent la tokenisation. Aucun pilote industriel ni calendrier de publication de code n'est mentionné dans le résumé. Il s'agit pour l'instant d'une preuve de concept académique, dont l'adoption dépendra de la reproductibilité des résultats par d'autres laboratoires.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

Moins d'étapes, meilleures actions : repenser l'inférence par flow-matching pour les politiques VLA

Une équipe de recherche présente Coda (arXiv:2609.21216v1), qui réduit le coût d'inférence des politiques vision-langage-action (VLA) à flow matching, où générer une séquence d'actions (action chunk) exige plusieurs évaluations répétées d'un expert d'action. Plutôt que d'ajouter des pas d'intégration, une politique gelée complète d'abord une trajectoire bruit-vers-action en quelques pas, puis un petit Transformer, seul élément entraîné, corrige le résultat à partir de l'action candidate, du bruit source et d'un cache d'observation partagé. Sur 50 tâches du benchmark RoboTwin Easy, la version à cinq pas fait passer la réussite de 71,64% à 74,68% par rapport à une base à cinq pas équivalente, tout en réduisant la latence de 30,2% face à la politique par défaut à dix pas ; une version à deux pas atteint 71,88% avec une accélération de 2,12 fois. Sur le modèle ouvert SmolVLA figé, la réussite à deux pas grimpe de 60,8% à 69,4%. Le résultat touche un point sensible pour l'industrie robotique : la latence d'inférence conditionne directement le déploiement des VLA sur du matériel réel en boucle fermée, et l'hypothèse répandue selon laquelle plus de pas d'intégration produit toujours de meilleures actions se trouve contredite. Pour les intégrateurs et décideurs B2B, cela signifie qu'un correcteur léger, bon marché à entraîner, peut remplacer des pas d'inférence coûteux sans retoucher la politique de base ni le pipeline de flow matching déjà déployé, une famille d'architectures utilisée notamment par Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA. C'est un argument concret contre l'idée que seul davantage de calcul referme l'écart entre démonstration en laboratoire et exécution réelle. Ces travaux s'inscrivent dans la lignée des politiques VLA à flow matching, désormais courantes en robotique généraliste pour produire des actions continues à partir d'images et de consignes en langage naturel. Classé « new » sur arXiv, le papier ne revendique aucun déploiement industriel : les résultats reposent sur des benchmarks reproductibles, RoboTwin Easy et SmolVLA, en simulation ou sur des jeux de tâches de référence, sans test documenté sur robot physique en conditions réelles. La méthode ouvre néanmoins une piste pour les laboratoires cherchant à réduire la latence des VLA sans sacrifier la précision, alors que la course aux politiques généralistes s'intensifie.

RecherchePaper

1 source

3arXiv cs.RO

ReAT : tokenisation résiduelle des actions pour les politiques robotiques autorégressives

Des chercheurs proposent ReAT (Residual Action Tokenization), une méthode de tokenisation d'actions pour politiques robotiques autorégressives, décrite dans l'article arXiv 2610.13093. Ces politiques prédisent des « chunks » d'actions continues sous forme de courtes séquences de jetons discrets, produits par un tokenizer. Les tokenizers existants savent reconstruire un chunk à partir de ses codes, mais le rôle de chaque jeton dans l'action reconstruite reste implicite. ReAT assigne à chaque jeton une fonction explicite d'affinement : le jeton suivant est construit à partir de l'erreur résiduelle entre l'action cible et la reconstruction décodée du préfixe déjà émis. L'encodage et le décodage forment ainsi une boucle fermée, où chaque nouveau jeton corrige les écarts laissés par ce que le décodeur reconstruit réellement. Les auteurs annoncent des résultats sur 19 tâches de manipulation, réparties sur trois benchmarks de simulation et des essais en conditions réelles. Avec 8 jetons, les politiques ReAT dépassent les baselines évaluées en taux de réussite. Sur LIBERO, une version à 4 jetons surpasse même les baselines de tokenisation à 8 jetons, soit la moitié du budget de jetons. L'intérêt tient à l'efficacité de la représentation. Dans les modèles VLA (vision-langage-action) autorégressifs, chaque jeton d'action supplémentaire allonge la séquence à générer et augmente la latence d'inférence, un point critique pour les contrôleurs temps réel. Obtenir de meilleurs résultats avec moitié moins de jetons suggère que la qualité de la tokenisation pèse autant que la taille du modèle ou le volume de données. L'approche ouvre aussi la voie à une politique « auto-correctrice », qui apprend à raffiner progressivement son plan d'action, à la manière d'une quantification résiduelle. Pour les équipes qui entraînent des VLA, c'est un levier peu coûteux, puisqu'il agit sur la couche de discrétisation sans refonte de l'architecture. Il faut toutefois nuancer. Il s'agit d'une prépublication sans relecture par les pairs, et les gains sont mesurés face aux seules baselines « évaluées » par les auteurs, sans garantie qu'elles couvrent l'état de l'art. LIBERO et les autres benchmarks simulés restent saturés et peu représentatifs de la variabilité industrielle, et la part des essais réels n'est pas précisée dans le résumé : ni nombre de robots, ni nombre d'essais, ni taux de succès chiffrés. Le travail s'inscrit dans la lignée des tokenizers d'actions comme FAST, qui compresse les actions par transformée en cosinus discrète, et des approches par quantification vectorielle, face aux politiques à diffusion ou à flow matching comme Pi-0, qui évitent la discrétisation. La suite logique sera une validation sur de grands VLA, avec des mesures de latence et des déploiements sur des tâches longues, avant d'y voir autre chose qu'un résultat de recherche.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

APT : le pré-entraînement par expertise d'action améliore la généralisation des politiques VLA aux nouvelles instructions

Une équipe de chercheurs a publié le 11 juin 2026 sur arXiv (identifiant 2606.12366) APT (Action expert PreTraining), une méthode d'entraînement en deux étapes conçue pour améliorer la généralisation des politiques robotiques Vision-Langage-Action (VLA) face à des instructions en langage naturel hors distribution. Le problème ciblé : les modèles VLA actuels, qui couplent un grand modèle de vision-langage (VLM) préentraîné à un expert d'action continu, peinent à exécuter des consignes qu'ils n'ont pas vues pendant l'entraînement. La méthode s'applique aux architectures mainstream du domaine, notamment les architectures de style pi (Physical Intelligence) et GR00T (NVIDIA), et démontre des gains cohérents sur des instructions inédites et des tâches compositionnelles selon les expériences rapportées dans l'article. Le problème fondamental identifié par les auteurs est un déséquilibre structurel dans les données VLA : la diversité linguistique y est bien plus faible que la diversité visuelle ou motrice, ce qui pousse les politiques à s'appuyer sur des raccourcis visuels plutôt que sur les instructions textuelles. Les méthodes à actions discrètes, comme OpenVLA, atténuent ce biais via un co-entraînement vision-langage, mais les experts d'action continus, initialisés aléatoirement, génèrent des gradients bruités qui corrompent le VLM et n'exploitent pas sa capacité de compréhension linguistique. APT résout cela par une factorisation bayésienne : l'expert d'action est d'abord préentraîné comme un prior vision-action sans supervision linguistique, sur un VLM gelé (étape 1), puis les tokens de langage sont injectés via un mécanisme de fusion à porte (gated fusion) qui intègre les représentations du VLM tout en préservant le prior visuomoteur appris (étape 2). Cette séparation empêche l'imbalance linguistique de polluer l'apprentissage moteur initial. Le domaine des VLA robotiques connaît depuis 2024 une accélération notable avec pi0 de Physical Intelligence, GR00T N2 de NVIDIA, et Helix de Figure AI, tous construits autour du paradigme VLM couplé à un expert d'action continu. La généralisation aux instructions non vues reste l'un des défis non résolus du secteur : les démos en laboratoire reposent souvent sur des jeux de consignes étroits, loin de la variabilité d'un déploiement industriel réel, ce qui constitue un frein concret à la commercialisation. APT propose une réponse méthodologique à ce gap sans modifier les architectures cibles, en réordonnant uniquement leur processus d'entraînement. Les prochaines étapes naturelles incluront des validations indépendantes sur des benchmarks standardisés comme LIBERO ou RoboSuite, ainsi que des tests à l'échelle sur robots physiques en environnement non structuré.

RechercheActu

1 source