πR²: politiques de flux réactives en temps réel

Exécution en temps réel avec des politiques autorégressives

Un article de recherche déposé sur arXiv (référence 2606.13355) en juin 2026 démontre que les politiques autoregressives -- la famille de modèles qui génère les actions token par token, à la manière d'un LLM classique -- peuvent atteindre une exécution en temps réel sur des robots physiques. La méthode repose sur deux leviers combinés : l'ajustement de l'horizon de tokenisation (la granularité temporelle des séquences d'actions encodées) et le décodage contraint (constrained decoding), qui impose des bornes de latence strictes à chaque inférence. En rendant l'inférence asynchrone, le système garantit des trajectoires d'action fluides tout en maintenant une réactivité suffisante pour absorber les perturbations de l'environnement. Les auteurs montrent, sur des benchmarks simulés et en conditions réelles, que la politique autoregressive surpasse systématiquement son équivalent basé sur le flow-matching (variante des politiques de diffusion) tout en atteignant des vitesses de complétion de tâche nettement supérieures à celles obtenues en inférence synchrone. Le multi-trajectory decoding -- rendu possible par les garanties de latence -- permet en outre d'explorer plusieurs trajectoires candidates en parallèle pour maximiser la performance. Ce résultat est significatif car il remet en cause une hypothèse dominante dans la robotique d'apprentissage : celle selon laquelle les politiques de diffusion seraient structurellement mieux adaptées à l'exécution temps réel en raison de leur parallélisme d'échantillonnage. Les modèles VLA (Vision-Language-Action) autoregressifs, qui traitent séquentiellement pixels, instructions textuelles et commandes moteur dans un même réseau, souffraient d'un goulot d'étranglement de latence jugé rédhibitoire pour le déploiement sur robots industriels ou humanoïdes. Cette publication suggère que ce surcoût peut être absorbé par architecture -- sans sacrifier la performance ni la généralisation aux instructions. Pour un intégrateur ou un COO industriel évaluant des briques VLA, le message est pratique : les modèles autoregressifs offrent également une convergence plus rapide à l'entraînement et une meilleure généralisation aux nouvelles instructions, deux propriétés critiques pour les déploiements à petits volumes de données. Sur le plan du contexte, le débat autoregressif contre diffusion structure la recherche en politiques robotiques depuis la publication des diffusion policies (Chi et al., 2023), rapidement adoptées par des projets comme pi-0 de Physical Intelligence ou ACT. Les modèles VLA à architecture autoregressive, dont OpenVLA ou les variantes de GR00T N2 (NVIDIA), peinent en revanche à s'imposer en déploiement temps réel faute de latence acceptable. Ce preprint, qui n'est pas encore évalué par les pairs, repositionne cette famille comme compétitive pour l'exécution physique, à condition d'intégrer les deux mécanismes proposés dès la conception du pipeline d'inférence. Les prochaines étapes naturelles seront la validation sur des robots industriels à haute fréquence de contrôle (au-dessus de 50 Hz) et l'ouverture éventuelle du code.

💬 Le verrou de latence des VLA autoregressifs, c'était le seul argument solide qui restait pour privilégier les politiques de diffusion en robotique physique. Avec le décodage contraint plus l'ajustement de l'horizon de tokenisation, ils montrent que ce goulot était architectural, pas structurel. Bon, c'est encore un preprint, reste à voir si ça tient au-dessus de 50 Hz sur du vrai acier.

Apprentissage par renforcement pour des politiques vision-langage-action en temps réel

Un article publié sur arXiv (2609.18207v1) présente Real-Time EXPO-FT, un framework de fine-tuning par renforcement (RL) destiné à rendre les modèles Vision-Language-Action (VLA) exploitables en temps réel. Le problème visé : la taille des VLA modernes entraîne une latence d'inférence élevée, si bien que l'observation utilisée pour choisir une action est souvent obsolète au moment de son exécution, ce qui dégrade la fiabilité en conditions dynamiques. Bâtie sur EXPO-FT, un framework existant de fine-tuning RL économe en données, la méthode sépare la génération d'action, lente et expressive, confiée à un grand VLA pré-entraîné, de l'édition rapide et réactive de ces actions par une politique légère conditionnée sur l'observation la plus récente. Sur le benchmark simulé Kinetix, cette politique retardée obtient la meilleure performance dans les 10 environnements testés ; sur quatre tâches robotiques réelles (passation d'objet entre robots, équilibrage de balle, tir au but au babyfoot, ramassage d'objet en mouvement), la performance moyenne passe de 42 % à 97 % avec seulement 10 minutes de données collectées en ligne, sans intervention humaine. Ce résultat s'attaque à un frein connu du déploiement des VLA en robotique : la latence d'inférence, qui crée un décalage entre l'état perçu et l'état réel au moment d'agir, un problème qui s'aggrave à mesure que les modèles grossissent pour gagner en généralisation. Les approches antérieures d'exécution asynchrone reposaient sur l'apprentissage par imitation, incapable de dépasser la distribution des démonstrations ou de corriger ses erreurs en ligne. En montrant qu'un fine-tuning RL peut respecter des contraintes de contrôle temps réel tout en s'adaptant au-delà des données d'entraînement, Real-Time EXPO-FT ouvre une piste utile pour les intégrateurs cherchant des politiques VLA fiables sur des tâches dynamiques, plutôt que sur les démonstrations statiques et scénarisées souvent mises en avant par l'industrie. Le travail prolonge EXPO-FT, dont il reprend le principe de fine-tuning RL économe en échantillons, en y ajoutant la dimension temps réel absente des méthodes concurrentes fondées sur l'imitation. Il s'inscrit dans une recherche plus large sur les VLA génériques pour la manipulation robotique, où la latence liée à la taille des modèles reste un obstacle régulièrement pointé face aux exigences de contrôle réactif. Les auteurs ont mis en ligne une page de projet (pd-perry.github.io/real-time-expo-ft) présentant ces résultats, mais l'article ne mentionne aucun partenariat industriel ni calendrier de déploiement au-delà du cadre expérimental décrit, ce qui en fait pour l'instant une contribution de recherche plutôt qu'un produit prêt pour la production.

Sparse ActionGen : accélération de la politique de diffusion par élagage en temps réel

Publiée sur arXiv (identifiant 2601.12894v2), la méthode Sparse ActionGen (SAG) s'attaque au principal frein à l'utilisation en production de la Diffusion Policy : son processus de débruitage multi-étapes, dont la latence est incompatible avec un contrôle visuomoteur temps réel. SAG introduit un mécanisme adaptatif "prune-then-reuse" : à chaque itération du pipeline diffusif, un composant léger conditionné par l'observation courante de l'environnement, le "diffusion pruner", identifie les calculs redondants et les substitue par des activations précédemment mises en cache. La méthode ajoute une stratégie "one-for-all" en zigzag qui mutualise ces caches à la fois sur l'axe des pas de temps et des blocs du réseau. Testée sur plusieurs benchmarks robotiques (non précisés dans le résumé public), SAG annonce une accélération jusqu'à 4x par rapport à la Diffusion Policy standard, sans dégradation de performance mesurée. L'impact potentiel est significatif pour la robotique de manipulation. La Diffusion Policy s'est imposée depuis 2023 comme la méthode de référence pour l'imitation learning à haute précision, grâce à sa capacité à représenter des distributions d'actions multimodales : un robot peut évaluer plusieurs stratégies valides face à une même situation. Mais le débruitage itératif génère une latence qui rend le contrôle en boucle fermée haute fréquence difficile. Les approches existantes (DDIM, consistency models, schedules de cache statiques) contournaient le problème sans s'adapter à la dynamique réelle de l'interaction. La nouveauté de SAG est cet élagage adaptatif au rollout courant. Un facteur 4x sur la vitesse de génération, confirmé sur benchmarks académiques, est un résultat notable, même si les gains restent à valider sur matériel physique en conditions industrielles. La Diffusion Policy a été formalisée par Chi et al. (2023, Columbia University) et intégrée depuis dans des frameworks comme LeRobot de HuggingFace. SAG s'inscrit dans une vague d'optimisations post-entraînement qui cherchent à rendre les politiques génératives compatibles avec le temps réel embarqué sans reprendre un cycle d'entraînement complet, en concurrence avec des approches comme la distillation de consistency models. Aucun partenariat industriel ni déploiement terrain n'est annoncé; la méthode reste au stade de la publication académique, avec une page projet dédiée mais sans code public disponible à ce stade.

💬 Le problème de latence de la Diffusion Policy, c'était l'éléphant dans la pièce depuis 2023. SAG y répond sans toucher à l'entraînement, juste en élagant les calculs redondants à la volée, et un gain de 4x sur benchmarks c'est pas rien. Reste que le code n'est pas dispo et qu'on n'a aucun test sur matériel réel, donc pour LeRobot et compagnie, c'est à surveiller mais pas encore à intégrer.

PriGo : guidage de primitives en temps de test pour les politiques de diffusion et de flux en manipulation robotique adaptative

Un nouveau papier arXiv (2607.07076v1) présente PriGo, un framework qui améliore les politiques de manipulation robotique basées sur diffusion et flow matching sans nécessiter de réentraînement. Le système repose sur PANet, un module léger qui infère des distributions de primitives d'action directement à partir des observations, couplé à un mécanisme de guidage différentiable qui corrige les trajectoires générées pendant l'inférence pour les aligner sur des comportements sémantiquement cohérents. Contrairement aux approches précédentes conditionnées par primitives, qui exigeaient des labels dès l'entraînement, PriGo s'intègre directement sur des politiques diffusion et flow déjà pré-entraînées. Les auteurs rapportent des gains de robustesse, d'exécution sur horizon long et de généralisation sur les benchmarks LIBERO, CALVIN et SIMPLER, ainsi que sur des tâches robotiques réelles. L'enjeu touche un point faible bien identifié des politiques par imitation apprises à partir de démonstrations: elles ont tendance à mémoriser des corrélations d'actions superficielles plutôt qu'à capturer l'intention sous-jacente du geste, ce qui limite leur transfert à de nouvelles tâches ou environnements. Pour les intégrateurs et les équipes de recherche en robotique, une méthode agissant uniquement au moment de l'inférence est particulièrement intéressante: elle évite le coût d'un réentraînement complet des grands modèles VLA, un frein pratique majeur au déploiement de ces politiques hors laboratoire. C'est un signal de plus que le secteur cherche des correctifs légers pour combler l'écart entre démonstrations en conditions contrôlées et exécution robuste en environnement réel. Ce travail s'inscrit dans la lignée des politiques visuomotrices génératives (diffusion, flow matching) qui ont dominé l'apprentissage par imitation en robotique ces dernières années, dans le sillage de modèles comme GR00T ou Pi-0. Il reste à ce stade une contribution académique, validée sur des benchmarks de simulation standards et des essais réels limités, sans indication de déploiement industriel ou d'intégration dans un produit commercial. Les auteurs ne précisent pas de calendrier pour une extension à d'autres plateformes robotiques.