IA physiquearXiv cs.RO 17 juillet 2026

Reflex : contrôle VLA en temps réel par inférence en continu

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs présentent Reflex, un framework permettant l'inférence en temps réel pour les modèles Vision-Language-Action (VLA) basés sur le flow matching, une technique de contrôle continu prisée pour sa précision mais jusqu'ici incompatible avec la robotique temps réel. Le problème identifié est structurel : l'injection globale du timestep dans le processus de débruitage itératif invalide le KV-caching classique, obligeant à choisir entre un recalcul coûteux en O(N²) ou une réutilisation de cache mathématiquement incorrecte. Reflex exploite ce que les auteurs nomment la "Timestep-Invariance Property", le fait que les encodeurs de perception fonctionnent indépendamment de la boucle de débruitage, pour partitionner le contexte d'attention en régions statique, glissante et dynamique, permettant des mises à jour de cache incrémentales en O(1) sans perte de précision sur les sorties d'attention. Une couche de normalisation adaptative baptisée AdaRMSNorm évite l'effondrement numérique en BFloat16 lors d'inférences continues à haute fréquence, en se calant sur la phase du flux. Un pipeline asynchrone découple encodage visuel et génération d'action, complété par de la fusion d'opérateurs pour réduire l'overhead des kernels. Sur les benchmarks LIBERO et Kinetix, Reflex atteint une accélération d'inférence de 2,58x et un streaming stable à 50Hz, avec une latence de réaction réduite jusqu'à 54%, sans dégradation de performance.

Pour l'industrie robotique, ce travail s'attaque à un goulot d'étranglement rarement discuté publiquement : les modèles VLA à flow matching, malgré leurs résultats impressionnants en démonstration, peinent à tourner en boucle fermée à des fréquences compatibles avec un contrôle robotique réactif. Un déploiement stable à 50Hz sans compromis sur la qualité change la donne pour les intégrateurs qui cherchent à faire tourner ces politiques sur du matériel embarqué à budget de calcul limité, plutôt que de dépendre d'un GPU distant surdimensionné. C'est aussi une réponse concrète à l'écart fréquemment pointé entre les métriques de benchmark et la viabilité en conditions réelles de contrôle continu.

Ce travail s'inscrit dans la lignée des politiques VLA à diffusion ou flow matching comme Pi-0 ou GR00T N2, qui ont démontré la faisabilité du contrôle continu appris mais restent contraintes par leur coût d'inférence. Reflex ne propose pas un nouveau modèle mais une couche d'infrastructure d'inférence, potentiellement transférable à d'autres architectures de flow matching. Publié sur arXiv (2607.14695), l'article ouvre la voie à des évaluations sur du matériel physique réel, au-delà des environnements simulés LIBERO et Kinetix utilisés pour la validation actuelle.

Dans nos dossiers

NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Robots Jetson-PI : contrôle robotique en temps réel embarqué via inférence asynchrone alignée sur l'anticipation

Une équipe du PKU-SEC-Lab (Peking University) publie Jetson-PI, une méthode pour déployer des modèles Vision-Language-Action (VLA) directement à bord de cartes embarquées à faible consommation comme le Nvidia Jetson Orin, très utilisées en robotique mobile et humanoïde. Le problème ciblé est connu : l'inférence asynchrone, qui parallélise l'exécution des actions et le calcul de l'action suivante pour masquer la latence, introduit en pratique un décalage entre ce que le robot perçoit et ce qu'il exécute, ainsi qu'un temps de réaction dégradé. Jetson-PI corrige cela via un module léger de "correction par anticipation" qui prédit la représentation future de l'environnement à partir des actions déjà engagées, permettant à l'expert d'action de raisonner directement sur l'état futur plutôt que sur un état périmé. S'y ajoute un ordonnancement piloté par la confiance du modèle, qui arbitre dynamiquement entre appels au VLM et à l'expert d'action, complété par des optimisations bas niveau (réutilisation de CUDA graphs, buffers intermédiaires résidents en mémoire GPU, déroulement de flux). Résultat mesuré : un gain de fréquence de contrôle de 8,66x face à une implémentation PyTorch naïve et de 5,41x face à vla.cpp, avec un taux de réussite supérieur de 14,8% à VLASH sur le benchmark LIBERO. L'enjeu dépasse la performance brute : c'est le goulot d'étranglement classique du déploiement de VLA en robotique embarquée qui est visé, celui qui empêche des modèles entraînés en simulation ou sur GPU serveur de tourner en temps réel sur du matériel embarqué bon marché. Pour les intégrateurs et fabricants de robots mobiles ou humanoïdes, cela réduit un frein concret à la mise en production de piles de contrôle par VLA, sans dépendre d'une puissance de calcul embarquée démesurée. Le travail s'inscrit dans la lignée des recherches sur l'accélération des VLA (dont VLASH, utilisé ici comme référence de comparaison) et sur les moteurs d'inférence légers type llama.cpp. Les auteurs publient à la fois leur algorithme d'inférence asynchrone et un moteur d'inférence dédié, Jetson-PI-Edge, en open source sur GitHub, ouvrant la voie à une reproduction et une adoption par la communauté robotique.

IA physiqueActu

1 source

2arXiv cs.RO

VLASH : des VLA en temps réel grâce à une inférence asynchrone anticipant les états futurs

Des chercheurs du MIT Han Lab publient VLASH, une méthode d'inférence asynchrone pour les modèles Vision-Language-Action (VLA) qui vise à résoudre le problème de latence de réaction sur les robots. Aujourd'hui, la plupart des VLA fonctionnent en mode synchrone : le robot suspend son action pendant que le modèle calcule la suivante, ce qui crée des à-coups visibles et l'empêche de réagir aux changements de son environnement pendant l'exécution. L'inférence asynchrone permettait déjà d'agir et de calculer en parallèle, mais générait un décalage temporel entre l'état prédit et l'état réel au moment de l'exécution, provoquant de l'instabilité. VLASH corrige ce décalage en projetant l'état futur du robot à partir du chunk d'action précédent, sans changement d'architecture ni surcoût de calcul. Les auteurs annoncent une réduction de la latence de réaction jusqu'à 11,8 fois par rapport à l'inférence synchrone, une précision supérieure à toutes les méthodes asynchrones existantes, et, combinée à une quantification des actions, une accélération de 1,5 à 2 fois du temps de complétion des tâches avec une perte de précision minime. Le code est disponible sur GitHub (mit-han-lab/vlash). Pour l'industrie robotique, cette avancée s'attaque directement à un goulot d'étranglement connu des VLA à l'échelle : leur difficulté à gérer des tâches rapides et dynamiques, un point faible régulièrement cité face aux approches de contrôle classiques. En améliorant un modèle existant comme π0.5 sans le réentraîner ni alourdir son architecture, VLASH illustre une voie d'optimisation logicielle low-cost pour rendre les VLA déployables sur des cas d'usage à haute cadence, un enjeu clé pour les intégrateurs qui cherchent à sortir ces modèles du seul cadre de la démonstration en laboratoire. Les auteurs démontrent concrètement ce gain sur des tâches exigeant une réaction fine et rapide, comme jouer au ping-pong ou au jeu de la taupe, des scénarios où l'inférence synchrone échoue purement et simplement. Ce travail s'inscrit dans une course plus large autour des VLA temps réel, aux côtés de modèles comme GR00T N2, Pi-0 ou Helix, où la latence de contrôle devient un critère de différenciation aussi important que la précision des gestes.

IA physiqueActu

1 source

3arXiv cs.RO

τ0-VLA : un modèle fondation hiérarchique guidé par un modèle du monde en temps d'inférence

Publié le 18 août 2026 sur arXiv sous la référence 2608.16885, τ0-VLA est un modèle de fondation robotique hiérarchique vision-langage-action (VLA) conçu pour la manipulation à long horizon, où un robot enchaîne plusieurs compétences de façon cohérente. Sa spécificité : une politique de haut niveau, guidée par un modèle du monde, génère la sous-tâche suivante à partir de la mémoire d'exécution et, si la décision est jugée difficile, explore plusieurs alternatives avant de trancher, plutôt que de décider en un seul passage avant comme la plupart des VLA hiérarchiques actuels. Une politique de bas niveau exécute ensuite cette sous-tâche, sur plusieurs types de robots. Le modèle a été entraîné sur 40 115 heures de données réelles hétérogènes avec co-entraînement multimodal. En conditions connues comme en décalage de distribution, allouer plus de calcul au moment du test améliore la prédiction de la sous-tâche suivante et le taux de réussite en boucle fermée sur des tâches longues. La plupart des VLA hiérarchiques décident chaque sous-tâche en un seul passage, sans pouvoir consacrer plus de calcul aux choix difficiles ou lourds de conséquences. τ0-VLA transpose à la planification robotique un principe déjà exploité par les modèles de raisonnement en langage : allouer davantage de calcul au moment du test face à l'incertitude. Pour les intégrateurs qui déploient des VLA en usine ou en entrepôt, la fiabilité des tâches longues reste le principal écart entre démonstrations et déploiement robuste ; réduire les échecs en cascade sur ces séquences serait un progrès concret. Ce résultat reste toutefois un préprint évalué en interne, pas un produit déployé chez un client. τ0-VLA s'inscrit dans la lignée des VLA généralistes récents, comme Pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure, qui génèrent une action en un seul passage avant, sans délibération explicite ; son nom fait écho à Pi-0 tout en ajoutant une étape de recherche à l'inférence. Le résumé ne précise ni laboratoire porteur ni date de publication du code ou des poids. Il illustre une tendance émergente du secteur : après la course aux volumes de données, plusieurs équipes explorent désormais l'allocation dynamique de calcul comme nouveau levier d'amélioration des modèles de fondation robotique.

IA physiqueOpinion

1 source

4arXiv cs.RO

SafeFlow: contrôle corporel d'humanoïdes en temps réel par texte, via flux rectifié physique et sécurité sélective

Des chercheurs présentent SafeFlow, un framework de contrôle corps-entier pour robots humanoïdes piloté par des commandes texte en temps réel, décrit dans une prépublication arXiv (2603.23983v2, version révisée). Le système génère les trajectoires via un "Physics-Guided Rectified Flow Matching" opérant dans un espace latent VAE, accéléré par une technique de Reflow qui réduit le nombre d'évaluations de fonction nécessaires pour rester temps réel. Un "3-Stage Safety Gate" filtre ensuite les mouvements en trois étapes : détection des prompts hors distribution par score de Mahalanobis dans l'espace d'embedding texte, élimination des générations instables via une métrique de sensibilité directionnelle, puis application de limites cinématiques strictes (articulations, vitesses) avant transmission au contrôleur bas niveau. Les essais, menés sur le robot Unitree G1 avec trois contrôleurs de suivi distincts, montrent SafeFlow supérieur à des méthodes de diffusion et de retargeting en taux de réussite, conformité physique, vitesse d'inférence et diversité des mouvements. L'enjeu est ce que les auteurs nomment "l'hallucination physique" : des générateurs purement cinématiques produisent des trajectoires plausibles à l'écran mais irréalisables, voire dangereuses, une fois exécutées sur du matériel réel, un défaut qui s'aggrave dès que l'instruction sort de la distribution d'entraînement. C'est précisément le point de friction entre les démonstrations vidéo léchées des humanoïdes commerciaux et un déploiement en environnement ouvert, un enjeu que partagent les architectures vision-langage-action comme Helix (Figure AI), GR00T N2 (NVIDIA) ou Pi-0 (Physical Intelligence). Plutôt que de restreindre le vocabulaire accepté, SafeFlow filtre activement les commandes risquées avant exécution, ce qui rappelle aux intégrateurs que le contrôle humanoïde en langage naturel reste un problème de recherche ouvert, malgré des vidéos de démonstration de plus en plus fluides. SafeFlow prolonge les travaux associant génération de mouvement par diffusion ou flow matching et contraintes physiques, un axe stimulé par la multiplication des humanoïdes bipèdes accessibles comme plateformes d'essai, aux côtés de systèmes comme Figure 03 ou Optimus. La publication reste une contribution académique en prépublication : aucun partenariat industriel, pilote commercial ni calendrier de déploiement n'est mentionné, et la validation se limite à des essais en laboratoire sur une seule plateforme robotique, testée toutefois avec trois contrôleurs de suivi distincts pour vérifier la généralité de l'approche. L'institution d'origine et une comparaison directe avec les systèmes propriétaires cités ne sont pas précisées, laissant ouverte la question d'une adoption future de cette architecture de sécurité au-delà du cadre académique.

IA physiqueOpinion

1 source