Aller au contenu principal
MOSS : façonnage de la source par modes pour les politiques de robot à flow matching
RecherchearXiv cs.RO 

MOSS : façonnage de la source par modes pour les politiques de robot à flow matching

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent MOSS (Mode-Oriented Source Shaping), une méthode publiée sur arXiv (2610.22193) qui permet de choisir quel comportement une politique robotique générative va exécuter, au lieu de le laisser au hasard de l'échantillonnage. Le point de départ est un constat courant en manipulation : une même observation admet souvent plusieurs actions valables (contourner un obstacle par la gauche ou par la droite, par exemple). Les politiques par diffusion ou par flow matching capturent bien cette multimodalité, mais le mode exécuté dépend du bruit initial tiré aléatoirement. MOSS construit des sources gaussiennes propres à chaque mode, qui encodent l'identité du comportement dans ce bruit de départ. Un estimateur de « force de modalité » prédit localement le degré de multimodalité : il rapproche les sources d'une gaussienne commune quand les comportements se ressemblent, et les écarte près des points de bifurcation. Au déploiement, il suffit d'échantillonner dans la composante voulue. Les auteurs annoncent, sur 6 tâches simulées et 3 tâches réelles, un guidage vers le mode cible allant jusqu'à 100 % avec un taux de succès élevé, plus de 90 % de récupération des modes minoritaires avec un jeu de données déséquilibré à 10:90, et un gain de 43,3 points de taux de guidage sur robots réels face à une politique de flow matching conditionnée par le mode.

L'intérêt tient à la contrôlabilité. Pour un intégrateur, une politique multimodale qui choisit son comportement au hasard est difficile à valider, à certifier et à superviser : l'opérateur ne peut pas demander « prends la voie de gauche » sans réentraîner ni ajouter de conditionnement explicite. Piloter le mode par le seul choix de la source de bruit, sans modifier l'architecture ni multiplier les inférences, ouvre la voie à des politiques VLA et à des politiques de diffusion plus prévisibles, ou orientables par un planificateur de haut niveau. La récupération des modes rares sous déséquilibre de données répond aussi à un problème concret : les démonstrations collectées en téléopération sont souvent dominées par un style unique, et les comportements minoritaires, parfois les plus sûrs, disparaissent. Il faut toutefois rester prudent. Il s'agit d'un préprint de la phase d'annonce, sans relecture par les pairs. Les tâches, le matériel et les politiques de référence ne sont pas détaillés dans le résumé. Le taux de guidage mesure la fidélité au mode demandé, pas la performance industrielle, et rien n'indique de test en cadence de production.

Ce travail s'inscrit dans la lignée du flow matching et des politiques de diffusion (Diffusion Policy, famille Pi-0 et successeurs), devenus la base de nombreux modèles de manipulation. Leur limite connue est que la multimodalité, présentée comme un atout, devient un défaut de contrôle une fois le système déployé. Les approches concurrentes passent en général par le conditionnement explicite (étiquettes de mode, langage, objectifs), que MOSS prend ici comme référence, ou par un filtrage a posteriori d'échantillons multiples, plus coûteux en calcul. Les auteurs soulignent aussi que les erreurs d'approximation, le déséquilibre des données, la capacité limitée du modèle et le faible nombre d'étapes d'inférence brouillent la séparation des modes dans l'espace source, ce qui explique les écarts hors conditions idéales. La suite logique serait un test sur de grands modèles généralistes et sur des tâches longues, où le choix du mode doit rester cohérent d'une étape à l'autre. Le code et les détails expérimentaux seront déterminants pour juger de la reproductibilité.

Dans nos dossiers

À lire aussi

VGFM : des politiques robotiques expressives grâce à un guidage dense par la valeur dans le flow matching
1arXiv cs.RO 

VGFM : des politiques robotiques expressives grâce à un guidage dense par la valeur dans le flow matching

Publié le 15 septembre 2026 sur arXiv (2609.14261), un article de recherche propose VGFM, pour Value-Guided Flow Matching, un cadre de RL hors ligne pour entraîner des politiques robotiques à partir de grands jeux de données d'interactions. VGFM modélise la politique comme un modèle de flow matching conditionnel opérant directement dans l'espace des actions ("x-prédiction"), de sorte que chaque étape intermédiaire du processus génératif produit déjà une action valide, évaluable par un critique RL classique. Le guidage par la valeur s'applique ainsi à des instants de flux tirés aléatoirement, sans rétropropagation à travers toute la trajectoire ni réseau auxiliaire ou perte de distillation. Les auteurs évaluent la méthode sur les tâches de locomotion et de manipulation du benchmark OGBench, avec des protocoles rigoureux, et rapportent de bonnes performances sur un large éventail de tâches, avec un réglage minimal des hyperparamètres. Ce résultat s'attaque à un verrou du secteur: coupler des politiques génératives expressives et multimodales, diffusion ou flow matching, capables de représenter des comportements complexes à long horizon, à des objectifs de valeur en RL hors ligne imposait jusqu'ici un lourd surcoût, rétropropagation coûteuse, réseaux auxiliaires ou distillation approximative. En s'en affranchissant tout en gardant la flexibilité à l'inférence, le nombre de pas de discrétisation de l'équation différentielle sous-jacente pouvant varier sans réentraînement, VGFM propose une voie plus simple et scalable pour affiner des politiques génératives via des signaux de valeur denses, un argument utile pour les équipes qui entraînent des politiques de type VLA sur des données offline volumineuses. Ce travail s'inscrit dans la tendance du robot learning à remplacer les politiques déterministes par des modèles génératifs pour capturer la multimodalité des comportements. D'autres approches améliorent déjà des politiques génératives par RL via distillation ou guidage, jugés coûteux ou instables; VGFM s'en distingue en travaillant nativement dans l'espace des actions plutôt que dans le bruit latent. Il s'agit à ce stade d'une contribution académique évaluée uniquement en simulation sur OGBench, non d'un système déployé sur du matériel physique ni d'un produit commercial: aucun partenariat, pilote ou calendrier de déploiement n'est mentionné, et sa portée pratique dépendra de sa reproductibilité à plus grande échelle.

RecherchePaper
1 source
Cue the Flow : guider les politiques de flow matching pour la manipulation robotique en livraison en milieu ouvert
2arXiv cs.RO 

Cue the Flow : guider les politiques de flow matching pour la manipulation robotique en livraison en milieu ouvert

Des chercheurs proposent une méthode, baptisée « Cue the Flow », pour piloter une politique de manipulation sans la réentraîner. Elle vise la livraison d'objets en environnement ouvert, où un manipulateur mobile doit suivre des instructions libres de l'utilisateur et saisir des objets potentiellement inconnus. Le travail, publié sur arXiv (2609.38989), part d'un modèle vision-langage-action (VLA) préentraîné à flow matching, utilisé comme interface de contrôle bas niveau. Un modèle de grounding de haut niveau convertit la consigne en indice spatial, et celui-ci sert à orienter la politique. Les auteurs ajoutent un adaptateur léger conditionné par cet indice. Il est d'abord entraîné par objectifs contrastifs, afin de produire des représentations saillantes et spatialement discriminantes. Il est ensuite supervisé pour prédire une transformation affine diagonale appliquée au bloc d'actions généré (action chunk), ce qui aligne l'action sur la cible désignée. Les tests couvrent des configurations sur table et sur base mobile, avec des objets vus ou non à l'entraînement. Les auteurs annoncent jusqu'à près de 2 fois le taux de réussite moyen des tâches, pour un surcoût d'inférence négligeable. Il s'agit d'un résultat de laboratoire, sans produit ni déploiement associé, et l'extrait disponible ne donne ni nom de modèle de base, ni plateforme, ni nombre d'essais. L'enjeu est de savoir où placer la frontière entre planification et contrôle. Les architectures à double système, avec un modèle de grounding en amont et un contrôleur en aval, restent fragiles face au bruit de perception, aux scènes dynamiques et aux contacts riches. Ici, les auteurs conservent la réactivité d'un VLA à flow matching et ne lui injectent que l'information manquante : quelle est la cible. Cela suggère que le préentraînement fournit déjà l'essentiel du savoir-faire de manipulation, et que le goulot se situe dans l'association entre langage et objet nouveau. Pour un intégrateur, l'intérêt pratique est qu'un adaptateur léger, sans surcoût de calcul notable, peut s'ajouter à une politique existante sans réentraînement complet. La formulation « jusqu'à près de 2× » désigne toutefois le meilleur cas. Elle ne dit rien de la robustesse sur des déploiements longs, et les performances moyennes restent à vérifier dans l'article complet. Ce travail s'inscrit dans la course aux VLA généralistes, avec des modèles à flow matching comme Pi-0 de Physical Intelligence, et dans l'essor des architectures à double système comme Helix de Figure ou GR00T de NVIDIA. La livraison en milieu ouvert est un cas d'usage logique pour les manipulateurs mobiles, mais l'écart entre démonstration et fiabilité réelle y reste important. L'approche par adaptateur laisse entrevoir une adaptation rapide à de nouveaux objets, sans collecte massive de données. Les prochaines étapes à surveiller sont la validation sur d'autres VLA de base, des tests en conditions non contrôlées et une éventuelle publication du code, qui n'est pas mentionnée dans le résumé.

RecherchePaper
1 source
PreferenceFlow : guidage à l'inférence des politiques robotiques à flow matching à partir des interventions humaines
3arXiv cs.RO 

PreferenceFlow : guidage à l'inférence des politiques robotiques à flow matching à partir des interventions humaines

Des chercheurs proposent PreferenceFlow, une méthode qui améliore au moment de l'inférence une politique robotique « flow-matching » déjà entraînée, sans signal de récompense et sans modifier ses poids. Le principe : lorsqu'un opérateur humain reprend la main sur le robot, son segment d'action (« chunk ») est apparié à celui que le robot aurait généré depuis le même état de conditionnement. Ces paires servent à entraîner un modèle de préférence. À l'inférence, les auteurs reprennent la mise à jour d'échantillonnage QGF, en remplaçant son gradient de valeur par le gradient de préférence, calculé sur une estimation de l'action « propre ». Deux termes de perte encadrent ce guidage : une perte de plafonnement limite les gradients excessifs sur les paires d'intervention, et une perte de gradient nul décourage tout guidage près des actions issues de démonstrations expertes. Sur quatre tâches réelles d'insertion de précision avec un bras Franka, le taux de succès moyen atteint 90,5 %, contre 69 % pour la politique figée. Le travail est publié sur arXiv (2609.36872, première version) et n'a pas encore été relu par des pairs. L'enjeu est très concret pour les intégrateurs. Les politiques génératives (flow-matching ou diffusion, dont la famille Pi-0) savent exprimer des comportements complexes, mais elles dérapent face aux décalages de distribution rencontrés en production : une pièce légèrement déplacée, un jeu d'ajustement différent. Les correctifs classiques par apprentissage par renforcement exigent une fonction de récompense difficile à écrire en manipulation réelle, et un réentraînement du modèle de base. Ici, la correction passe par des interventions de téléopérateurs, déjà courantes en déploiement, sans toucher aux poids, ce qui simplifie la validation et évite de dégrader les compétences existantes. Le gain de plus de 21 points sur des insertions de précision est significatif, mais des réserves s'imposent : quatre tâches, un seul type de robot (Franka), aucun chiffre fourni sur le nombre d'interventions nécessaires ni sur le temps de cycle ou le surcoût de calcul du guidage. Les ablations indiquent que la régularisation des gradients et l'ordre correct des étiquettes de préférence comptent, mais seulement « dans les conditions évaluées ». Ce travail s'inscrit dans une série de méthodes visant à corriger les politiques VLA et génératives après entraînement : apprentissage à partir d'interventions humaines (type HG-DAgger), guidage par fonction de valeur (QGF, sur lequel PreferenceFlow s'appuie) et affinage par renforcement, plus lourd. L'approche par préférences locales se positionne entre ces options, avec un coût d'annotation réduit à des corrections ponctuelles. Les prochaines étapes à surveiller sont la démonstration sur d'autres embodiments, sur des politiques de grande taille comme Pi-0 ou GR00T, et sur des tâches longues, ainsi que la mesure de la latence ajoutée, déterminante pour la commande en temps réel. Aucun déploiement industriel ni produit n'est annoncé : il s'agit d'un résultat de recherche.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Flow matching guidé par le potentiel pour l'amélioration des politiques VLA
4arXiv cs.RO 

Flow matching guidé par le potentiel pour l'amélioration des politiques VLA

Des chercheurs ont publié le 5 juin 2026 sur arXiv (2606.04968) une méthode baptisée ForesightFlow, conçue pour améliorer les politiques de type vision-langage-action (VLA) sans recourir à un critique externe. Le problème de départ est concret : lorsqu'un robot déploie une politique VLA entraînée par imitation, il génère inévitablement des trajectoires de qualité variable, succès complets, récupérations partielles, erreurs rattrapables, échecs francs. L'imitation comportementale classique reproduit les erreurs, le filtrage par seuil de qualité écarte des sous-trajectoires pourtant exploitables, et le renforcement offline ajoute un critique séparé coûteux. ForesightFlow contourne ces trois écueils en augmentant chaque chunk d'actions généré d'une trajectoire de potentiel de succès apprise conjointement. Le même réseau de flow matching propose et note les actions candidates, permettant une inférence de type best-of-K sans module additionnel. Sur cinq tâches de simulation BEHAVIOR-1K et cinq tâches réelles bimanipulation, la méthode dépasse les baselines d'imitation, égale le meilleur baseline avec critique séparé en simulation, améliore le taux de succès en conditions réelles et réduit le coût d'entraînement de 38 %. L'apport industriel le plus direct est cette réduction de 38 % des ressources de calcul à performance comparable, un argument budgétaire non négligeable pour les labos qui entraînent des modèles VLA de grande taille. Plus fondamentalement, ForesightFlow montre qu'il est possible de valoriser les données de déploiement imparfaites sans jeter les mauvais épisodes ni payer le coût d'un critic offline. La clé technique est un "decoupled advantage-weighted flow matching" : les poids d'avantage exponentié s'appliquent uniquement aux vitesses d'action, tandis que les vitesses de potentiel sont entraînées uniformément, évitant ce que les auteurs appellent la "value hallucination". Un estimateur de frontière en un seul pas forward (stop-gradient) rend le calcul des avantages suffisamment léger pour être intégré dans la boucle d'entraînement. Ce travail s'inscrit dans une vague de recherche dense autour des VLA pour la manipulation robotique, où Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA et OpenVLA ont établi les références récentes en termes d'architectures génératives. Le recours au flow matching, alternative à la diffusion, plus rapide à l'inférence, pour la politique robotique est une tendance émergente depuis 2024. ForesightFlow est à ce stade une contribution académique, pas un produit ou un déploiement annoncé ; aucun partenariat industriel ni timeline commerciale n'est mentionné. Les prochaines étapes naturelles seraient la validation sur des benchmarks plus larges type LIBERO ou RLBench, et l'intégration dans des pipelines VLA à plus grande échelle comme ceux entraînés sur Open-X Embodiment.

RechercheOpinion
1 source