Aller au contenu principal
Générer, suivre, améliorer : locomotion humanoïde multi-compétences perceptive via générateurs de mouvement affinés par apprentissage par renforcement
RecherchearXiv cs.RO 

Générer, suivre, améliorer : locomotion humanoïde multi-compétences perceptive via générateurs de mouvement affinés par apprentissage par renforcement

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche a publié le 28 septembre sur arXiv (référence 2609.31577) une architecture de locomotion en deux couches pour robots humanoïdes, baptisée "Generate, Track, Improve", testée sur un Unitree G1. Le système associe un générateur de mouvement par flow matching, qui planifie des trajectoires corps entier à partir d'images de profondeur brutes, à une politique de suivi entraînée par apprentissage par renforcement guidé par le contrôle. Les deux modules s'appuient sur une bibliothèque de clips de mouvement dérivés de données humaines optimisées dynamiquement pour rester cohérents avec le terrain. La contribution centrale est une boucle de réglage fin par RL hors politique (off-policy), combinant recherche structurée et régression pondérée par l'avantage, présentée comme plus économe en données qu'un réglage résiduel classique en politique (on-policy). Les auteurs annoncent une hausse allant jusqu'à 25 points de pourcentage des franchissements de terrain réussis et jusqu'à 80 points pour la sélection de compétence. Avec deux caméras de profondeur seulement, sans odométrie ni carte de hauteur, une seule paire de politiques permet au G1 de marcher, courir, sauter sur des caisses et gravir des escaliers en extérieur, en adaptant sa vitesse au relief perçu à distance.

Pour l'industrie robotique, ce travail cible deux limites connues des humanoïdes actuels: la dépendance à des cartes de terrain préconstruites ou à une odométrie précise, et l'écart persistant entre démonstrations en simulation et robustesse réelle. En montrant qu'une seule paire de politiques suffit à enchaîner plusieurs compétences en extérieur à partir de vision brute, l'étude conforte l'idée que des architectures de type génération de mouvement plus suivi, dans l'esprit des modèles VLA employés en manipulation comme Pi-0 ou GR00T N2, peuvent s'étendre à la locomotion perceptive multi-compétences. C'est un signal utile pour les intégrateurs cherchant des contrôleurs capables de généraliser à des géométries de terrain inédites sans recalibration lourde, condition pour des usages en logistique extérieure, chantier ou inspection. Il s'agit toutefois de résultats de recherche publiés sur arXiv, mesurés sur les benchmarks propres des auteurs, et non d'un produit commercialisé ni d'un déploiement en flotte.

Le choix du Unitree G1 comme plateforme d'essai confirme son rôle de banc de test de référence pour la recherche académique en locomotion humanoïde, aux côtés d'autres travaux sur le contrôle par renforcement et les modèles génératifs de mouvement. L'approche se positionne explicitement contre le fine-tuning résiduel on-policy, jugé plus coûteux en échantillons, en proposant une alternative off-policy plus sobre en calcul. Aucun acteur français ou européen n'apparaît dans cette publication, qui reste à ce stade un article de recherche accompagné d'une page projet, sans calendrier de transfert vers un produit ni pilote industriel annoncé. La suite logique, non confirmée par les auteurs, consisterait à valider l'architecture sur d'autres plateformes humanoïdes ou à l'associer à des tâches de manipulation pour former une pile complète perception-locomotion-manipulation.

À lire aussi

Apprentissage de priors moteurs hybrides réutilisables pour la locomotion humanoïde par imitation de mouvement
1arXiv cs.RO 

Apprentissage de priors moteurs hybrides réutilisables pour la locomotion humanoïde par imitation de mouvement

Une équipe de recherche propose un pipeline en trois étapes pour transformer l'imitation de mouvement humain en un "hybrid motion prior" (HMP) réutilisable pour la locomotion humanoïde. D'abord, une politique experte est entraînée par apprentissage par renforcement à imiter des séquences de motion capture humaine retargetées sur un squelette robotique. Cette expertise est ensuite distillée dans une architecture figée composée d'un encodeur proprioceptif, d'un codebook RVQ (residual vector-quantized) et d'un décodeur d'actions. Enfin, des politiques spécifiques à chaque tâche sont entraînées à sélectionner des entrées discrètes de ce codebook, sans jamais réentraîner le HMP sous-jacent. La méthode est évaluée en simulation sur trois tâches : suivi de vitesse, navigation vers un point cible, et récupération de chute avec suivi de vitesse. La politique de suivi de vitesse a ensuite été déployée sur un robot réel, un Unitree G1. Les chercheurs montrent aussi qu'entraîner le codebook avec un "rotation trick" plutôt qu'un estimateur straight-through classique améliore l'organisation de l'espace latent et réduit le nombre de chutes en aval. L'intérêt principal tient à la réutilisabilité : au lieu d'entraîner une politique RL distincte par tâche avec sa propre fonction de récompense, un seul module d'action reste figé et sert d'interface commune à plusieurs politiques de haut niveau. Cela répond à une limite connue de l'imitation de mouvement, dont les contrôleurs restent généralement de simples "suiveurs" de référence, inutilisables tels quels pour résoudre une tâche. Le codebook obtenu s'avère aussi interprétable : le nombre d'étages RVQ actifs module directement les types de démarche disponibles, un signal utile pour du contrôle hiérarchique. Pour les équipes qui construisent des piles logicielles humanoïdes, cette approche s'inscrit dans la même logique que les bibliothèques de compétences motrices low-level découplées des politiques de tâche, un principe partagé par des modèles VLA comme Pi-0, GR00T N2 ou Helix, même si ceux-ci ciblent surtout la manipulation. Ce travail s'inscrit dans la lignée des méthodes d'imitation de mouvement pour humanoïdes (type DeepMimic, ASE) qui cherchent depuis plusieurs années à extraire des priors moteurs génériques à partir de données de capture humaine. Le déploiement reste toutefois limité à un seul robot et une seule tâche testée en réel, la navigation et la récupération de chute n'ayant été validées qu'en simulation. Les auteurs présentent cela comme une brique réutilisable, ouvrant la voie à d'autres politiques de tâche construites sur le même HMP sans nouveau cycle d'entraînement complet.

RecherchePaper
1 source
M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP
2arXiv cs.RO 

M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP

Des chercheurs publient sur arXiv (article 2609.18669v1, daté du 17 septembre 2026, catégorie "nouveauté") une méthode baptisée M$^3$P-R1, destinée à la planification de mouvement multi-modale (M$^3$P) pour robots devant enchaîner transitions discrètes et dynamiques continues, par exemple un robot bipède qui marche jusqu'à une cible puis utilise ses bras pour saisir un objet. La méthode s'appuie sur l'apprentissage par renforcement pour affiner des grands modèles de langage (LLM) afin qu'ils décomposent une tâche M$^3$P en variables, contraintes et objectifs de programmation en nombres entiers mixtes (Mixed-Integer Programming, MIP). Plutôt que de faire produire directement une réponse au LLM, ce qui expose au risque d'hallucination, M$^3$P-R1 génère du code Python exécutable s'appuyant sur des bibliothèques d'optimisation MIP et des interfaces de contraintes, avec une récompense fondée sur le résultat effectivement retourné par le solveur. L'enjeu est de rendre systématique une étape aujourd'hui largement manuelle et spécifique à chaque domaine: formuler un problème MIP tractable pour des tâches robotiques non convexes, en particulier dans le régime de discrétisation approximative nécessaire à ce type de problème. En couplant génération de code par LLM et vérification par un solveur formel, l'approche vise une garantie de robustesse absente des politiques bout-en-bout de type VLA (vision-langage-action) qui dominent actuellement la communication autour de l'humanoïde. Pour les intégrateurs et équipes de recherche en planification robotique, cela ouvre une piste alternative où le LLM sert d'interface de programmation vers un optimiseur classique plutôt que de policy générative opaque. Le travail s'inscrit dans la lignée des recherches combinant LLM et génération de code comme pont vers des solveurs formels en robotique, en marge des approches d'apprentissage de bout en bout du type Pi-0, GR00T N2 ou Helix. Il s'agit à ce stade d'un article de recherche déposé sur arXiv, sans partenaire industriel, plateforme robotique ni déploiement cités dans le résumé, et donc sans validation par les pairs ni démonstration matérielle rapportées pour l'instant.

RecherchePaper
1 source
DAMP : locomotion humanoïde par apprentissage de croyance débruitée et a priori de mouvement adverses
3arXiv cs.RO 

DAMP : locomotion humanoïde par apprentissage de croyance débruitée et a priori de mouvement adverses

Des chercheurs publient sur arXiv (2610.11505) DAMP, un cadre d'apprentissage par renforcement conçu pour la locomotion de robots humanoïdes sur terrains difficiles, sans aucune information perçue : ni caméra, ni lidar, ni carte de hauteur. Le système repose sur des réseaux de neurones récurrents qui exploitent les dépendances temporelles pour inférer de façon implicite l'information dite privilégiée (celle dont dispose le simulateur mais pas le robot réel) ainsi que d'autres variables latentes utiles à la tâche. Les représentations apprises sont alignées sur l'objectif de la tâche, ce qui doit produire une politique robuste et cohérente avec le but visé. Le titre indique aussi l'emploi de « denoised belief learning », c'est-à-dire un état de croyance débruité, et d'« adversarial motion priors », des a priori de mouvement adversariaux qui poussent la démarche vers un style naturel. L'ensemble est entraîné de bout en bout puis transféré de la simulation au monde réel. Les auteurs annoncent une démonstration sur robot physique, disponible en vidéo. Le résumé ne donne ni plateforme, ni chiffres de performance, ni description des terrains testés. L'intérêt tient à l'hypothèse de départ. Beaucoup de contrôleurs de marche humanoïde récents s'appuient sur la perception extéroceptive pour franchir marches, pentes et obstacles, ce qui ajoute des capteurs, de la latence et des modes de défaillance : occlusions, poussière, éclairage, calibration. Une politique aveugle, qui déduit le terrain de la seule proprioception et de l'historique des mouvements, offrirait une couche de repli fiable et moins coûteuse pour des machines destinées à des sites industriels ou logistiques. Elle illustre aussi une tendance de fond de la recherche : distiller dans une politique déployable le savoir du simulateur, un schéma enseignant-élève rendu plus propre par la mémoire récurrente. Il faut toutefois rester prudent. Il s'agit d'un préprint, sans évaluation indépendante, et une vidéo de démonstration ne renseigne ni sur le taux de réussite, ni sur la sévérité des terrains, ni sur la reproductibilité. La notion de « terrain complexe » n'est pas chiffrée dans le texte disponible. Ce travail s'inscrit dans une lignée bien établie. Les politiques de locomotion aveugles entraînées par RL et transférées de la simulation au réel se sont imposées sur les quadrupèdes, avec l'apprentissage de type enseignant-élève popularisé autour de l'ETH Zurich. Les adversarial motion priors, issus de l'animation de personnages, servent à obtenir des allures plus humaines sans réécrire à la main les fonctions de récompense. Côté humanoïdes, les acteurs industriels (Figure, Tesla avec Optimus, Agility Robotics, Unitree, Boston Dynamics) combinent de plus en plus RL en simulation et perception, tandis que des acteurs européens comme Wandercraft ou Enchanted Tools travaillent aussi sur la marche robuste. Reste à savoir si DAMP sera accompagné d'un code ouvert, de comparaisons chiffrées avec des méthodes de référence et de tests sur plusieurs morphologies, éléments qui permettront de juger sa portée réelle.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
ViLoMan : apprentissage de compétences de loco-manipulation du corps entier par vision et proprioception pour robots humanoïdes
4arXiv cs.RO 

ViLoMan : apprentissage de compétences de loco-manipulation du corps entier par vision et proprioception pour robots humanoïdes

Le laboratoire à l'origine du projet ViLoMan, publié en preprint sur arXiv (arXiv:2609.19340, soumission anonyme en relecture en double aveugle, page projet viloman-anonymous.pages.dev), présente un système d'apprentissage pour la loco-manipulation autonome des robots humanoïdes. La méthode transforme des démonstrations humaines partielles, capturées de façon cinématique lors d'interactions homme-objet, en trajectoires robotiques complètes et physiquement exécutables. Ces trajectoires alimentent ensuite un entraînement par distillation enseignant-élève, qui produit une politique unique convertissant des observations de profondeur en vision égocentrique et des mesures proprioceptives directement en commandes articulaires pour l'ensemble du corps. Une fois déployée, cette politique ne nécessite ni mouvement de référence ni commande intermédiaire. Les auteurs l'ont testée sur des tâches de fermeture de porte, avec des configurations de porte et des positions de départ variées, en simulation puis sur un robot réel Unitree G1, montrant qu'une seule politique suffit à accomplir la tâche uniquement à partir des capteurs embarqués. Ce travail s'attaque à deux obstacles centraux du secteur : la rareté de données d'interaction robot-objet physiquement réalisables, et la difficulté d'apprendre un contrôle unifié du corps entier à partir des seules observations embarquées, sans capture de mouvement externe ni téléopération lourde. En démontrant un transfert simulation-réel fonctionnel avec un capteur de profondeur et la proprioception seuls, l'étude apporte un contre-exemple concret à l'hypothèse selon laquelle les politiques de loco-manipulation humanoïde exigent nécessairement de vastes jeux de données téléopérées coûteux à constituer. Pour les intégrateurs et décideurs robotique, l'intérêt réside surtout dans la méthode de conversion des démonstrations humaines en données d'entraînement robot exploitables, une piste alternative aux pipelines de collecte par téléopération utilisés par des acteurs comme Figure ou Physical Intelligence. ViLoMan s'inscrit dans la compétition croissante autour des politiques vision-langage-action et des architectures de contrôle whole-body pour humanoïdes, aux côtés d'approches commerciales comme Helix de Figure, GR00T N2 de Nvidia ou Pi-0 de Physical Intelligence, qui reposent largement sur des données de téléopération à grande échelle. Ici, l'origine académique et le statut anonyme de la soumission signalent une contribution de recherche encore au stade du laboratoire, validée sur une seule tâche restreinte de fermeture de porte plutôt que déployée en conditions industrielles. Les prochaines étapes attendues concernent l'extension à d'autres tâches de manipulation et à des environnements plus variés avant toute perspective de déploiement réel.

RecherchePaper
1 source