Jiao : combler le fossé entre isolation et…

1arXiv cs.RO

Combler le fossé : permettre au Soft Actor Critic des performances élevées en locomotion sur pattes

Une équipe de chercheurs publie sur arXiv (preprint 2605.24975, mai 2026) une série de modifications ciblées permettant à l'algorithme Soft Actor-Critic (SAC) d'atteindre les performances de Proximal Policy Optimization (PPO) dans l'entraînement à grande échelle de robots à pattes. PPO s'impose depuis plusieurs années comme l'algorithme de référence pour la locomotion bipède et quadrupède, notamment dans les environnements de simulation massivement parallèles comme IsaacLab (NVIDIA). Son défaut structurel est son caractère on-policy : chaque mise à jour de gradient exige de nouvelles données fraîches, le rendant inutilisable pour un apprentissage continu directement sur le robot physique. SAC, algorithme off-policy capable de réutiliser l'expérience passée, était un candidat naturel, mais échouait systématiquement à rivaliser en performance dans ces mêmes conditions. Les auteurs identifient trois correctifs spécifiques : une initialisation améliorée de la politique, un calcul de la valeur cible corrigé pour les épisodes tronqués (timeout-aware critic targets), et une estimation multi-pas du retour (multi-step return estimation). Ces ajustements ferment entièrement l'écart avec PPO, validé sur plusieurs plateformes de robots à pattes et une diversité de tâches de locomotion. L'enjeu pour l'industrie robotique est concret. PPO contraint les équipes à retourner systématiquement en simulation pour chaque cycle d'amélioration, allongeant les boucles de développement et compliquant l'adaptation à des environnements physiques non anticipés. Un SAC équivalent en performance à l'entraînement offline ouvre la voie à un workflow unifié : un seul algorithme pour la phase de simulation initiale, puis pour l'adaptation en ligne sur le robot déployé, sans boucle retour sim-to-real. Pour les intégrateurs travaillant sur des robots mobiles à pattes en inspection industrielle ou logistique, cela réduit potentiellement les cycles de re-entraînement lors de changements de terrain ou de configuration. Ce résultat conteste aussi l'hypothèse selon laquelle le sim-to-real gap exige des algorithmes fondamentalement différents entre entraînement et déploiement. PPO a été popularisé pour la locomotion robotique par les travaux de l'ETH Zurich sur ANYmal (2019-2022) et s'est généralisé avec l'adoption massive d'IsaacLab comme environnement de référence. SAC avait été introduit en 2018 par Tuomas Haarnoja et ses collègues à l'UC Berkeley, mais ses applications à la locomotion à grande échelle se heurtaient à des instabilités numériques en parallèle massif. Boston Dynamics, Unitree et Agility Robotics n'ont pas divulgué leurs pipelines d'entraînement internes, mais la littérature académique récente sur les robots H1 (Unitree) ou Digit (Agility) reste majoritairement dans l'écosystème PPO. Ce preprint demeure une contribution de recherche et non un produit déployé : sa portée pratique dépendra d'implémentations publiques dans IsaacLab ou MuJoCo et de validations indépendantes par la communauté.

RecherchePaper

1 source

2arXiv cs.RO

Personnalisation sans entraînement des gestes de co-parole du robot

Des chercheurs ont publié le 15 septembre 2026 sur arXiv (2609.13876) une méthode de personnalisation sans réentraînement pour les gestes co-verbaux des robots sociaux, c'est-à-dire les mouvements du corps qui accompagnent la parole. Le système combine un modèle de diffusion audio-conditionné figé avec un encodeur de style et de légers adaptateurs de conditionnement : l'encodeur, d'abord entraîné à distinguer les identités des locuteurs, est ensuite affiné conjointement avec les adaptateurs via l'objectif de diffusion. Résultat concret, une empreinte de style réutilisable s'extrait en une seule passe à partir d'environ 10 secondes de mouvement d'enrôlement. Les auteurs publient aussi une application de capture sur casque Meta Quest 3 et un jeu de données de gestes co-verbaux spontanés recueillis auprès de dix participants. Sur des locuteurs jamais vus à l'entraînement, la précision de reconnaissance de style (SRA) passe de 27,6 % avec le modèle figé de base à 69,5 % avec la méthode proposée, tandis que la qualité du mouvement reste stable (distance de Fréchet des gestes, FGD, de 34,2 contre 34,8). Remplacer l'empreinte d'enrôlement par celle d'une autre personne fait chuter la SRA à 11,4 %, confirmant que le gain provient bien d'une capture réelle du style individuel. Les gestes générés ont ensuite été retransférés sur un robot NAO physique et testés avec cinq voix de synthèse vocale différentes, conservant 67,3 % de SRA en conditions de déploiement. L'enjeu pour l'industrie des robots sociaux est le coût de la personnalisation à l'échelle : jusqu'ici, adapter le style gestuel d'un robot à chaque nouvel utilisateur supposait généralement un réentraînement dédié, impraticable pour un déploiement en retail, accueil ou domicile où les interlocuteurs changent en permanence. Une personnalisation opérationnelle en 10 secondes et sans mise à jour de poids change cette équation économique et rend plus réaliste à court terme l'idée d'un robot qui adapte son style gestuel à chaque utilisateur. Le contrôle par empreinte substituée est méthodologiquement important : il écarte l'hypothèse que l'amélioration ne soit qu'un artefact de bruit du modèle plutôt qu'une vraie capture d'identité. La démonstration sur un robot NAO réel, et pas seulement en simulation ou en rendu d'avatar virtuel, réduit l'écart habituel entre démonstration académique et faisabilité physique, même si le NAO reste une plateforme modeste, peu représentative des humanoïdes bipèdes plus ambitieux du marché. Les auteurs restent transparents sur l'échelle limitée de leur validation, dix participants et un jeu de données propriétaire, ce qui appelle confirmation sur des cohortes plus larges. Ce travail s'inscrit dans la lignée des modèles de diffusion conditionnés par l'audio pour la génération de gestes, une piste déjà explorée pour l'animation d'avatars virtuels et de robots sociaux, où la personnalisation par locuteur restait jusqu'ici coûteuse en calcul et en données. L'approche par adaptateurs légers greffés sur un prior gelé rappelle les techniques d'adaptation paramétrique légère utilisées en génération d'image et de texte, transposées ici au mouvement robotique. Aucune entreprise commerciale n'est associée à cette publication, purement académique, mais les auteurs facilitent la reproductibilité en diffusant leur application de capture Quest 3 et leur jeu de données. Les suites évoquées sont l'extension à un plus grand nombre de locuteurs et à d'autres plateformes robotiques, avec un potentiel d'intégration dans des robots sociaux commerciaux comme Pepper ou Furhat, où la personnalisation de l'interaction constitue un argument de différenciation face à des offres encore largement scriptées.

RecherchePaper

1 source

3arXiv cs.RO

La modélisation résiduelle comble l'écart entre politiques de régression et génératives en apprentissage robotique

Des chercheurs proposent une alternative à la diffusion et au flow matching pour entraîner des politiques robotiques à partir de démonstrations (arXiv:2610.12231). Baptisée HT-Policies (heteroscedastic Student-t action régression), la méthode reste une régression directe : elle prédit un « chunk » d'actions en une seule passe avant, sans les étapes itératives de débruitage des modèles génératifs. Les auteurs l'ont évaluée sur quatre benchmarks de simulation et lors de tests sur robot réel. Elle atteint des taux de réussite comparables aux politiques génératives (Flow-Policies), aussi bien entraînée de zéro qu'à partir de modèles vision-langage-action (VLA) et de world-action models préentraînés. L'entraînement et l'inférence sont plus rapides, et le réseau de neurones d'une politique flow matching préentraînée peut être réutilisé comme backbone. Les auteurs ne donnent pas, dans le résumé, de chiffres de vitesse ni de taux de succès précis, ce qui oblige à attendre le papier complet pour juger de l'ampleur réelle du gain. Le travail s'attaque à une explication largement admise : si les politiques de diffusion ou de flow matching surpassent la régression directe par erreur quadratique moyenne (MSE-Policies), ce serait parce que les démonstrations humaines sont multimodales, c'est-à-dire que plusieurs actions valides existent pour une même observation. L'analyse de données de démonstration réelles suggère une autre cause. Les résidus de prédiction d'action ont une échelle qui varie fortement selon l'état, et des queues plus lourdes qu'une gaussienne. Or la MSE alloue davantage de magnitude de gradient aux observations dont les résidus sont les plus grands, ce qui dégrade l'optimisation. Les politiques génératives ne seraient donc pas avantagées surtout par leur capacité à représenter plusieurs modes, mais par un comportement de gradient plus favorable. Si le résultat se confirme à grande échelle, il compte pour les intégrateurs et les équipes de déploiement : une politique mono-passe réduit la latence de contrôle et le coût de calcul embarqué, deux contraintes concrètes sur des robots à haute fréquence ou à ressources limitées. L'article s'inscrit dans le débat sur l'apprentissage par imitation, dominé depuis plusieurs années par Diffusion Policy et les approches flow matching, qui équipent désormais de nombreux VLA de fondation, tels que Pi-0. L'idée proposée reste simple : une loi de Student-t avec échelle prédite en fonction de l'entrée, qui limite l'influence des valeurs extrêmes. Plusieurs réserves s'imposent. Il s'agit d'un préprint non évalué par des pairs, les benchmarks précis ne sont pas détaillés dans le résumé, et « compétitif » ne signifie pas supérieur. Une vérification sur des tâches fortement multimodales ou à long horizon reste nécessaire. Les prochaines étapes dépendront de la reproduction des résultats par d'autres laboratoires et de l'éventuelle adoption de cet objectif dans des VLA de grande taille. Une page de projet est annoncée pour le code et les démonstrations.

RecherchePaper

1 source

4arXiv cs.RO

Repenser le modèle monde-action pour la manipulation robotique compositionnelle et en contexte

Des chercheurs proposent ViGAR (Visual Goal-conditioned Action Reasoning), un cadre hiérarchique pour la manipulation robotique compositionnelle à long horizon, détaillé dans un preprint arXiv (2610.02368). Il sépare la tâche en deux modules. Un planificateur de sous-buts visuels prédit, à partir de l'observation courante et de l'instruction globale, une image du sous-but de la prochaine sous-tâche. Un exécuteur de sous-buts génère ensuite conjointement les trajectoires visuelles futures et les actions, conditionnées par ce sous-but. Les deux composants partagent la même représentation de world model pré-entraîné. Sur le benchmark simulé RoboTwin Clean2Random, ViGAR atteint 82,00 % de réussite en configuration Clean et 67,02 % en configuration Random. Cela représente 12,86 points de pourcentage de mieux que la meilleure référence, en moyenne. Les auteurs ajoutent des essais sur robot réel : cinq tâches compositionnelles et deux tâches d'apprentissage en contexte. Le résumé ne précise ni la plateforme matérielle, ni le nombre d'essais, ni les modèles de référence. Ce travail s'attaque à une limite connue des world-action models (WAM), qui prédisent à la fois de courts futurs visuels et des actions, mais sans raisonnement explicite au niveau des sous-tâches. Pour un intégrateur, la plupart des tâches utiles, comme l'assemblage, le tri ou le conditionnement, enchaînent plusieurs gestes coordonnés, et c'est sur cet enchaînement que les politiques de bout en bout échouent le plus souvent. Introduire un sous-but visuel explicite rend le plan lisible et inspectable, ce qui compte pour le diagnostic en production. L'apprentissage en contexte va dans le même sens. Une image du but global fournie comme contexte suffit à induire des décompositions et des comportements différents, sans mise à jour des paramètres. Cela réduirait le coût de reconfiguration d'une cellule robotisée. Les résultats restent à relativiser : le score Random de 67 % montre qu'une perte de performance subsiste face à la variabilité de l'environnement, et les tests réels sont peu nombreux. Ce travail s'inscrit dans la montée des politiques vision-langage-action (VLA) et des world models comme base de la manipulation généraliste. Il se place face à des approches qui produisent des actions seules, comme Pi-0, ou des modèles qui prédisent des futurs vidéo sans hiérarchie. Le benchmark RoboTwin, de manipulation bimanuelle avec randomisation de l'environnement, sert de plus en plus de test de robustesse. C'est un résultat académique, sans produit ni déploiement annoncé. Les prochaines étapes à surveiller sont la validation sur des horizons plus longs et des plateformes variées, la publication du code et des poids, et le coût de calcul d'une prédiction visuelle à chaque sous-tâche, que le résumé ne chiffre pas.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

Jiao : combler le fossé entre isolation et personnalisation en robotique à criticité mixte

À lire aussi

Combler le fossé : permettre au Soft Actor Critic des performances élevées en locomotion sur pattes

Personnalisation sans entraînement des gestes de co-parole du robot

La modélisation résiduelle comble l'écart entre politiques de régression et génératives en apprentissage robotique

Repenser le modèle monde-action pour la manipulation robotique compositionnelle et en contexte