RecherchearXiv cs.RO 1 juin 2026

Apprentissage par renforcement conditionné par objectif et informé par la physique sous dynamique de contact hybride

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (réf. 2605.30503) une analyse critique des méthodes de GCRL physico-informé (Pi-GCRL) appliquées à la manipulation robotique en contact, accompagnée de deux nouvelles formulations architecturales pour corriger leurs limites. Le GCRL (goal-conditioned reinforcement learning) vise à entraîner des agents capables d'atteindre des objectifs arbitraires à partir d'un signal de récompense rare, en apprenant une notion générale d'accessibilité dans l'espace état-but. Les approches Pi-GCRL enrichissent cette idée en injectant des biais inductifs issus de la commande optimale dans l'apprentissage de la fonction de valeur. L'article montre que, dès lors que les dynamiques deviennent hybrides, c'est-à-dire discontinues lors de transitions de contact, ces biais, appliqués naïvement, dégradent la performance : les paysages de valeur deviennent non-lisses, la contrôlabilité dépend du mode de contact actif, et les hypothèses de régularité sous-jacentes aux méthodes Pi-GCRL ne tiennent plus.

L'enjeu est structurel pour la robotique de manipulation industrielle. La quasi-totalité des tâches réelles, assemblage, insertion, saisie d'objets déformables, impliquent des contacts intermittents qui créent précisément ces dynamiques hybrides. Jusqu'ici, Pi-GCRL avait démontré sa robustesse sur la navigation et le goal-reaching sans contact, mais son extension aux tâches de manipulation restait une question ouverte. Ce travail répond en quantifiant rigoureusement l'échec et en proposant deux correctifs : une formulation contact-aware qui adapte les biais inductifs au mode de contact détecté, et une formulation hiérarchique qui décompose le problème de manipulation en sous-problèmes à dynamiques plus régulières. Ces contributions ouvrent une voie méthodologique précise, distincte des approches VLA (vision-language-action) et sim-to-real classiques qui dominent actuellement les annonces industrielles.

Le contexte est celui d'une compétition intense dans l'apprentissage pour la manipulation : DeepMind avec RoboCAT, Physical Intelligence avec pi0, Google avec RT-X, et des dizaines de labos universitaires cherchent à franchir le fossé démo-vers-réalité. Pi-GCRL représente une ligne de recherche distincte, héritée des travaux en commande optimale et en GCRL (Andrychowicz, Plappert et al., 2017 et suivants), qui mise sur la structure mathématique du problème plutôt que sur la puissance brute des données. Ce preprint est une contribution académique sans déploiement annoncé ni partenaire industriel identifié ; les suites probables sont des benchmarks sur des environnements contact-rich standardisés (MuJoCo, IsaacGym) et une éventuelle extension aux robots à plusieurs points de contact.

Dans nos dossiers

Physical Intelligence — π0 OpenVLA / RT-X Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Transformer de décision conditionné par objectif pour l'apprentissage par renforcement hors ligne multi-objectifs

Des chercheurs ont publié en octobre 2024 sur arXiv (identifiant 2410.06347, version 2) une méthode baptisée Goal-Conditioned Decision Transformer (GCDT), conçue pour entraîner des robots à accomplir plusieurs tâches distinctes sans interaction en temps réel avec l'environnement. L'approche repose sur l'apprentissage par renforcement hors ligne (offline RL) : le modèle apprend uniquement à partir de données collectées au préalable, sans générer de nouvelles trajectoires coûteuses. La validation se fait sur le bras collaboratif Franka Emika Panda (7 degrés de liberté), à partir d'un jeu de données offline nouvellement publié pour cette plateforme. Les résultats annoncés montrent que GCDT surpasse des baselines en ligne considérées comme état de l'art sur des tâches complexes, et conserve ses performances dans des environnements à récompenses éparses, même avec un nombre limité de démonstrations expertes. L'enjeu technique est réel : le principal frein à l'industrialisation du RL en robotique reste le coût des interactions d'entraînement, chaque collision, chaque reset prend du temps physique et use les équipements. En découplant l'apprentissage de l'exécution grâce à des données hors ligne, GCDT réduit ce verrou. Ce qui est plus notable, c'est la capacité à gérer des objectifs multiples et variables dans un seul modèle, là où la plupart des politiques offline sont entraînées tâche par tâche. La reformulation sous forme de séquences (héritage du Decision Transformer) permet d'injecter explicitement l'état-cible dans le contexte du modèle, ce qui facilite la généralisation. Il faut toutefois rester prudent : il s'agit d'un preprint non encore publié en conférence majeure, et les résultats portent sur un dataset contrôlé, pas sur un déploiement industriel réel. Le Decision Transformer original (Chen et al., 2021, Google Brain / UC Berkeley) avait montré qu'un transformer entraîné sur des trajectoires étiquetées par leur retour cumulatif pouvait rivaliser avec des méthodes RL classiques. GCDT étend cette idée au cadre multi-objectifs, un problème que des travaux concurrents comme MTDIFF ou Goal-Conditioned IQL abordent différemment. Le bras Panda de Franka Robotics (acquis par Agile Robots en 2021) reste la plateforme de référence en robotique manipulation académique. La prochaine étape logique serait un transfert sim-to-real sur des tâches de manipulation industrielle, et une comparaison avec des approches VLA (Vision-Language-Action) comme Pi-0 ou OpenVLA, qui opèrent elles aussi en généralisation multi-tâches mais via des modèles de fondation beaucoup plus lourds.

UEImpact indirect uniquement : le bras Franka Panda, d'origine allemande, est la plateforme de manipulation de référence dans de nombreux labos académiques européens (INRIA, CEA-List inclus), mais l'étude n'implique directement aucune institution ou entreprise française ou européenne.

RecherchePaper

1 source

2arXiv cs.RO

ACDC : planification de curriculum adaptatif avec contrôle contrastif dynamique pour l'apprentissage par renforcement conditionné par objectifs en manipulation robotique

Des chercheurs proposent ACDC (Adaptive Curriculum planning with Dynamic Contrastive control), une nouvelle méthode d'apprentissage par renforcement conditionné par objectif (goal-conditioned RL) pour la manipulation robotique, dans une version mise à jour (v3) d'un article déposé sur arXiv. Le système combine deux mécanismes. D'un côté, un planificateur de curriculum adaptatif multidimensionnel (AC) qui ajuste dynamiquement l'équilibre entre exploration diversifiée et exploitation ciblée, en fonction du taux de réussite de l'agent et de sa progression d'entraînement. De l'autre, un module de contrôle contrastif dynamique (DC) qui traduit ce plan de curriculum en sélection d'expériences guidée par la norme, via un apprentissage contrastif contraint. Les auteurs annoncent des résultats supérieurs aux méthodes de référence de l'état de l'art sur plusieurs tâches de manipulation robotique complexes, tant en efficacité d'échantillonnage qu'en taux de réussite final. L'article ne précise ni les environnements de test exacts, ni les valeurs chiffrées des gains obtenus, ni le laboratoire ou l'affiliation des auteurs. Pour la recherche en robotique, ACDC s'attaque à une limite connue des approches actuelles de goal-conditioned RL : leur dépendance à des schémas de priorisation de l'expérience collectée, souvent statiques, qui produisent des performances inégales selon la diversité des tâches. En rapprochant la stratégie d'apprentissage du curriculum progressif observé chez l'humain, plutôt que d'un simple rejeu d'expérience priorisé, l'approche vise une meilleure généralisation entre tâches de manipulation, un enjeu clé pour les intégrateurs qui cherchent à réduire le volume de données nécessaire à l'entraînement de politiques robotiques. Le travail s'inscrit dans une lignée de recherches combinant curriculum learning et contrastive learning pour améliorer l'efficacité d'échantillonnage en RL, un axe actif depuis les méthodes de hindsight expérience replay. Le statut "replace" sur arXiv indique une révision par rapport à une version antérieure, sans qu'on sache si l'article a été accepté dans une conférence ou une revue à comité de lecture. Aucune suite (code source, benchmark public, application industrielle) n'est mentionnée à ce stade.

RecherchePaper

1 source

3arXiv cs.RO

Contrôle de formation haute précision pour systèmes multi-robots hétérogènes via apprentissage par renforcement profond hiérarchique et hybride, informé par la physique

Des chercheurs proposent un nouveau cadre de contrôle pour la formation de flottes de robots hétérogènes, baptisé HHy-PIDRL (hierarchical hybrid physics-informed deep reinforcement learning), publié sur arXiv début juillet 2026. L'architecture repose sur deux couches. La couche supérieure gère la navigation autonome d'un robot leader à direction Ackermann via un algorithme Soft Actor-Critic (SAC), une méthode de deep reinforcement learning reconnue pour sa stabilité d'entraînement. La couche inférieure combine trois briques pour les robots suiveurs omnidirectionnels : un contrôleur physique feed-forward haute-fidélité, un correcteur proportionnel-dérivé (PD) classique, et un contrôleur résiduel adaptatif par apprentissage par renforcement, l'ensemble formant une politique hybride baptisée HM-DRL. Une fonction de récompense hiérarchique spécifique a été conçue pour guider l'apprentissage des suiveurs vers une politique de contrôle stable et affinée. Selon les auteurs, les taux de réussite atteignent 100% aussi bien pour la navigation du leader que pour le maintien de formation des suiveurs, des résultats validés par des expériences d'ablation. Ce travail s'attaque à un problème concret pour l'industrie robotique multi-agents : les méthodes de contrôle classiques exigent des modèles physiques précis et tiennent mal face aux incertitudes de modélisation et aux perturbations externes, tandis que les approches de reinforcement learning bout-en-bout souffrent traditionnellement d'une faible efficacité d'échantillonnage et de convergences instables. En hybridant modèle physique et apprentissage résiduel, l'équipe cherche à concilier la robustesse théorique du contrôle classique avec l'adaptabilité du RL, un enjeu direct pour les opérateurs de flottes de robots mobiles autonomes (AMR) en entrepôt ou en logistique, où l'hétérogénéité des plateformes (Ackermann versus omnidirectionnel) complique la coordination de formation. Cette publication s'inscrit dans une lignée de recherches visant à combiner physics-informed learning et RL pour dépasser les limites respectives des approches purement analytiques ou purement data-driven, une tendance déjà explorée pour la locomotion de robots humanoïdes et le contrôle de bras manipulateurs. Les auteurs annoncent des expériences d'ablation pour isoler la contribution de chaque module, mais les résultats à 100% de réussite, obtenus en simulation selon toute vraisemblance, restent à confirmer en conditions réelles avant tout déploiement industriel.

RecherchePaper

1 source

4arXiv cs.RO

ReinforceGen : politiques de compétences hybrides avec génération automatisée de données et apprentissage par renforcement

Une équipe de recherche en robotique publie ReinforceGen, un système combinant décomposition de tâches, génération automatisée de données, apprentissage par imitation et planification de mouvement, le tout affiné par apprentissage par renforcement. Le principe consiste à segmenter une tâche de manipulation longue en plusieurs compétences localisées, reliées entre elles par un planificateur de mouvement. Ces compétences sont d'abord entraînées par imitation à partir d'un jeu de données généré depuis seulement 10 démonstrations humaines, puis affinées via adaptation en ligne et renforcement. Sur le benchmark Robosuite, ReinforceGen atteint 80% de taux de réussite sur l'ensemble des tâches en contrôle visuomoteur, dans la configuration la plus exigeante de réinitialisation des positions de départ. Des études d'ablation montrent que les étapes de fine-tuning apportent un gain de performance moyen de 89%. Le système a également été testé en conditions réelles, avec des améliorations significatives rapportées après affinage. Vidéos et résultats complémentaires sont disponibles sur le site du projet. La manipulation longue durée reste l'un des obstacles majeurs en robotique manipulative: enchaîner plusieurs sous-tâches sans dérive d'erreur cumulative est difficile pour l'imitation pure, tandis que le renforcement seul peine à converger sur des horizons longs sans démonstration initiale. En combinant les deux, ReinforceGen s'inscrit dans un mouvement plus large cherchant à réduire la dépendance aux données humaines coûteuses (ici seulement 10 démonstrations) tout en conservant une robustesse comparable à des méthodes plus gourmandes. Le passage réussi vers des évaluations réelles, au-delà de la simulation, est le point le plus significatif pour les acteurs industriels: il suggère que l'écart simulation-réel, souvent le talon d'Achille des politiques visuomotrices, peut être réduit par cette architecture hybride plutôt que par du pur scaling de données. Le papier, publié sur arXiv (version révisée, v2), s'appuie sur le benchmark Robosuite, référence standard pour comparer les politiques de manipulation robotique en simulation. Le score de 80% est annoncé dans le réglage le plus difficile testé, un détail à garder en tête: les performances dans des configurations moins contraignantes ne sont pas précisées dans le résumé. Aucun acteur commercial ni institution n'est nommé dans l'abstract, ce travail relevant pour l'instant de la recherche académique plutôt que d'un produit destiné à un déploiement industriel immédiat.

RecherchePaper

1 source