RecherchearXiv cs.RO 28 août 2026

Modèles de récompense résiduels : exploiter les connaissances a priori pour un apprentissage par renforcement basé sur les préférences efficace en robotique

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Les chercheurs proposent les Residual Reward Models (RRM), une méthode d'apprentissage par renforcement basé sur les préférences (PbRL) destinée à réduire le volume de retours humains nécessaires pour entraîner des robots. Publié sur arXiv (2507.00611v2), le papier part d'un constat pratique: le PbRL classique apprend une fonction de récompense à partir de démonstrations puis l'affine avec des préférences humaines, mais le passage d'une fonction de perte à l'autre pendant l'entraînement d'un réseau de neurones déstabilise souvent l'optimisation et dégrade les performances. L'idée du RRM est de décomposer la récompense réelle de l'environnement en deux termes: une récompense a priori, fixée avant l'entraînement (heuristique d'ingénierie, récompense générée par un modèle de langage, ou fonction apprise par apprentissage par renforcement inverse), et une récompense résiduelle apprise ensuite à partir des préférences humaines. Les auteurs valident l'approche sur les bancs d'essai en simulation Meta-World et DM-Control, puis sur un robot physique Franka Panda, où la méthode accélère l'apprentissage de politiques et atteint des taux de réussite élevés en moins d'étapes que les méthodes de référence.

Pour l'industrie robotique, ce travail s'attaque directement au goulot d'étranglement du PbRL: le coût et le volume de feedback humain nécessaires pour spécifier des comportements complexes sans concevoir manuellement des fonctions de récompense fragiles. En montrant un gain de sample efficiency sur plusieurs types de récompenses a priori et sur un bras robotique réel, l'étude appuie l'idée que combiner connaissances préalables (heuristiques, LLM, apprentissage inverse) et apprentissage par préférences peut rendre l'entraînement de politiques robotiques plus praticable hors laboratoire, un enjeu clé pour les intégrateurs qui cherchent à réduire le temps d'ingénierie de récompense avant déploiement.

Ce travail s'inscrit dans la lignée des recherches en RLHF appliqué à la robotique, où l'instabilité liée aux changements de fonction de perte entre phases d'entraînement est un problème documenté. Le choix de Meta-World et DM-Control comme bancs d'essai standards, complété par une validation sur un Franka Panda physique, positionne cette contribution comme un travail académique avec preuve de concept matérielle plutôt qu'un produit commercial. Le papier ne mentionne ni partenaire industriel ni feuille de route de déploiement; il reste, à ce stade, une contribution méthodologique destinée à d'autres chercheurs en apprentissage par renforcement et en robotique.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Exploration active dans l'apprentissage par renforcement bayésien basé sur un modèle pour la manipulation robotique

Des chercheurs de l'Université de Saragosse (groupe ropertunizar) publient la version 3 d'un article sur l'exploration active dans l'apprentissage par renforcement basé sur modèle (MBRL) bayésien, appliqué à la manipulation robotique. Le principe: construire un modèle dynamique du robot afin de mener l'essentiel de l'apprentissage de la politique en simulation, ce qui limite le coût de collecte de données réelles et permet de réutiliser ces données d'une tâche à l'autre. Les auteurs emploient l'apprentissage profond bayésien (BDL) à double fin. D'abord, améliorer la calibration du modèle, donc la fiabilité de ses estimations d'incertitude. Ensuite, accroître l'efficacité en données: pendant une phase d'exploration préliminaire, le système estime le gain d'information de chaque transition et l'utilise comme récompense d'exploration. Plusieurs méthodes BDL sont comparées dans une configuration de manipulation réaliste. Le code est publié en open source sur GitHub. Il s'agit d'un travail académique, sans produit ni déploiement industriel annoncé. Pour les intégrateurs et les équipes R&D, le résultat revendiqué est que cette approche atteint la qualité d'alternatives pertinentes avec nettement moins d'exécution sur le robot réel. Or le temps robot reste l'un des principaux postes de coût et de risque dans l'apprentissage de politiques de manipulation. Le point méthodologique le plus notable tient à la validation: les travaux antérieurs de ce type étaient testés surtout sur des environnements RL standards, alors que celui-ci traite des tâches de bras robotisé dans un simulateur de manipulateur complet, CoppeliaSim. C'est un cran plus proche des conditions réelles, mais cela reste de la simulation. L'abstract ne chiffre ni la réduction du temps d'exécution, ni les tâches, ni le robot, et ne présente aucun transfert sim-to-real sur matériel. Il faut donc lire « beaucoup moins d'exécution robot » avec prudence tant que les chiffres du texte complet n'ont pas été examinés. Ce travail s'inscrit dans une tendance de fond: face au coût des données robotiques, une partie de la communauté mise sur le MBRL et l'exploration guidée par l'incertitude, tandis qu'une autre, très visible côté humanoïdes, parie sur les grands modèles vision-langage-action entraînés sur d'énormes volumes de démonstrations. Ces deux voies ne sont pas exclusives: un modèle dynamique bien calibré pourrait servir à générer des données synthétiques ou à affiner des politiques pré-entraînées. La publication d'une troisième version indique un processus de révision abouti, mais les suites concrètes, comme des essais sur bras physiques ou des comparaisons avec des politiques généralistes, ne sont pas annoncées. L'ouverture du code permet à d'autres équipes de reproduire les résultats et de tester la méthode sur leurs propres cellules de manipulation.

UETravail académique de l'Université de Saragosse (Espagne) dont le code open source peut être réutilisé par les équipes de R&D européennes en manipulation robotique.

RecherchePaper

1 source

2arXiv cs.RO

Apprentissage par renforcement basé sur un modèle pour le contrôle robotique via optimisation en ligne

Des chercheurs ont publié sur arXiv (arXiv:2510.18518v2) un algorithme d'apprentissage par renforcement basé sur un modèle (MBRL) conçu pour contrôler des systèmes robotiques complexes directement dans le monde réel, sans passer par une phase de simulation intensive. L'approche construit un modèle de dynamique à partir des données d'interaction en temps réel, puis effectue des mises à jour de politique guidées par ce modèle appris. Les validations expérimentales ont été conduites sur deux plateformes distinctes : un bras d'excavatrice hydraulique et un bras robot souple. Dans les deux cas, l'algorithme atteint des performances comparables aux méthodes model-free en quelques heures d'entraînement, là où ces dernières réclament habituellement des millions d'interactions simulées. La robustesse de l'adaptation a également été évaluée sous conditions de charge utile (payload) aléatoire, avec des résultats stables malgré le changement de dynamique. L'enjeu principal est la réduction de ce que le secteur appelle le "sim-to-real gap" : l'écart entre les politiques apprises en simulation et leur comportement réel une fois déployées sur du matériel. Les pipelines dominants, adoptés aussi bien par des labos académiques que par des industriels comme Boston Dynamics ou Figure AI, reposent sur des millions de rollouts en simulation avant tout contact avec un robot physique, ce qui introduit un biais systématique difficile à corriger. Cet algorithme court-circuite cette étape en apprenant directement sur données réelles, avec une garantie formelle de progression : les auteurs démontrent des bornes de regret sous-linéaires (sublinear regret bounds) sous hypothèses d'optimisation stochastique en ligne, ce qui est rare dans la littérature MBRL appliquée à la robotique physique. Pour un intégrateur ou un industriel, cela se traduit par une réduction potentielle du temps de mise en service sur des tâches à dynamique variable (variation de charge, usure mécanique, changement de matériau). Ce travail s'inscrit dans un débat structurant du champ : model-based vs model-free RL pour la robotique physique. Les méthodes model-free comme PPO ou SAC dominent les benchmarks simulés mais peinent à s'adapter efficacement en production réelle. Des approches hybrides comme MBPO ou DreamerV3 ont tenté de combler cet écart, mais rarement validées sur des systèmes aussi hétérogènes qu'un bras hydraulique industriel et un manipulateur souple. La prochaine étape naturelle serait une validation sur des plateformes humanoïdes ou des AMR (autonomous mobile robots) à haute dimension, où les enjeux de sample efficiency sont directement liés aux coûts d'exploitation et à la durée de vie des actionneurs.

RecherchePaper

1 source

3arXiv cs.RO

RARM : modèle de récompenses de progression à seuil de confiance pour l'apprentissage par renforcement en manipulation

Des chercheurs ont publié sur arXiv (réf. 2606.22027) RARM, pour Reference-Anchored Reward Model, une approche visant à résoudre un verrou central de l'apprentissage par renforcement (RL) en manipulation robotique : la conception des fonctions de récompense. La méthode repose sur un comparateur visuel léger qui, à partir d'une seule démonstration réussie, génère automatiquement un signal de récompense dense et progressif. RARM est pré-entraîné une unique fois sur des vidéos généralistes via un objectif de contraste temporel, sans données robot-spécifiques ni étiquetage manuel. Au déploiement, il compare des extraits de la tentative courante à des clips de référence et ne délivre une récompense que lorsque la correspondance dépasse un seuil de confiance (d'où l'appellation confidence-gated). Évalué sur 9 tâches de manipulation simulées issues des benchmarks LIBERO et MetaWorld ainsi que sur 4 tâches réelles, RARM obtient les meilleurs taux de succès globaux en entraînement RL, avec des gains particulièrement marqués sur des tâches longue durée comme le pliage de tissu. Le verrou qu'attaque RARM est fondamental : les récompenses éparses (succès/échec en fin de séquence) produisent un signal trop faible pour les tâches longues, tandis que les récompenses denses codées manuellement exigent une ingénierie fastidieuse et se généralisent mal d'une tâche à l'autre. Les approches de progression existantes souffraient d'un biais critique : elles attribuaient des récompenses élevées à des états visuellement plausibles mais physiquement incorrects, ce que la porte de confiance de RARM réduit directement. L'implication concrète pour les intégrateurs est qu'une seule vidéo de démonstration humaine suffit désormais à bootstrapper l'entraînement RL sur une nouvelle tâche, sans ré-ingénierie de la fonction de récompense. RARM se positionne en concurrence directe avec EUREKA (OpenAI, génération de récompenses via LLM) et les méthodes d'imitation inverse (IRL), dont il se distingue par sa légèreté et l'absence de données robot-spécifiques. Son objectif de généralisation le rapproche des ambitions des modèles VLA comme pi0 (Physical Intelligence) ou GR00T N2 (NVIDIA). La publication reste un preprint arXiv, pas encore un produit ni un déploiement industriel ; les prochaines étapes attendues incluent une validation sur des plateformes hardware diversifiées et une intégration dans des pipelines de fine-tuning de modèles fondationnels robotiques.

RecherchePaper

1 source

4arXiv cs.RO

Comparaison des espaces d'action en apprentissage par renforcement pour la manipulation robotique basée sur la vision

Des chercheurs ont publié le 23 juin 2026 une étude comparative systématique (arXiv:2606.18594) évaluant quatre types d'espaces d'action en apprentissage par renforcement (RL) pour la manipulation robotique visuelle : l'incrément de pose, la vitesse de pose, l'incrément de position articulaire, et la vitesse articulaire. Les politiques ont été entraînées en simulation puis déployées sur robot réel via transfert sim-to-réel, sur deux tâches benchmark : la saisie d'objet et la poussée d'objet. Résultat principal : l'espace d'action en vitesse articulaire (joint velocity) surpasse les trois autres alternatives, aussi bien en fluidité de mouvement qu'en performance finale sur les deux tâches testées. Ce résultat a une portée pratique directe pour les ingénieurs qui conçoivent des systèmes de manipulation autonome. Le choix de l'espace d'action est une décision d'architecture souvent sous-documentée dans la littérature RL appliquée, et les praticiens se retrouvent fréquemment à tâtonner empiriquement. En démontrant que la vitesse articulaire favorise à la fois la sécurité (mouvements plus lisses, moins de à-coups) et la performance sur des tâches visuelles, l'étude fournit une recommandation actionnable. Elle confirme aussi que le gap sim-to-réel dépend non seulement de la politique apprise, mais de la représentation même des actions, un levier souvent négligé dans les pipelines de transfert. Pour les intégrateurs travaillant avec des bras industriels ou des cobots, cette granularité de contrôle peut directement influer sur la durée de vie mécanique et la robustesse opérationnelle. L'étude s'inscrit dans un courant de recherche croissant sur la robustesse du transfert sim-to-réel pour la manipulation visuelle, aux côtés de travaux sur les politiques visuomotrices à base de transformeurs (VLA) comme pi-0 de Physical Intelligence ou les approches diffusion-policy popularisées par Columbia et Toyota Research Institute. Contrairement à ces méthodes qui s'intéressent à l'architecture du modèle, ce papier intervient en amont, au niveau du signal de commande lui-même. Les auteurs annoncent des recommandations pratiques pour le choix d'espace d'action selon le contexte (simulation seule ou déploiement réel), ce qui en fait une référence méthodologique utile pour les équipes démarrant un projet RL sur hardware.

RecherchePaper

1 source