RecherchearXiv cs.RO 8 octobre 2026

Revue de la littérature et étude expérimentale sur l'apprentissage par renforcement à partir de retours humains pour la collaboration humain-robot

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs publie sur arXiv (2610.09891) une revue de cadrage suivie d'une expérience en réalité virtuelle sur l'apprentissage par renforcement à partir de retours humains (RLHF) appliqué à la collaboration humain-robot (HRC). La revue suit les lignes directrices PRISMA : sur 199 références examinées, 20 publications évaluées par des pairs (2020-2025) ont été retenues, couvrant plusieurs domaines de la HRC. Les auteurs affirment qu'il s'agit de la première revue centrée sur la conception bidirectionnelle en boucle fermée du RLHF. Elle recense plusieurs modalités de retour (donc plusieurs formats de données), qui peuvent être intégrées à différentes étapes de l'entraînement, ce qui donne un développement en plusieurs phases. Les systèmes sont le plus souvent évalués par des expériences pilotes, avec des métriques côté humain et côté robot. Pour tester une lacune identifiée, l'équipe a mené une expérience en environnement virtuel, en groupes indépendants (between-subjects), comparant un retour initié par le système et un retour initié par l'utilisateur, sur le comportement proxémique d'un robot qui navigue en sécurité autour d'une personne.

Les résultats reposent sur des modèles bayésiens qui relient les retours collectés à deux mesures de sécurité : la sécurité psychologique, relevée par questionnaire après l'expérience, et la sécurité physique, mesurée par l'inverse du temps avant collision. Le retour initié par l'utilisateur traduit mieux la sécurité perçue que celui déclenché par le système. Le moment où le retour est demandé influence donc directement sa qualité. L'abstract ne donne ni taille d'échantillon ni effets chiffrés, et l'expérience porte sur un scénario simulé et un seul comportement (la navigation), de sorte que la portée industrielle reste à démontrer. Pour les intégrateurs, le message est pragmatique : la manière de collecter les retours (quand, à l'initiative de qui) pèse autant que l'algorithme sur la sécurité d'un robot collaboratif. Une interface où l'opérateur signale lui-même un inconfort ou une trajectoire trop proche produirait des signaux d'entraînement plus fiables que des sondages automatiques à intervalles fixes. Le travail relativise aussi l'idée que davantage de données humaines suffit, puisque leur qualité dépend du protocole de collecte.

Le contexte est celui de l'Industrie 4.0 et de la personnalisation de masse, où la HRC doit permettre des lignes flexibles sans cloisonner l'homme et la machine. Le RLHF, popularisé par les modèles de langage, est transposé à la robotique physique avec des contraintes propres : la sécurité pendant l'apprentissage, le bruit et la fatigue des évaluateurs humains, et l'adaptation mutuelle entre l'humain et le robot. Les auteurs identifient un manque d'expériences HRC réalistes qui comparent les méthodes de collecte de retours. Ils recommandent d'en faire la priorité de la recherche à venir, en mesurant leurs effets sur des métriques humaines et robotiques. Il s'agit d'un travail académique sans produit ni déploiement annoncé, et ses conclusions devront être confirmées sur robots réels, en environnement industriel et avec des échantillons plus larges.

Dans nos dossiers

Cobots & robots collaboratifs arXiv cs.RO

À lire aussi

1arXiv cs.RO

Apprentissage de la sécurité robotique à partir de rares retours humains par prédiction conforme

Des chercheurs ont publié sur arXiv (référence 2501.04823v2) une méthode permettant d'apprendre les préférences de sécurité d'un opérateur humain à partir de retours binaires très limités, puis de les traduire en garanties statistiques formelles pour un robot autonome. Le principe : un humain visionne des trajectoires effectuées par le robot et signale simplement les comportements jugés dangereux. L'algorithme applique ensuite la prédiction conforme (conformal prediction) sur ces annotations pour délimiter, dans l'espace d'état du robot (ou dans un espace latent appris), une zone suspecte dont il est garanti qu'elle contiendra au moins une fraction spécifiée des futures erreurs de la politique. Un système d'alerte se déclenche dès que le robot pénètre cette zone. La méthode a été validée expérimentalement sur des quadrirotor en vol libre : 30 vols répartis sur 6 tâches de navigation, avec pour objectif de franchir un portique désigné en suivant une politique visuomotrice. Le classifieur par plus proches voisins, combiné à la prédiction conforme, détecte de manière fiable quand la politique va rater le franchissement, sans nécessiter de jeu de données de calibration séparé. L'intérêt industriel de cette approche réside dans deux points souvent négligés dans les déploiements robotiques actuels : la subjectivité de la sécurité et la fragilité des politiques entraînées sur données "sûres". Un robot formé sur des trajectoires correctes peut produire des comportements dangereux hors distribution, et les contraintes définies manuellement ratent systématiquement les cas limites. Ici, la garantie de taux de manqués (miss rate) est mathématiquement contrôlée par l'utilisateur, ce qui est exploitable dans un cahier des charges de déploiement. La méthode est également "sample-efficient" : elle évite la pratique courante en prédiction conforme de geler une partie des données de calibration, ce qui compte lorsque les retours humains sont coûteux à collecter. Pour un intégrateur déployant des robots mobiles ou des drones d'inspection, c'est un outil de qualification potentiellement plus réaliste que les approches par fonctions de barrière de contrôle (CBF) ou vérification formelle, qui supposent des modèles analytiques précis. La prédiction conforme gagne depuis 2022 une traction notable en robotique apprise, notamment pour quantifier l'incertitude dans les politiques de type Vision-Language-Action (VLA) et les planificateurs model predictive control (MPC) -- c'est précisément ce dernier que les auteurs améliorent ici. Les approches concurrentes incluent les CBFs (moins flexibles avec des politiques neuronales), le safe reinforcement learning avec contraintes Lagrangiennes, et les méthodes de détection d'anomalies par reconstruction. L'article ne mentionne pas de partenaire industriel ni de timeline de transfert ; il s'agit d'un preprint académique, code et vidéos publiés, sans peer review finalisé à ce stade. Les suites naturelles seraient une validation sur des robots manipulateurs ou des AMR en environnement d'entrepôt, et l'extension à des retours humains plus granulaires que le binaire safe/unsafe.

RecherchePaper

1 source

2arXiv cs.RO

Evo-RL : apprentissage par renforcement itératif pour robots à partir d'expériences sélectionnées

Une nouvelle méthode d'apprentissage par renforcement (RL) en conditions réelles, baptisée Evo-RL, est décrite dans un preprint arXiv (2610.13345). Elle améliore une politique de manipulation de façon itérative en combinant interventions humaines et sélection de l'expérience guidée par l'avantage. Au lieu de réinjecter tout ce que le robot a accumulé, la politique est affinée à partir des corrections humaines et des seules trajectoires réussies dont l'avantage estimé est positif. Les auteurs partent du constat que même une trajectoire réussie peut contenir des comportements inefficaces ou redondants. Ils publient aussi RW-RL-Dataset, qui dépasse 1 000 heures de données sur quatre morphologies de robots. Sur une tâche réelle de manipulation de haute précision, le taux de succès par tentative progresse de 30,46 % face à RECAP. Le code, les checkpoints et le jeu de données sont ouverts. Le résumé ne dit pas si ce gain est exprimé en points ou en relatif, ni combien d'essais le sous-tendent. L'enjeu est de savoir où se situe la valeur dans les données de RL réel. Le goulot d'étranglement des déploiements est souvent le temps de supervision humaine et de collecte, pas la puissance de calcul. Une méthode qui trie l'expérience, et ne retient que ce qui améliore vraiment la politique, vise à réduire ce coût. Elle conteste aussi l'idée qu'une rollout réussie est forcément une bonne donnée d'entraînement. La prudence reste de mise, car le chiffre phare provient d'une seule tâche et d'un seul comparatif. La diversité de plateformes du dataset suggère une ambition de généralité, mais celle-ci reste à démontrer sur d'autres tâches et d'autres équipes. La publication complète du code et des poids permet justement cette vérification indépendante, ce qui est rare dans un domaine où les laboratoires industriels publient peu. RECAP, la référence battue ici, a été introduite par Physical Intelligence avec son modèle pi*0.6. Elle conditionne la politique sur l'avantage pour apprendre à la fois de démonstrations, de corrections humaines et de rollouts autonomes. Evo-RL se présente comme une évolution de cette lignée, centrée sur la sélectivité. Il s'agit d'un travail académique en preprint, sans produit ni pilote industriel annoncé. Les prochaines étapes à surveiller sont les réplications externes, les tests sur des tâches à horizon plus long et l'application à de grands modèles vision-langage-action (VLA). Les intégrateurs y trouveront surtout une piste pour améliorer en continu un robot déjà déployé, avec moins d'heures de téléopération.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Repenser les implications du retour humain pour l'apprentissage des préférences dans la collaboration homme-robot

Une équipe de recherche en interaction homme-robot publie sur arXiv (2609.13982) une remise en cause de la méthode standard d'apprentissage des préférences pour le comportement des robots collaboratifs. Cette méthode standard fonctionne en trois étapes : le robot collecte un feedback humain direct limité, généralement binaire (positif ou négatif) ; il en déduit ensuite des étiquettes "acceptée" ou "rejetée" pour des actions faisables mais non choisies, via des règles d'implication fixes préétablies ; puis il met à jour son modèle de récompense avec l'ensemble de ces données. Une étude utilisateur menée sur deux environnements de simulation collaboratifs montre que les étiquettes d'implication réellement données par les humains divergent souvent de ce que prédit la règle fixe, et que l'usage des étiquettes humaines réelles améliore nettement l'apprentissage de récompense avec l'algorithme PIE (Preference Learning from Implicit and Explicit Feedback). Les chercheurs proposent en réponse IMPLIED, une méthode qui utilise la règle fixe comme simple point de départ tout en apprenant à inférer et corriger les étiquettes au fil des interactions. Testée sur des trajectoires d'interaction homme-robot enregistrées ainsi que sur une étude avec un robot physique préparant des pizzas, IMPLIED prédit les implications humaines plus fidèlement que la règle fixe et que des références basées sur des LLM, en se rapprochant des performances d'un oracle utilisant directement des étiquettes humaines. Ce résultat questionne une hypothèse implicite largement répandue dans la conception des systèmes de robots collaboratifs : que des règles logiques figées suffisent à extrapoler les préférences humaines au-delà du feedback explicite donné. Pour les concepteurs de robots d'assistance ou de cobots industriels, cela signifie que les modèles de récompense actuels risquent de mal interpréter systématiquement l'intention des opérateurs sur les actions non directement évaluées, ce qui peut se traduire par un comportement robotique perçu comme irrationnel ou mal aligné en situation réelle de collaboration. En réduisant l'erreur d'estimation des préférences, IMPLIED promet des robots capables de s'adapter plus vite et plus fidèlement à un opérateur humain sans multiplier les sollicitations de feedback, un enjeu direct pour l'efficacité des déploiements en environnement partagé homme-robot. Le travail s'inscrit dans la lignée des approches d'apprentissage de préférences par renforcement inverse appliquées à la robotique collaborative, où l'algorithme PIE sert de référence pour combiner feedback explicite et implicite. En comparant IMPLIED à la fois à la règle fixe classique et à des références utilisant des grands modèles de langage, les auteurs positionnent leur méthode comme une alternative apprise et adaptative aux heuristiques statiques du domaine. La validation combine environnements simulés et un cas d'usage physique concret de fabrication culinaire, suggérant une voie vers une intégration future dans des architectures de robots collaboratifs déployés en usine ou en environnement de service.

RecherchePaper

1 source

4arXiv cs.RO

Human2Dex : apprentissage de la dextérité robotique à partir de démonstrations humaines centrées sur le poignet

Des chercheurs proposent Human2Dex, une interface de démonstration humaine centrée sur le poignet, conçue pour qu'un seul corpus de démonstrations naturelles serve à entraîner des politiques sur plusieurs mains robotiques dextres, sans collecter de données de tâche sur chaque robot cible. Le système aligne les observations par une adaptation locale de l'apparence de la main et une représentation commune à 21 points, dont la structure garde le même sens sur l'humain et sur le robot. Il produit ensuite une supervision exécutable en retargetant le mouvement fusionné de la main humaine vers chaque main cible. Une représentation baptisée GPIR (Grasp-Pocket Interaction Representation) exprime la position des objets suivis par rapport à une « Functional Grasp Pocket » centrée sur la main. Le corpus est converti en jeux d'entraînement distincts pour la Linker O6 et la Wuji. Les étiquettes d'action, la normalisation, l'entraînement et les checkpoints de diffusion policy restent propres à chaque main. Sur six tâches réelles, Human2Dex réussit 109 essais sur 120 (90,8 %) avec la Linker O6 et 97 sur 120 (80,8 %) avec la Wuji. Sur les deux mains cumulées, la baseline « Human-Raw », qui exploite les données humaines brutes, n'atteint que 63 succès sur 240 (26,3 %), contre 206 sur 240 (85,8 %) pour la configuration complète. L'écart entre 26,3 % et 85,8 % est le résultat à retenir. Il indique que les données humaines brutes ne suffisent pas : l'alignement des observations, le retargeting et la représentation relative à la main de l'objet apportent l'essentiel du gain. Pour les intégrateurs et les équipes qui déploient des mains dextres, la promesse est de réduire le coût de la collecte de données. Aujourd'hui, chaque nouvelle main ou chaque nouvelle tâche impose souvent de la téléopération répétée sur le robot cible. Un corpus humain réutilisable déplace cet effort vers une collecte unique, plus rapide et moins chère. Les résultats vont aussi dans le sens d'une séparation entre ce qui se partage (observation et sémantique du mouvement) et ce qui doit rester spécifique à la machine (actions, normalisation, politique). Il faut toutefois rester prudent. Le titre parle d'un transfert entre mains « calibrées », ce qui suppose une calibration préalable. L'évaluation couvre seulement deux mains et six tâches, avec 20 essais par tâche et par main. Elle vient d'un seul groupe, sans validation externe à ce stade. Enfin, les 80 à 90 % de succès ne disent pas la robustesse en production, par exemple la variabilité des objets, la durée des cycles ou les reprises après échec. Ce travail s'inscrit dans la course aux données pour la manipulation dextre. Les approches concurrentes reposent sur la téléopération avec gants ou exosquelettes, sur des interfaces portables du type UMI, sur l'apprentissage à partir de vidéos humaines ou sur la simulation avec transfert sim-to-real. Les diffusion policies sont devenues la brique standard pour apprendre ces comportements à partir de démonstrations. Human2Dex cherche à unifier la collecte du côté humain tout en gardant un apprentissage par embodiment. Le papier, publié sur arXiv (2610.13119v1) avec un site de projet public, est une prépublication non relue par des pairs. Les prochaines étapes à surveiller sont l'extension à d'autres mains, comme les mains d'humanoïdes, le passage à des tâches à contacts plus riches et la réplication par d'autres laboratoires. Le papier ne mentionne ni partenaire industriel ni calendrier de commercialisation.

RecherchePaper

1 source