Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Apprendre à planifier en collaboration homme-robot : apprentissage par renforcement multimodal pour une interaction adaptative
RecherchearXiv cs.RO 

Apprendre à planifier en collaboration homme-robot : apprentissage par renforcement multimodal pour une interaction adaptative

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent une nouvelle méthode d'apprentissage par renforcement (RL) pour piloter automatiquement les décisions d'un robot assistant lors de tâches collaboratives avec un humain, selon un article publié sur arXiv (identifiant 2609.25274v1). Le scénario étudié est concret : un robot aide un utilisateur à localiser des objets dans un environnement domestique, en combinant plusieurs canaux de communication (langage et actions physiques) pour choisir la meilleure action à chaque étape. Contrairement aux systèmes de dialogue classiques, l'agent est entraîné dans un simulateur construit à partir de données humaines réelles et capable de gérer plusieurs modalités simultanément. Les auteurs utilisent une fonction de récompense simple, définie à un haut niveau d'abstraction et ne nécessitant pas de réglage fin, associée à des préconditions qui accélèrent l'entraînement. Une étude impliquant des utilisateurs réels a permis d'évaluer le système en conditions concrètes, avec des résultats jugés prometteurs en termes d'utilisabilité et de taux de réussite des tâches.

L'enjeu principal concerne la conception des gestionnaires d'interaction (interaction managers), le composant central chargé d'observer une tâche, d'évaluer l'état de l'humain et son intention, puis de décider de l'action du robot. Aujourd'hui, ces politiques sont le plus souvent écrites à la main, une approche qui devient impraticable à mesure que la complexité des interactions augmente, notamment pour les robots destinés aux personnes âgées ou en situation de handicap, un domaine où les données d'entraînement restent rares. En démontrant qu'un RL multimodal entraîné sur simulateur peut produire une politique fonctionnelle et interprétable sans passer par un long travail d'ingénierie manuelle, ce travail apporte un argument en faveur de l'automatisation de la conception des interactions humain-robot, un enjeu direct pour les intégrateurs et laboratoires travaillant sur l'assistance à domicile.

Cette contribution s'inscrit dans la recherche académique sur la robotique d'assistance, où la rareté des données et la difficulté à généraliser des politiques codées manuellement sont des obstacles connus depuis plusieurs années. L'article ne mentionne aucun partenaire industriel, produit commercialisé ni calendrier de déploiement : il s'agit d'un travail de recherche évalué via une étude utilisateur en conditions réelles, présenté comme une alternative scalable aux méthodes existantes plutôt que comme un système prêt à l'emploi.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Vers des stratégies d'interaction adaptatives pour robots compagnons via l'apprentissage par renforcement profond
1arXiv cs.RO 

Vers des stratégies d'interaction adaptatives pour robots compagnons via l'apprentissage par renforcement profond

Une équipe de recherche a publié en septembre 2026 sur arXiv (référence 2609.25031) une nouvelle méthode de suivi humain-robot fondée sur l'apprentissage par renforcement profond (DRL), qui rompt avec les approches classiques imposant une position fixe au robot par rapport à la personne accompagnée, derrière, devant ou à ses côtés. Le système modélise un "espace d'interaction" liant humain, robot et environnement, utilisé comme espace d'état pour l'agent DRL, et s'appuie sur un contrôleur combinant Model Predictive Path Integral (MPPI) et Control Barrier Functions (CBF) pour suivre précisément la position et l'orientation de la cible tout en évitant les obstacles. Testé en conditions réelles, en intérieur comme en extérieur, et comparé à des méthodes existantes, le robot accompagne une personne marchant jusqu'à 1,7 m/s en ajustant dynamiquement sa stratégie de positionnement, avec un taux de réussite amélioré d'au moins 24% et une précision de suivi améliorée d'au moins 47%, tout en respectant l'espace intime de la personne pour garantir sécurité et confort. L'intérêt dépasse la démonstration technique: la plupart des robots d'accompagnement actuels, en logistique, en assistance ou en robotique de service, reposent sur des règles de positionnement figées, peu robustes face aux changements de vitesse, aux couloirs étroits ou à la densité de foule. Un positionnement adaptatif piloté par apprentissage, capable de basculer entre suivi latéral, frontal ou arrière selon le contexte, répond à une limite connue de la navigation sociale robotique, le compromis entre sécurité, fluidité de déplacement et acceptabilité sociale. Pour les intégrateurs travaillant sur des robots mobiles autonomes (AMR) destinés à l'accompagnement de personnes en environnement industriel ou de santé, cette approche laisse entrevoir des systèmes moins rigides et potentiellement plus sûrs en cohabitation avec des humains. Le travail s'inscrit dans un courant de recherche en interaction humain-robot (HRI) qui cherche à dépasser les schémas de suivi rigides documentés dans la littérature existante, et les auteurs comparent directement leurs résultats à ceux d'études antérieures. Comme souvent pour ce type de publication académique, les métriques de réussite et de confort restent définies et mesurées par les auteurs eux-mêmes sur un nombre limité de scénarios, ce qui appelle une validation indépendante avant toute généralisation. Aucune affiliation industrielle ni calendrier de transfert commercial n'est mentionné: il s'agit à ce stade d'une contribution de recherche, sans pilote ni déploiement annoncé, dont la suite logique serait une extension à des scénarios multi-personnes et une validation sur d'autres plateformes robotiques.

RecherchePaper
1 source
CIDER : distillation interactive continue pour l'apprentissage par renforcement incarné
2arXiv cs.RO 

CIDER : distillation interactive continue pour l'apprentissage par renforcement incarné

Des chercheurs en robotique ont publié en août 2026 sur arXiv (référence 2608.21899v1) un article décrivant CIDER (Continual Interactive Distillation for Embodied Reinforcement Learning), un cadre d'apprentissage par renforcement continu pour bras manipulateurs. Le système part d'un constat pratique : l'apprentissage par renforcement interactif en boucle humaine sur robot réel permet déjà d'acquérir une politique de manipulation efficace pour une tâche donnée en quelques dizaines de minutes, mais aucune méthode existante ne parvenait à enchaîner plusieurs tâches sans oubli catastrophique des compétences précédentes. CIDER gèle la politique historique cumulée pour en faire un modèle "professeur" avant chaque nouvel apprentissage, puis alterne apprentissage de la nouvelle tâche et distillation de rétention, avec un mécanisme de séparation des gradients ("gradient routing") qui distingue ceux dédiés à l'acquisition de la nouvelle tâche de ceux dédiés à la préservation des comportements acquis. L'équipe a testé un unique acteur partagé sur six tâches de manipulation réelles, domestiques et industrielles, chaque nouvelle tâche étant apprise en 10 à 20 minutes tout en conservant un taux de succès mesuré élevé sur les tâches précédentes, alors que toutes les méthodes de référence comparées oublient au moins une compétence en cours de séquence. Ce résultat compte dans un secteur où l'apprentissage continu reste l'un des principaux verrous pour des robots véritablement polyvalents. La plupart des politiques de manipulation actuelles, qu'elles reposent sur des modèles vision-langage-action comme Pi-0, GR00T N2 ou Helix, sont entraînées hors ligne sur de larges jeux de données agrégés plutôt que mises à jour en continu sur le terrain ; ajouter une tâche implique généralement un nouveau cycle d'entraînement et une revalidation complète des compétences existantes. En montrant qu'un seul acteur peut apprendre séquentiellement six tâches réelles sans réentraînement complet ni dégradation mesurée des tâches antérieures, CIDER ouvre une piste pour des intégrateurs qui voudraient faire évoluer un robot déployé en usine ou en environnement domestique en lui ajoutant des tâches au fil de l'eau, sans immobiliser la ligne pour une campagne de réentraînement globale. Il s'agit néanmoins d'un résultat de recherche obtenu en laboratoire sur six tâches et un seul bras robotique, pas d'un produit commercialisé ni d'un déploiement en flotte. CIDER s'inscrit dans la lignée des travaux récents sur l'apprentissage par renforcement interactif en boucle humaine, qui ont déjà montré qu'un robot pouvait acquérir une tâche de manipulation en quelques dizaines de minutes avec une supervision humaine ponctuelle ; la contribution ici est d'étendre ce paradigme à l'apprentissage continu, un problème jusque-là traité surtout via l'apprentissage par imitation à grande échelle sur des modèles fondation de type VLA plutôt que par du renforcement en ligne. Les auteurs positionnent explicitement leur approche face aux méthodes existantes de renforcement continu en conditions réelles, qui ne contraignent pas le comportement antérieur et souffrent donc d'un oubli sévère. Des études d'ablation accompagnent l'article pour isoler les choix de conception qui gouvernent l'arbitrage entre stabilité, soit la conservation des acquis, et plasticité, soit la capacité à apprendre du nouveau, un compromis classique en apprentissage continu. L'article ne mentionne ni partenariat industriel, ni feuille de route de déploiement au-delà du laboratoire, ni calendrier de suite annoncé.

RecherchePaper
1 source
UniIntervene++ : un agent d'intervention adaptatif pour un apprentissage par renforcement efficace en conditions réelles
3arXiv cs.RO 

UniIntervene++ : un agent d'intervention adaptatif pour un apprentissage par renforcement efficace en conditions réelles

UniIntervene++ est un agent d'intervention adaptatif pour l'apprentissage par renforcement (RL) en ligne sur robot réel, décrit dans un preprint arXiv publié en octobre 2026, avec code sur GitHub. Il décide, pendant l'entraînement, de qui contrôle le robot : la politique RL en cours d'apprentissage, une correction de trajectoire, ou une CodePolicy, c'est-à-dire un comportement structuré par la tâche et écrit sous forme de code. Ces trois comportements sont modélisés comme des « options » dans un processus de décision semi-markovien, dont l'agent apprend les valeurs relatives en ligne. Il sonde aussi régulièrement la politique RL en la laissant s'exécuter sans assistance, pour mesurer sa compétence réelle. Sur cinq tâches de manipulation réelles, le taux de succès moyen atteint 89,67 %, soit au moins 6 points de plus que tous les baselines. L'intervention humaine tombe à 0,77 % des pas, une réduction relative d'au moins 94,6 % face au meilleur baseline. Cela implique que celui-ci en demandait environ 14 % ou plus. L'enjeu est le coût du RL en conditions réelles, aujourd'hui dominé par le temps opérateur. Les stratégies existantes reposent sur des estimations hors ligne ou des règles fixes, qui deviennent inadaptées à mesure que la politique progresse. Passer sous 1 % d'intervention, si cela se confirme, rendrait l'amélioration d'une politique sur site beaucoup moins coûteuse pour un intégrateur. Les résultats viennent toutefois d'une seule équipe, sur cinq tâches que l'abstract ne détaille pas. Les baselines ne sont pas nommés non plus, et rien n'indique la robustesse hors de ces tâches ni le coût d'écriture des CodePolicies, qui demandent une connaissance experte de la tâche. Ce travail prolonge les approches de RL avec humain dans la boucle, où l'opérateur reprend la main pour corriger le robot, dont HIL-SERL est l'exemple le plus connu. Ces méthodes laissent l'opérateur décider seul du moment et de la manière d'intervenir, et leur charge reste élevée. UniIntervene++ remplace cette décision par un agent qui apprend quand intervenir, comment, et quand rendre le contrôle. L'expérience gagnée sous assistance sert aussi à améliorer la politique RL, dont les résultats modifient ensuite les décisions d'intervention. Il s'agit d'une recherche académique : aucun déploiement industriel ni calendrier n'est annoncé. La prochaine étape sera de voir si d'autres laboratoires reproduisent les résultats grâce au code publié, notamment sur des tâches plus longues ou des robots différents.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP
4arXiv cs.RO 

M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP

Des chercheurs publient sur arXiv (article 2609.18669v1, daté du 17 septembre 2026, catégorie "nouveauté") une méthode baptisée M$^3$P-R1, destinée à la planification de mouvement multi-modale (M$^3$P) pour robots devant enchaîner transitions discrètes et dynamiques continues, par exemple un robot bipède qui marche jusqu'à une cible puis utilise ses bras pour saisir un objet. La méthode s'appuie sur l'apprentissage par renforcement pour affiner des grands modèles de langage (LLM) afin qu'ils décomposent une tâche M$^3$P en variables, contraintes et objectifs de programmation en nombres entiers mixtes (Mixed-Integer Programming, MIP). Plutôt que de faire produire directement une réponse au LLM, ce qui expose au risque d'hallucination, M$^3$P-R1 génère du code Python exécutable s'appuyant sur des bibliothèques d'optimisation MIP et des interfaces de contraintes, avec une récompense fondée sur le résultat effectivement retourné par le solveur. L'enjeu est de rendre systématique une étape aujourd'hui largement manuelle et spécifique à chaque domaine: formuler un problème MIP tractable pour des tâches robotiques non convexes, en particulier dans le régime de discrétisation approximative nécessaire à ce type de problème. En couplant génération de code par LLM et vérification par un solveur formel, l'approche vise une garantie de robustesse absente des politiques bout-en-bout de type VLA (vision-langage-action) qui dominent actuellement la communication autour de l'humanoïde. Pour les intégrateurs et équipes de recherche en planification robotique, cela ouvre une piste alternative où le LLM sert d'interface de programmation vers un optimiseur classique plutôt que de policy générative opaque. Le travail s'inscrit dans la lignée des recherches combinant LLM et génération de code comme pont vers des solveurs formels en robotique, en marge des approches d'apprentissage de bout en bout du type Pi-0, GR00T N2 ou Helix. Il s'agit à ce stade d'un article de recherche déposé sur arXiv, sans partenaire industriel, plateforme robotique ni déploiement cités dans le résumé, et donc sans validation par les pairs ni démonstration matérielle rapportées pour l'instant.

RecherchePaper
1 source