Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Acquisition autonome de compétences de manipulation robotique par diversité-qualité guidée par le langage
RecherchearXiv cs.RO 

Acquisition autonome de compétences de manipulation robotique par diversité-qualité guidée par le langage

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs publient le 30 aout 2026 sur arXiv (2608.30983) une méthode d'apprentissage de manipulation robotique combinant algorithmes de quality-diversity (QD) et grands modèles de langage, a partir d'une simple description de la tache en langage naturel. Le système n'exige plus qu'un expert écrive a la main les fonctions de fitness et de diversité : un LLM explore un espace réduit de fonctionnels pour générer lui-même ces métriques, sans prompt spécifique ni fine-tuning. Les chercheurs adaptent pour cela une variante multi-descripteurs de l'algorithme MAP-Elites, nommée MES. Teste dans le simulateur Genesis sur quatre taches de manipulation, le système produit des archives de primitives de mouvement plus diversifiées que les méthodes QD classiques a paramétrage manuel ou infère.

Pour les intégrateurs et les laboratoires de robotique, l'enjeu est le goulot d'étranglement des bibliothèques de primitives de mouvement, dont la construction exige aujourd'hui qu'un ingénieur code a la main un critère de succès différent pour chaque nouvelle tache. Contrairement aux techniques de reward-shaping par LLM, qui n'apprennent qu'une seule politique performante, cette méthode produit un répertoire entier de comportements varies, ce qui permettrait a un robot de s'adapter zero-shot a des contraintes rencontrées au déploiement, comme un obstacle ou une contrainte d'espace inédite, sans reentrainement. C'est un argument de plus en faveur de l'usage des LLM pour automatiser l'ingénierie de récompense en robotique par apprentissage, au-delà de la simple génération d'une politique rigide et unique.

Les algorithmes de quality-diversity, popularises par MAP-Elites, sont utilises depuis plusieurs années en robotique pour construire des répertoires de comportements plutôt qu'une seule solution optimale, notamment pour la marche adaptative ou la manipulation robuste aux pannes. Leur limite restait la dépendance a des métriques de fitness et de diversité écrites par des experts, un frein a l'autonomie complète du robot, que les approches de reward-shaping par LLM contournaient au prix d'une sortie unique et peu adaptable. Le travail, publie en preprint sur arXiv le 30 aout 2026, n'a été valide qu'en simulation, sur quatre taches de manipulation dans Genesis, sans transfert démontre sur robot physique ni calendrier de déploiement industriel annonce.

Dans nos dossiers

Manipulation robotiquearXiv cs.RO

À lire aussi

DROM : un cadre de diffusion guidé par le langage pour la manipulation robotique multi-compétences
1arXiv cs.RO 

DROM : un cadre de diffusion guidé par le langage pour la manipulation robotique multi-compétences

DROM, un cadre génératif décrit dans un préprint arXiv (v1), vise un problème classique de la manipulation robotique : apprendre à partir de peu de démonstrations des politiques robustes, capables d'enchaîner plusieurs compétences sur des tâches longues. Les auteurs utilisent des Dynamic Movement Primitives (DMP) pour multiplier un petit nombre de démonstrations expertes en jeux de données multi-compétences. Ils affirment que cela réduit la collecte de données et étend la généralisation spatiale au-delà de la zone démontrée. Le modèle prolonge Motion Planning Diffusion (MPD) avec une attention croisée conditionnée par le langage. Un seul réseau génère alors des trajectoires cohérentes pour plusieurs primitives, y compris des comportements sensibles à l'orientation, difficiles à programmer avec un planificateur classique ou un contrôleur codé en dur. Pour les tâches longues, un grand modèle de langage (LLM) découpe la demande d'un opérateur en séquence de compétences exécutables. La validation a eu lieu sur un Franka Emika Panda, un FANUC CRX25ia et en simulation MuJoCo. Selon les auteurs, DROM dépasse les références MPD et Behavior Cloning. Le résumé ne donne aucun chiffre : ni taux de réussite, ni nombre de démonstrations, ni nombre de compétences, ni temps de cycle. Les jeux de données, les environnements de simulation et le code sont publiés sur GitHub. L'intérêt tient d'abord à la combinaison de trois briques déjà connues, DMP, diffusion et LLM, dans une architecture unique et exploitable en atelier. Pour un intégrateur, la promesse est de réduire le coût de programmation et de téléopération à chaque nouvelle variante de tâche. Un opérateur pourrait piloter une cellule en langage naturel, sans écrire de trajectoires. La présence d'un FANUC CRX25ia, cobot industriel de 25 kg de charge, est un signal plus pertinent que le seul Panda, plateforme de laboratoire. Elle indique une volonté de transfert vers du matériel de production. Il faut toutefois rester prudent. Sans métriques publiées, sans précision sur le sim-to-real, sur la robustesse face aux perturbations ni sur la latence d'inférence de la diffusion, le gain sur les références reste invérifiable à ce stade. L'écart entre une démonstration de laboratoire et une cadence industrielle n'est pas comblé. Ce travail s'inscrit dans une course où dominent les modèles vision-langage-action (VLA) entraînés sur de grands volumes de données, comme Pi-0, GR00T ou Helix. DROM prend le parti inverse : un pipeline modulaire et frugal en données, où le LLM planifie et la diffusion exécute, avec des trajectoires plus interprétables. Ce compromis intéressera les cellules à faible volume et à forte variété. La suite dépendra de la reproduction par des tiers, grâce au dépôt ouvert, et d'essais sur des tâches réelles plus contraintes que celles d'un banc de test académique. Aucun pilote industriel ni calendrier n'est annoncé.

RecherchePaper
1 source
CompCPZ : préserver l'intention multimodale dans la manipulation robotique guidée par le langage
2arXiv cs.RO 

CompCPZ : préserver l'intention multimodale dans la manipulation robotique guidée par le langage

Une équipe de recherche publie CompCPZ (arXiv:2608.17717v1, août 2026), qui corrige un défaut structurel des robots pilotés par instructions en langage naturel. Le problème identifié : un robot à qui l'on demande de "poser la tasse près de l'assiette rouge ou de l'assiette bleue" peut se diriger vers le point médian entre les deux, un geste géométriquement plausible qui ne satisfait en réalité aucune des deux options demandées. Cette erreur silencieuse vient du fait que les représentations utilisées par les politiques conditionnées par le langage fusionnent les instructions disjonctives ("ou") en un seul ensemble connexe, effaçant les modes d'action distincts. CompCPZ est une couche algébrique "sound" greffée sur des systèmes d'apprentissage existants : elle recompose, le long de l'arbre syntaxique de la phrase, des enveloppes de type "constrained polynomial zonotope" par primitive d'action, avec une couverture conforme sans hypothèse de distribution et un temps de calcul infra-milliseconde. Sur un banc de manipulation de table en boucle fermée sous ManiSkill3, elle bat des références à ensembles convexes, des décodeurs multi-pics et un modèle vision-langage-action zero-shot, avec 1 900 victoires sur 1 918 comparaisons appariées (p << 10^-30), et transfère sans réglage supplémentaire à des essais réels planaires sur un quadrupède Unitree Go2 suivi par capture de mouvement. Ce résultat intéresse directement les équipes qui déploient des modèles vision-langage-action en usine ou en entrepôt : il met en évidence un mode d'échec discret, invisible aux métriques de réussite géométrique classiques, qui peut laisser croire à tort qu'une consigne ambiguë a été correctement exécutée. Pour les intégrateurs et décideurs robotique, cela déplace le critère de fiabilité : un système de compréhension du langage ne doit plus être jugé seulement sur l'atteinte d'une cible décodée, mais sur la préservation de la structure logique complète de l'intention exprimée, un enjeu concret face aux consignes disjonctives courantes en entrepôt ou en usine ("prends la pièce A ou B"). Le travail souligne aussi un écart entre les démonstrations réussies des VLA et leur robustesse réelle face à l'ambiguïté linguistique. Cette recherche s'inscrit dans la lignée des travaux sur l'ancrage compositionnel du langage et répond à une limite connue des politiques VLA de bout en bout, généralement évaluées sur des benchmarks qui ne testent pas l'ambiguïté. En se comparant explicitement à des décodeurs multi-modaux existants et à un VLA zero-shot, l'équipe positionne CompCPZ comme une couche de sécurité formelle à ajouter par-dessus des modèles existants plutôt que comme un nouveau modèle concurrent. Le transfert réussi vers un robot réel, même limité à un cas planaire sur quadrupède, ouvre une piste au-delà des seuls bras manipulateurs, mais la validation reste pour l'instant circonscrite à des essais de laboratoire sous capture de mouvement, loin d'un déploiement industriel à grande échelle.

RecherchePaper
1 source
LaGEA : des agents incarnés guidés par le langage pour la manipulation robotique
3arXiv cs.RO 

LaGEA : des agents incarnés guidés par le langage pour la manipulation robotique

Des chercheurs présentent LaGEA (Language Guided Embodied Agents), une architecture combinant un modèle vision-langage (VLM) et l'apprentissage par renforcement (RL) pour la manipulation robotique, décrite dans une version mise a jour (v3) d'un article arXiv (2509.23155). Apres chaque tentative, le système résume l'épisode en langage naturel, localise les instants décisifs de la trajectoire, aligne ce retour avec l'état visuel dans une représentation partagée, puis transforme la progression vers l'objectif en récompenses bornées appliquées pas a pas. Un coefficient adaptatif, sensible aux échecs, rend ce signal dense en début d'exploration puis l'atténué avec la montée en compétence de l'agent. Sur les bancs d'essai simules Meta-World MT10 (dix taches de manipulation) et Robotic Fetch, LaGEA améliore le taux de réussite moyen de 9,0% sur des objectifs aléatoires, 5,3% sur des objectifs fixes et 17% sur les taches Fetch par rapport aux méthodes de référence, avec une convergence plus rapide. Le travail s'attaque a un problème classique du RL, la conception manuelle des fonctions de récompense, souvent couteuse et peu généralisable a de nouvelles taches. En montrant qu'un retour en langage naturel, structure et ancre temporellement, peut remplacer une partie de cette ingénierie, LaGEA nuance le narratif dominant autour des modèles vision-langage-action (VLA) de type Pi-0, GR00T N2 ou Helix, conçus pour piloter directement une politique de bout en bout : ici, le langage sert de superviseur d'apprentissage plutôt que de commande directe. Les gains rapportes restent obtenus en simulation, non sur du matériel réel, et demandent une confirmation sur des taches de manipulation physique. LaGEA prolonge les travaux exploitant les grands modèles vision-langage comme source de récompense ou de critique pour le RL, un axe de recherche actif depuis l'essor des modèles de fondation capables de décrire des objectifs et d'évaluer des trajectoires. Meta-World MT10 et Robotic Fetch sont des bancs d'essai standards de la communauté robotique, ce qui permet une comparaison directe avec l'état de l'art. S'agissant d'une version corrigée d'un article déjà publie, la contribution reste académique : aucun partenaire industriel, date de déploiement ou intégration produit n'est annonce a ce stade, la prochaine étape logique étant une validation sim-to-real sur robot physique.

RecherchePaper
1 source
Recova : récupération sur échec guidée par des agents pour la manipulation robotique autonome
4arXiv cs.RO 

Recova : récupération sur échec guidée par des agents pour la manipulation robotique autonome

Des chercheurs présentent sur arXiv Recova, un cadre logiciel piloté par un agent qui traite les échecs de manipulation robotique, ces situations où la scène se retrouve dans un état dont la politique de tâche ne peut plus sortir. Le système développe conjointement l'exécution de la tâche et la récupération dans un jumeau numérique reconstruit de la scène. L'agent y diagnostique les pannes, teste des programmes correctifs et collecte des trajectoires réussies, pour la tâche comme pour la récupération, destinées à entraîner deux politiques distinctes. En déploiement, il surveille la progression, déclenche une récupération apprise ou programmée, vérifie que la scène est restaurée, puis reprend la tâche. Si aucune récupération adaptée n'existe, une démonstration humaine règle le cas et alimente la boucle d'apprentissage. Les essais réels et les démonstrations sont routés vers la politique concernée pour un entraînement DAgger. Sur six configurations LIBERO-Pro et quatre catégories MolmoSpaces, Recova atteint 78,8 % et 64,9 % de succès moyen, contre 71,7 % et 38,0 % pour les meilleures méthodes de référence. Sur quatre postes robotisés réels collectant en parallèle, le fine-tuning DAgger fait passer le succès moyen de 23,8 % à 77,5 %, et les compétences de récupération le portent à 87,5 %. Sur une tâche donnée, l'intervention humaine observée tombe de 87,5 % à 0 % en quatre cycles de collecte. L'enjeu dépasse la robustesse brute. La plupart des politiques VLA et des pipelines d'imitation sont évalués sur des trajectoires nominales, alors que le coût opérationnel d'un robot en production tient largement à ce qui se passe après l'échec : objet tombé, scène désordonnée, nécessité d'un opérateur. Recova propose de transformer chaque panne en capacité réutilisable et de réduire progressivement la supervision humaine, ce qui répond directement à la question du coût de téléopération et d'assistance à distance pour les intégrateurs et les exploitants. Le résultat le plus parlant est l'écart sur MolmoSpaces (64,9 % contre 38,0 %), plus marqué que sur LIBERO-Pro. Des réserves s'imposent toutefois : l'évaluation réelle repose sur peu de postes et de tâches, la baisse de l'intervention à 0 % ne concerne qu'une seule tâche, et rien n'est dit sur les temps de cycle, les coûts de reconstruction du jumeau numérique ou la généralisation à des scènes très différentes. Il s'agit d'un travail de recherche, sans produit livré ni déploiement industriel. Le travail s'inscrit dans la convergence entre agents LLM de planification, jumeaux numériques pour la génération de données et apprentissage par correction de type DAgger, une voie explorée pour limiter la dépendance à la collecte massive de démonstrations. Il se positionne face aux approches de fine-tuning de VLA et de simulation à grande échelle que poursuivent des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix), qui misent surtout sur davantage de données plutôt que sur une récupération explicite des échecs. LIBERO-Pro et MolmoSpaces servent ici de bancs d'essai standardisés. La suite logique serait de valider l'approche sur davantage de tâches, de postes et de durées d'exploitation, et de mesurer ses gains en conditions de production, ce que la page projet de l'équipe, liuisabella.com/Recova, ne détaille pas à ce stade.

RecherchePaper
1 source