RecherchearXiv cs.RO 21 juillet 2026

Vision-Langage vers Exécution Humanoïde : Retargeting Guidé pour l'Éxécution de la Langue des Signes avec Atténuation des Collisions

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Le laboratoire de robotique a publié le 24 juillet 2026 sur arXiv (2607.17769v1) un système reliant la génération de langue des signes (SLG, sign language generation) à l'exécution sur robot humanoïde. Les modèles SLG récents produisent des représentations corporelles 3D denses au format SMPL-X, jugées plus fidèles pour préserver la cinématique et la géométrie du corps entier en vue d'un transfert vers un robot. Le problème identifié : ces mouvements générés présentent fréquemment des auto-intersections, notamment des pénétrations main-main et main-torse. Tolérables en rendu vidéo offline, ces artefacts deviennent bloquants à l'exécution réelle, car ils produisent des solutions de cinématique inverse (IK) infaisables, des collisions et des trajectoires retargetées instables. Les auteurs proposent deux briques : un module volumétrique de mitigation des collisions sur SMPL-X qui reprojette les postures générées vers des configurations physiquement plausibles en s'écartant le moins possible de la trajectoire d'origine, et un algorithme de retargeting guidé par un modèle vision-langage (VLM), construit sur un socle IK, où le VLM agit comme critique visuel sur le mouvement humanoïde rendu, détecte les modes d'échec propres à l'embodiment, et déclenche des corrections ciblées dans l'espace des tâches.

Cette contribution s'attaque à un angle mort concret de la course aux humanoïdes polyvalents : la plupart des démonstrations de génération de mouvement (langue des signes comprise) restent évaluées en rendu visuel, sans jamais passer le test du transfert vers un corps robotique réel avec ses contraintes articulaires et ses risques de collision physique. En pointant explicitement le fossé entre motion generation qui a l'air correcte à l'écran et motion generation exécutable sans collision sur un robot, les auteurs infirment implicitement l'hypothèse selon laquelle un bon modèle génératif SMPL-X suffit à garantir un retargeting robuste. Pour les intégrateurs travaillant sur l'accessibilité ou l'interaction homme-robot (interprétation automatisée en langue des signes par humanoïde), c'est un rappel que la chaîne complète, génération plus collision-checking plus correction perceptuelle en boucle, reste nécessaire avant tout déploiement, et que le retargeting IK seul ne suffit pas à garantir la sécurité et la stabilité des trajectoires.

Le travail s'inscrit dans la lignée des systèmes de génération de langue des signes qui ont basculé ces dernières années vers des sorties 3D corps entier plutôt que des séquences 2D ou des squelettes simplifiés, afin de mieux capturer les nuances gestuelles nécessaires à une communication fidèle. Il rejoint aussi une tendance plus large de la robotique humanoïde consistant à utiliser des modèles vision-langage non pas comme générateurs de commandes bas niveau, mais comme superviseurs ou critiques de mouvements déjà produits, une approche qui recoupe les architectures VLA (vision-language-action) évoquées dans des systèmes comme Helix ou GR00T N2, sans toutefois se positionner comme un concurrent direct de ces plateformes de bout en bout. Le papier reste à ce stade une contribution de recherche publiée en preprint, sans mention de partenaire industriel, de plateforme humanoïde spécifique ni de calendrier de déploiement pilote, ce qui en fait une brique méthodologique plutôt qu'une annonce produit.

Dans nos dossiers

NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Retargeting dynamique direct pour l'apprentissage par imitation des humanoïdes à partir de vidéos

Une nouvelle méthode d'apprentissage par imitation pour robots humanoïdes vient d'être publiée sur arXiv (2605.23762, mai 2026), proposant un cadre à étape unique baptisé Direct Dynamic Retargeting (DDR). L'objectif est d'apprendre des comportements moteurs complexes à partir de simples vidéos monoculaires de démonstration humaine, sans capteurs de mouvement ni combinaisons de capture. Le défi central est morphologique : un humain et un robot humanoïde ne partagent ni les mêmes proportions, ni les mêmes centres de masse, ni les mêmes contraintes articulaires, ce qui rend la transposition directe des trajectoires impossible. Les approches standards, dites Geometric Retargeting ou Indirect Dynamic Retargeting, projettent d'abord le mouvement humain dans un espace cinématique intermédiaire avant de générer les commandes robot, introduisant ce que les auteurs appellent un biais géométrique qui restreint l'espace de solutions et produit des comportements sous-optimaux. DDR supprime cette étape intermédiaire en formulant le problème directement dans l'espace des tâches (task space), couplé à un solveur de contrôle prédictif par modèle (Model Predictive Control, MPC) à base d'échantillonnage, exécuté au sein d'un simulateur physique. Ce couplage permet au système d'optimiser nativement les séquences de contact sol-pied tout en limitant la dérive des entrées, garantissant la faisabilité dynamique des trajectoires générées. Les expériences montrent que DDR surpasse les méthodes de référence en précision de suivi des démonstrations. Plus significatif pour les praticiens : fournir ces références physiquement viables à un agent d'apprentissage par renforcement accélère la convergence de l'entraînement et améliore l'exécution finale de comportements agiles et d'équilibrage dynamique. L'apprentissage par imitation à partir de vidéo est devenu un axe majeur de la robotique humanoïde, porté par des travaux comme Pi-0 de Physical Intelligence ou les pipelines de données de téléopération développés chez Figure AI et Agility Robotics. Ces approches cherchent à exploiter l'immense corpus de vidéos de mouvements humains disponibles en ligne pour réduire le coût prohibitif de la collecte de données sur robot. DDR s'inscrit dans cette tendance mais attaque le problème par la dynamique plutôt que par la géométrie, un pari prometteur qui reste à valider en conditions réelles : aucun résultat physique sur robot n'est présenté dans cet article, uniquement des évaluations en simulation. Le code source sera rendu public, ce qui permettra à la communauté de reproduire et d'étendre ces résultats.

RecherchePaper

1 source

2arXiv cs.RO

WOLF-VLA : framework de locomotion optimale corps entier pour humanoïdes avec apprentissage vision-langage-action

Des chercheurs ont publié le 25 juin 2026 sur arXiv (arXiv:2606.25591) WOLF-VLA, un cadre unifié qui combine la synthèse de trajectoires par contrôle optimal (OC) en corps entier avec un dataset multimodal à grande échelle, dans le but d'entraîner des modèles VLA (Vision-Language-Action) capables de piloter la locomotion d'humanoïdes directement depuis des instructions en langage naturel. Le dataset couvre six familles de tâches de locomotion, paramétrées par des variations d'environnement, de couleurs d'objets, de placements et de distracteurs visuels. L'entrainement utilise des trajectoires articulaires dynamiquement cohérentes, des observations visuelles ego-centriques et des instructions textuelles. Les résultats annoncés font état d'une robustesse notable aux variations de conditions initiales et de performances compétitives sur plusieurs tâches et configurations d'environnement. Le dataset complet, les checkpoints de modèle et la suite de benchmarks en simulation seront publiés en open source. Ce travail comble un angle mort important : si les VLA ont prouvé leur efficacité en manipulation (voir Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA), leur extension à la locomotion en corps entier, contact-riche et dynamiquement contrainte, restait quasi inexploitée. Les trois verrous identifiés par les auteurs sont précis -- pénurie de données, absence de démonstrations dynamiquement consistantes, et difficulté à encoder optimalité et sécurité dans un pipeline d'apprentissage -- ce sont exactement les obstacles qui ont maintenu la locomotion hors du champ VLA. La génération de trajectoires via contrôle optimal comme source de données supervisées est une approche méthodologiquement solide pour contourner la dépendance aux démonstrations humaines ou téléopérées. Ce papier s'inscrit dans un mouvement plus large vers des politiques de locomotion instruction-guidées, concurrent de travaux comme ANYmal (ETH Zurich / ANYbotics), Digit (Agility Robotics) ou les approches reinforcement learning de Boston Dynamics. La release open source du benchmark constitue la contribution potentiellement la plus durable : établir un référentiel reproductible pour la locomotion humanoïde VLA permettrait de structurer les comparaisons dans un domaine où les métriques sont encore disparates. Aucun déploiement physique n'est mentionné dans cet article, qui reste une contribution de recherche en simulation -- le transfert sim-to-real sur des plateformes comme Unitree H1 ou Figure 03 constitue la prochaine étape non résolue.

UELe benchmark open source pourrait servir de référence aux laboratoires européens travaillant sur la locomotion humanoïde (ETH Zurich/ANYbotics notamment), mais aucun acteur français ni institution de l'UE n'est directement impliqué dans cette publication.

RechercheOpinion

1 source

3arXiv cs.RO

Explicit guidage cinématique à partir de concepts analytiques pour les modèles vision-langage-action

Une équipe de recherche publie sur arXiv (référence 2607.26513v1) un nouveau module baptisé Concept Expert, conçu pour les modèles Vision-Language-Action (VLA) utilisés en manipulation robotique. Le constat de départ est simple : la plupart des VLA actuels s'appuient uniquement sur des entrées 2D et ignorent la structure tridimensionnelle réelle des objets, ce qui limite leur précision dans les tâches de manipulation fine. Le Concept Expert construit ce que les auteurs appellent des "concepts analytiques exécutables", des sortes de plans programmatiques explicites décrivant chaque objet. Le mécanisme fonctionne en deux temps : avant l'inférence, il exploite des modèles de fondation visuels (VFM) pour estimer les paramètres cinématiques et structurels initiaux d'un objet ; ensuite, pendant la manipulation, le VLA suit et met à jour dynamiquement ces paramètres pour rester aligné avec ce qu'il observe en temps réel. Ces concepts servent ensuite à guider le fine-tuning du modèle, via des récompenses programmatiques denses et un guidage spatial précis. Les auteurs rapportent des gains constants de taux de succès et d'efficacité d'apprentissage, en apprentissage supervisé comme en renforcement. L'intérêt de cette approche pour l'industrie robotique tient à un problème persistant des modèles VLA à grande échelle : leur difficulté à généraliser des manipulations précises sans passer par une compréhension géométrique explicite des objets manipulés. En intégrant une représentation 3D structurée directement dans le pipeline d'apprentissage, plutôt que de compter uniquement sur des corrélations apprises à partir d'images 2D, cette méthode s'attaque frontalement à l'écart entre démonstrations en laboratoire et robustesse en conditions réelles, un point sensible pour les intégrateurs qui déploient des VLA de type Pi-0, GR00T N2 ou Helix sur des tâches industrielles exigeant une précision fine (préhension, insertion, alignement). Si les gains annoncés se confirment sur des bancs d'essai plus larges, cela pourrait renforcer la crédibilité des approches hybrides combinant fondations visuelles 3D et bout-en-bout, plutôt que le tout-apprentissage pur actuellement dominant chez la plupart des labos. Ce travail s'inscrit dans une tendance de fond de la recherche en VLA post-training, où plusieurs équipes cherchent à injecter des a priori structurels (géométrie, physique, cinématique) dans des modèles historiquement entraînés de façon purement data-driven sur des vidéos ou démonstrations téléopérées. Les grands acteurs du secteur, qu'il s'agisse des laboratoires derrière Pi-0 ou GR00T, explorent des voies similaires pour combler le fossé entre performance en démonstration et fiabilité en déploiement réel. La publication, encore au stade de preprint arXiv, ne précise pas de partenariat industriel ni de calendrier de transfert vers des plateformes commerciales ; elle reste pour l'instant une contribution méthodologique dont l'impact concret dépendra de sa reproduction et de son adoption par des équipes travaillant sur des bras robotiques ou des humanoïdes en conditions réelles.

RecherchePaper

1 source

4arXiv cs.RO

Main d'AnyDexRT : retargeting dextérique sans calibration guidé par peu de démonstrations humaines

Des chercheurs viennent de publier sur arXiv (arXiv:2607.08341, 10 juillet 2026) une nouvelle méthode baptisée AnyDexRT, conçue pour le retargeting cinématique des mains robotiques dextres en téléopération. Le retargeting consiste à traduire les mouvements de la main d'un opérateur humain en mouvements réalisables par une main robotique, une étape cruciale pour la téléopération et pour la collecte de démonstrations utilisées en apprentissage par imitation. Contrairement aux approches existantes, qui reposent souvent sur des objectifs conçus manuellement, un calibrage précis ou un appariement global des formes entre la main humaine et la main robotique, AnyDexRT ne nécessite aucune calibration préalable. La méthode combine un apprentissage auto-supervisé des correspondances entre le bout des doigts humains et robotiques avec un guidage humain en few-shot, c'est-à-dire à partir de très peu d'exemples, pour ancrer la correspondance dans les zones pertinentes pour la tâche. Un classificateur de contact affine ensuite spécifiquement les poses de préhension en pince. Cette approche répond à un problème concret et sous-estimé du secteur : la fragilité des pipelines de téléopération dès qu'on change de main robotique ou d'opérateur, ce qui limite la scalabilité de la collecte de données pour l'apprentissage par imitation, un goulot d'étranglement identifié dans le développement des modèles VLA (vision-langage-action) comme Pi-0 ou GR00T N2. En supprimant la calibration manuelle, AnyDexRT pourrait accélérer la production de démonstrations de qualité pour l'entraînement de politiques robotiques, un enjeu central pour les intégrateurs et laboratoires qui cherchent à faire passer leurs mains dextres de la démonstration en laboratoire à des déploiements plus robustes. Les auteurs rapportent des gains en qualité de retargeting et une réduction du réglage manuel sur des mains dextres variées et des tâches de téléopération réelles, sans toutefois préciser de métriques chiffrées vérifiables dans le résumé. Le travail s'inscrit dans la lignée des recherches sur le retargeting cross-embodiment, un axe actif face à la multiplication des mains robotiques commerciales aux morphologies différentes. Un site de projet accompagne la publication, mais aucun code, benchmark comparatif détaillé ni partenariat industriel n'est mentionné à ce stade : il s'agit d'une contribution académique, pas d'un produit prêt à déployer.

RecherchePaper

1 source