Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
UMI-Bridge : alignement latent ancré sur l'action entre données humaines et robotiques de manipulation
RecherchearXiv cs.RO 

UMI-Bridge : alignement latent ancré sur l'action entre données humaines et robotiques de manipulation

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche publie sur arXiv (2609.18232, septembre 2026) UMI-Bridge, une méthode pour aligner les représentations apprises à partir de données de manipulation humaine, notamment des vidéos égocentriques et des démonstrations captées avec l'interface UMI (Universal Manipulation Interface, un dispositif de préhension portatif), avec celles issues de véritables robots. Le système utilise UMI comme domaine intermédiaire pour faire correspondre les représentations selon l'équivalence du mouvement d'action plutôt que la simple similarité visuelle, en s'appuyant sur la supervision d'action de UMI pour ancrer la représentation latente au mouvement de l'effecteur terminal et au comportement de la pince. Un modèle d'action latente à double vue (LAM) est d'abord entraîné sur des données humaines sans aucune démonstration robotique, puis son module poignet et son modèle de dynamique sont gelés pour régulariser le post-entraînement d'un modèle vision-langage-action (VLA) sur des données mixtes UMI et robot. Sur trois tâches réelles, UMI-Bridge atteint un taux de réussite moyen de 91,7%, contre 73,3% pour une méthode de co-entraînement naïf utilisant les mêmes données. Sur deux tâches testant l'efficacité en données, la méthode dépasse une base de référence entraînée uniquement sur robot avec l'intégralité des données, tout en n'utilisant que 25% des démonstrations robotiques complétées par des données UMI. Elle atteint aussi 85% et 90% de réussite sur deux tâches apprises uniquement à partir de démonstrations UMI, sans aucune démonstration robotique spécifique à la tâche.

Ce travail s'inscrit dans un enjeu central de l'apprentissage robotique actuel: la rareté et le coût des démonstrations réelles collectées directement sur robot. En démontrant qu'un transfert efficace est possible depuis des données humaines bon marché à collecter vers des politiques robotiques opérationnelles, UMI-Bridge apporte un argument concret en faveur de l'hypothèse selon laquelle l'apprentissage par action plutôt que par apparence visuelle permet de réduire la dépendance aux données robot, un point de friction connu des approches VLA à grande échelle comme Pi-0 ou GR00T N2.

Le papier s'appuie sur UMI, un outil de collecte de démonstrations déjà largement adopté dans la recherche en manipulation robotique pour sa facilité de déploiement sans robot physique. La contribution reste à ce stade un résultat de recherche évalué sur un nombre restreint de tâches réelles, sans indication d'intégration dans un produit commercial ni de calendrier de déploiement industriel annoncé.

Dans nos dossiers

IA physique & VLANVIDIA GR00TManipulation robotiquearXiv cs.RO

À lire aussi

HABIT : jeu de données pour l'entraînement de la manipulation robotique sensible aux comportements humains
1arXiv cs.RO 

HABIT : jeu de données pour l'entraînement de la manipulation robotique sensible aux comportements humains

Des chercheurs publient HABIT (Human-Aware Behavior and Interaction Training), un jeu de données de démonstration pour l'apprentissage de politiques de manipulation robotique en présence humaine, décrit dans un article déposé sur arXiv (identifiant 2606.31682, juin 2026). Le corpus rassemble plus de 10 000 épisodes et 160 heures d'enregistrements couvrant 60 tâches, organisées selon trois rôles d'interaction homme-robot : « Collaborateur », où humain et robot accomplissent une tâche ensemble, « Collègue », où ils opèrent des tâches séparées dans un espace partagé, et « Superviseur », où l'humain dirige le robot par instructions. Contrairement aux jeux de données existants pour les politiques robotiques généralistes, collectés sans présence humaine dans la scène, HABIT introduit explicitement des humains dans les démonstrations. L'enjeu est la capacité des robots à adopter des comportements conscients de la présence humaine, un angle mort des grands corpus qui alimentent aujourd'hui les politiques VLA (vision-langage-action). Les expériences montrent que l'entraînement sur données incluant des humains fait émerger des comportements que les données robot seul ne produisent pas : synchronisation spatio-temporelle dans les tâches de collaboration, cession de passage dans les tâches de coexistence, et ancrage gestuel pour interpréter les instructions du superviseur. Les auteurs indiquent aussi que l'entraînement sur HABIT accélère l'adaptation à de nouvelles tâches d'interaction homme-robot. Pour les intégrateurs qui déploient des robots en usine ou en entrepôt aux côtés d'opérateurs, c'est un signal que la cohabitation sûre et fluide dépend moins du matériel que de la composition des données d'entraînement, un manque que la course aux modèles fondation robotiques a largement laissé de côté. HABIT s'inscrit dans la lignée des grands corpus type Open X-Embodiment ou DROID, qui ont permis l'essor des politiques généralistes telles que Pi-0 ou GR00T N2 mais restent tournés vers des scènes sans humains, un manque que plusieurs équipes académiques cherchent désormais à combler à mesure que les humanoïdes et bras collaboratifs sortent des lignes de démonstration pour entrer dans des ateliers occupés. À ce stade, HABIT reste une publication de recherche accompagnée d'un jeu de données, sans annonce de produit ni de partenariat industriel ; sa portée dépendra de son adoption par d'autres laboratoires pour entraîner et comparer leurs politiques sur des tâches de collaboration homme-robot.

RecherchePaper
1 source
Transfert pré-entraînement tactile transférable centré sur l'humain pour la manipulation robotique dextérique
2arXiv cs.RO 

Transfert pré-entraînement tactile transférable centré sur l'humain pour la manipulation robotique dextérique

Les auteurs de cette étude publient H-Tac, un jeu de données tactile-action à grande échelle constitué de 160 heures de vidéos humaines à la première personne, couvrant plus de 300 tâches et totalisant 135 000 épisodes. À partir de cette base, ils proposent Transferable Tactile Pre-Training (TTP), un système de pré-entraînement fondé sur le sens tactile humain, destiné à transférer des compétences de manipulation fine vers des robots. La méthode s'appuie sur des espaces tactiles et d'action unifiés, maintenus identiques pendant les phases de pré-entraînement et de post-entraînement, afin de préserver les connaissances acquises lors du passage de l'humain au robot. Un module expert dédié prédit l'évolution future du signal tactile, ce qui permet de modéliser explicitement la dynamique de contact et les interactions physiques fines. Les auteurs rapportent des performances supérieures aux approches existantes, en simulation comme sur robots réels, avec une bonne capacité de généralisation. Ce travail cible un verrou connu du secteur robotique: le toucher reste la modalité la moins exploitée dans les modèles Vision-Language-Action, alors qu'il est indispensable pour les tâches riches en contact où la vision seule ne suffit pas à estimer une force appliquée. Les jeux de données tactiles existants restent petits et couvrent peu de types de contacts, ce qui limite le plafond de performance des modèles VLA tactiles, dont le post-entraînement reste largement indifférent à la dynamique physique. En s'appuyant sur des vidéos humaines plutôt que sur de la téléopération robotique coûteuse à collecter, H-Tac vise à lever ce goulot d'étranglement de données, une stratégie déjà explorée pour le pré-entraînement d'actions mais rarement appliquée au tactile à cette échelle. Si les résultats se confirment sur d'autres plateformes, cela pourrait rapprocher les robots manipulateurs dextres de tâches fines comme l'insertion de précision ou la manipulation d'objets déformables, au-delà des démonstrations scénarisées. L'article s'inscrit dans la lignée des modèles VLA récents (Pi-0, GR00T N2, Helix) qui combinent perception visuelle et langage mais négligent généralement le retour tactile faute de données adaptées. Publié sur arXiv (2607.01067v1) début juillet 2026, ce travail reste au stade de la recherche académique: aucun partenariat industriel ni déploiement commercial n'est mentionné, et les auteurs présentent TTP comme une preuve de concept ouvrant la voie à un pré-entraînement tactile transférable et passant à l'échelle, plutôt que comme un produit prêt à l'emploi.

RecherchePaper
1 source
RARA : affinement robuste de politiques par alignement des représentations ancré sur la récupération, pour la manipulation robotique
3arXiv cs.RO 

RARA : affinement robuste de politiques par alignement des représentations ancré sur la récupération, pour la manipulation robotique

Des chercheurs proposent RARA (Retrieval-Anchored Representation Alignment), une méthode d'adaptation en deux étapes pour les politiques robotiques pré-entraînées, notamment les modèles VLA (Vision-Language-Action), publiée sur arXiv (2610.13578). Dans un premier temps, RARA récupère dans les données de pré-entraînement des démonstrations dont l'intention de tâche et le mouvement sont proches de la tâche cible. Il aligne ensuite les représentations internes de la politique sur les démonstrations cibles avec les représentations pré-entraînées des démonstrations récupérées. Dans un second temps, la politique est affinée sur les démonstrations cibles, tandis qu'une contrainte limite la variation de ses représentations des démonstrations récupérées. Les tests portent sur Diffusion Policy et GR00T, sur 13 tâches réparties entre les benchmarks de simulation RoboTwin et RoboCasa et un robot réel. Les auteurs annoncent un gain moyen de 9,5 points de taux de succès en distribution et de 13,6 points hors distribution par rapport à un fine-tuning classique, ainsi qu'une supériorité sur toutes les méthodes de référence comparées. Le problème visé est central pour quiconque veut déployer des modèles généralistes en production. Adapter un VLA à une nouvelle tâche avec quelques démonstrations suffit souvent à obtenir de bons résultats dans les conditions d'entraînement, mais ce fine-tuning direct déforme les représentations acquises lors du pré-entraînement. Le modèle perd alors une part de sa robustesse face à un changement d'éclairage, d'objet ou de configuration de scène. Pour un intégrateur, cet écart entre performance en laboratoire et fiabilité sur site constitue l'un des principaux freins au passage à l'échelle. Le gain hors distribution, plus marqué que le gain en distribution, va dans le sens de l'hypothèse selon laquelle la dérive des représentations est une cause réelle de fragilité, et pas seulement un détail de réglage. Il faut toutefois rester prudent. Il s'agit d'un preprint non évalué par les pairs, et les chiffres sont des moyennes sur seulement 13 tâches. Le détail du protocole de test en conditions réelles, la taille de l'échantillon et la variance des résultats ne sont pas précisés dans le résumé. Les coûts de l'étape de récupération, notamment l'accès aux données de pré-entraînement, ne sont pas non plus chiffrés. La méthode s'inscrit dans un courant plus large qui cherche à préserver les connaissances du pré-entraînement lors de l'adaptation, par analogie avec les travaux sur l'oubli catastrophique en modèles de langage et en vision. Le choix de GR00T, la famille de modèles fondation de NVIDIA pour l'humanoïde, et de Diffusion Policy, une référence académique pour l'imitation, montre que l'approche se veut indépendante de l'architecture. Elle reste à confirmer sur d'autres VLA, comme Pi-0 ou Helix, et sur des tâches plus longues et plus variées. Une limite pratique apparaît d'emblée: la méthode suppose de disposer des données de pré-entraînement, ce qui n'est pas toujours le cas pour les modèles ouverts dont seuls les poids sont publiés. Les auteurs mettent une page projet à disposition, ce qui devrait permettre aux équipes industrielles d'évaluer rapidement la reproductibilité.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
FineART : jeu de données de trajectoires robotiques annotées finement et modèle vision-langage-action (VLA) pour la manipulation bimanuelle
4arXiv cs.RO 

FineART : jeu de données de trajectoires robotiques annotées finement et modèle vision-langage-action (VLA) pour la manipulation bimanuelle

FineART est un jeu de données de manipulation bimanuelle annotée finement, présenté sur arXiv (2609.36416v1) avec un modèle associé, FineART-VLA. Le corpus compte 40 543 épisodes, soit 1 718 heures de démonstrations, couvrant 151 tâches et 533 913 sous-tâches annotées individuellement. FineART-VLA est une politique vision-langage-action (VLA) qui prédit elle-même sa prochaine sous-tâche avant d'agir. Selon les auteurs, ce pré-entraînement intermédiaire (mid-training) fait passer le taux de réussite d'une tâche de désambiguïsation spatiale de 32,0 % à 100,0 %. Avec un guidage humain sous-tâche par sous-tâche, une tâche longue jamais vue passe de 16,0 % à 76,0 %. Après un fine-tuning minimal sur un nouveau robot, la politique demande dix fois moins de données que des références sans mid-training et généralise en zéro-shot à des tâches inédites sur ce matériel. Le jeu de données, les poids du modèle et le code d'entraînement sont publiés en open source. L'enjeu tient à la granularité des annotations plus qu'au volume. Les grands corpus mono-bras atteignent des centaines de milliers de trajectoires, mais n'associent en général qu'une instruction de haut niveau à chaque épisode. Les rares efforts bimanuels qui annotent des sous-tâches n'en couvrent qu'une fraction des heures. Or les tâches d'assemblage, de logistique ou de préparation, qui intéressent intégrateurs et industriels, sont longues, à plusieurs étapes et exigent la coordination de deux bras. Si les résultats se confirment, l'apprentissage d'un raisonnement explicite sur les sous-tâches améliore la robustesse sur les longs horizons, point faible connu des VLA. Le gain d'un facteur dix en efficacité de données lors du transfert vers un nouveau robot compte aussi pour un intégrateur : il réduit le coût de collecte de démonstrations par site ou par plateforme. Il faut toutefois rester prudent. Les chiffres viennent d'un préprint non évalué par des pairs, les 100 % portent sur une seule tâche, et les tests d'inédit reposent sur des protocoles propres aux auteurs. La part du succès due au guidage humain, sur la tâche à 76 %, est significative. Ce travail s'inscrit dans la lignée des grands jeux de données de démonstrations et des politiques généralistes de type Pi-0 ou GR00T, qui ont surtout misé sur l'échelle et les instructions globales. La tendance actuelle va vers des architectures hiérarchiques, comme Helix chez Figure, où un niveau planifie et un autre exécute. FineART propose ici un équivalent ouvert, entraînable et reproductible, ce qui le distingue des systèmes propriétaires. La suite dépendra de la reprise du jeu de données par d'autres laboratoires, de validations sur davantage de plateformes et de tâches industrielles réelles, et d'une évaluation indépendante des résultats en zéro-shot.

RechercheActu
1 source