RecherchearXiv cs.RO 22 septembre 2026

Touch2Robot : le toucher robotique intégré à la boucle de démonstration humaine

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Touch2Robot, un framework de collecte de démonstrations pour la manipulation robotique dextre, est présenté dans un preprint publié sur arXiv (arXiv:2609.24660v1, soumission nouvelle). Le système capture simultanément le mouvement de la main humaine, les mesures d'un gant tactile et le déplacement de l'objet manipulé, puis entraîne des politiques de renforcement spécifiques à chaque objet pour reproduire ce mouvement en privilégiant des contacts cohérents avec le toucher humain enregistré. Ces comportements sont distillés dans un retargeter temps réel unique qui convertit observations humaines et géométrie de l'objet en configurations pour la main du robot cible, dont le contact simulé est affiché au démonstrateur pendant la collecte. Sur quatre tâches réelles, le taux de réussite du rejeu sur robot passe de 37,9% avec un simple retour visuel à 72,1% avec Touch2Robot, tandis que le temps de collecte par démonstration réussie chute de 58,6 à 18,2 secondes. Les contacts reconstruits atteignent un score F1 de 44,2% face aux mesures tactiles réelles du robot, et des politiques de type Diffusion Policy entraînées sur ces données gagnent 29,1 points de pourcentage par rapport à l'approche purement visuelle.

Ce travail s'attaque à un goulot d'étranglement connu de l'apprentissage par démonstration dextre: les données humaines sont faciles à collecter en volume mais leurs contacts ne se transposent pas toujours à une main robotique aux cinématiques différentes, alors que la téléopération directe sur le robot cible garantit un contact réaliste mais coûte cher en temps d'ingénieur et en usure matérielle. Touch2Robot propose une voie intermédiaire susceptible d'intéresser les équipes qui construisent des jeux de données pour des politiques vision-langage-action à grande échelle, en réduisant le coût par démonstration exploitable sans immobiliser en permanence le robot physique. Les chiffres restent toutefois ceux d'un cadre limité à quatre tâches et à un score de contact modeste (44,2% F1), ce qui invite à la prudence: il s'agit d'un résultat de recherche en preprint, non revu par les pairs, pas d'un produit ni d'un déploiement commercial.

La démarche prolonge les méthodes de collecte par gants tactiles et capture de mouvement, alternative moins coûteuse que la téléopération robot mais qui bute historiquement sur l'écart d'incarnation entre main humaine et main robotique articulée. En rendant visible au démonstrateur, pendant l'enregistrement, le contact que la main cible établirait réellement avec l'objet, Touch2Robot cherche à combler cet écart sans sacrifier la scalabilité des démonstrations humaines. Le code et les ressources du projet sont annoncés sur la page Touch2Robot.github.io, sans partenariat industriel ni calendrier de production mentionnés à ce stade; les auteurs présentent leurs résultats comme une preuve que l'intégration du retour tactile robot dans la boucle de démonstration humaine améliore qualité et efficacité de la collecte, au-delà des seuls essais en laboratoire.

Dans nos dossiers

IA physique & VLA Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Générer des mains robotiques à partir de démonstrations humaines

Des chercheurs ont publié un framework de co-conception de mains robotiques guidé par les données (arXiv:2506.20549, juin 2025). Le problème visé est le co-design corps/contrôleur: optimiser simultanément la morphologie d'un effecteur et son contrôleur crée un espace combinatoire difficilement tractable. La solution exploite plus de 4 millions de frames de mouvements de bouts de doigts humains issus de manipulations quotidiennes pour optimiser des mains à structure arborescente, en utilisant une politique de contrôle minimale commune à la phase de recherche et à la phase opérationnelle: le suivi de position des fingertips par cinématique inverse (IK). Deux catégories de designs ont été produites: une main à 6 degrés de liberté (DoF) à usage général, et des mains spécialisées à 3 DoF équipées de joints "mimic" à quadrilatère articulé (four-bar spatial). Un acteur entraîné par apprentissage par renforcement (RL) accélère la recherche morphologique, réduisant le temps de calcul de plusieurs heures à quelques minutes; les structures finales sont fabriquées en impression 3D print-in-place, en une seule pièce articulée sans assemblage. En expériences réelles, la main 6-DoF dépasse des mains robotiques commerciales non identifiées sur la précision de suivi télé-opéré, tandis que les mains 3-DoF reproduisent des trajectoires structurées avec une complexité mécanique réduite. L'apport principal est la résolution d'un verrou de fond en co-design: en imposant la même politique IK simple pendant l'optimisation et après fabrication, les auteurs découplent la recherche morphologique de l'apprentissage d'un contrôleur complexe, rendant l'exploration de l'espace de design tractable à grande échelle. Ce résultat soutient une hypothèse émergente: des données massives de mouvement humain non conçues pour la robotique peuvent informer l'optimisation de l'embodiment physique d'un robot, et pas seulement son contrôleur. La comparaison avec des mains commerciales reste difficile à évaluer, le preprint ne précisant ni les références comparées ni les conditions d'évaluation; prudence sur ce point en l'absence de benchmark standardisé. Ce travail prolonge une tendance croissante qui vise à utiliser des données humaines non seulement pour entraîner des politiques robotiques (VLA, imitation learning), mais pour co-générer le hardware lui-même. Les approches concurrentes en evolutionary robotics et en simulation différentiable existent depuis des années mais restent coûteuses en calcul ou peu généralisables; l'originalité de cette contribution réside dans la décorrélation design/contrôle et dans l'usage du RL comme heuristique de recherche morphologique efficace. À ce stade, il s'agit d'un preprint non encore peer-reviewed, sans déploiement industriel ni partenaire commercial annoncé; les suites naturelles seraient une validation sur un spectre plus large de tâches de manipulation et une comparaison rigoureuse avec des benchmarks établis. Aucun acteur européen n'est impliqué dans ces travaux.

RecherchePaper

1 source

2arXiv cs.RO

Modélisation unifiée vision-toucher-action à partir de démonstrations humaines pour la manipulation dextérique

Des chercheurs proposent UVTA, un cadre qui exploite des démonstrations humaines enregistrées avec retour tactile pour améliorer les politiques de manipulation dextre des robots. L'équipe a d'abord construit un système de capture de mouvement tactile, qui enregistre de façon synchrone les images, les signaux tactiles et les mouvements de la main. Avec cet outil, elle a constitué le jeu de données UVTA, qui couvre cinq tâches riches en contacts. Il comprend 1 000 démonstrations humaines et 150 démonstrations robot par tâche. Le modèle associé, un Unified Visual-Tactile-Action Model, projette l'humain et le robot dans des représentations tactiles et d'action alignées. Il prédit conjointement les trajectoires futures d'action et de toucher. Les démonstrations humaines supervisent ainsi l'apprentissage de représentations sensibles au contact, et seules les actions du robot sont exécutées au déploiement. Lors d'évaluations sur robot réel, sur les cinq tâches, la méthode atteint 70 % de réussite moyenne. La meilleure base de comparaison visuo-tactile plafonne à 29 %, et une ablation d'architecture à 42 %. L'enjeu tient au goulot d'étranglement des données tactiles. La téléopération de mains dextres ne renvoie à l'opérateur qu'un retour tactile limité, ce qui rend les démonstrations robot riches en toucher difficiles à collecter à grande échelle. Les auteurs contournent le problème avec l'hypothèse que la main change mais que la physique de l'interaction reste la même. Les données humaines deviennent alors une source de supervision plus abondante et plus variée. Les performances progressent avec le nombre de démonstrations humaines et ne saturent pas à 1 000 par tâche. Cela suggère qu'une montée en volume pourrait encore améliorer les résultats, sans que le papier le démontre au-delà. Pour les intégrateurs et les équipes qui développent des politiques de préhension fine, l'idée est de déplacer l'effort de collecte du robot vers l'humain, moins coûteux. Elle vise les tâches où la vision seule échoue, comme l'insertion, la manipulation en occlusion ou le contrôle de force. Il s'agit d'un travail académique, pas d'un produit, et il faut lire les chiffres avec prudence. Le score de 70 % porte sur seulement cinq tâches, avec 150 démonstrations robot par tâche, dans un cadre de laboratoire. Le résumé ne précise ni la main utilisée, ni les capteurs tactiles, ni le nombre d'essais, ni la nature exacte des tâches. L'écart avec les bases de comparaison (29 % et 42 %) est net, mais il dépend de choix de baselines que seul le texte complet permet d'apprécier. Le papier s'inscrit dans un courant de recherche qui cherche à apprendre la manipulation à partir de vidéos et de gants de capture humains, pour dépasser la téléopération. Il ajoute ici la modalité tactile, encore peu présente dans les grands modèles vision-langage-action (VLA). La version 2 de l'article sur arXiv et une page projet (uni-vta.github.io) sont disponibles. Aucun déploiement industriel ni calendrier n'est annoncé.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Human2Dex : apprentissage de la dextérité robotique à partir de démonstrations humaines centrées sur le poignet

Des chercheurs proposent Human2Dex, une interface de démonstration humaine centrée sur le poignet, conçue pour qu'un seul corpus de démonstrations naturelles serve à entraîner des politiques sur plusieurs mains robotiques dextres, sans collecter de données de tâche sur chaque robot cible. Le système aligne les observations par une adaptation locale de l'apparence de la main et une représentation commune à 21 points, dont la structure garde le même sens sur l'humain et sur le robot. Il produit ensuite une supervision exécutable en retargetant le mouvement fusionné de la main humaine vers chaque main cible. Une représentation baptisée GPIR (Grasp-Pocket Interaction Representation) exprime la position des objets suivis par rapport à une « Functional Grasp Pocket » centrée sur la main. Le corpus est converti en jeux d'entraînement distincts pour la Linker O6 et la Wuji. Les étiquettes d'action, la normalisation, l'entraînement et les checkpoints de diffusion policy restent propres à chaque main. Sur six tâches réelles, Human2Dex réussit 109 essais sur 120 (90,8 %) avec la Linker O6 et 97 sur 120 (80,8 %) avec la Wuji. Sur les deux mains cumulées, la baseline « Human-Raw », qui exploite les données humaines brutes, n'atteint que 63 succès sur 240 (26,3 %), contre 206 sur 240 (85,8 %) pour la configuration complète. L'écart entre 26,3 % et 85,8 % est le résultat à retenir. Il indique que les données humaines brutes ne suffisent pas : l'alignement des observations, le retargeting et la représentation relative à la main de l'objet apportent l'essentiel du gain. Pour les intégrateurs et les équipes qui déploient des mains dextres, la promesse est de réduire le coût de la collecte de données. Aujourd'hui, chaque nouvelle main ou chaque nouvelle tâche impose souvent de la téléopération répétée sur le robot cible. Un corpus humain réutilisable déplace cet effort vers une collecte unique, plus rapide et moins chère. Les résultats vont aussi dans le sens d'une séparation entre ce qui se partage (observation et sémantique du mouvement) et ce qui doit rester spécifique à la machine (actions, normalisation, politique). Il faut toutefois rester prudent. Le titre parle d'un transfert entre mains « calibrées », ce qui suppose une calibration préalable. L'évaluation couvre seulement deux mains et six tâches, avec 20 essais par tâche et par main. Elle vient d'un seul groupe, sans validation externe à ce stade. Enfin, les 80 à 90 % de succès ne disent pas la robustesse en production, par exemple la variabilité des objets, la durée des cycles ou les reprises après échec. Ce travail s'inscrit dans la course aux données pour la manipulation dextre. Les approches concurrentes reposent sur la téléopération avec gants ou exosquelettes, sur des interfaces portables du type UMI, sur l'apprentissage à partir de vidéos humaines ou sur la simulation avec transfert sim-to-real. Les diffusion policies sont devenues la brique standard pour apprendre ces comportements à partir de démonstrations. Human2Dex cherche à unifier la collecte du côté humain tout en gardant un apprentissage par embodiment. Le papier, publié sur arXiv (2610.13119v1) avec un site de projet public, est une prépublication non relue par des pairs. Les prochaines étapes à surveiller sont l'extension à d'autres mains, comme les mains d'humanoïdes, le passage à des tâches à contacts plus riches et la réplication par d'autres laboratoires. Le papier ne mentionne ni partenaire industriel ni calendrier de commercialisation.

RecherchePaper

1 source

4arXiv cs.RO

La pratique fait la politique : construire et consolider des capacités robotiques sans démonstration humaine

HERO (Heuristic-Exemplar-Reflexive Orchestration) est un cadre robotique proposé dans un article arXiv publié fin juillet 2026, conçu pour permettre à un bras ou un robot manipulateur d'apprendre des tâches de manipulation sans aucune démonstration humaine préalable. Le système combine trois mécanismes dans une architecture hiérarchique unifiée : un raisonnement heuristique pour explorer et amorcer de nouvelles tâches, une réutilisation d'exemplaires pour transférer rapidement des comportements déjà appris à des situations similaires, et une exécution réflexive qui corrige les erreurs en temps réel pendant l'interaction physique. L'idée centrale est que le robot collecte lui-même ses données d'entraînement en agissant dans l'environnement, puis consolide progressivement les interactions récurrentes en politiques visuomotrices en boucle fermée, c'est-à-dire des comportements appris directement à partir des flux caméra et capteurs, sans supervision humaine continue. Les auteurs rapportent, via des expériences étendues, une réduction substantielle de l'intervention humaine lors de la collecte de données, avec une manipulation jugée robuste sur des tâches variées. L'intérêt pour l'industrie tient au problème que HERO cherche à résoudre : la plupart des systèmes de manipulation robotique actuels apprennent des compétences figées, calibrées pour une tâche ou un environnement précis, et ne s'améliorent pas de façon autonome au fil de l'usage réel. Un mécanisme qui transforme l'expérience accumulée en capacités réutilisables, sans démonstrations humaines coûteuses à collecter, s'attaque directement au goulot d'étranglement des données qui freine le déploiement à grande échelle des politiques de type VLA (vision-language-action) chez les intégrateurs et fabricants de robots généralistes. Ce travail s'inscrit dans une lignée de recherche plus large sur l'auto-amélioration des agents incarnés, où plusieurs laboratoires explorent des boucles fermées entre collecte de données, entraînement de politiques et exécution. Il s'agit ici d'une publication de recherche, pas d'un produit commercialisé ni d'un déploiement industriel documenté : les résultats proviennent d'expériences en laboratoire, et l'article ne précise ni le matériel utilisé ni de comparaison chiffrée avec des systèmes concurrents nommés.

RecherchePaper

1 source