RecherchearXiv cs.RO 19 mai 2026

Priorité aux gestes, voix assistée par LLM : téléopération 'Puppeteer' via un double virtuel en réalité augmentée

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs a publié sur arXiv (2506.13189) une étude comparative portant sur la téléopération de robots via réalité augmentée. Leur système, baptisé "puppeteer", utilise un casque Meta Quest 3 pour permettre à un opérateur de piloter un robot physique en interagissant avec son jumeau virtuel superposé dans l'espace réel. Deux modalités ont été testées en protocole intra-sujet avec 42 participants : geste seul (GO) et combinaison voix assistée par grand modèle de langage (LLM) plus geste (VG), sur une tâche de pick-and-place avec correspondance de motifs. Dans la condition VG, la voix gérait la navigation de haut niveau tandis que le geste assurait la manipulation fine, selon une allocation séquentielle des rôles et non une interaction simultanée.

Les résultats montrent que la modalité geste seul offre actuellement un contrôle plus fiable et plus efficace pour les tâches à contrainte temporelle forte. L'ajout de commandes vocales via LLM introduit de la flexibilité mais génère une latence supplémentaire et des erreurs de reconnaissance qui augmentent la charge cognitive de l'opérateur. Ce constat nuance une hypothèse courante dans la communauté HRI (human-robot interaction) : l'accumulation de modalités n'est pas universellement bénéfique. Pour les intégrateurs et décideurs industriels, cela signifie que la multimodalité doit être traitée comme une stratégie adaptative, calibrée au profil de l'utilisateur et à la nature de la tâche. L'étude révèle par ailleurs que l'expertise robotique préalable des participants différencie significativement les performances et l'expérience utilisateur selon les conditions.

La téléopération par réalité augmentée s'inscrit dans un effort plus large visant à abaisser la barrière d'entrée au pilotage de robots pour des opérateurs non spécialisés. Des approches concurrentes incluent la téléopération en vue subjective (first-person), les interfaces haptiques et les méthodes d'apprentissage par démonstration directe. La métaphore "puppeteer" se distingue par l'usage d'un double virtuel colocalisé, distinct des flux vidéo classiques. Les auteurs formalisent leurs conclusions en un ensemble de directives de conception pour ce type d'interface, insistant sur la nécessité d'adapter dynamiquement les modalités disponibles au contexte d'usage. Les prochaines étapes naturelles concerneront des tests sur des robots à degrés de liberté (DOF) plus élevés et des environnements industriels réels, au-delà du cadre contrôlé de laboratoire.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Immersion sociale en réalité virtuelle avec des humanoïdes assistés par LLM

Des chercheurs présentent un système de téléopération immersive pour robots humanoïdes combinant casque Apple Vision Pro et modèle de langage, testé sur un robot Unitree H1 équipé de mains dextres. L'opérateur reçoit un flux vidéo à la première personne directement depuis les caméras du robot, pilote ses déplacements par commandes vocales en langage naturel converties en instructions de haut niveau par un module LLM, et contrôle les bras et les doigts du robot par suivi du poignet et des mains, retranscrit via cinématique inverse et régulation PD. Le système enregistre en parallèle des données multimodales : images RGB égocentriques, commandes vocales et texte, états articulaires, mouvements des mains et signaux de regard, en vue d'un futur entraînement par apprentissage par imitation. Les auteurs rapportent que des utilisateurs novices, après une brève familiarisation, atteignent 80% de réussite sur des tâches de manipulation d'objets et 70% sur une tâche d'interaction sociale consistant à se faire passer un cube avec le robot. L'intérêt de ces travaux tient moins à la performance brute qu'à la démonstration d'une interface de téléopération accessible à des non-experts, sans entraînement lourd ni contrôle bas niveau exigeant. C'est un signal pertinent pour le secteur : la plupart des démonstrations de téléopération humanoïde restent réservées à des opérateurs entraînés maniant des contrôleurs spécialisés, ce qui freine leur adoption pour l'assistance à distance ou la collecte de données d'entraînement à grande échelle. En couplant retour visuel immersif, langage naturel et capture de mouvement fine, cette approche illustre une piste concrète pour réduire la charge cognitive et physique de l'opérateur, un frein connu au déploiement commercial des humanoïdes téléopérés. Il faut toutefois noter que les taux de réussite annoncés, 70 à 80%, restent modestes face aux standards industriels et proviennent d'un nombre d'essais limité en laboratoire, loin d'un déploiement réel. Ce travail s'inscrit dans la lignée des systèmes de téléopération immersive qui se sont multipliés avec l'essor des VLA (modèles vision-langage-action) comme Pi-0 ou GR00T N2, où la collecte de démonstrations humaines de haute qualité est un goulot d'étranglement majeur pour l'apprentissage. Le choix du Vision Pro comme interface, plutôt que des combinaisons de capture de mouvement traditionnelles, reflète une tendance plus large du secteur à exploiter le matériel grand public pour réduire les coûts de téléopération, une direction également explorée par plusieurs laboratoires américains et chinois. Il s'agit ici d'une publication de recherche académique arXiv, sans partenaire industriel ni calendrier de commercialisation annoncé : les prochaines étapes attendues porteraient sur l'exploitation des données multimodales collectées pour entraîner des politiques autonomes, transformant à terme cette téléopération assistée en un système capable d'agir de façon plus indépendante.

RecherchePaper

1 source

2arXiv cs.RO

Visualiser le contrôle d'impédance en réalité augmentée pour la téléopération : conception et évaluation utilisateur

Une équipe de recherche présente une interface de téléopération en réalité augmentée conçue pour compenser l'absence de retour haptique sur les manettes de contrôle bas coût. Le système affiche visuellement la pose cible du contrôleur d'impédance ainsi que son écart par rapport à la position réelle de chaque effecteur du robot, ce qui permet à l'opérateur de visualiser en temps réel les forces générées par le contrôleur sans matériel haptique coûteux. Les chercheurs ont testé cette visualisation lors d'une étude de manipulation bidextre impliquant 17 participants, chargés de repositionner une boîte à plusieurs reprises, avec et sans l'affichage AR. Résultat mesuré : le temps d'exécution baisse de 24% sur les tâches de levage où le contrôle de force est critique, mais aucun effet significatif n'apparaît sur les tâches de glissement, où la précision de force compte moins. Cette étude s'attaque à un problème concret pour l'industrie robotique : la téléopération de tâches riches en contacts (assemblage, manutention, manipulation fine) reste difficile quand l'interface ne renvoie que du mouvement, sans sensation de force. Or l'équipement haptique complet reste cher et peu répandu sur les plateformes de téléopération grand public, notamment les casques et manettes VR utilisés pour la collecte de données d'apprentissage ou le pilotage à distance de bras robotiques. Démontrer qu'un simple retour visuel en AR peut améliorer la performance sur les tâches sensibles à la force, sans capteurs haptiques additionnels, ouvre une voie low-cost pour fiabiliser la téléopération, un enjeu direct pour les entreprises qui collectent des données de démonstration destinées à l'entraînement de modèles de manipulation robotique. Le travail s'inscrit dans un courant de recherche plus large sur l'interaction homme-robot en téléopération, où la question du retour de force sans haptique reste ouverte depuis des années, notamment pour les architectures à contrôle d'impédance largement utilisées en manipulation à deux bras. En l'absence de details sur une application industrielle immédiate, il s'agit ici d'un résultat de recherche évalué en laboratoire, pas d'un produit déployé, mais qui fournit une piste méthodologique exploitable par les équipes développant des interfaces de téléopération pour la collecte de données ou l'opération à distance de robots manipulateurs.

RecherchePaper

1 source

3arXiv cs.RO

Vers la téléopération et manipulation locomotrice miniature humanoïde par réalité virtuelle et apprentissage par renforcement

Le stack de téléopération pour humanoïdes complets a connu des progrès rapides ces dernières années, combinant réalité virtuelle pour le contrôle du haut du corps et apprentissage par renforcement pour l'équilibre et la locomotion du bas du corps, permettant à un seul opérateur distant de voir, manipuler et se déplacer dans un environnement physique réel. Un article publié sur arXiv (2607.20399v1) transpose cette approche vers les humanoïdes miniatures, testée sur la plateforme ROBOTIS OP3. Le système développé permet une marche jusqu'à 0,45 m/s, indépendamment des mouvements des bras de l'opérateur. Une expérience de télé-loco-manipulation a été menée avec un opérateur humain expert chargé de relocaliser des cubes de 40 grammes : en moyenne, deux cubes différents ont été déplacés en moins de 10 minutes, pour une distance totale parcourue de 5 mètres. L'enjeu dépasse la simple démonstration technique. Les stacks combinant VR et RL restent aujourd'hui réservés aux robots humanoïdes de taille adulte, coûteux et souvent inaccessibles à la communauté académique. Les humanoïdes miniatures, plus répandus et abordables, embarquent en général moins de capteurs et de degrés de liberté, ce qui limitait jusqu'ici l'application de ces techniques de contrôle avancées. En portant ce contrôle compliant de bout en bout sur du matériel accessible, les chercheurs ouvrent la possibilité d'expérimenter la télé-loco-manipulation sans dépendre de plateformes à plusieurs dizaines de milliers de dollars, ce qui pourrait démocratiser la recherche sur le contrôle whole-body des humanoïdes. Le ROBOTIS OP3 est une plateforme open-source largement utilisée dans les laboratoires de robotique pour prototyper des algorithmes de contrôle, contrairement aux plateformes propriétaires des acteurs commerciaux du secteur humanoïde. L'expérience reste limitée en échelle, un seul opérateur expert et une tâche simple de déplacement de cubes, et les auteurs présentent leurs résultats comme une preuve de potentiel plutôt qu'un système finalisé. Les prochaines étapes attendues concernent l'élargissement des tâches de manipulation testées et une évaluation plus systématique face aux stacks équivalents développés pour les humanoïdes de taille réelle.

RecherchePaper

1 source

4arXiv cs.RO

Entraînement de robots par LLM : génération automatisée de données via l'augmentation de démonstrations

Des chercheurs de Carnegie Mellon University ont publié LLM Trainer (arXiv:2509.20070v2), un pipeline entièrement automatisé capable de transformer une poignée de démonstrations humaines, aussi peu qu'une seule, en un large jeu de données pour l'apprentissage par imitation robotique. Le système décompose la génération de nouvelles démonstrations en deux étapes : une annotation hors-ligne qui extrait des keyframes, des objets saillants et des relations pose-objet à partir des trajectoires originales, puis un retargeting de keyposes en ligne qui adapte ces keyframes à un nouvel environnement à partir d'une simple observation initiale. Le pipeline déforme ensuite géométriquement la trajectoire originale pour en produire une nouvelle, l'exécute sur le robot, et ne conserve les données que si l'exécution est concluante. Pour optimiser la qualité des annotations, réutilisables d'une scène à l'autre, l'équipe intègre un mécanisme de Thompson sampling qui améliore significativement le taux de succès. Les validations ont été conduites sur un bras Franka Emika Panda. L'enjeu est structurant pour l'imitation learning en robotique industrielle : le goulot d'étranglement reste la collecte coûteuse de démonstrations humaines. LLM Trainer propose de contourner ce problème en mobilisant la connaissance du monde embarquée dans les LLMs pour générer des variantes de scènes plausibles sans intervention humaine supplémentaire. Les résultats montrent que la méthode d'annotation LLM surpasse systématiquement des baselines conçues par des experts humains. L'approche d'ensemble, combinant un plan feed-forward LLM optimisé et un contrôleur par imitation en feedback, ouvre une piste vers des politiques plus robustes à la variabilité des environnements réels, ce qui intéresse directement les intégrateurs confrontés à des lignes de production hétérogènes. Ce travail s'inscrit dans une tendance forte en manipulation robotique : réduire la dépendance aux données humaines via l'augmentation synthétique, après des approches comme RoboAgent, DemoAugment ou les pipelines sim-to-real de Google DeepMind. Carnegie Mellon reste un acteur central de cet espace, aux côtés de Stanford (Mobile ALOHA), Berkeley (RoboVerse) et du MIT. Pour l'heure, LLM Trainer est uniquement validé sur un seul modèle de bras dans des conditions de laboratoire, ce qui laisse ouverte la question du passage à l'échelle vers des robots humanoïdes ou des environnements moins structurés. La version v2 publiée sur arXiv suggère des révisions post-soumission, probablement en vue d'une conférence comme CoRL 2025 ou ICRA 2026.

RecherchePaper

1 source