RecherchearXiv cs.RO 22 septembre 2026

Le toucher, quand compte-t-il vraiment ? L'écart vision-interaction dans la préhension dextérique en environnement encombré

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une étude publiée en préimpression sur arXiv (2609.24068v1) évalue en conditions réelles si le toucher améliore la préhension robotique dextre en environnement encombré, au-delà de la seule vision. Sur un système doté de capteurs de force au poignet et par doigt ainsi que de taxels tactiles répartis sur les bouts des doigts, testé sur cinq configurations de scène de table, les chercheurs ont comparé, démonstrations, observations visuelles, espace d'action et contrôle en conformité restant identiques, quatre politiques : vision seule, force seule, tactile seule et combinée, avec des références de représentation et de fusion. La politique combinée réussit 24 essais sur 25, contre 14 sur 25 pour la vision seule. Dans les trois scènes les plus confinées, l'écart se creuse encore : 15 succès sur 15 contre seulement 6 sur 15. Les analyses par ablation montrent que le retour de force et le retour tactile sont complémentaires plutôt que redondants.

Le résultat interroge un présupposé répandu dans l'industrie de la manipulation robotique : que les modèles vision-langage-action, entraînés surtout sur des flux visuels, suffiraient à généraliser la préhension fine sans capteurs tactiles dédiés. L'étude montre l'inverse, et surtout que l'écart se creuse précisément quand l'occlusion et le contact rendent la géométrie visuelle insuffisante pour juger la qualité d'une prise. Le retour d'interaction permet de rejeter plus tôt un contact inadéquat, de reprendre la prise avant de soulever l'objet, et d'obtenir des saisies plus stables. Pour les intégrateurs qui déploient bras ou mains robotiques en tri, bin picking ou assemblage dense, le signal est concret : la caméra seule ne referme pas l'écart entre démonstration en laboratoire et fiabilité en production, et l'instrumentation tactile devient un critère technique de sélection, pas un simple ajout.

L'abstract ne précise ni laboratoire ni entreprise, signe d'une contribution académique et non d'une annonce produit ; les auteurs revendiquent la première étude en conditions réelles à combiner et évaluer séparément force et tactile pour une préhension dextre ciblée en environnement encombré, mais le travail n'a pas encore été relu par les pairs. Il s'inscrit dans un contexte où la génération actuelle de politiques génératives de manipulation, telles Pi-0, GR00T N2 ou Helix, mise surtout sur la vision et le langage au détriment du contact physique. Les auteurs proposent leurs cinq scènes encombrées comme protocole de référence pour déterminer quand une politique apprise a réellement besoin de perception d'interaction ; le site du projet documente les essais sans mentionner de pilote industriel ni de calendrier de déploiement.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Raisonnement probabiliste calibré des obstructions par modèles vision-langage pour la préhension en environnement encombré

Un preprint publié sur arXiv (2609.18718v1) présente CPOR-Grasp, un système de raisonnement probabiliste calibré pour la préhension d'objets en environnement encombré. Face à une cible partiellement cachée, il doit choisir entre la saisir directement, retirer un objet qui la bloque, ou différer la décision. Plutôt que de figer une seule interprétation de la scène, CPOR-Grasp calibre et fusionne les signaux d'un modèle vision-langage, de la profondeur et de masques amodaux pour construire une distribution sur les graphes d'obstruction possibles, en ne gardant que les plus probables et en bornant mathématiquement la probabilité écartée. Sur le benchmark UNOBench, en scènes synthétiques et réelles, avec Gemini Robotics comme backbone VLM, l'erreur de calibration chute de 0,1416 à 0,0185, l'inférence tronquée égale l'inférence exacte sur 99,74% des décisions avec 56 fois moins de graphes, et le taux de réussite réel atteint 77,8%, devant les meilleures méthodes existantes. Le tri en entrepôt, le bin-picking industriel et les bras montés sur robots mobiles autonomes (AMR) butent régulièrement sur ce problème : les VLM utilisés pour interpréter une scène encombrée produisent des scores de confiance mal calibrés, souvent trop optimistes, et des relations d'obstruction incohérentes entre elles. Une décision fondée sur une seule hypothèse fausse entraîne casse, chute d'objet ou échec de tâche, ce qui pèse sur le taux de succès en production, loin des vidéos de démonstration sélectionnées. En rendant l'incertitude explicite et en autorisant l'ajournement d'une action plutôt que la décision forcée, CPOR-Grasp montre qu'un VLM commercial performant comme Gemini Robotics reste surconfiant sans calibration statistique dédiée, un point utile pour qui construit un pipeline de préhension autour d'un VLM générique. Ce travail s'inscrit dans la vague d'approches robotiques qui s'appuient sur des VLM préentraînés pour le raisonnement de haut niveau plutôt que sur des pipelines de perception spécialisés, dans la lignée de modèles vision-langage-action comme Pi-0 ou GR00T N2, davantage orientés vers l'exécution de bout en bout. UNOBench sert ici de banc d'essai dédié à la désobstruction avant saisie, un sous-problème distinct mais complémentaire de ces architectures généralistes. Publié comme contribution de recherche, sans partenariat industriel annoncé, CPOR-Grasp n'est comparé pour l'instant qu'à des bases de référence académiques ; une intégration sur bras robotique réel en entrepôt et une confrontation aux piles de préhension propriétaires du secteur restent les étapes suivantes attendues.

RecherchePaper

1 source

2arXiv cs.RO

OmniDex : passage à l'échelle de la préhension à main dextérique dans des scènes encombrées variées

Des chercheurs publient sur arXiv (2610.11194) OmniDex, un benchmark et un modèle de préhension dextre pour scènes encombrées. Le jeu de données couvre plus de 2,6 millions de scènes et 0,4 milliard de vérités terrain de prises (« grasp ground truths ») spécifiques à chaque scène. Les auteurs ont d'abord sélectionné des objets 3D de haute qualité ainsi que des supports (tables, étagères et autres bases d'appui). Ils ont ensuite généré les scènes avec une stratégie « seed-and-filter » : on génère des agencements candidats, puis on filtre ceux qui sont physiquement valides. Cela évite l'optimisation lente, scène par scène, qui limitait jusqu'ici le passage à l'échelle. Chaque scène est associée à des observations sémantiques et géométriques riches. Le modèle OmniDex est génératif. Il combine un apprentissage « Soft Winner-Takes-All », qui traite la multimodalité des prises (plusieurs saisies valides pour un même objet), avec des contraintes physiques inspirées de la main humaine pendant l'entraînement. À l'inférence, un classement piloté par la physique sélectionne la meilleure prise, sans étape d'optimisation a posteriori. Les auteurs annoncent des performances à l'état de l'art et une bonne généralisation à travers des scènes, des points de vue et des objets inconnus. Pour l'industrie, l'enjeu est la donnée. La préhension dextre est la brique de base des humanoïdes et des manipulateurs à main articulée, mais la collecte réelle coûte cher et les jeux de données en simulation portaient surtout sur des objets isolés, alors que les cas d'usage (bacs, étagères, postes de tri) sont encombrés. Un corpus de cette taille, produit sans optimisation par scène, suggère que la simulation peut fournir des volumes comparables à ceux de la vision par ordinateur. La suppression de la post-optimisation compte aussi pour les intégrateurs, car cette étape ajoute de la latence au temps de cycle. Il faut toutefois rester prudent. L'étude est un preprint, et les résultats sont mesurés en simulation. Le papier ne fournit, dans ce résumé, ni taux de réussite chiffrés, ni validation sur matériel réel, ni temps d'inférence. Le fossé sim-to-real reste donc la vraie question, notamment pour la « précision du dernier millimètre » que les auteurs jugent défaillante chez les modèles génératifs actuels. Ce travail s'inscrit dans une série de benchmarks de préhension à grande échelle, qui ont d'abord traité les pinces parallèles puis les mains dextres sur objets seuls. Les modèles génératifs (diffusion, flow matching) y dominent, mais ils souffrent de prises imprécises qui exigent un affinage coûteux. OmniDex veut montrer qu'un classement physique peut remplacer cet affinage. Les acteurs concurrents sont les équipes qui préparent des politiques VLA pour humanoïdes et mains dextres, comme Figure avec Helix, NVIDIA avec GR00T ou Physical Intelligence avec Pi-0. Elles pourraient exploiter ce type de données comme pré-entraînement ou comme module de préhension. Aucun calendrier de diffusion du code ou du jeu de données n'est précisé ici. Le test décisif sera une démonstration sur main réelle en bac encombré, avec des taux de réussite publiés.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Imaginer puis vérifier : perception active ciblée sur les affordances pour la préhension orientée tâche en environnement encombré

Des chercheurs présentent ATAP (Affordance-Targeted Active Perception), un nouveau framework de perception active pour la préhension orientée tâche (task-oriented grasping, TOG) en scènes encombrées, détaillé dans un article arXiv (2609.23504v1) publié en septembre 2026. Le problème visé : un robot doit saisir la partie fonctionnelle d'un objet, par exemple l'anse d'une tasse pour verser plutôt que le corps de la tasse, mais cette zone d'affordance est souvent cachée par d'autres objets. Les méthodes existantes de planification de prochaine meilleure vue (next-best-view, NBV) optimisent le point de vue pour saisir l'objet dans son ensemble, sans distinguer la partie utile, ou scannent exhaustivement l'objet avant de prédire l'affordance, ce qui gaspille le budget de vues sur des surfaces non pertinentes. ATAP procède différemment : il hypothétise la géométrie occluse via un prior de forme génératif, prédit la distribution d'affordance sur cette surface imaginée, puis pilote la caméra avec un planificateur tenant compte de l'incertitude, qui arbitre entre réduction d'entropie sur les hypothèses concurrentes et gain de vérification par observation réelle, jusqu'à validation suffisante pour l'exécution de la prise. En simulation comme sur des scènes réelles encombrées, ATAP améliore sensiblement le taux de succès de préhension fonctionnelle par rapport à des baselines TOG à vue fixe, et réduit de plus de 57% le nombre d'étapes NBV nécessaires comparé aux approches de perception active basées sur la reconstruction complète de l'objet. Pour l'industrie robotique, ce travail attaque un goulot d'étranglement concret du bin picking et de la manipulation en environnement non structuré : l'occlusion partielle qui rend la localisation des zones de prise fonctionnelle ambiguë. En montrant qu'une vérification ciblée de l'affordance bat une reconstruction exhaustive, ATAP remet en cause l'hypothèse répandue selon laquelle il faut "tout voir" avant de décider où saisir, une piste utile pour réduire le temps de cycle des systèmes de manipulation en entrepôt ou en logistique. Ce résultat reste toutefois un travail de recherche évalué en simulation et en laboratoire, sans indication d'un partenaire industriel, d'un calendrier de transfert ou d'un déploiement en production. Il s'inscrit dans la lignée des travaux sur la perception active pilotée par NBV et sur le grasping conditionné par affordance, en concurrence directe avec les approches de reconstruction 3D complète avant planification de prise, sans qu'aucun acteur commercial ne soit associé à cette publication.

RecherchePaper

1 source

4arXiv cs.RO

De la préhension à la dextérité : pré-entraînement à grande échelle pour la manipulation dextérique

Des chercheurs publient sur arXiv un nouveau papier intitulé "From Grasps to Dexterity: Large-Scale Grasp Pretraining for Dexterous Manipulation", qui s'attaque à un problème precis de la manipulation dextre robotique: utiliser un simple geste de préhension pour ensuite manipuler un outil articulé (actionner une gâchette, tourner une molette, ouvrir une pince) plutôt que de simplement le saisir et le poser. L'équipe construit un jeu de données de 355 000 trajectoires à partir d'annotations de préhension dextre à grande échelle, utilisé pour préentraîner un contrôleur bas niveau conditionné par objectif, lui-même piloté par un module haut niveau qui prédit les sous-objectifs de la main. Ce contrôleur est ensuite affiné sur des démonstrations spécifiques à chaque tâche. Pour évaluer l'approche, les auteurs introduisent DexCraft, un banc d'essai en simulation comportant six tâches d'usage d'outils articulés nécessitant une coordination fine des doigts. En conditions réelles, la méthode améliore le taux de réussite complet des tâches de 33,3 points de pourcentage par rapport à la référence DP3, et dépasse aussi les politiques de diffusion entraînées de bout en bout ainsi que les architectures hiérarchiques entraînées depuis zéro. L'intérêt pour l'industrie tient au fait que la plupart des grands jeux de données de préhension dextre existants n'avaient jusqu'ici servi qu'à générer des prises ou à faire du pick-and-place, une tâche relativement simple comparée à l'usage fonctionnel d'un outil, qui exige de maintenir le contact tout en actionnant une pièce mobile. Démontrer qu'un préentraînement sur des données de grasping generalise à ce type de manipulation contact-riche est un signal utile pour les équipes qui travaillent sur des mains robotiques multi-doigts, notamment dans le contexte des humanoïdes où la dextérité fine reste un goulot d'étranglement bien plus limitant que la locomotion. Cela va dans le sens d'une hypothèse défendue par plusieurs laboratoires: les grands corpus de démonstration, même génériques, peuvent servir de socle de préentraînement réutilisable plutôt que d'être collectés tâche par tâche. Ce travail s'inscrit dans la lignée des approches hiérarchiques d'apprentissage par imitation combinant planification haut niveau et contrôle bas niveau, un courant de recherche actif face aux politiques de diffusion de bout en bout comme DP3, utilisées ici comme référence de comparaison. Il s'agit à ce stade d'un résultat académique publié sur arXiv, testé en simulation via DexCraft et validé par des expériences réelles limitées, et non d'un système déployé commercialement. Les auteurs mettent à disposition des vidéos de démonstration sur leur page de projet, mais aucune date de mise en open source du code ni de partenariat industriel n'est mentionnée dans le résumé.

RecherchePaper

1 source