RecherchearXiv cs.RO 21 septembre 2026

AVT-Fabric : perception visuo-tactile active par sélection adaptative de preuves pour comparer des tissus

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Un article publié sur arXiv (arXiv:2609.21377v1, soumis en septembre 2026) présente AVT-Fabric, un framework de comparaison robotique de tissus combinant vision RGB et retour tactile. Une porte à double échelle évalue la confiance du modèle sur le jeton de réponse et l'écart brut entre logits pour décider si une observation tactile supplémentaire, via un capteur GelSight étiqueté en force, est nécessaire; une mémoire textuelle compacte conserve l'historique des actions exécutées et un vote majoritaire consolide les prédictions retenues. Sur 400 comparaisons de test, AVT-Fabric atteint 98,0% de précision avec un modèle multimodal de seulement 7 milliards de paramètres, contre 94,0% pour la référence MLLM-Fabric à 90 milliards de paramètres, soit 4,0 points de mieux tout en n'utilisant en moyenne que 1,60 étape sur les cinq disponibles. Le gain atteint 9,25 points face à l'inférence passive équivalente, avec 61,8% de latence en moins côté modèle, et une précision supérieure au mode vision seule. Déployé sur un robot réel, le système obtient 78,1% de précision en classement par paires et sélectionne le bon tissu dans sept scénarios sur huit testés.

Le résultat interroge l'hypothèse dominante selon laquelle un modèle plus gros est toujours plus performant: ici, un modèle douze fois plus petit dépasse la référence à 90 milliards de paramètres en décidant intelligemment quand solliciter le capteur tactile, plutôt qu'en calculant davantage. Pour les intégrateurs en manipulation textile, tri logistique ou blanchisserie automatisée, cela suggère qu'équiper chaque bras de capteurs tactiles et fusionner systématiquement toutes les modalités coûte cher pour un gain marginal, alors qu'une sélection adaptative de l'évidence tactile réduit le budget de calcul tout en améliorant la précision. La généralisation testée sur quatre architectures MLLM supplémentaires renforce cette piste, même si le benchmark reste un test contrôlé de laboratoire et que la validation robotique ne couvre que huit scénarios applicatifs.

AVT-Fabric se positionne directement face à MLLM-Fabric, système antérieur reposant sur un modèle massif de 90 milliards de paramètres, et s'inscrit dans une tendance plus large de la recherche robotique vers des modèles compacts capables de sélectionner intelligemment l'information plutôt que d'empiler la puissance de calcul. La publication reste académique: aucune entreprise commerciale, aucun partenaire industriel ni calendrier de déploiement pilote n'y figure. Les auteurs indiquent vouloir poursuivre les tests de généralisation sur d'autres familles de modèles multimodaux et étendre l'approche à d'autres tâches de manipulation de matériaux déformables, au-delà de la simple comparaison de tissus.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Ancrage auto-supervisé de la perception tactile à la proprioception et aux actions proactives pour l'apprentissage par imitation robotique

Publiée sur arXiv le 25 septembre 2026 sous la référence 2609.29822, une étude propose PROPRA, une méthode de pré-entraînement pour l'apprentissage par imitation en robotique de manipulation à partir de capteurs placés au bout des doigts. Le constat de départ : les caméras externes peinent à capter la proximité d'un objet, l'instant du contact ou l'état de la préhension, souvent occultés par la main du robot. L'équipe combine un capteur tactile sensible à la pression, informatif après contact, et un capteur de proximité réfléchissant, informatif avant contact, chacun couplé à un encodeur pré-entraîné. Ajouter naïvement ces signaux à une politique de contrôle dégrade parfois les performances par rapport à une politique vision seule. PROPRA aligne indépendamment l'historique de chaque capteur avec la proprioception et les actions du robot, offrant une référence sensorimotrice disponible en continu. Sur des tâches de manipulation réelles, la méthode améliore le taux de succès moyen face aux baselines vision seule et pré-entraînement ancré sur l'image, en préservant mieux les informations sur les états pré-contact. Le résultat clé pour un intégrateur n'est pas le gain de performance en soi, mais le constat qui l'accompagne : multiplier les capteurs sur une main robotique ne suffit pas, et peut même dégrader une politique apprise par imitation si le signal est mal intégré. Cela contredit l'hypothèse selon laquelle empiler vision, tactile et proximité améliore mécaniquement la manipulation, alors que l'industrie mise sur des modèles vision-langage-action multimodaux entraînés à grande échelle. Pour les concepteurs de mains équipées de capteurs tactiles piézorésistifs, capacitifs ou optiques, l'alignement entre modalités sensorielles et proprioception devient nécessaire pour rentabiliser l'investissement matériel, notamment pour l'assemblage de petites pièces ou la manipulation d'objets fragiles. Le transfert en manipulation fine ne se résume donc pas au seul écart simulation-réel : même avec des données réelles, fusionner des signaux épars et asynchrones reste difficile quand les démonstrations disponibles pour une tâche restent rares. L'étude s'inscrit dans un champ de recherche actif sur l'intégration tactile dans l'apprentissage par imitation, où le pré-entraînement ancré sur l'image, utilisé ici comme référence de comparaison, reste l'approche dominante. Menés par le chercheur Tomohiro Motoda, les travaux positionnent PROPRA comme une alternative en misant sur la proprioception, continue, comme point d'ancrage pour des signaux tactiles et de proximité discontinus par nature. Le code et les détails méthodologiques sont annoncés sur une page de projet dédiée, sans calendrier de diffusion ni partenariat industriel évoqué. Il s'agit pour l'instant d'un résultat de recherche validé sur des tâches de manipulation réelles en laboratoire, non d'un produit commercialisé ni d'un déploiement chez un intégrateur.

RecherchePaper

1 source

2arXiv cs.RO

ActiveWAM : vision active tenant compte des preuves pour les modèles monde-action

Des chercheurs publient ActiveWAM, un modèle unifié « monde-action » (world-action model) destiné à la manipulation à vision active, c'est-à-dire des politiques qui pilotent à la fois les effecteurs et la caméra. Le système génère des actions bimanuelles et des mouvements pan/tilt, y compris des comportements de maintien du point de vue (« stay ») et de réacquisition, à partir d'un historique tenant compte des vues, puis met à jour son contexte avec les nouvelles images RGB mesurées. Il est entraîné par une « inversion au moment de l'entraînement » (training-time inversion), qui contraint un prior vidéo figé par les preuves visuelles de la tâche et les changements temporels visibles. Cela supprime l'inversion au test et le classement de candidats. La prédiction de vidéo future sert de signal de co-entraînement, mais la génération d'actions n'exige ni décodage vidéo futur ni annotation de point de vue optimal. L'équipe introduit aussi RoboTwin-AV, un benchmark de 50 tâches avec contrôle pan/tilt exécutable et démonstrations générées automatiquement. ActiveWAM gagne jusqu'à 17,0 points de pourcentage de réussite hors distribution sur TAVIS face aux meilleures références. Il devance Fast-WAM de 20,0 points sur RoboTwin-AV et de 26,7 points sur des tâches physiques de cuisine en conditions réelles. L'intérêt tient à la manière dont le travail formalise un problème souvent traité de façon empirique. Bouger la caméra pour acquérir une nouvelle vue peut écarter du champ des indices critiques pour la tâche, tandis que conserver la vue perd des observations potentiellement utiles. Poser ce compromis « garder ou acquérir » comme un problème de gestion des preuves, appris conjointement avec la manipulation, évite de recourir à des heuristiques de recherche de vue ou à du classement de candidats coûteux à l'exécution. Le fait que l'action se génère sans décoder la vidéo future réduit aussi la charge de calcul au déploiement, un point sensible pour les intégrateurs. Les gains réels de 26,7 points sont notables, mais ils portent sur des tâches de cuisine dont le nombre et la diversité ne sont pas précisés dans le résumé. Le benchmark étant introduit par les mêmes auteurs, la comparaison reste à confirmer par des évaluations indépendantes. Ce travail s'inscrit dans l'essor des modèles monde-action, qui exploitent des priors vidéo pré-entraînés pour guider le contrôle, avec Fast-WAM comme principale référence ici. La plupart des politiques de manipulation actuelles supposent une caméra fixe ou montée sur la tête, et ne contrôlent pas activement la vue. Le benchmark RoboTwin-AV prolonge l'écosystème RoboTwin en y ajoutant le contrôle de caméra, ce qui pourrait servir de base commune à d'autres équipes. Il s'agit d'une publication de recherche, sans produit, déploiement industriel ni calendrier commercial annoncés. Les prochaines étapes naturelles seraient des tests sur davantage de plateformes, des environnements moins structurés que la cuisine, et une intégration avec les grands modèles VLA du secteur.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Calcul près du capteur pour une perception visuo-tactile rapide

Des chercheurs ont présenté, le 5 août 2026 sur arXiv (2608.05725), un système de calcul déporté au plus près du capteur pour les capteurs visuotactiles, ces dispositifs qui reconstruisent la géométrie de contact à partir de gradients de surface mesurés optiquement. Plutôt que de transmettre les données brutes vers un hôte pour traitement, l'équipe implémente un solveur de Poisson spectral sous forme de pipeline matériel entièrement streaming, exécuté directement à proximité du capteur. Le cœur de calcul consomme environ 347 mW et tourne à 166 MHz, sans branchement conditionnel ni convergence itérative, ce qui garantit une latence déterministe. Pour une image de 128x128 pixels, la première valeur de profondeur sort 35 107 cycles après réception du premier pixel, soit 0,211 ms de latence fixe. Sur 15 géométries de contact testées, les profondeurs reconstruites s'écartent d'une référence calculée en double précision de seulement 0,17% de la profondeur de contact maximale. Conséquence directe: une boucle de réflexe protecteur robotique pilotée par ces reconstructions embarquées se referme en 28,3 ± 4,9 ms, contre 169,9 ± 27,8 ms pour une boucle équivalente s'appuyant sur un traitement côté hôte avec le même actionneur, soit un gain d'environ six fois. Ce résultat cible un goulot d'étranglement rarement mis en avant dans le débat sur le toucher robotique: ce n'est pas la captation qui limite la réactivité des bras et mains dotés de peau tactile, mais le transfert de données et l'ordonnancement logiciel côté hôte. En rapprochant le calcul du capteur, les auteurs montrent qu'il est possible d'obtenir une géométrie de contact précise à un coût énergétique très faible et avec une latence prévisible, deux conditions indispensables pour des réflexes de sécurité en temps réel lors d'une interaction physique homme-robot ou d'une manipulation fine. Pour les intégrateurs qui cherchent à fiabiliser des boucles de contrôle de contact, l'argument dépasse la simple vitesse: la latence déterministe évite les pics imprévisibles qui compliquent le réglage des contrôleurs. Les capteurs visuotactiles denses, popularisés par des approches type GelSight, reposent depuis plusieurs années sur une reconstruction par stéréophotométrie coûteuse en calcul, généralement déléguée à un GPU ou un CPU hôte. Ce travail s'inscrit dans la tendance plus large du calcul en périphérie de capteur pour la robotique, où edge computing et matériel dédié remplacent progressivement les pipelines logiciels génériques. Les auteurs ne précisent pas d'intégration produit ni de partenaire industriel; il s'agit à ce stade d'une démonstration de faisabilité architecturale, dont la prochaine étape logique serait une validation sur un capteur physique complet et une comparaison face à d'autres architectures de calcul en périphérie.

RecherchePaper

1 source

4arXiv cs.RO

AdaDexGrasp : préhension dextérique adaptative par fusion de représentations visuo-tactiles 3D

Un nouveau système de préhension robotique baptisé AdaDexGrasp vient d'être publié sur arXiv (référence 2608.07600) en août 2026. Le framework vise à rapprocher les mains robotiques dextres du niveau d'adaptabilité humain en fusionnant vision et toucher : les signaux tactiles de chaque doigt sont associés à son identité propre et combinés à la géométrie 3D de l'objet saisi, formant une représentation unique dite visuo-tactile. Cette représentation alimente trois briques : génération de poses de préhension tenant compte du contact dès la planification, prédiction de faisabilité, puis ajustement dynamique de la prise une fois le contact établi. Les auteurs disent avoir testé l'approche en simulation et sur robot réel, avec une amélioration du taux de réussite et de la généralisation à des objets variés. Le résumé publié ne fournit toutefois ni chiffre précis de taux de succès, ni nombre de degrés de liberté de la main utilisée, ni comparaison chiffrée avec des méthodes existantes, des détails qui restent à vérifier dans l'article complet. Le sujet touche un angle mort connu de la préhension robotique dextre : la plupart des pipelines actuels planifient une prise à partir d'images puis exécutent sans réellement corriger après le contact, ce qui dégrade la robustesse face aux objets fragiles, déformables ou mal localisés par la seule vision. Un mécanisme de rétroaction tactile post-contact qui tiendrait ses promesses hors laboratoire intéresserait directement les intégrateurs travaillant sur le bin-picking, l'assemblage fin ou les mains de robots humanoïdes, domaines où l'échec de préhension reste un goulot d'étranglement malgré les progrès des modèles vision-langage-action. Cette recherche s'inscrit dans une tendance plus large de fusion visuo-tactile en manipulation robotique, portée depuis plusieurs années par des capteurs comme GelSight ou DIGIT et par des jeux de données de préhension dextre type DexGraspNet. AdaDexGrasp reste à ce stade une contribution académique en pré-publication, non revue par les pairs, sans partenariat industriel ni déploiement annoncé. Sa validation indépendante sur du matériel commercial constituera la prochaine étape à surveiller.

RecherchePaper

1 source