RecherchearXiv cs.RO 28 juillet 2026

FloAff-Kitchen : relier navigation et manipulation par apprentissage canonique et progressif de l'affordance du sol

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs du HERO Lab (Central South University, Chine) ont publié fin juillet 2026 sur arXiv "FloAff-Kitchen", un système qui apprend aux robots mobiles à choisir où poser leur base au sol non pas seulement pour atteindre une cible de navigation, mais pour maximiser la réussite d'une tâche de manipulation qui suit. Le cœur technique repose sur deux briques : une représentation canonique de l'affordance au sol (CFAR), qui isole la géométrie d'interaction utile en supprimant les variations de position et d'orientation des objets sans rapport avec le placement du robot, et un apprentissage progressif (PFAL), qui transfère des priors appris sur une tâche de manipulation de référence vers un éventail de compétences hétérogènes en aval. Pour évaluer l'approche, l'équipe a construit le premier benchmark multi-scènes et multi-points de vue dédié à cette problématique, FloAff-Kitchen, couvrant différentes compétences de manipulation, agencements de pièces, styles de mobilier et angles de caméra. Sur trois configurations de test, la méthode dépasse systématiquement les approches de référence, et des études d'ablation confirment l'apport de chaque composant proposé.

La contribution cible un angle mort classique de la manipulation mobile : la plupart des systèmes de navigation évaluent uniquement si une position est atteignable, sans tenir compte de si elle permet réellement de réussir la préhension ou la manipulation qui suit. Distinguer une perception conditionnée par la navigation d'une perception conditionnée par la tâche est précisément ce qui bloque souvent le passage de la démonstration en environnement contrôlé au déploiement en cuisine ou en environnement domestique réel, où l'orientation des objets et l'encombrement varient. Pour les intégrateurs travaillant sur des robots mobiles manipulateurs ou des humanoïdes destinés à des tâches ménagères ou de service, ce travail illustre une tendance de fond de la recherche actuelle : combler l'écart entre modules de navigation et de manipulation plutôt que les traiter comme deux problèmes séparés, une des limites régulièrement citées pour expliquer l'écart entre vidéos de démonstration et fiabilité en conditions réelles.

Ce travail s'inscrit dans la lignée des recherches sur l'apprentissage d'affordances spatiales pour la robotique, un domaine qui s'est étendu des affordances de préhension d'objets aux affordances de placement du robot lui-même, en écho aux efforts de modèles VLA comme Pi-0 ou GR00T N2 qui cherchent à unifier perception et action dans un même modèle. Contrairement aux approches génériques de navigation qui ignorent l'objectif de manipulation final, FloAff-Kitchen propose un cadre pensé spécifiquement pour l'environnement cuisine, un cas d'usage central pour les startups de robots domestiques. L'équipe met à disposition le benchmark et la page du projet publiquement, ce qui devrait permettre des comparaisons directes avec de futures méthodes sur ce sous-problème encore peu standardisé de la manipulation mobile.

Dans nos dossiers

NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

RARM : modèle de récompenses de progression à seuil de confiance pour l'apprentissage par renforcement en manipulation

Des chercheurs ont publié sur arXiv (réf. 2606.22027) RARM, pour Reference-Anchored Reward Model, une approche visant à résoudre un verrou central de l'apprentissage par renforcement (RL) en manipulation robotique : la conception des fonctions de récompense. La méthode repose sur un comparateur visuel léger qui, à partir d'une seule démonstration réussie, génère automatiquement un signal de récompense dense et progressif. RARM est pré-entraîné une unique fois sur des vidéos généralistes via un objectif de contraste temporel, sans données robot-spécifiques ni étiquetage manuel. Au déploiement, il compare des extraits de la tentative courante à des clips de référence et ne délivre une récompense que lorsque la correspondance dépasse un seuil de confiance (d'où l'appellation confidence-gated). Évalué sur 9 tâches de manipulation simulées issues des benchmarks LIBERO et MetaWorld ainsi que sur 4 tâches réelles, RARM obtient les meilleurs taux de succès globaux en entraînement RL, avec des gains particulièrement marqués sur des tâches longue durée comme le pliage de tissu. Le verrou qu'attaque RARM est fondamental : les récompenses éparses (succès/échec en fin de séquence) produisent un signal trop faible pour les tâches longues, tandis que les récompenses denses codées manuellement exigent une ingénierie fastidieuse et se généralisent mal d'une tâche à l'autre. Les approches de progression existantes souffraient d'un biais critique : elles attribuaient des récompenses élevées à des états visuellement plausibles mais physiquement incorrects, ce que la porte de confiance de RARM réduit directement. L'implication concrète pour les intégrateurs est qu'une seule vidéo de démonstration humaine suffit désormais à bootstrapper l'entraînement RL sur une nouvelle tâche, sans ré-ingénierie de la fonction de récompense. RARM se positionne en concurrence directe avec EUREKA (OpenAI, génération de récompenses via LLM) et les méthodes d'imitation inverse (IRL), dont il se distingue par sa légèreté et l'absence de données robot-spécifiques. Son objectif de généralisation le rapproche des ambitions des modèles VLA comme pi0 (Physical Intelligence) ou GR00T N2 (NVIDIA). La publication reste un preprint arXiv, pas encore un produit ni un déploiement industriel ; les prochaines étapes attendues incluent une validation sur des plateformes hardware diversifiées et une intégration dans des pipelines de fine-tuning de modèles fondationnels robotiques.

RecherchePaper

1 source

2arXiv cs.RO

ForceBand : apprentissage de la manipulation de force par sEMG

Une équipe de chercheurs a présenté ForceBand, un bracelet sEMG (électromyographie de surface) porté au poignet et conçu pour enrichir les démonstrations humaines destinées à l'apprentissage de politiques de manipulation robotique. Le système capture l'activité musculaire du poignet via des électrodes de surface et, combiné à une IMU, alimente un modèle pré-entraîné baptisé EMG2Force qui prédit les forces exercées par chaque doigt. Pour entraîner ce modèle, les chercheurs ont constitué un jeu de données multimodal de 10 heures combinant vidéo égocentrique, signaux sEMG, données inertielles et mesures de forces au bout des doigts, couvrant des actions et objets variés. Après une courte calibration propre à l'utilisateur, celui-ci peut collecter de nouvelles démonstrations avec seulement le bracelet et une caméra : EMG2Force étiquette automatiquement ces séquences avec les traces de force par doigt. Les expériences rapportent une réduction d'erreur de prédiction de force supérieure à 50 % par rapport aux baselines fondées uniquement sur la vision, et un taux de succès de 87 % sur des tâches de saisie, compression et dépose impliquant des objets de formes, tailles et poids variés. L'apport clé de ForceBand réside dans la résolution d'un angle mort structurel des pipelines d'imitation learning : les sources courantes de démonstrations humaines, capture de mouvement ou vidéos internet, fournissent trajectoire et apparence mais ignorent les forces de contact, pourtant déterminantes pour toute manipulation sensible au toucher. Serrer un emballage souple sans l'écraser, insérer un connecteur, manipuler des objets fragiles ou déformables sont des tâches où le contrôle en effort prime sur le contrôle en position. En rendant ces forces observables à faible coût matériel, le système ouvre la voie à des politiques VLA (vision-language-action) capables de généraliser sur des propriétés mécaniques d'objets non vus, sans capteurs de force onéreux montés sur le robot. Ce travail s'inscrit dans une dynamique active autour de l'augmentation des données de démonstration : plusieurs laboratoires explorent des gants haptiques, des capteurs tactiles intégrés aux mains robotiques ou des méthodes de reconstruction de force par vision stéréo. ForceBand se positionne comme une alternative légère et bon marché, accessible sans infrastructure de motion capture. L'article est pour l'instant un preprint arXiv (2606.26093), non encore soumis à une conférence majeure, et les résultats reposent sur un protocole contrôlé en laboratoire. La robustesse au bruit musculaire inter-sujets, à la fatigue et aux variations de placement du bracelet en conditions industrielles reste à démontrer. Les prochaines étapes naturelles impliqueront des tests sur des robots à mains dextrères (dexterous hands) et une validation sur des tâches d'assemblage réelles, là où la complémentarité avec des plateformes comme les mains Allegro ou Shadow est la plus directe.

RecherchePaper

1 source

3arXiv cs.RO

Manipulation robuste en main via des a priori en apprentissage par renforcement et conception mécanique

Article envoyé en direct par un utilisateur (pas de contexte projet lié) : je traduis et résume le papier de recherche demandé. L'équipe présente une méthode pour améliorer la manipulation intra-main (in-hand manipulation) sans capteurs externes, un problème classique en robotique car les contacts doigt-objet et la gravité introduisent des incertitudes difficiles à modéliser. Les chercheurs combinent l'apprentissage par renforcement avec deux "priors" physiques complémentaires : un prior global de qualité de prise, issu de l'analyse classique de grasping, utilisé comme terme de récompense qui favorise des contacts bien répartis et une meilleure résistance aux forces perturbatrices dans le pire cas ; et un prior local de géométrie de contact, basé sur la courbure du bout des doigts, qui façonne mécaniquement l'interface de contact pour orienter le roulement de l'objet selon la tâche et réduire les dérives hors axe. La méthode est testée sur une main robotique multi-doigts manipulant trois objets différents selon quatre orientations de paume, avec des gains mesurés en efficacité de rotation, stabilité de la prise et rejet de perturbations. L'intérêt pour le secteur tient au fait que les approches RL existantes pour le "finger gaiting" (repositionnement séquentiel des doigts) privilégient souvent la réussite de la tâche sans se soucier de maintenir une prise mécaniquement saine pendant la manipulation, ce qui les rend fragiles face aux perturbations et difficiles à transférer du simulateur au monde réel. En intégrant des critères de qualité de prise directement dans la fonction de récompense, et en couplant cela à un design mécanique du bout des doigts pensé pour la tâche, les auteurs proposent une piste concrète pour des mains robotiques plus robustes en usage industriel, où la manipulation fine sans capteurs tactiles dédiés reste un goulot d'étranglement coûteux. Ce travail s'inscrit dans la lignée des recherches en RL pour la dextérité robotique, où le sim-to-real reste l'obstacle principal malgré des démonstrations impressionnantes en simulation. L'originalité ici est de ne pas traiter le problème uniquement comme une question d'algorithme, mais d'articuler apprentissage et morphologie mécanique. Une vidéo de démonstration accompagne la publication, mais aucun élément sur un déploiement réel ou une validation matérielle à grande échelle n'est mentionné à ce stade.

RecherchePaper

1 source

4arXiv cs.RO

PredTac : apprentissage de la manipulation en contact riche par prédiction du toucher

Des chercheurs présentent PredTac, un cadre qui remplace les capteurs tactiles physiques par une estimation visuelle du contact lors de la manipulation robotique. Le système entraîne d'abord un prédicteur tactile supervisé par des données de contact réelles, puis utilise ses inférences comme substitut au toucher mesuré pendant l'apprentissage et l'exécution de politiques, à partir de simples observations visuelles et de l'état du robot. L'équipe teste PredTac sur trois tâches à fort contact, en simulation et sur robot réel : insertion USB, extraction d'un objet barbelé (Barbed-spike) et rotation de vanne (Valve). En simulation, les politiques à toucher prédit atteignent 27,0%, 52,0% et 44,7% de réussite selon la tâche, soit un gain de 8,0 à 13,7 points de pourcentage par rapport à une politique purement visuelle. Sur robot réel, avec l'architecture ACT, les taux grimpent à 70,0%, 50,0% et 90,0% (moyenne de 70,0% sur les trois tâches), un score proche des 72,2% obtenus avec un toucher réellement mesuré et largement supérieur aux 21,1% d'une politique vision seule. Ce résultat s'attaque à un point de friction connu de la robotique de manipulation fine : les capteurs tactiles physiques ajoutent du coût matériel, des contraintes de calibration, de synchronisation et de maintenance qui freinent le déploiement en dehors des laboratoires. Si le toucher peut être inféré de façon fiable à partir de la vision et de la proprioception, cela lève un obstacle matériel pour les intégrateurs qui veulent équiper des bras robotiques de compétences fines (insertion de connecteurs, manipulation d'objets irréguliers, actionnement de vannes) sans multiplier les capteurs embarqués et leurs pannes associées. Les auteurs nuancent toutefois la promesse : des tests d'intervention montrent que la performance reste sensible à la structure spatiale du contact prédit, une simple réorganisation spatiale des valeurs prédites faisant chuter le succès sur la tâche Valve de 10,7 points. Le toucher prédit n'égale donc pas encore totalement le toucher mesuré, mais s'en approche suffisamment pour être une alternative crédible plutôt qu'un pis-aller. Ce travail s'inscrit dans la lignée des architectures vision-langage-action (VLA) et des politiques comme ACT, qui cherchent à réduire la dépendance des robots manipulateurs à des capteurs spécialisés coûteux. Il complète les approches à toucher mesuré directement, en proposant une alternative bas coût sans capteur tactile dédié. L'étude, publiée en préprint sur arXiv le 15 septembre 2026, reste à ce stade une validation en laboratoire sur trois tâches ciblées et un unique bras robotique réel, sans indication de partenariat industriel ni de déploiement au-delà du cadre expérimental ; les prochaines étapes attendues concernent l'extension à davantage de tâches et de plateformes pour confirmer la généralisation de l'approche.

RecherchePaper

1 source