RecherchearXiv cs.RO 16 octobre 2026

RM-WAM : modèles d'action du monde à mémoire augmentée et fiables pour la manipulation robotique à long horizon

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs proposent RM-WAM, un « World Action Model » (WAM) à mémoire augmentée, décrit dans un préprint arXiv (2610.15305, v2). Les WAM prédisent conjointement les états visuels futurs et les actions du robot, mais la plupart décident à partir de la seule observation courante. Pour contourner cette limite, RM-WAM combine deux mémoires complémentaires. La première est une mémoire d'état visuel à court terme, qui capte la dynamique récente de l'interaction. La seconde est une mémoire d'événements latents, qui encode les transitions d'état sur un horizon plus long. Un schéma d'apprentissage contrefactuel fait varier l'historique accessible tout en gardant fixes les entrées courantes et les cibles de prédiction. Le modèle apprend ainsi à estimer l'utilité de la mémoire selon le contexte. Un mécanisme de « gating » sensible à cette utilité décide ensuite, au cas par cas, quelle part de l'historique injecter dans le backbone qui prédit monde et actions. Le résumé ne donne aucun chiffre (taux de succès, tâches, robots, jeux de données), et il faut donc attendre le texte complet pour juger de l'ampleur des gains.

L'enjeu touche à un point faible connu des politiques de manipulation, la fiabilité sur les tâches longues. Dans un assemblage ou un kitting multi-étapes, deux scènes visuellement identiques peuvent correspondre à des étapes différentes de la tâche. Une politique sans mémoire hésite alors ou répète une action déjà faite. L'approche naïve consiste à empiler les observations passées, mais les auteurs soulignent qu'elle peut injecter des informations périmées, désalignées avec l'étape en cours ou contaminées par des erreurs. Ces défauts faussent la prédiction du monde et font s'accumuler les erreurs en boucle fermée. Leur thèse est que la mémoire doit être traitée comme une ressource prédictive sélective, pas comme un contexte toujours bénéfique. Pour les intégrateurs, cela rappelle que la robustesse en production dépend moins de la taille du contexte que de la qualité de sa sélection. Il faut toutefois rester prudent : sans benchmarks publiés dans le résumé, rien ne dit que la méthode fonctionne sur du matériel réel ni qu'elle surpasse nettement les bases de comparaison.

Ces travaux s'inscrivent dans la montée des modèles du monde appliqués à la robotique. Ceux-ci prolongent les politiques vision-langage-action (VLA) de type Pi-0 ou GR00T en y ajoutant la prédiction vidéo du futur. Le problème de la mémoire longue reste ouvert pour toute cette famille, et plusieurs équipes testent des fenêtres d'historique, des tokens de mémoire ou des représentations d'événements. RM-WAM se distingue par son estimation d'utilité apprise par contrefactuel, au lieu d'une mémoire appliquée uniformément. Il s'agit d'une publication académique, sans produit ni déploiement annoncé. Sa valeur dépendra de la reproduction des résultats, de la publication éventuelle du code et de tests sur des tâches longues réelles.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLA NVIDIA GR00T Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

HiMem-WAM : modèles d'action-monde à mémoire hiérarchique pour la manipulation robotique

Une équipe de recherche a déposé sur arXiv (2606.10363v1) HiMem-WAM, un nouveau modèle d'action hiérarchique pour la manipulation robotique. L'architecture s'attaque à une limitation persistante des World Action Models (WAM) existants : leur incapacité à maintenir une mémoire de tâche cohérente sur des séquences longues, typiques des manipulations multi-étapes. HiMem-WAM combine trois mécanismes : des actions latentes centrées sur le mouvement (niveau bas), des latents de compétences de haut niveau, et une porte mémoire déclenchée aux transitions de compétences prédites. Ce verrou mémoire écrit des états compacts à des moments-clés, permettant l'inférence causale sans génération vidéo ni estimation de flux optique au moment du test. Le modèle a été évalué sur les benchmarks LIBERO, LIBERO-PLUS et RMBench, ainsi que sur des tâches en conditions réelles. La contribution principale est d'ordre systémique : la structuration hiérarchique améliore la robustesse sous perturbations lors du déploiement, là où la plupart des architectures VLA actuelles échouent dès qu'un événement imprévu survient en milieu de séquence. Pour un décideur industriel, c'est un signal pertinent : le module mémoire apporte, selon les auteurs, un gain substantiel sur les tâches longues dépendantes de l'historique d'action. Éviter la génération vidéo en temps d'inférence réduit également la latence et la charge computationnelle, deux freins réels au déploiement embarqué. Ces résultats restent toutefois issus d'un preprint non peer-reviewed, et les performances sur benchmarks standardisés ne garantissent pas les mêmes gains en environnement de production non contrôlé. Les World Action Models constituent un paradigme récent qui apprend les dynamiques visuelles pertinentes pour l'action, distinct des architectures VLA classiques comme Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA, lesquelles s'appuient sur des transformers multimodaux de grande taille. La manipulation longue-horizon reste un défi ouvert pour l'ensemble du secteur : ni les diffusion-policies ni les modèles language-conditioned n'ont résolu le maintien du contexte sur des séquences dépassant une dizaine de sous-tâches. HiMem-WAM propose une piste architecturale concrète, mais sans intégration hardware annoncée ni timeline de déploiement, ce qui en fait pour l'instant une contribution de recherche fondamentale.

RechercheOpinion

1 source

2arXiv cs.RO

Mem-World : modèles du monde conditionnés par l'action et augmentés par la mémoire pour la manipulation robotique persistante

Des chercheurs ont publié Mem-World sur arXiv (réf. 2606.18960, juin 2026), un modèle du monde multi-vues augmenté par mémoire pour la manipulation robotique. Le problème adressé est fondamental aux modèles du monde conditionnés par l'action (action-conditioned world models) : lors d'une tâche de manipulation, l'effecteur terminal occulte fréquemment la scène, et les mouvements rapides de la caméra embarquée au poignet rendent l'observation courante insuffisante pour prédire les vues futures, poussant les modèles à halluciner ou oublier des détails observés antérieurement. L'innovation centrale est W-VMem, une mémoire indicée par surfels (éléments de surface 3D) en 4D, centrée sur la vue poignet, qui ancre les observations historiques à des éléments de surface évoluant dans le temps. Cette structure permet une récupération de contexte conditionnée sur les actions futures et consciente de la géométrie de scène, via rendu et scoring basés sur les surfels. Sur les tâches de long horizon, le taux de réussite progresse de 58 % à 72 % grâce à la génération de données synthétiques, et la corrélation de Pearson entre évaluations simulées et performances réelles s'améliore de 14,5 % par rapport à Ctrl-World, le modèle de référence. Ce gain en corrélation est directement actionnable pour les équipes robotique : il indique qu'on peut davantage faire confiance aux rollouts simulés pour prédire le comportement réel d'une politique, réduisant la dépendance aux expérimentations physiques coûteuses. L'hallucination de scène était jusqu'ici un verrou majeur à l'utilisation des world models pour l'entraînement de politiques dextres ; en séparant explicitement quand et où chaque élément a été observé, W-VMem produit un contexte historique non-redondant et pertinent. Il convient toutefois de noter que les scénarios de test et les métriques d'évaluation ne sont pas détaillés dans le résumé disponible, ce qui limite l'interprétation directe des chiffres annoncés. Les world models conditionnés par l'action sont apparus d'abord en jeu vidéo et conduite autonome (DreamerV3, GAIA-1) avant d'être adaptés à la manipulation, domaine plus exigeant en raison des occlusions proches et de la dynamique de caméra embarquée. Ctrl-World est la référence directe contre laquelle Mem-World se positionne. Cette publication reste un preprint, non encore évalué par des pairs, sans partenaire industriel ni timeline de déploiement annoncé. Les suites naturelles incluent une évaluation sur des benchmarks standardisés comme RLBench et une intégration dans des pipelines de modèles Visual Language Action (VLA), où la cohérence temporelle des rollouts est un prérequis à l'entraînement à grande échelle.

RechercheOpinion

1 source

3arXiv cs.RO

2AM : ancrer la mémoire de l'agent pour guider des modèles d'action pilotables en manipulation à long horizon

Publiée le 11 septembre 2026 sur arXiv sous la référence 2609.11308, une nouvelle architecture baptisée 2AM propose une autre méthode pour la manipulation robotique à long horizon, ces tâches multi-étapes qui exigent de se souvenir de ce qui a déjà été fait. Le système sépare strictement deux rôles : un agent multimodal conserve seul la mémoire de la tâche et traduit l'historique des interactions en instructions de sous-tâches en langage naturel, complétées par des indices optionnels en 2D (points de préhension, de dépose et de déplacement) ; un modèle d'action unique, basé uniquement sur des images RGB et sans état interne entre les épisodes, exécute le mouvement. Pour le rendre pilotable, les auteurs ont enrichi les démonstrations d'étiquettes d'indices structurées et entraîné le modèle avec abandon aléatoire de conditions, bruit spatial et décalage temporel, afin qu'il tolère des instructions imparfaites. Testé sur le benchmark LIBERO-Mem, sans profondeur, sans géométrie calculée en ligne ni déplacement d'objets planifié, 2AM atteint un taux de complétion moyen de 76,3 %, contre 14,8 % pour la meilleure référence publiée à ce jour, soit un gain de 61,5 points, avec 63,0 % de réussite au sens large et 11,8 % au sens strict. Ce résultat vise un problème méthodologique récurrent des systèmes agentiques actuels, qui combinent souvent des modèles vision-langage-action (VLA) avec planificateurs et outils géométriques, parfois appuyés par de la profondeur ou une géométrie calibrée : il devient difficile de savoir si les gains viennent d'observations plus riches, d'outils moteurs alternatifs ou de la politique elle-même, et si les échecs viennent de la politique ou d'une interface langagière mal spécifiée. En réduisant volontairement la panoplie d'outils au profit d'une interface à plus haute bande passante entre agent et modèle d'action, 2AM isole la variable de précision du pilotage. Le résultat suggère que la mémoire de tâche peut rester entièrement côté agent, sans être intégrée dans la politique d'action, un choix opposé à la tendance qui consiste à faire porter mémoire et raisonnement par un seul grand modèle entraîné de bout en bout. Pour les équipes qui développent des modèles d'action génératifs comme Pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI, ce travail introduit une hypothèse alternative : la capacité effective d'un modèle dépendrait autant de la précision avec laquelle il est piloté que de ce qu'il a appris à l'entraînement, ce qui interroge la course actuelle aux VLA toujours plus massifs. Le travail s'inscrit dans la lignée des benchmarks LIBERO, largement utilisés en apprentissage de politiques robotiques, dont LIBERO-Mem constitue une extension dédiée aux tâches à mémoire longue. Il se positionne en creux face aux architectures dominantes du secteur, qui empilent VLA, planificateurs symboliques et perception 3D pour gérer des séquences de manipulation complexes, une approche que la publication critique implicitement pour son opacité dans l'attribution des performances. Aucun déploiement matériel réel n'est mentionné : les résultats restent circonscrits à la simulation et au benchmark, sans validation sur robot physique ni pilote industriel annoncé. L'affiliation institutionnelle des auteurs et un calendrier de suite ne sont pas précisés, ce qui situe cette publication au stade de la recherche amont plutôt que d'un produit ou d'un partenariat commercial.

RechercheActu

1 source

4arXiv cs.RO

Mem4Act : apprendre une mémoire latente efficace pour la manipulation robotique à long horizon

Des chercheurs proposent Mem4Act, un cadre d'apprentissage d'une mémoire latente de taille fixe, optimisée pour la manipulation robotique à long horizon. Le travail, publié sur arXiv (2610.22323v1), part d'un constat : les approches existantes conservent soit les observations brutes, soit des tokens visuels compressés, soit des résumés en langage naturel. Les premières exposent la politique d'action à des historiques de plus en plus longs. Les autres risquent de perdre des informations temporelles, sémantiques ou perceptives utiles. Mem4Act s'appuie sur trois mécanismes. Une agrégation temporelle multi-granularité couvre efficacement l'historique. Deux supervisions complémentaires fixent le contenu de la mémoire : des questions-réponses pour l'état de la tâche, et la reconstruction de features DINO sur des images clés pour le détail perceptif. Enfin, un entraînement en deux étapes « mémoire d'abord » pousse la politique à s'appuyer réellement sur cette mémoire. Les taux de succès annoncés sont de 49,88 % sur RoboMME, 61,0 % sur RMBench et 81,5 % sur quatre tâches réelles, des résultats que les auteurs présentent comme l'état de l'art sur le contrôle dépendant de la mémoire. L'enjeu est concret pour les intégrateurs. Les politiques VLA actuelles décident surtout à partir de l'observation courante ou d'une courte fenêtre. Elles échouent donc dès qu'une tâche exige de se souvenir de ce qui a été fait ou vu plusieurs étapes plus tôt, comme un objet déplacé, un compteur d'actions ou un élément désormais caché. Une mémoire de taille bornée garde le coût d'inférence constant quelle que soit la durée de l'épisode, une contrainte décisive pour un déploiement embarqué. Les chiffres appellent toutefois de la prudence. Un score de 49,88 % sur RoboMME montre que ces benchmarks restent loin d'être résolus. Les 81,5 % sur quatre tâches réelles reposent sur un échantillon étroit, sans précision publique sur le matériel, le nombre d'essais ou la variabilité des scènes. L'écart entre benchmark et atelier reste donc à documenter. Les ablations indiquent que l'agrégation temporelle, la supervision complémentaire et l'entraînement mémoire d'abord contribuent chacun aux gains, ce qui suggère que le simple allongement du contexte ne suffit pas. Ce travail s'inscrit dans un champ de recherche qui s'est structuré autour de la mémoire pour les politiques robotiques. Il y a d'abord la conservation d'images passées ou de tokens compressés, puis les résumés en langage utilisés par des agents à base de modèles de langage. Les benchmarks dédiés comme RoboMME et RMBench servent désormais à comparer ces approches. Mem4Act se positionne face à ces deux familles en proposant une représentation apprise de bout en bout. L'article ne fournit pas de calendrier de déploiement ni de partenaire industriel. Il s'agit d'une préversion de recherche, sans produit ni pilote annoncé. La suite à surveiller : une validation sur davantage de plateformes et de tâches longues, une évaluation face aux grands modèles VLA du marché, et la publication éventuelle du code et des poids, qui permettrait une reproduction indépendante.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source