RecherchearXiv cs.RO 5 octobre 2026

Garder l'effet, supprimer l'acteur : modèles monde-action programmables de l'effet à l'exécution

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs proposent PEWAM, un modèle monde-action de 71,5 millions de paramètres qui part d'une idée simple : une démonstration robotique enregistre à la fois ce qui arrive aux objets et la façon dont un bras précis l'a obtenu, et seul le premier élément devrait être conservé. La démonstration est « compilée » en un programme d'effet : trajectoires de keypoints 3D des objets déplacés, deux points indiquant où chacun a été saisi, et configuration finale de la scène, démonstrateur effacé. PEWAM génère quatre flux (effet, exécution du robot, action, état terminal) avec des temps de flow-matching indépendants. Fixer le programme et échantillonner l'exécution revient à « programmer » le robot, avec une résolution répétée en boucle fermée depuis la scène réelle. Sur les tâches LIBERO-Goal hors entraînement, le programme issu d'une seule démonstration réussit 40 épisodes sur 90, contre 19 au maximum pour le même backbone conditionné par une image-but ou du langage, et pour les méthodes publiées conditionnées par démonstration. Sur Meta-World, il dépasse les meilleurs résultats publiés sur trois classes tenues à l'écart, mais pas sur la moyenne des cinq classes.

L'enjeu pratique tient à la nature du programme : un ensemble de coordonnées, donc modifiable par un opérateur. Décaler l'état terminal déplace le placement, et pivoter les points de contact fait tourner la prise. Le même programme s'exécute sur quatre bras différents sans réentraînement, ce qui touche directement le problème de transfert entre embodiments qui freine les intégrateurs. Après une poussée perturbatrice, la ré-résolution réussit 23 épisodes sur 60, contre 6 pour un simple rejeu de la démonstration, un écart qui illustre la fragilité des approches par rejeu. Sur un bras Franka, affiné sur des démonstrations réelles d'autres tâches, des programmes compilés à partir de vidéos humaines uniques aboutissent à 36 essais sur 40, contre 22 pour le même backbone conditionné par la dernière image de la vidéo. Ces résultats suggèrent qu'apprendre un « quoi » explicite plutôt qu'un « comment » lié à un acteur améliore la généralisation, mais ils proviennent d'une publication préprint, sans évaluation indépendante.

Il faut relativiser la portée : LIBERO et Meta-World sont des benchmarks de simulation, et seule l'expérience Franka touche au réel, sur un nombre limité d'essais (40). Un taux de 40/90 en simulation reste loin d'un seuil de fiabilité industriel. Le travail s'inscrit dans la course aux VLA et modèles monde-action, face à des approches généralistes comme Pi-0 ou GR00T, qui misent sur l'échelle des données plutôt que sur une représentation intermédiaire éditable. Sa taille réduite (71,5M de paramètres, très inférieure aux modèles de ces acteurs) en fait une piste intéressante pour l'imitation à partir d'une seule vidéo humaine. Les prochaines étapes à surveiller sont la validation sur des tâches réelles plus variées, la robustesse de l'extraction de keypoints en environnement encombré et une éventuelle mise à disposition du code. Aucun acteur français ou européen n'est cité dans cette publication.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

NVIDIA GR00T

À lire aussi

1arXiv cs.RO

Guidage sensible à l'achèvement pour les modèles du monde et d'action

Des chercheurs publient sur arXiv (2610.01559) une méthode baptisée Completion Aware Guidance (CAG), destinée aux World Action Models (WAMs). Ces modèles prédisent à la fois les futurs visuels et les actions du robot. Le travail cible un défaut précis, l'« imagination incomplète » : le modèle produit des prédictions plausibles et cohérentes avec les actions, mais qui omettent la transition nécessaire pour terminer la tâche. CAG est une méthode d'échantillonnage sans entraînement supplémentaire, qui oriente la génération vers l'achèvement de la tâche. Sur plusieurs WAMs représentatifs, le taux de succès passe de 64 % à 70 % sur un sous-ensemble de RoboTwin 2.0, et de 69 % à 75 % en simulation zéro-shot. La part d'imagination incomplète tombe de 79 % à 40 %. Les résultats portent sur des benchmarks simulés. L'article ne mentionne ni test sur robot réel, ni déploiement. L'intérêt tient d'abord au diagnostic. Selon les auteurs, l'échec ne vient pas de l'architecture du modèle du monde. Il apparaît quand ce modèle est adapté au contrôle par segments courts (short-chunk control). Dans ce régime, le modèle favorise de façon répétée des prolongements locaux plausibles plutôt que les transitions qui achèvent la tâche. Pour les équipes qui construisent des politiques VLA ou des WAMs, cela signale qu'une partie des échecs en manipulation vient de la procédure d'échantillonnage et d'adaptation, pas d'un manque de capacité du modèle de base. Corriger cela à l'inférence, sans réentraînement, est peu coûteux. Il faut toutefois relativiser : un gain de 6 points de succès reste modeste, et le chiffre le plus net, 79 % à 40 %, mesure un défaut défini par les auteurs eux-mêmes. Il ne se traduit pas directement en fiabilité industrielle. Ce travail s'inscrit dans l'essor des modèles qui apprennent à prédire l'avenir visuel pour guider l'action. L'approche est une alternative aux VLA purement réactifs, comme Pi-0 ou Helix. Elle est aussi un complément aux efforts de modèles du monde généralistes, tels que GR00T. RoboTwin 2.0 sert de banc d'essai standard pour la manipulation bimanuelle en simulation. Il reste donc à voir si le gain tient sur matériel réel, avec ses latences, son bruit de perception et ses contraintes de temps de cycle. Les auteurs n'annoncent pas de calendrier de validation physique. L'article n'évoque aucun acteur français ou européen.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

ContactGuard : surveillance de l'exécution pré-contact par modèles du monde latents conditionnés par l'action

Publié sur arXiv (2608.13438v1), un article de recherche présente ContactGuard, un moniteur d'exécution qui détecte les échecs de manipulation robotique avant le contact physique avec l'objet. Pensé pour les politiques visuomotrices « chunked » couplées à des caméras montées au poignet, souvent aveugles à une approche déjà en train de pousser, rater, glisser ou déranger l'objet, le système prédit dans un espace visuel latent compact la conséquence du prochain bloc d'actions planifié par la politique, puis interrompt l'exécution en cas d'échec probable. Son modèle du monde, entraîné sur des trajectoires robotiques non étiquetées sans prédiction vidéo pixel par pixel, s'appuie sur une sonde d'échec légère apprise sur un petit jeu de clips pré-contact étiquetés. Testé sur robot réel, il prédit les échecs plus précisément que des versions simplifiées mises en comparaison, sans modifier la politique existante. Cette approche cible une limite concrète des politiques actuelles de type VLA, qui exécutent des séquences d'actions sur plusieurs pas de temps sans réévaluation intermédiaire, rendant les échecs difficiles à anticiper avant qu'ils ne surviennent physiquement. Sur des tâches contact-riche comme l'insertion, l'assemblage ou la préhension, un échec détecté après coup signifie pièces endommagées ou reprises coûteuses. Pour les intégrateurs, l'intérêt tient à la nature de couche de sécurité externe du système, greffée sur une politique existante sans réentraînement, potentiellement applicable à plusieurs politiques « chunked » déjà déployées. Plutôt que de renforcer la politique de base à la source, ContactGuard ajoute une supervision prédictive en aval, une piste utile pour un secteur où l'écart entre démonstrations en laboratoire et fiabilité en conditions réelles reste un sujet sensible. Il s'agit d'une contribution académique sans lien annoncé avec une entreprise ou un robot commercial précis : aucun fabricant, site de déploiement ni feuille de route commerciale ne figure dans la publication. Le travail s'inscrit dans la lignée des modèles du monde latents en robotique, plus économes en calcul que la prédiction vidéo pixel par pixel, et se positionne en couche de supervision complémentaire aux politiques VLA plutôt qu'en nouvelle architecture de contrôle. La validation repose sur des tâches réelles de manipulation, mais reste un résultat de laboratoire : aucun acteur français ou européen du secteur n'est cité, et les auteurs ne précisent ni calendrier de suite ni partenariat industriel.

RecherchePaper

1 source

3arXiv cs.RO

Apprentissage natif de prior d'action à partir de vidéos pour les modèles d'action du monde

Des chercheurs publient sur arXiv (2610.03391) NAVA-WAM, un « world action model » (WAM) qui apprend une politique d'action directement à partir de vidéos sans annotation d'actions. Un WAM combine la prédiction de la dynamique visuelle future et celle des actions du robot. Jusqu'ici, ces modèles dépendaient de trajectoires robotiques annotées avec les actions, rares et coûteuses à collecter. NAVA-WAM s'entraîne en deux étapes. Le pré-entraînement porte sur des vidéos d'observation seule : une supervision par flow matching sur les transitions visuelles futures est propagée, via une attention jointe structurée par transitions, jusqu'à l'Action-DiT, le module de diffusion qui produit les actions. Celui-ci acquiert ainsi des « priors » d'action. La seconde étape affine l'Action-DiT sur des démonstrations étiquetées par un flow matching conjoint vidéo-action. Une attention asymétrique découple la branche visuelle du débruitage itératif des actions, ce qui permet une inférence rapide, limitée aux actions. Les auteurs affirment de meilleurs résultats que les approches antérieures, en distribution comme hors distribution, une bonne efficacité en nombre d'étiquettes d'action et une généralisation sur robot réel. Le résumé ne fournit ni score chiffré, ni liste de tâches, ni nom de plateforme robotique. L'enjeu est celui du goulot d'étranglement des données. Les modèles vision-langage-action (VLA) et leurs variantes à modèle de monde se heurtent au coût de la téléopération. Les vidéos humaines ou robotiques sans étiquettes, elles, existent en grande quantité. Les méthodes actuelles les exploitent par deux voies indirectes : pré-entraîner des représentations visuelles qu'il faut ensuite adapter au contrôle, ou inférer des « actions latentes » à ancrer ensuite sur des commandes robot. NAVA-WAM supprime ces intermédiaires, ce qui limiterait les pertes de transfert et la complexité d'un modèle d'action latente séparé. Si le résultat tient à grande échelle, le volume de données robotiques annotées nécessaires pour une nouvelle tâche ou un nouvel embodiment pourrait baisser. Un intégrateur pourrait alors réutiliser des vidéos de ses propres lignes. Prudence toutefois : il s'agit d'un preprint non évalué par des pairs. Les gains annoncés restent à confirmer par des benchmarks indépendants, avec des détails sur la quantité de vidéos et la diversité des tâches réelles testées. Ce travail s'inscrit dans la course aux WAM et aux politiques apprises de vidéo, face aux VLA entraînés sur démonstrations (Pi-0, GR00T) et aux approches par actions latentes. Les prochaines étapes à surveiller sont la publication du code et des poids, des évaluations sur des corpus vidéo plus larges, et une comparaison directe avec les modèles de fondation industriels. Les auteurs ne signalent aucun partenaire industriel ni déploiement.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

UniWAM : modèle unifié du monde et de l'action

UniWAM, présenté sur arXiv (2610.02054, première version), est une architecture unifiée qui combine trois blocs : un « raisonneur physique » issu d'un modèle vision-langage préentraîné, un générateur de monde (vidéo) et un prédicteur d'actions. L'ensemble apprend conjointement la compréhension sémantique du monde physique, la génération visuelle et la prédiction d'actions. Les auteurs ont construit un pipeline de nettoyage et d'annotation pour les données égocentriques humaines et les données robot. Les actions bas niveau sont exprimées en langage naturel, afin de préserver les capacités linguistiques du modèle de base. Le préentraînement répartit les supervisions entre composants : VQA (questions-réponses visuelles), vidéos égocentriques humaines et démonstrations robot. Au post-entraînement, une augmentation par bruit visuel sur le futur réduit la dépendance à des prédictions précises, et un flow matching conditionné par l'historique d'actions initialise la génération d'actions. Selon les auteurs, cela réduit nettement le nombre d'étapes de débruitage sans perte de performance. Ils revendiquent l'état de l'art en performance in-distribution, robustesse, généralisation, suivi d'instructions et tâches longues. Le résumé ne donne ni chiffres ni noms de benchmarks. L'intérêt est de s'attaquer à un compromis connu. Les modèles VLA (vision-langage-action) héritent du raisonnement des VLM, mais une supervision limitée aux actions leur donne peu d'ancrage dans la dynamique physique. À l'inverse, les modèles monde-action, bâtis sur la génération vidéo, captent bien les régularités spatio-temporelles mais comprennent et raisonnent moins bien hors distribution. Unifier les deux dans un seul modèle est une réponse directe à ce problème de robustesse, qui compte pour les intégrateurs confrontés au fossé entre démo et déploiement. La réduction des étapes de débruitage compte aussi pour la latence de contrôle, point faible des approches fondées sur la vidéo. Le résultat le plus transposable est la loi d'échelle log-linéaire du co-entraînement humain-robot. Si elle se confirme, elle soutient l'idée que les vidéos humaines, bien moins chères que la téléopération, peuvent servir de levier de données. Prudence toutefois : il s'agit d'un préprint non évalué par les pairs, sans test annoncé sur robot en production. Ce travail s'inscrit dans la course entre VLA (Pi-0 de Physical Intelligence, GR00T de NVIDIA, Helix de Figure) et modèles monde-action, qui exploitent la génération vidéo pour la planification. Il prolonge aussi la tendance à exploiter les données égocentriques humaines pour pallier la rareté des démonstrations robot. Le résumé ne cite ni équipe, ni plateforme robotique, ni calendrier de publication du code ou des poids. Il faudra donc attendre le texte complet pour juger du protocole, de la comparaison avec les références et de la validation sur matériel réel.

RecherchePaper

1 source