Aller au contenu principal

Dossier Physical Intelligence — π0

1858 articles

Physical Intelligence et la famille π0 : modèles fondation cross-embodiment, transfert de compétences entre robots, levées Lux Capital et OpenAI Startup Fund.

1arXiv cs.RO RecherchePaper

Ce qui compte pour la modélisation du monde dans les modèles vision-langage-action (VLA)

Une équipe de chercheurs publie sur arXiv (2610.19825) une étude systématique visant à déterminer ce qui compte réellement lorsqu'on intègre un modèle du monde dans un modèle Vision-Langage-Action (VLA), c'est-à-dire une politique robotique qui convertit images et instructions textuelles en actions. Les auteurs classent les approches existantes en quatre paradigmes: Implicit Future Alignment, Explicit Future Query, MoT Future Expert (un expert dédié au futur, découplé de la politique, dans une architecture de type Mixture-of-Transformers) et External World Predictor. Chacun est réimplémenté dans un cadre unifié, puis évalué avec plusieurs représentations du monde et plusieurs architectures de politique. Les tests couvrent des scénarios in-domain, hors distribution (OOD), à long horizon, dynamiques, few-shot et en conditions réelles. Les résultats chiffrés détaillés figurent sur la page projet, que les auteurs accompagnent de vidéos de démonstration. Quatre conclusions se dégagent. L'efficacité d'une représentation du monde dépend du paradigme, mais les représentations sémantiques 2D apportent des gains robustes dans tous les cas. Aucun paradigme ne domine partout, même si le MoT Future Expert offre de bonnes performances globales, surtout en robustesse OOD. Le modèle du monde profite systématiquement aux politiques bâties sur des VLM standards, tandis que les conceptions découplées s'accordent mieux avec des VLA déjà pré-entraînés. Enfin, par rapport à des références limitées à la prédiction d'actions, le modèle du monde améliore les résultats dans plusieurs configurations, avec des gains notables sur les tâches longues et dynamiques. L'intérêt pour l'industrie tient à la clarification d'un champ où les publications comparaient des méthodes qui différaient à la fois par la représentation, le mode d'intégration et le backbone, ce qui rendait les attributions de gains peu fiables. Pour les équipes qui développent des VLA, le message est pragmatique: prédire des features sémantiques 2D du futur est un choix peu risqué, et une architecture découplée permet de greffer un modèle du monde sur un VLA existant sans tout réentraîner. Les gains sur les tâches longues et dynamiques correspondent précisément aux limites des politiques purement réactives en environnement industriel. Il faut toutefois rester prudent: il s'agit d'un banc d'essai académique, sans chiffres de déploiement ni de cadence, et la validation en conditions réelles reste vraisemblablement limitée en échelle. Ce travail s'inscrit dans la montée des modèles du monde dans la robotique fondationnelle, où des acteurs comme NVIDIA (GR00T), Physical Intelligence (Pi-0) ou Figure (Helix) cherchent à dépasser le simple mappage observation-action. Les choix d'architecture restent encore peu consensuels. La suite logique consiste à tester ces paradigmes à plus grande échelle, avec des VLA pré-entraînés sur de très grands corpus et sur des plateformes variées. Aucun calendrier de pilote n'est annoncé, s'agissant d'une contribution de recherche.

1 source
2arXiv cs.RO 

TacClaw-Infinity : un jeu de données vision-tactile-langage-action à grande échelle pour la manipulation dextère

TacClaw-Infinity est un jeu de données de manipulation robotique de très grande taille, présenté sur arXiv (2610.20320) sous la forme d'un corpus Vision-Tactile-Langage-Action (VTLA). Il a été collecté avec TacClaw, une interface portable de type UMI (Universal Manipulation Interface) équipée de capteurs tactiles aux bouts des doigts. Elle enregistre de façon synchronisée les images, les signaux tactiles et les trajectoires de l'effecteur, sans qu'aucun robot cible ne soit nécessaire pendant la collecte. La collecte, distribuée dans le monde entier, couvre des domiciles, des laboratoires, des lieux de travail industriels, des commerces et des espaces extérieurs, avec des tâches fournies par des partenaires académiques et industriels. Le corpus dépasse 10 000 heures, 1 million d'épisodes et 1 milliard d'images, pour plus de 1 000 types de tâches. Les auteurs décrivent aussi une chaîne de traitement pour reconstruire les trajectoires, contrôler la qualité multimodale, filtrer selon l'embodiment (le type de robot visé) et annoter de façon structurée : segmentation centrée sur les contacts, description des sous-tâches et ancrage spatial. Côté modèle, ils annoncent un transfert inter-embodiments vers trois robots hétérogènes, sans démonstration propre à chacun. L'intérêt tient à un goulot d'étranglement bien connu : les démonstrations visuelles se multiplient, mais les données tactiles, indispensables aux tâches riches en contacts comme l'insertion, le serrage ou la manipulation d'objets déformables, restent rares et rarement contrôlées en qualité. Si les résultats tiennent, la collecte sans robot réduit fortement le coût par heure de données et permet d'aller chercher la diversité là où elle existe, chez les utilisateurs et dans les ateliers. Le transfert vers trois robots sans données spécifiques irait dans le sens d'une pré-formation réutilisable, à la manière de ce que les VLA (modèles vision-langage-action) font déjà pour la vision seule. Quelques réserves s'imposent toutefois. Il s'agit d'un preprint, et seul le résumé est disponible ici. Il ne donne ni taux de réussite, ni comparaison avec des bases sans tactile, ni précision sur les trois robots et les tâches testées. Il ne dit pas non plus si le jeu de données sera publié en entier ni sous quelle licence. Les chiffres d'échelle sont des volumes bruts : ils ne disent rien de la proportion de données réellement exploitables après filtrage. Ce travail prolonge la lignée des interfaces portables sans robot, popularisées par UMI, et des grands corpus multi-embodiments comme Open X-Embodiment ou DROID, qui restent surtout visuels. Les acteurs des VLA, tels que Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, cherchent à étendre leurs modèles au tactile, sans qu'un jeu de données de cette taille soit aujourd'hui largement disponible. Les prochaines étapes à surveiller sont la publication effective du corpus, la reproduction des résultats de transfert par des équipes indépendantes et l'adoption de TacClaw par d'autres laboratoires ou industriels, y compris européens, pour des tâches de précision.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
3arXiv cs.RO 

Post-entraînement, finetuning et pilotage : guide pratique pour constituer des données d'entraînement

Une étude déposée sur arXiv en octobre 2026 (2610.19143, première version) compare de façon systématique les méthodes d'adaptation des modèles Vision-Language-Action (VLA) selon le type de données disponibles. Les scénarios testés sont les données on-policy ou off-policy, l'adaptation hors ligne ou en ligne, et les trajectoires optimales ou sous-optimales. L'évaluation couvre des tâches simulées du benchmark LIBERO et des tâches réelles sur un bras Franka. Hors ligne, quand des données d'échec existent, le « steering » par critique surpasse le fine-tuning supervisé. Ce steering consiste à utiliser une fonction de valeur pour orienter ou filtrer les actions du modèle, sans réentraîner ses poids. En revanche, les techniques d'offline RL pour entraîner ces critiques ne font pas mieux que de simples estimations Monte-Carlo. En ligne, le steering demande nettement moins d'échantillons que les méthodes de fine-tuning par policy gradient, mais son plafond de performance reste inférieur à celui d'un fine-tuning complet. Les VLA transfèrent bien d'une tâche à l'autre en zero-shot, mais la fiabilité exigée en production passe par une adaptation. Le choix de la méthode se faisait jusqu'ici surtout à l'intuition. Pour un intégrateur, l'étude donne trois repères. Les logs d'échec, souvent jetés, ont une vraie valeur d'entraînement. Une approche Monte-Carlo simple suffit pour le critique. Et il faut arbitrer entre un steering rapide et économe en données et un fine-tuning complet, plus coûteux mais plus performant à terme. Les limites sont nettes. Le résumé ne donne aucun chiffre de gain, le banc d'essai est un bras unique en simulation et en laboratoire, et rien n'est mesuré en temps de cycle, en cadence ou en conditions d'atelier. La transposition aux humanoïdes ou aux cellules industrielles n'est pas démontrée. Depuis les premiers VLA, la littérature a multiplié les recettes de post-training : fine-tuning supervisé, RL en ligne, guidage par fonction de valeur. Les acteurs industriels comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix) travaillent sur ces mêmes questions d'adaptation, mais publient rarement des comparaisons contrôlées. Ce travail, présenté comme un guide pratique, comble en partie ce vide. Il s'agit d'un preprint non évalué par les pairs, sans pilote ni déploiement annoncé. La suite logique serait une validation sur d'autres plateformes, des tâches plus longues et des volumes de données réalistes.

RecherchePaper
1 source
4arXiv cs.RO 

Le temps physique, dimension manquante de la dynamique de mémoire des politiques robotiques

Les politiques robotiques actuelles gèrent généralement leur mémoire au rythme des observations, comme si chaque mise à jour correspondait à la même durée physique. Un papier déposé sur arXiv (2610.20524) pointe la faille : deux historiques d'observations identiques peuvent s'étendre sur des durées différentes et exiger des actions différentes. Les auteurs proposent le Temporal Flow Policy (TFP), une mémoire apprise qui retient les événements passés et fait évoluer son état selon les intervalles de temps réellement mesurés. Les observations et la mémoire précédente déterminent le contenu et les échelles de temps de chaque transition, tandis que le temps écoulé fixe l'avancée de l'état. Cet état conditionne des politiques de diffusion et de flow matching, entraînées avec leurs objectifs d'imitation habituels. L'évaluation porte sur Diffusion Policy et π0.5, avec des comparaisons contrôlées entre conceptions de mémoire. TFP obtient un taux de succès moyen supérieur à celui des mémoires récurrentes et des modèles d'espace d'états auxquels on fournit les mêmes intervalles. Il fait aussi mieux qu'une variante qui injecte l'intervalle dans une porte apprise. Des tests sur robot réel exigeant timing ou mémoire, ainsi que le benchmark LIBERO, complètent l'évaluation. L'enjeu est concret pour la manipulation : de nombreuses tâches dépendent de ce qui s'est passé il y a un certain temps, comme attendre une fin de cuisson, reprendre après une occlusion ou séquencer des gestes. Or les politiques VLA et de diffusion, souvent alimentées par quelques images récentes, ignorent le plus souvent la durée écoulée. Les résultats suggèrent que fournir l'intervalle ne suffit pas, puisque la mémoire doit aussi conserver l'historique. Les lectures de mémoire permettent de retrouver le temps écoulé depuis un événement et l'information de mouvement après occlusion. Modifier les intervalles fournis retarde ou avance systématiquement les actions, ce qui relie causalement l'entrée temporelle au comportement. Pour les intégrateurs, c'est un levier potentiel sur la robustesse face à des cadences variables, par exemple des latences d'inférence irrégulières. Les gains restent toutefois mesurés sur des benchmarks et quelques tâches réelles. Le résumé ne donne ni taux de succès chiffrés ni nombre de tâches, et rien n'indique une validation à l'échelle d'un déploiement. Ce travail s'inscrit dans l'essor des politiques généralistes, dont π0.5 de Physical Intelligence est l'un des représentants, et dans la recherche de mémoire pour la manipulation longue durée. Les approches concurrentes reposent sur des réseaux récurrents, des modèles d'espace d'états ou des fenêtres d'observations, que TFP prend ici comme références. Le papier propose de voir la mémoire comme un état qui évolue avec le temps physique, et non comme un simple historique stocké. Il s'agit d'une préimpression, sans pilote industriel ni calendrier annoncé. La suite logique serait une validation sur des tâches plus longues, avec d'autres architectures de politiques et des fréquences de contrôle hétérogènes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
5arXiv cs.RO 

FACT : un modèle fondation multimodal force-action-trajectoire pour la dextérité du robot à partir de l'humain

FACT (Force-Action-Track), un modèle de fondation robotique décrit dans un preprint arXiv (2610.19155), vise un des angles morts de la manipulation dextre: l'absence de mesures de force dans la plupart des jeux de données de démonstrations humaines. Les auteurs introduisent EgoForce, un jeu de données tactile humain à grande échelle qui capture des gestes riches en interaction, combiné à des démonstrations robot pour le pré-entraînement. L'architecture est en cascade et repose sur deux composants entraînés conjointement. Un planificateur grossier guidé par les tracks prédit simultanément les actions, la vidéo future et des trajectoires visuelles de points (tracks). Un raffineur force-action prédit ensuite la force future et corrige l'action grossière, de sorte que force anticipée et action se façonnent mutuellement. L'évaluation porte sur dix tâches exigeant coordination fine et retour d'effort, dont l'usage d'outils, les instruments de musique et des procédures de laboratoire de précision. Avec seulement 10 trajectoires robot et 90 trajectoires humaines pour le fine-tuning, FACT dépasse les deux références testées, avec des gains de taux de réussite allant jusqu'à 60 points face à T-Rex. L'intérêt tient à la question de l'échelle. Collecter des données robot par téléopération reste coûteux et lent, alors que les démonstrations humaines sont bien moins chères, mais elles manquaient jusqu'ici de la dimension force, pourtant décisive pour visser, presser, pipeter ou jouer d'un instrument. Les ablations indiquent que la supervision de force dans les données humaines de pré-entraînement est déterminante pour la performance robot après fine-tuning, tandis que la prédiction de tracks visuels et de force future améliore l'exécution dextre. Les expériences faisant varier le ratio humain/robot suggèrent que FACT apprend des démonstrations humaines presque aussi efficacement que de démonstrations robot. Si cela se confirme, c'est un argument en faveur de pipelines où l'essentiel des données vient d'opérateurs équipés de capteurs plutôt que de flottes de robots. Les réserves sont classiques: il s'agit d'un résultat de laboratoire sur dix tâches, avec peu de détails dans le résumé sur le matériel, le nombre d'essais ou la solidité des deux références, et le chiffre de 60 points est un maximum, non une moyenne. Ce travail s'inscrit dans la course aux modèles vision-langage-action (VLA) et aux approches de co-entraînement humain-robot, où des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix) misent surtout sur la vision et la proprioception, la force restant le plus souvent absente. Le transfert entre morphologies via la vidéo future et les tracks relève d'une piste déjà explorée, que FACT complète par une couche tactile. Reste à voir si EgoForce sera publié et si les résultats se reproduiront hors du laboratoire d'origine, sur d'autres mains robotiques et en environnement industriel. Aucun déploiement ni calendrier commercial n'est annoncé: il s'agit d'une contribution de recherche.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
6arXiv cs.RO 

λ₀ : passage à l'échelle des données égocentriques humaines en milieu ouvert pour la loco-manipulation des robots humanoïdes

Une équipe de chercheurs publie λ0 (lambda-zéro), un modèle fondation pour la loco-manipulation de robots humanoïdes (manipulation combinée à la locomotion, corps entier), accompagné de HumanVerse, un jeu de données de 500 heures de vidéo égocentrique. Ces vidéos, tournées en environnements ouverts, sont synchronisées avec les mouvements du corps et des mains. Le pipeline aligne les points de vue de caméra et l'apparence des bras humains sur ceux du robot. Il affine ensuite hors ligne les références de mouvement et les entrées du contrôleur, afin de réduire les erreurs de l'effecteur terminal tout en préservant la coordination du corps entier. Les auteurs l'ont validé par un transfert zero-shot sur un Unitree G1, sur des tâches de manipulation corps entier et de loco-manipulation longue portée, sans aucune démonstration robot sur la tâche cible. Pour λ0, ces données humaines alignées servent de supervision en mi-entraînement. Le modèle atteint 90,0 % de réussite sur le benchmark SIMPLE et 62,5 % sur l'ensemble des tâches réelles de loco-manipulation. Les auteurs précisent que plus on ajoute de données humaines corps entier, plus la progression sur les tâches aval s'améliore. L'intérêt tient au coût de la donnée. Les démonstrations robot par téléopération restent chères et lentes à collecter, et ce goulot limite les modèles vision-langage-action (VLA) actuels. Les corpus humains égocentriques existants omettent souvent la locomotion et la posture, donc l'essentiel de ce qui distingue un humanoïde d'un bras monté sur une base fixe. Montrer qu'une supervision humaine corps entier se transfère, et que la performance croît avec le volume, plaide pour un régime de passage à l'échelle comparable à celui du texte et de l'image. Il faut toutefois lire les chiffres avec prudence. Un taux de 62,5 % en conditions réelles reste loin d'un seuil de déploiement industriel. Le détail des tâches, le nombre d'essais et la comparaison avec des modèles de référence ne figurent pas dans le résumé. Enfin, toutes les validations semblent reposer sur un seul robot, le G1, plateforme de recherche bon marché. Ce travail s'inscrit dans une tendance déjà visible chez les grands acteurs. Les modèles comme Pi-0 de Physical Intelligence, GR00T de NVIDIA ou Helix de Figure misent sur des mélanges de données robot, de simulation et de vidéo humaine, et Tesla vise lui aussi l'apprentissage à partir de vidéos pour Optimus. La spécificité de λ0 est de coupler explicitement perception égocentrique, posture et locomotion, puis de corriger les écarts de morphologie par un traitement hors ligne. Il s'agit ici d'une publication de recherche (arXiv), sans produit ni déploiement commercial annoncé. Les prochaines étapes à surveiller sont la publication éventuelle des données et du code, la reproduction sur d'autres morphologies que le G1, et la confrontation à des tâches industrielles longues.

RecherchePaper
1 source
7arXiv cs.RO 

Retour sur la bonne voie : amélioration de la politique au déploiement par planification avec un modèle du monde

Des chercheurs proposent un cadre de supervision et d'intervention qui améliore une politique visuomotrice pendant son déploiement, sans la réentraîner ni modifier son architecture (arXiv 2610.19579). La méthode n'exige qu'un accès « boîte noire » à la politique, c'est-à-dire la possibilité de l'interroger sans toucher à ses poids. À partir d'un nombre limité de déroulés (rollouts) étiquetés de la politique nominale, l'équipe apprend une valeur de « liveness », conditionnée par la politique, qui mesure sa progression vers l'achèvement de la tâche. Elle entraîne aussi un modèle du monde latent compact, qui s'appuie sur ces mêmes déroulés et sur des données de jeu (play data). Pendant l'exécution, la valeur de liveness surveille en continu le comportement. Si elle détecte une perte de progression, un planificateur à horizon court cherche dans le modèle du monde des actions correctrices, en utilisant cette même valeur comme objectif, puis rend la main à la politique nominale. L'évaluation porte sur la suite de tâches LIBERO-Goal et sur un bras Franka Panda réel. Les politiques nominales sont le modèle vision-langage-action π0.5 et une diffusion policy. Les auteurs annoncent des gains significatifs de taux de réussite, compatibles avec un contrôle en temps réel. Le résumé ne donne aucun chiffre précis (taux avant et après, latence du planificateur, nombre de déroulés étiquetés), ce qui empêche de juger l'ampleur réelle de l'amélioration. L'enjeu est pratique. Les politiques actuelles échouent en production de façons qu'elles ne détectent pas et dont elles ne savent pas se relever. Les corriger passe aujourd'hui par davantage de données, un réentraînement ou une refonte de l'architecture, trois leviers coûteux, surtout pour un intégrateur qui utilise un modèle de fondation fourni par un tiers. Une couche externe qui détecte le blocage et propose une correction, sans accès aux poids, répond directement à cette contrainte. Elle suggère aussi que l'écart entre démonstration et fiabilité industrielle peut se réduire par de la supervision à l'exécution plutôt que par un modèle toujours plus gros. Plusieurs réserves s'imposent. Il s'agit d'un travail académique, sans déploiement client. Le banc d'essai LIBERO-Goal est de l'ordre de la simulation, et la validation réelle se limite à un seul bras. Il reste aussi à voir comment la méthode se comporte sur des tâches longues, ou lorsque le modèle du monde s'écarte de la réalité. Ce travail s'inscrit dans un courant qui cherche à fiabiliser les VLA après leur entraînement. Ce courant comprend l'apprentissage par renforcement sur robot réel, les détecteurs d'échec à l'exécution et les approches fondées sur des modèles du monde, utilisés comme simulateurs ou comme planificateurs. π0.5, de Physical Intelligence, est devenu une référence ouverte pour ces expériences, tout comme les diffusion policies pour la manipulation. Les grands acteurs de l'humanoïde, dont Figure avec Helix, Tesla avec Optimus et NVIDIA avec la famille GR00T, misent surtout sur l'échelle des données et l'entraînement. Une couche de récupération qui s'ajoute à ces politiques suivrait une logique différente. Les prochaines étapes à surveiller sont la publication de résultats chiffrés détaillés, des tests sur davantage de plateformes et de tâches de longue durée, et la mesure du coût de calcul du planificateur sur du matériel embarqué. Une vidéo et des résultats complémentaires sont annoncés sur le site du projet.

IA physiquePaper
1 source
8arXiv cs.RO 

ACRO : orchestration des déploiements d'acteur-critique

Des chercheurs proposent ACRO (Actor-Critic Rollout Orchestration), une couche d'orchestration qui décide, pour une politique VLA (vision-language-action) figée, quand poursuivre une tentative et quand intervenir. Un Critic, appris à partir de rollouts de la politique, estime les chances de succès. Il détermine le moment de l'intervention et choisit un point de reprise le long de la trajectoire déjà exécutée. Un mécanisme de « Trajectory Retraction » raccourcit le chemin parcouru pour ramener le robot à ce point, où le même VLA repart d'une observation fraîche. ACRO privilégie les reprises prometteuses, physiquement faisables et laissant assez de temps pour finir la tâche. L'évaluation porte sur GR00T N1.7 et π0.5, dans SimplerEnv, RoboCasa et en manipulation sur robot réel. À budget d'exécution physique identique, mouvements de retour compris, le taux de succès gagne 10,4, 7,3 et 21,7 points de pourcentage, respectivement. Le système réussit aussi davantage de tâches quand le budget augmente. Il s'agit d'un travail de recherche publié sur arXiv (2610.19677), sans produit ni déploiement industriel. L'intérêt tient à la méthode. L'amélioration ne vient ni d'un réentraînement ni d'un modèle plus grand, mais d'un contrôle de l'exécution autour d'une politique inchangée. Cela suggère qu'une part des échecs des VLA vient de trajectoires qui dérivent, pas d'un manque de compétence. Pour un intégrateur, cela ouvre une voie de fiabilisation compatible avec des modèles tiers. Le budget compte retours inclus, ce qui répond à une critique fréquente : ne pas masquer le coût réel des reprises en temps et en mouvement. Le gain le plus net, 21,7 points, vient du robot réel, mais le résumé ne donne ni le nombre de tâches ni le nombre d'essais, ni les taux de base. Sa robustesse statistique reste donc à vérifier. Les gains plus modestes en simulation rappellent aussi que l'écart entre benchmark et atelier n'est pas résolu. Le contexte est celui d'un secteur où les VLA généralistes, comme la famille GR00T de NVIDIA et la série π de Physical Intelligence, progressent surtout par des modèles et des données plus grands. En parallèle, une littérature sur le « test-time compute » et la récupération d'erreurs cherche à tirer plus de performance de politiques existantes. ACRO s'y inscrit en traitant la décision de reprise comme un problème de contrôle appris. Le Critic dépend toutefois de rollouts de la politique ciblée, et sa généralisation à d'autres tâches ou d'autres robots n'est pas démontrée. La page du projet est publiée. Les prochaines étapes à surveiller sont des tests sur des tâches longues et des manipulations moins réversibles, où revenir en arrière est plus coûteux ou impossible.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
9arXiv cs.RO 

FoveaVLA : des actions de fovéation remplacent la caméra de poignet dans les modèles VLA

Des chercheurs ont publié sur arXiv FoveaVLA, un modèle vision-langage-action (VLA) qui supprime la caméra poignet et la remplace par des actions de « fovéation » apprises. À chaque requête, la politique prédit, en plus du segment d'actions (action chunk), la région d'interaction à observer lors de la requête suivante. Elle reçoit ensuite des recadrages de cette zone, extraits des images en résolution d'origine, en complément des vues complètes. Le modèle est construit sur π0.5 de Physical Intelligence, en deux configurations : Single, avec une caméra stéréo externe, et Dual, avec deux. Les deux utilisent des entrées RGB et profondeur, en vue complète et fovéale. Le post-entraînement s'appuie sur DROID, avec les annotations d'interaction RoboInter. Sur quatre suites de tâches réelles, Single atteint 70,8 % de réussite avec une seule vue RGB-D externe et Dual 77,1 %, contre 52,1 % pour π0.5 équipé de sa caméra poignet. Les résultats sont équivalents sur le pick-and-place simple et meilleurs avec des objets distracteurs, la manipulation de tissu et les objets éloignés. Les caméras externes voient toute la scène, mais leurs images sont réduites avant d'entrer dans le VLA, ce qui fait perdre le détail utile à la manipulation fine. Ce travail suggère que le goulot d'étranglement vient autant du budget de résolution que de la taille du modèle. Il suggère aussi qu'un choix logiciel peut remplacer un capteur monté sur l'effecteur, avec moins de câblage, de calibration et d'occultations. Il faut toutefois lire ces chiffres avec prudence. Il s'agit d'un preprint dont le résumé ne donne ni le nombre d'essais, ni les intervalles de confiance, ni la latence ajoutée par la prédiction de régions. La comparaison porte sur un seul modèle de référence, et FoveaVLA bénéficie en plus d'une profondeur stéréo que la base de comparaison n'utilise pas forcément. Aucun déploiement industriel n'est évoqué. La caméra poignet est un standard des jeux de données et des plateformes de téléopération comme DROID, et π0.5 prolonge la lignée π0 de Physical Intelligence. Les alternatives courantes consistent à augmenter la résolution ou le nombre de tokens visuels, au prix d'un calcul plus lourd. La fovéation, inspirée de la vision humaine, déplace plutôt l'attention. Les prochaines étapes à surveiller sont la validation sur d'autres robots que ceux de DROID, sur des tâches longues et sous contraintes de temps réel, ainsi qu'une éventuelle publication du code et des poids.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
10arXiv cs.RO 

Vers des robots à base d'agents : modèle, données, environnement et harnais

Une équipe de chercheurs publie sur arXiv (référence 2610.20442) une revue de littérature qui tente de structurer ce qu'elle appelle les « robots agentiques ». Le texte est un survol académique, sans nouveau robot, sans benchmark inédit ni déploiement chiffré. Il définit un robot agentique comme un système où un agent raisonne sur des instructions humaines, interagit avec son environnement, corrige seul ses erreurs d'exécution et ajuste dynamiquement sa stratégie. Les auteurs retracent d'abord le passage des politiques robotiques aux systèmes agentiques, en passant par les modèles vision-langage-action (VLA), les modèles du monde et les « world-action models ». Ils classent ensuite la littérature existante en dix-sept catégories, réparties sur quatre domaines fonctionnels : le modèle, la donnée, l'environnement et le « harness », c'est-à-dire la couche qui organise les capacités du robot pour son utilisation. Ils couvrent aussi la façon dont les agents orientent l'apprentissage et les décisions, collectent et curent les données robotiques, construisent mondes, tâches et tests pour l'entraînement et l'évaluation, et se terminent sur les défis ouverts. L'intérêt est surtout de cadrage. Les modèles de fondation ne se limitent plus à prédire des actions bas niveau : ils sont mobilisés pour piloter toute la chaîne, de la collecte de données à l'entraînement, à la planification et à l'exécution. Pour un intégrateur ou un décideur industriel, cela signale que la valeur se déplace du seul modèle de contrôle vers l'orchestration autour de lui : génération automatique de scénarios de simulation, curation des démonstrations, évaluation continue, reprise sur erreur. C'est aussi un aveu implicite : ces travaux sont aujourd'hui peu reliés entre eux, et les chercheurs n'ont pas de vision commune pour assembler ces fonctions en un système complet. Le survol ne prouve rien sur la fiabilité de ces approches en production. Il ne contredit ni ne confirme l'écart entre démonstration et réalité, et aucune métrique comparative n'est avancée dans le résumé. Ce travail s'inscrit dans la montée en puissance des VLA et des modèles du monde, popularisés par des acteurs comme Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, et dans la vague des agents à base de LLM issue du logiciel. La taxonomie en quatre domaines servira surtout de grille de lecture pour situer les prochains travaux, et le terme « agentique » reste en partie un label de positionnement dont la définition n'est pas encore stabilisée. Les auteurs annoncent une discussion des directions futures, sans calendrier ni pilote industriel. Le texte est une préversion (v1) non évaluée par les pairs, à lire comme une cartographie du champ et non comme une validation de ses résultats.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
11arXiv cs.RO 

Coordi-pi : une représentation d'actions des deux mains tenant compte de la coordination pour la manipulation dextre bimanuelle

Des chercheurs proposent Coordi-π, une nouvelle représentation des actions pour les politiques VLA (vision-language-action) appliquées à la manipulation dextre bimanuelle, décrite dans un preprint arXiv (2610.19753). Les politiques bimanuelles existantes concatènent, à chaque pas de contrôle, les actions bras-main droite et gauche dans un seul vecteur, ce qui laisse les interactions entre les deux mains implicites. Coordi-π fait autrement. Chaque côté (bras plus main) devient un token d'action distinct, et les tokens sont organisés en une séquence entrelacée où les deux côtés apparaissent explicitement. Un embedding d'identité de main apprenable distingue la droite de la gauche. Un codage positionnel rotatif (RoPE) factorisé sépare la position dans la séquence du pas de contrôle. Les deux actions d'un même pas partagent ainsi une coordonnée temporelle, tout en gardant des positions distinctes dans la séquence. Sur les cinq tâches bimanuelles dextres du benchmark DexJoCo, Coordi-π dépasse π0.5, la référence de Physical Intelligence. Le taux de succès moyen passe de 31,9 % à 51,3 % en configuration rand-obj, et de 18,3 % à 32,3 % en configuration rand-full. Les auteurs annoncent aussi des résultats supérieurs à π0.5 sur quatre tâches réelles, sans en donner les chiffres dans le résumé. L'intérêt est d'abord méthodologique. La manipulation bimanuelle avec mains dextres multiplie les degrés de liberté, et le goulot d'étranglement n'est plus seulement la perception ou le langage, mais la façon dont la politique modélise la coordination entre les deux côtés. Ce travail suggère qu'un choix de structuration des actions, sans changement de backbone, peut apporter un gain notable. Il faut toutefois relativiser. Les taux de succès restent modestes en valeur absolue, autour de 51 % et 32 %, ce qui est loin d'un niveau exploitable en production. Les résultats sont obtenus en simulation sur un benchmark précis, et la version rand-full, plus difficile, montre que la généralisation reste fragile. Les essais réels ne sont pas chiffrés dans le résumé. Pour un intégrateur ou un décideur industriel, cela relève de la recherche, pas d'un produit livrable. Le contexte est celui de la course aux modèles VLA généralistes, où la famille π de Physical Intelligence sert de référence ouverte. Les acteurs de l'humanoïde développent des architectures concurrentes, comme Helix chez Figure ou GR00T chez NVIDIA, avec des mains à nombreux degrés de liberté. Le passage de la pince à la main dextre bimanuelle est l'un des verrous les plus cités. Les prochaines étapes à surveiller sont la publication des détails des essais réels, la disponibilité du code, et la reproduction des résultats sur d'autres benchmarks et matériels. C'est ce qui dira si la représentation entrelacée tient hors de DexJoCo.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
12arXiv cs.RO 

MorphAct : des politiques robotiques qui s'adaptent aux mondes dans lesquels elles agissent

MorphAct, décrit dans un preprint arXiv (2610.20019), est un cadre de paramétrisation contextuelle pour les politiques robotiques de type VLA (vision-langage-action). Ses auteurs partent d'un constat: les politiques actuelles utilisent des paramètres partagés et figés quel que soit le contexte d'interaction. Leurs diagnostics sur des tâches atomiques montrent que les directions de mise à jour s'opposent, aussi bien dans les paramètres vision-langage que dans ceux d'action. Une mise à jour qui améliore une tâche source augmente alors la perte sur d'autres tâches. MorphAct répond avec deux générateurs couplés qui produisent, selon le contexte, des mises à jour de bas rang (de type LoRA) pour le module vision-langage et pour le module d'action. Les mises à jour vision-langage façonnent les représentations qui conditionnent la génération des paramètres côté action. L'entraînement est conjoint, via l'objectif d'action natif, sans étiquettes d'opération ni adaptateurs experts pré-entraînés. Les auteurs annoncent des gains allant jusqu'à 16,30 % sur trois backbones VLA, évalués sur LIBERO et Meta-World. En conditions réelles, le gain atteint 14 % par rapport à π0.5. L'intérêt porte sur un problème bien identifié: l'interférence entre tâches quand une seule politique généraliste doit absorber des comportements hétérogènes. Si les résultats se confirment, une partie de l'écart entre démonstration et fiabilité en production viendrait de cette rigidité des poids, et pas seulement du volume de données. L'approche évite aussi d'annoter les opérations ou de maintenir une bibliothèque d'adaptateurs par tâche, ce qui simplifierait le passage à l'échelle pour les intégrateurs. Il faut toutefois rester prudent. LIBERO et Meta-World sont des benchmarks de simulation largement saturés, et le chiffre « jusqu'à » 16,30 % est un maximum, pas une moyenne. L'évaluation réelle n'est décrite que par un gain de 14 % sur π0.5, sans précision, dans le résumé, sur le nombre de tâches, d'essais ou de robots. Le surcoût en calcul et en latence de la génération de paramètres n'est pas non plus chiffré. Ce travail s'inscrit dans la lignée des hyperréseaux et des adaptateurs LoRA, et dans celle des politiques généralistes comme π0.5 de Physical Intelligence. La question de la spécialisation dynamique face à un modèle unique figé reste ouverte dans le secteur. Il s'agit d'un preprint académique, sans annonce de déploiement ni de produit. Les prochaines étapes seront une réplication indépendante, des tests sur des tâches longues et un chiffrage du coût d'inférence.

RecherchePaper
1 source
13arXiv cs.RO 

AutoRSR : génération automatisée de données réel-simulation-réel pour un apprentissage robotique à grande échelle

AutoRSR, un framework publié sur arXiv (2610.20336) par une équipe de recherche, automatise la conversion d'un espace de travail réel en environnement de simulation prêt pour l'apprentissage robotique, puis en données de manipulation à grande échelle. À partir d'observations multi-vues, des états du robot et de requêtes sémantiques en vocabulaire ouvert, le système reconstruit la scène, extrait chaque objet sous forme d'actif 3D individuel et recale automatiquement la scène dans le repère de la base du robot, à l'échelle métrique. Quelques mouvements de référence suffisent ensuite pour générer des trajectoires exécutables, démultipliées par interpolation et randomisation de domaine. Sur trois tâches de manipulation réelles, des politiques entraînées sur 1 000 épisodes générés automatiquement par tâche atteignent 73,3 à 86,7 % de réussite sur robot réel. Ce niveau est comparable à celui de pi 0.5 entraîné sur 150 démonstrations téléopérées, avec un temps humain de production de données divisé environ par dix. L'enjeu est le goulot d'étranglement le plus coûteux de l'apprentissage par imitation : la collecte de démonstrations par téléopération, qui mobilise des opérateurs et immobilise des robots. Après le scan de l'espace et les requêtes sémantiques, le pipeline ne demande plus ni annotation manuelle des objets, ni calibration scène-robot, ni téléopération. Pour un intégrateur, cela rapproche l'idée de « scanner la cellule du client, puis entraîner » d'un flux de travail reproductible. Il faut toutefois rester prudent : trois tâches, un seul article préliminaire (v1), et une comparaison avec un seul modèle de référence. Les travaux ne précisent pas, dans ce résumé, la complexité des tâches ni leur robustesse face à des objets déformables, articulés ou à des variations d'éclairage importantes. Le chiffre de 73,3 à 86,7 % reste aussi inférieur à ce qu'exige une exploitation industrielle, où l'on vise plutôt le haut des 90 %. Le travail s'inscrit dans la lignée des approches real-to-sim-to-real, qui cherchent à réduire l'écart entre simulation et réalité sans repartir de zéro à chaque nouvelle scène. Il s'oppose à la stratégie dominante des grands acteurs de l'humanoïde et des modèles vision-langage-action (VLA), qui misent sur de vastes corpus de téléopération, et complète les pipelines de génération synthétique comme ceux popularisés autour de l'écosystème NVIDIA. Il fait aussi écho aux méthodes d'augmentation de démonstrations à partir de peu d'exemples. La suite logique serait une validation sur des tâches plus longues, des manipulateurs variés et des scènes industrielles, ainsi qu'une comparaison avec d'autres VLA. Aucun déploiement commercial ni calendrier de pilote n'est annoncé, et aucun acteur français ou européen n'est mentionné.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
RESCUE : cette alarme mérite-t-elle une action ? Évaluation contrefactuelle des moniteurs d'exécution VLA
14arXiv cs.RO 

RESCUE : cette alarme mérite-t-elle une action ? Évaluation contrefactuelle des moniteurs d'exécution VLA

Une équipe de chercheurs publie sur arXiv (2610.13516) RESCUE, un cadre d'évaluation contrefactuel pour les moniteurs de défaillance à l'exécution des politiques robotiques de type VLA (vision-language-action). Ces moniteurs sont d'ordinaire jugés sur leur capacité à distinguer les exécutions réussies des échecs. RESCUE mesure autre chose : ce que l'alarme permet de faire. Le cadre restaure l'état du simulateur et de la politique à différents points de contrôle, compare des actions alternatives, identifie le dernier point de contrôle satisfaisant un critère de récupération donné, puis évalue si agir sur les alarmes réduit le coût attendu d'achèvement de la tâche. L'évaluation porte sur OpenVLA-OFT et π0.5, sur LIBERO-Spatial et LIBERO-Plus, avec 128 340 branches contrefactuelles. À τ=0,5, 14 des 66 échecs d'OpenVLA-OFT sur LIBERO-Plus contiennent un point de contrôle récupérable en laissant la politique continuer, contre 34 sur 66 si l'on autorise aussi une récupération scriptée. Dans d'autres conditions, la récupération réduit au contraire les chances de succès. L'enseignement central est qu'un bon score de détection ne garantit pas une intervention rentable. Sur les conditions principales avec politiques performantes, les métriques classiques (AUROC et équivalents) n'établissent pas de coût d'intervention plus bas. Dans le modèle « arrêt puis réinitialisation » étudié, même un détecteur idéal ne tolère que 2,0 à 3,3 % de fausses alarmes avant que les resets inutiles annulent le gain d'un arrêt précoce des échecs. Pour les intégrateurs et exploitants, la valeur d'un moniteur dépend donc de l'intervention disponible et de la charge de travail réelle, pas seulement de sa précision de classification. Cela remet en question la pratique courante de comparer ces moniteurs sur un seul chiffre de détection. Le travail s'inscrit dans la montée des politiques VLA ouvertes, OpenVLA-OFT et π0.5 de Physical Intelligence étant devenus des références, et dans le besoin de les déployer avec des garde-fous de sûreté. Les limites sont claires : les résultats viennent uniquement de simulation, sur des benchmarks de manipulation LIBERO, et le seuil de 2 à 3 % dépend du modèle de coût stop-and-reset retenu, d'autres stratégies de récupération pouvant le déplacer. L'étape suivante naturelle serait de tester ce protocole avec des interventions plus riches et sur robot réel, où restaurer un état exact est impossible. Les auteurs ne l'annoncent pas à ce stade.

RecherchePaper
1 source
BayesFP : estimation a posteriori pour les politiques à base de flux via l'échantillonnage de Feynman-Kac
15arXiv cs.RO 

BayesFP : estimation a posteriori pour les politiques à base de flux via l'échantillonnage de Feynman-Kac

BayesFP est une méthode d'échantillonnage présentée sur arXiv (2606.21014, version 2) qui permet de contraindre des politiques robotiques génératives préentraînées, sans les réentraîner. Les auteurs traitent la génération de trajectoires sous contraintes comme un problème d'inférence bayésienne. La distribution apprise à partir des démonstrations d'experts joue le rôle d'a priori. Une vraisemblance dérivée d'une fonction de coût, définie uniquement au moment de l'inférence, la déforme vers des trajectoires faisables et optimales. Pour échantillonner cette loi a posteriori, l'équipe reprend le cadre des correcteurs de Feynman-Kac, conçu à l'origine pour les modèles de diffusion, et l'étend aux politiques de flow matching déterministes. Le résultat est un échantillonneur unique, valable pour les politiques de diffusion comme de flow. Il a été validé sur des checkpoints préentraînés de Diffusion Policy, de GR00T-N1.6 et de π0.5, en simulation et sur des tâches de manipulation réelles. Parmi ces tâches figure la planification autour d'obstacles non convexes introduits seulement à l'inférence. Les auteurs annoncent aussi des gains par rapport à π0.5 de base sur des tâches en zéro-shot. Le résumé ne donne ni taux de réussite, ni nombre d'essais, ni coût de calcul. L'enjeu est très concret pour les intégrateurs. Les politiques VLA (vision-langage-action) et de diffusion imitent bien les démonstrations, mais elles n'offrent aucun moyen propre d'imposer une règle de sécurité ou un nouvel obstacle absent des données d'entraînement. Aujourd'hui, on réentraîne, on ajuste finement, ou on ajoute un filtre de sécurité qui peut sortir la trajectoire de la distribution apprise. Une approche qui injecte un coût à l'exécution, sans toucher aux poids, ouvre la voie à des cellules reconfigurables sans nouvelle collecte de données. Le fait qu'elle fonctionne sur trois familles de modèles différentes est un argument en faveur de sa généralité. Il faut toutefois rester prudent. Le texte ne chiffre pas la latence ajoutée par l'échantillonnage, un point critique pour le contrôle temps réel. Il ne dit pas non plus si les expériences réelles couvrent des tâches variées ou quelques scénarios choisis. Ce travail s'inscrit dans un courant de recherche sur le guidage à l'inférence des modèles génératifs, déjà actif en génération d'images et de molécules, dont les correcteurs de Feynman-Kac sont issus. Les politiques de flow comme π0.5 (Physical Intelligence) et GR00T-N1.6 (NVIDIA) sont devenues des bases courantes, mais leur contrôle reste limité à la consigne en langage naturel. D'autres approches de guidage par gradient ou par classifieur existent, et la comparaison directe avec elles sera à surveiller dans la version complète. Les prochaines étapes probables sont un code public, des mesures de temps de cycle et un essai sur des tâches longues avec contraintes de sécurité réelles, par exemple en collaboration homme-robot.

RecherchePaper
1 source
ARC : une méthode de raisonnement pour les modèles fondation en robotique
16arXiv cs.RO 

ARC : une méthode de raisonnement pour les modèles fondation en robotique

Des chercheurs proposent ARC, une méthode de raisonnement qui améliore sensiblement les performances « zero-shot » de modèles de fondation robotiques (RFM) existants, sans nouvelles démonstrations robot ni entraînement à grande échelle. Elle repose sur trois éléments. Le premier est une trace de raisonnement ancrée dans la prochaine action du robot, qui explique pourquoi l'action est appropriée et quel effet elle doit produire. Le deuxième est un pipeline d'étiquetage automatique, qui a permis de construire ARC-Trace-DROID à partir du jeu de données DROID existant, sans collecte de données robot supplémentaire. Le troisième est une stratégie d'adaptation propre à chaque architecture. Les auteurs l'appliquent au VLA π0.5 et au WAM (modèle d'action-monde) Cosmos3-Nano-Policy, avec un fine-tuning et une inférence ajustés à chacun. Les modèles adaptés établissent un nouvel état de l'art sur RoboLab-120 et MolmoSpaces, avec jusqu'à 50 points de pourcentage de gain sur RoboLab-Reasoning-50. Sur robots réels, le taux de succès de π0.5 progresse de 82,2 points de pourcentage. Ces résultats remettent en cause l'idée dominante selon laquelle la performance des RFM ne progresse qu'avec des modèles plus gros, davantage de démonstrations téléopérées et des budgets d'entraînement élevés. Si les chiffres tiennent, le raisonnement devient un levier complémentaire et bon marché pour les équipes qui disposent déjà d'un VLA, car il réutilise des données existantes au lieu d'en collecter de nouvelles. C'est un argument fort pour les intégrateurs et les décideurs B2B, pour qui le coût de la donnée robot reste le principal frein au passage à l'échelle. L'approche touche aussi un point faible des VLA actuels, leur faible généralisation à des tâches nouvelles décrites en langage. Quelques précautions s'imposent. Le gain de 82,2 points sur robots réels est mesuré sur la base de départ de π0.5, et l'article ne détaille pas ici le nombre de tâches, de plateformes ni d'essais. Le terme « sans précédent » vient des auteurs eux-mêmes. Le gain de 50 points concerne un benchmark de raisonnement conçu pour ce type d'évaluation, donc probablement favorable à la méthode. Enfin, on ne sait pas encore ce que la génération de traces ajoute en latence d'inférence, un paramètre décisif pour le contrôle en boucle fermée. ARC s'inscrit dans la tendance des VLA « avec raisonnement », qui font générer au modèle des étapes intermédiaires (sous-tâches, trajectoires, texte) avant d'agir. Elle prolonge les travaux autour de π0.5 de Physical Intelligence, entraîné sur de larges corpus hétérogènes, et du jeu de données DROID, devenu une base de référence en manipulation. L'usage d'un modèle d'action-monde comme Cosmos3-Nano-Policy, issu de l'écosystème Cosmos de NVIDIA, montre que la méthode vise plusieurs familles d'architectures et pas un seul modèle. Elle se positionne face aux approches qui misent sur l'échelle de données, comme GR00T chez NVIDIA ou Helix chez Figure. Il s'agit d'un travail académique publié sur arXiv (2610.12386v1), accompagné d'un site de projet. Il ne s'agit ni d'un produit ni d'un déploiement industriel. La suite logique serait une réplication indépendante, une évaluation sur d'autres robots et tâches longues, puis une mesure du coût en temps de calcul avant toute intégration dans des piles commerciales.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Dis au robot ce qu'il ne doit pas faire : la compréhension de la négation
17arXiv cs.RO 

Dis au robot ce qu'il ne doit pas faire : la compréhension de la négation

Des chercheurs proposent NegaAlign, un cadre « plug-and-play » qui apprend aux modèles vision-langage-action (VLA) à respecter des instructions négatives, du type « range les objets, mais pas la tasse rouge ». L'approche insère des couches de transformation de la négation (Negation Transformation Layers) dans certaines couches du backbone vision-langage afin de remodeler les représentations intermédiaires de l'instruction. Un mécanisme d'alignement guidé par un « enseignant » transfère ensuite l'ancrage visuel utile à l'action depuis des instructions qui satisfont la contrainte négative. L'entraînement s'appuie sur une supervision construite à partir de démonstrations existantes, avec une simple supervision image-langage. Seules les couches insérées sont mises à jour, soit 11,6 millions de paramètres, et tous les poids pré-entraînés restent gelés, générateur d'actions compris. Les auteurs publient aussi NegaBench, un benchmark en simulation de 10 scénarios dans cinq domaines. Testé sur GR00T, π0 et π0.5, NegaAlign améliore les résultats de façon constante. Pour π0.5, le taux de réussite sur instructions négatives passe de 2,60 % à 88,45 % sur NegaBench, et de 12,4 % à 88,8 % sur des tâches réelles, sans perte de performance sur les instructions affirmatives. Ce travail met en évidence une faiblesse structurelle des VLA actuels. Avec 2,6 % de réussite sur NegaBench, π0.5 est loin du hasard informé : le modèle ignore la négation et exécute l'objet cité dans la phrase, comme si « ne touche pas à X » signifiait « va vers X ». Pour un intégrateur ou un responsable d'exploitation, c'est un risque concret. Les contraintes d'exclusion (zones interdites, pièces à ne pas manipuler, objets fragiles) sont au cœur des consignes en atelier, en logistique ou en assistance à domicile, et un modèle qui les inverse silencieusement n'est pas déployable en environnement partagé. Le résultat suggère aussi que la lacune ne vient pas de l'action elle-même : corriger uniquement la couche de représentation du langage suffit à la combler, sans réentraîner le générateur d'actions ni collecter de nouvelles démonstrations téléopérées. C'est un coût d'adaptation faible, compatible avec des modèles déjà déployés. Deux réserves s'imposent toutefois. L'évaluation principale est simulée, et les 88,8 % en conditions réelles portent sur un nombre de tâches que le résumé ne précise pas, ce qui appelle à la prudence sur la généralisation à d'autres négations, plus compositionnelles. L'étude s'inscrit dans la vague de VLA généralistes issus des modèles vision-langage : π0 et π0.5 de Physical Intelligence, et GR00T de NVIDIA, tous deux largement utilisés comme bases de référence académiques. Jusqu'ici, l'essentiel des travaux portait sur la généralisation à de nouveaux objets, environnements ou embodiments, plus que sur la compréhension logique des consignes. La négation rejoint ainsi d'autres limites connues des modèles de langage, comme le raisonnement compositionnel. Les auteurs proposent une méthode légère greffable sur ces modèles, plutôt qu'un nouveau modèle de fondation. Il s'agit d'un preprint arXiv (v1), non évalué par les pairs, et aucun calendrier de diffusion du code ou de NegaBench n'est évoqué dans le résumé. La suite logique serait de tester NegaAlign sur des instructions plus complexes (exclusions multiples, conditions temporelles) et sur des robots en production, avant que les éditeurs de VLA n'intègrent éventuellement ce type de supervision directement à leur pré-entraînement.

RecherchePaper
1 source
Diagnostic et récupération du décalage de l'espace d'observation aux jonctions de compétences à long horizon
18arXiv cs.RO 

Diagnostic et récupération du décalage de l'espace d'observation aux jonctions de compétences à long horizon

Des chercheurs ont publié sur arXiv (2610.10810) une étude sur un mode de défaillance qu'ils nomment Observation-Space Shift (OSS), qui frappe la manipulation robotique longue durée assemblée par chaînage de compétences entraînées séparément. Chaque compétence est fiable isolément, mais la performance chute nettement une fois enchaînées. La compétence suivante doit démarrer de l'état laissé par la précédente, et non de sa distribution d'entraînement. Grâce à des resets privilégiés du simulateur, l'équipe établit que le décalage dominant vient de la scène déplacée (un tiroir resté ouvert, des objets secondaires laissés en route), et non de la configuration articulaire du robot ni de l'objet manipulé. Pour tester ce diagnostic, ils construisent un système entièrement appris de type détecter, restaurer, reprendre. Un moniteur de progression de tâche repère le blocage, une politique apprise remet en place les éléments déplacés, puis un fine-tuning robuste aux jonctions permet à la compétence de repartir. Sur le benchmark BOSS-44, le taux de succès de la chaîne complète passe de 7,6 % à 26,5 %, soit 3,5 fois la politique de base et 51 % d'un oracle de restauration privilégié. Le résultat le plus instructif tient aux échecs des alternatives. Le rééchantillonnage best-of-K, une Diffusion Policy et des baselines à base de modèles du monde ne parviennent pas à se rétablir depuis les états de jonction évalués. Réessayer depuis un état hors support ne suffit donc pas : remettre la scène dans une configuration que la politique connaît avant de reprendre est plus efficace. Pour les intégrateurs qui composent des séquences de compétences (ouverture de tiroir, rangement, assemblage), le message est pratique : la fiabilité unitaire ne se multiplie pas proprement, et il faut instrumenter les transitions. Les auteurs restent prudents : ils présentent leur système comme une preuve du diagnostic, pas comme une méthode générale. Même restauré, le système n'atteint que 26,5 % de succès de chaîne, ce qui reste loin d'un seuil industriel, et les résultats viennent surtout de simulation. Côté réel, l'équipe a testé sur un bras Franka avec une politique π0.5 affinée. Le moniteur y est limité par l'observabilité des caméras extérieures, mais la boucle fermée récupère malgré tout certains échecs autrement terminaux. Les auteurs en tirent un argument pour ajouter des capteurs de poignet et de pince. Ces travaux s'inscrivent dans le débat sur la dégradation des VLA et des politiques de type π0 sur les longs horizons, où l'écart entre démonstration et fiabilité répétée reste le principal frein au déploiement. Les approches concurrentes misent sur des modèles généralistes plus robustes, des données de récupération d'erreurs ou des modèles du monde, que cette étude montre insuffisants dans ce cadre précis. Les prochaines étapes probables sont l'intégration de capteurs embarqués et la validation sur davantage de tâches physiques.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
WARP-VLA : adaptation de la caméra de poignet pour une exécution robuste aux changements de point de vue dans les modèles vision-langage-action
19arXiv cs.RO 

WARP-VLA : adaptation de la caméra de poignet pour une exécution robuste aux changements de point de vue dans les modèles vision-langage-action

WARP-VLA, un modèle décrit dans un preprint arXiv (2610.11508v1), s'attaque à une faiblesse connue des modèles Vision-Language-Action (VLA) pour la manipulation robotique : leur sensibilité à la configuration des caméras. Les auteurs ciblent en particulier la caméra montée au poignet, dont le point de vue se déplace avec le robot. Un léger écart de fixation suffit alors à modifier les indices géométriques fins dont dépend la politique. Leur solution repose sur une architecture Mixture-of-Experts (MoE) : chaque expert apprend une transformation de features propre à un type de vue, et un routeur les combine à partir d'informations de vue implicites. La politique peut ainsi être déployée sans fournir les paramètres extrinsèques de la caméra en entrée. Sur le benchmark LIBERO, le taux de succès moyen de pi-0.5 passe de 39,2 % à 78,3 % sous perturbations de la vue poignet, soit un doublement. Des essais sur robot réel indiquent que l'adaptation au niveau des features, apprise en simulation, se transfère à plusieurs configurations de déploiement. Le benchmark de robustesse aux points de vue poignet et une implémentation « plug-and-play » sont publiés. Ce résultat touche un point bloquant du passage des VLA du laboratoire à l'atelier. Reproduire exactement la pose de caméra utilisée à l'entraînement est quasi impossible d'un site à l'autre. Les supports se desserrent, les intégrateurs choisissent des fixations différentes et les générations de robots varient. Une politique qui perd la moitié de ses performances pour un déplacement modéré du capteur oblige à recalibrer ou à réentraîner à chaque déploiement, ce qui pèse directement sur les coûts d'intégration. Le gain mesuré sur pi-0.5 montre que cette fragilité vient en bonne part de la représentation visuelle, et qu'on peut la corriger sans exiger les extrinsèques en entrée. Il faut toutefois rester prudent : les chiffres viennent surtout de LIBERO, un benchmark simulé aux tâches relativement standardisées. Le résumé ne chiffre pas la performance sur robot réel, ni le nombre de plateformes, de tâches ou d'essais. Le taux de 78,3 % reste aussi nettement inférieur à ce qu'exigerait une exploitation industrielle, et le texte fourni ne dit pas quel est le niveau de référence sans perturbation. Le travail s'inscrit dans une série de recherches sur la robustesse des VLA aux changements de point de vue, après l'essor de modèles généralistes comme pi-0 et pi-0.5 de Physical Intelligence. Ces modèles sont entraînés sur des données massives, mais avec des configurations de caméras peu variées. Les approches concurrentes passent par l'augmentation de données multi-vues, la randomisation de domaine ou l'injection explicite de la géométrie de caméra. WARP-VLA évite l'entrée extrinsèque et mise sur un routage implicite, ce qui simplifie le déploiement. Le code et le benchmark publics permettront à d'autres équipes de comparer leurs méthodes, une étape utile avant toute validation en conditions de production. Aucune annonce de pilote industriel n'accompagne ce preprint, qui n'a pas encore été évalué par des pairs.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
RoboIRS : orientation des représentations internes à l'inférence pour les politiques robotiques généralistes
20arXiv cs.RO 

RoboIRS : orientation des représentations internes à l'inférence pour les politiques robotiques généralistes

Une équipe de chercheurs publie RoboIRS, une méthode de pilotage des représentations internes appliquée à l'inférence. Elle vise les politiques robotiques généralistes de type vision-langage-action (VLA) et les modèles monde-action (WAM). L'équipe collecte des déroulés réussis et échoués, puis entraîne des classifieurs linéaires pour repérer les emplacements du réseau liés au résultat. Elle en déduit, pour chaque tâche, une direction de pilotage injectée dans les activations, sans mise à jour des poids. Sur 15 tâches simulées avec une politique π0.5 gelée, le taux de succès moyen passe de 44,4 % à 66,2 %. La méthode dépasse d'autres interventions à l'inférence, pour un surcoût de calcul que les auteurs qualifient de faible sans le chiffrer dans le résumé. Ils ajoutent une validation en manipulation réelle avec le même π0.5. Ils l'appliquent aussi à Cosmos Policy, un WAM, dont le taux moyen passe de 35,4 % à 55,4 %. Les VLA se dégradent souvent dès que la tâche s'écarte de la distribution d'entraînement, alors qu'ils conservent une partie de leur capacité. Ces résultats suggèrent qu'une part de cette compétence reste présente dans les représentations internes et peut être réactivée sans fine-tuning. Pour un intégrateur, cela évite de collecter de nouvelles démonstrations et de réentraîner le modèle à chaque variation de site ou de pièce. Le gain, environ 20 points sur les deux familles de modèles, est net. Il faut toutefois le lire avec prudence. Un taux de 66 % ou de 55 % reste loin d'un seuil de production. La direction de pilotage est propre à chaque tâche et exige des rollouts étiquetés succès ou échec, donc une supervision de résultat. Le résumé ne donne pas de chiffres pour les essais réels. Il s'agit enfin d'un preprint, dont les résultats n'ont pas été évalués par des pairs. π0.5 est la politique généraliste de Physical Intelligence. Elle côtoie Helix de Figure et la famille GR00T de NVIDIA parmi les références du secteur. L'adaptation à de nouvelles conditions passe aujourd'hui surtout par le fine-tuning, l'apprentissage par renforcement ou l'accumulation de données. RoboIRS transpose à la robotique l'idée de « steering » d'activations, déjà explorée sur les grands modèles de langage. La suite logique serait de la tester sur davantage de plateformes et de tâches longues, et de mesurer le surcoût de latence dans des conditions de déploiement. Aucun pilote industriel ni calendrier n'est annoncé. Un site de projet accompagne la publication.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Reformule avant d'agir : caractérisation et atténuation de la sensibilité au langage des modèles vision-langage-action (VLA)
21arXiv cs.RO 

Reformule avant d'agir : caractérisation et atténuation de la sensibilité au langage des modèles vision-langage-action (VLA)

Les modèles vision-langage-action (VLA) ne tiennent pas la promesse de robustesse linguistique de leurs modèles vision-langage d'origine, selon une étude (arXiv 2610.10526) qui chiffre cette fragilité sur LIBERO, un banc d'essai de manipulation en simulation. Sur ce benchmark, π0.5 allume la cuisinière dans 100 % des essais avec « switch on the stove », mais seulement 2 % avec « switch on the hot plate ». Un checkpoint π0 finetuné avec de l'augmentation par reformulation affiche encore des écarts allant jusqu'à 61 points pour une simple variation de phrasé. Les auteurs mesurent ces variations par des tests statistiques d'écarts à une seule édition, puis par une recherche « oracle » de la meilleure formulation. Celle-ci montre que le phrasé seul comble presque entièrement l'écart de 21 points entre tâches in-distribution et hors distribution. Leur correctif ne touche pas à la politique. Ils évaluent de nombreuses formulations sur quelques tâches d'entraînement, puis un grand modèle de langage distille ces résultats en dix à vingt règles de reformulation. Au déploiement, chaque consigne entrante est réécrite une seule fois selon ces règles, sans réentraînement ni vérification à chaque pas de temps. Sur un π0 gelé, le gain relatif est de 16 à 27 % sur douze tâches tenues à l'écart, avec des phrasés adversariaux, générés par VLM et rédigés par des humains. Les progrès se concentrent sur les tâches hors distribution. Sur π0.5 et LIBERO, le taux de succès « in-finetune » passe de 93,6 % à 97,8 %. Il s'agit de résultats de simulation et de benchmark. Rien n'est annoncé en déploiement physique ni sur un produit livré. Pour les intégrateurs et les équipes qui évaluent des VLA, le résultat remet en cause l'idée que la compréhension du langage hérite telle quelle du préentraînement du VLM. Un opérateur qui dit « plaque chauffante » plutôt que « cuisinière » peut faire échouer la tâche presque à coup sûr. Les scores moyens des benchmarks, mesurés avec les formulations canoniques, risquent donc de surestimer la fiabilité en atelier ou en entrepôt, où les consignes varient selon les personnes. Le travail propose aussi une réponse peu coûteuse, puisqu'une couche de réécriture en amont s'ajoute à une politique figée sans nouvelle collecte de données. Reste à voir si cela tient sur robot réel, avec des consignes plus longues et du bruit de reconnaissance vocale. Le coût d'un appel LLM supplémentaire par consigne est faible, mais il ajoute une dépendance et de la latence au démarrage de la tâche. Ce travail s'inscrit dans la série des politiques généralistes de Physical Intelligence (π0, puis π0.5), devenues des références open source. Celles-ci côtoient des approches concurrentes comme GR00T chez NVIDIA ou Helix chez Figure, dont la robustesse linguistique n'est pas documentée publiquement dans des termes comparables. LIBERO est un benchmark commode mais limité, et la plupart des publications sur les VLA le saturent déjà avec des consignes fixes. Les prochaines étapes naturelles sont des tests sur matériel physique et sur d'autres familles de VLA. Les auteurs publient une page de projet, sttawm.github.io/rephrase-before-you-act.

RecherchePaper
1 source
Les modèles vision-langage-action (VLA) comprennent-ils les instructions ? Une étude d'interprétabilité mécaniste sur l'ancrage du langage
22arXiv cs.RO 

Les modèles vision-langage-action (VLA) comprennent-ils les instructions ? Une étude d'interprétabilité mécaniste sur l'ancrage du langage

Une étude d'interprétabilité mécaniste, publiée sur arXiv (2610.10178), s'est demandé si les modèles Vision-Language-Action (VLA) utilisent réellement l'instruction textuelle pour générer leurs actions. Elle porte sur deux modèles de référence, π0.5 et GR00T N1.7. Les auteurs appliquent de l'activation patching et de l'attribution patching au flux résiduel des modules de génération d'actions. Ils corrompent les consignes de la base LIBERO selon cinq stratégies: remplacement par des synonymes, variation d'échelle sémantique, inversion directionnelle, substitution par un objet aléatoire et chaîne vide. Les deux modèles réagissent peu à une reformulation abstraite ou à la mention d'un objet inexistant. Ils réagissent fortement à une consigne vide et surtout au langage directionnel. Le siège de cette sensibilité diffère selon le modèle. Chez GR00T N1.7, elle se concentre dans les premières couches de cross-attention périodiques. Chez π0.5, elle est répartie entre les toutes premières couches et quelques couches plus tardives. Ce résultat nuance l'idée que les VLA « comprennent » le langage. Une faible sensibilité aux synonymes pourrait être de la robustesse. Mais l'indifférence aux objets inexistants suggère que les modèles s'appuient largement sur des indices visuels et des corrélations de surface, plutôt que sur une vraie ancrage sémantique. Ces modèles n'ont pas de module de grounding explicite et dépendent des capacités de leur backbone vision-langage. Pour un intégrateur ou un responsable de déploiement, cela pose un risque concret: une consigne ambiguë, erronée ou sans rapport avec la scène peut ne pas être détectée, et le robot exécutera tout de même une tâche plausible. À l'inverse, la forte dépendance aux termes directionnels (gauche, droite, haut, bas) indique que ce sont les mots qui portent réellement l'information d'action. Les auteurs relèvent aussi que, pour GR00T N1.7, les perturbations directionnelles produisent certains des plus grands effets causaux alors que la géométrie interne des représentations change peu. Ce découplage n'apparaît pas nettement chez π0.5. Enfin, l'attribution patching, méthode d'approximation peu coûteuse, suit fidèlement l'activation patching pour GR00T N1.7 mais pas pour π0.5. Sa fiabilité dépend donc du modèle et ne peut pas être supposée. Le contexte est celui d'une course aux modèles généralistes, où π0.5 (Physical Intelligence) et la série GR00T (NVIDIA) servent de références. Leur évaluation repose souvent sur des benchmarks comme LIBERO, dont les scènes, qui répètent des configurations proches, peuvent masquer une dépendance limitée au langage. Cette étude s'inscrit dans un courant de travaux d'audit qui testent la robustesse linguistique et visuelle avant tout déploiement réel. Il s'agit d'un travail de recherche en simulation, sans produit ni pilote associé. Les suites probables sont des protocoles d'évaluation plus exigeants, avec des consignes contradictoires, et des méthodes d'entraînement ou des architectures qui renforcent l'ancrage du langage.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Un correcteur appris fait-il mieux qu'un simple repli ? Résultats avec un VLA gelé
23arXiv cs.RO 

Un correcteur appris fait-il mieux qu'un simple repli ? Résultats avec un VLA gelé

Une étude publiée sur arXiv (2610.06921) examine si un correcteur appris, déployé à l'exécution sur une politique vision-langage-action (VLA) gelée, apporte réellement plus qu'une simple action de repli. Les auteurs testent π0.5, le modèle de Physical Intelligence, laissé inchangé, sur quatre tâches du benchmark de simulation RoboTwin. Pour chaque graine de test, ils apparient un rollout sans correction et un rollout avec correction. Ils ajoutent un témoin placebo: une seconde exécution de la politique de base avec la même graine. Sur 3 888 épisodes appariés, le pipeline complet augmente le taux de succès de 13,5 points de pourcentage sur la tâche « beat block hammer » (intervalle à 95 % de +9,4 à +17,7). Les trois autres tâches ne montrent aucun gain détectable au poids de correction déployé. Parmi les épisodes de base en échec sur la tâche réactive, 43,2 % réussissent à la simple relance, contre 63,5 % après correction. Ces chiffres relativisent la notion de « sauvetage ». Près de la moitié des échecs récupérés par le correcteur auraient été récupérés par la seule variabilité stochastique de la politique. Un intégrateur qui mesure un correcteur contre une exécution unique surestime donc son apport. L'efficacité dépend aussi fortement de la tâche: un mécanisme de récupération qui améliore nettement un cas peut être neutre sur les autres. La décision d'intervenir ne peut pas être fixée une fois pour toutes. Le protocole (placebo apparié, intervalles par grappes de graines, règles de comparaison prédéfinies) est lui-même réutilisable pour évaluer les couches de sécurité et de récupération autour des VLA. Sur le plan comparatif, un déclencheur à instant fixe, associé à un retour scripté vers une configuration articulaire antérieure, produit un gain net sur deux séries d'essais. Aucune différence n'est détectée avec le pipeline appris, même si le critère d'équivalence prédéfini n'est pas respecté de façon constante. Une simple pause et un contrôle à action constante n'apportent pas de gains comparables. Le résultat ne démontre donc pas que la complexité apprise est inutile, mais qu'elle n'est pas prouvée. Les limites sont nettes: l'étude est menée en simulation, sur quatre tâches et une seule politique. Elle s'inscrit dans la course aux VLA généralistes (π0.5, Helix, GR00T), où la fiabilité à l'exécution, plutôt que le réentraînement, devient un enjeu de déploiement. Un retrait simple et un placebo apparié devraient servir de référence minimale avant d'investir dans des correcteurs appris.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
BiGym 2.0 : évaluation de politiques apprises et développées par des agents pour la manipulation domestique humanoïde
24arXiv cs.RO 

BiGym 2.0 : évaluation de politiques apprises et développées par des agents pour la manipulation domestique humanoïde

BiGym 2.0, publié sur arXiv (2610.07594) par l'équipe derrière le dépôt swirl-uk/BiGym2, adapte le benchmark de manipulation bimanuelle BiGym au robot humanoïde Unitree G1. La suite couvre 20 tâches domestiques, toutes pilotées par un contrôleur whole-body unifié, utilisé aussi bien pour la collecte de démonstrations que pour l'évaluation. Chaque tâche fournit 60 démonstrations humaines natives, enregistrées en réalité virtuelle, avec vues multi-caméras synchronisées et traces d'exécution du corps entier. Quatre familles de méthodes sont comparées, avec les mêmes vues embarquées, la même proprioception et le même contrôleur : fine-tuning de modèles vision-langage-action (VLA), apprentissage par imitation, apprentissage par renforcement guidé par démonstrations, et agents de codage partant de zéro, auxquels on accorde le budget d'interactions d'un apprentissage par renforcement en ligne. Environnements, démonstrations et traces d'évaluation sont publiés en open source. Sur la moyenne de neuf tâches retenues pour la comparaison, le fine-tuning de VLA obtient le meilleur score. Les programmes écrits par des agents de codage dépassent toutefois toutes les bases de référence d'apprentissage par renforcement guidé par démonstrations sur cette même moyenne, et dominent sur l'atteinte bimanuelle. Les limites restent nettes : l'empilement entre espaces de travail distincts n'est pas résolu, π0.5 reste faible sur la tâche pick-box, et le transport multi-objets pénalise l'imitation, le renforcement guidé et les agents de codage. L'intérêt est double pour les intégrateurs et les équipes de recherche. D'une part, le résultat tempère l'idée d'une manipulation domestique humanoïde déjà acquise : quand le bras doit agir pendant que le corps s'équilibre, fait un pas ou change de posture, les tâches longues et à plusieurs objets restent hors de portée des méthodes actuelles, y compris des VLA. D'autre part, la performance des programmes générés par agents, sans démonstrations, suggère une voie concurrente de l'apprentissage de politiques, à surveiller. Le fait que toutes les méthodes partagent observations et contrôleur rend la comparaison plus lisible que les démonstrations isolées, mais il s'agit de simulation : le transfert vers le matériel réel n'est pas évalué ici, et les scores détaillés ne figurent pas dans le résumé. BiGym, introduit initialement pour la manipulation mobile bimanuelle sur un robot à base roulante, sert de référence aux travaux sur les VLA et l'imitation. Le passage au G1, plateforme humanoïde accessible largement diffusée en recherche, rapproche le benchmark des modèles de la famille π0.5 de Physical Intelligence, déjà évalués ici. Les suites possibles tiennent à l'ouverture des données : d'autres laboratoires pourront y confronter leurs VLA ou leurs agents de codage, et l'écart sur l'empilement et le transport multi-objets servira de cible aux prochains travaux.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
VOMMI : collecte et exploitation de démonstrations portables pour la manipulation mobile
25arXiv cs.RO 

VOMMI : collecte et exploitation de démonstrations portables pour la manipulation mobile

Des chercheurs présentent VOMMI (Visual-Odometry-Conditioned Mobile Manipulation Interface), un cadre de collecte de démonstrations portables et d'apprentissage pour la manipulation mobile, publié sur arXiv. Le système synchronise une vue « corps » et une vue « main » en RGB pour capturer à la fois le contexte de navigation et les interactions locales avec les objets, sans calibration de correspondance cinématique entre humain et robot. Deux briques techniques le composent. R2-VO affine hors ligne les trajectoires de démonstration à partir d'ancres géométriques parcimonieuses, puis produit des tokens de mouvement local causaux sur plusieurs horizons de prédiction. Un adaptateur résiduel par groupes d'actions injecte ces tokens uniquement dans la branche de base mobile du modèle vision-langage-action (VLA). Les expériences reposent sur 500 trajectoires portables par tâche, dont 75 réservées à l'évaluation RGB-VO, et sur 200 démonstrations robot servant de référence. La politique post-entraînée uniquement sur données portables affiche une erreur de vitesse de base inférieure de 18,2 % à celle d'une politique entraînée sur démonstrations robot, avec une précision de translation de l'effecteur comparable. La reconstruction hors ligne réduit l'erreur de trajectoire absolue de 24,6 % en moyenne pour les flux corps et main, par rapport au meilleur point de comparaison évalué pour chaque flux. Sur trois tâches réelles, le système complet gagne 8,3 points de succès moyen face à OpenPI 0.5. Pour les intégrateurs et les équipes data, l'enjeu est le coût de collecte. La téléopération et les dispositifs spécialisés bardés de capteurs restent le goulot d'étranglement des politiques de manipulation mobile, et une capture portable, sans robot et avec une simple caméra RGB, élargirait fortement le volume de démonstrations accessible. Le résultat le plus parlant est l'erreur de vitesse de base : la navigation est précisément la dimension où l'odométrie visuelle brute dérive et où l'on pouvait craindre que des données humaines transfèrent mal. Ici, elles font mieux que les données robot sur cette métrique, ce qui suggère que le conditionnement par mouvement visuel compense le défaut de supervision. Il faut toutefois rester prudent : le gain de 8,3 points sur OpenPI 0.5 est modeste, mesuré sur seulement trois tâches, et les travaux ne précisent pas la nature des tâches ni les intervalles de confiance dans ce résumé. Il s'agit d'un résultat de laboratoire, sans déploiement industriel. Le contexte est celui de la pénurie de données pour l'intelligence incarnée. Des interfaces portables comme UMI ont montré qu'on pouvait collecter des démonstrations de manipulation sans robot, mais elles se limitent surtout à la manipulation de table, sans la composante de déplacement de la base. VOMMI étend cette logique à la manipulation mobile, en s'appuyant sur la famille de politiques OpenPI (basée sur Pi-0) comme référence. Les acteurs concurrents du côté des VLA, dont Physical Intelligence, Figure avec Helix ou Nvidia avec GR00T, misent eux aussi sur des corpus massifs mêlant vidéo humaine et données robot. Les suites logiques seraient une validation sur davantage de tâches et de morphologies de robots, ainsi qu'une mesure du compromis entre volume de données portables et qualité de reconstruction hors ligne.

RecherchePaper
1 source
StairVLA : génération d'actions hiérarchique et sensible aux étapes pour les modèles vision-langage-action (VLA)
26arXiv cs.RO 

StairVLA : génération d'actions hiérarchique et sensible aux étapes pour les modèles vision-langage-action (VLA)

Des chercheurs publient sur arXiv (2610.07756v1) StairVLA, un cadre de génération d'actions hiérarchique pour les modèles vision-langage-action (VLA). Ces modèles utilisent de plus en plus des têtes d'action à diffusion ou à flow matching pour produire des actions robotiques continues. Les auteurs constatent que ces têtes traitent la trajectoire de débruitage de façon quasi uniforme, alors que le conditionnement évolue selon les étapes. Au début, instructions en langage et observations visuelles servent à fixer une trajectoire grossière. Ensuite, le débruitage s'appuie davantage sur l'observation visuelle courante pour aligner l'action. StairVLA exploite cette observation. Un VLA de haut niveau exécute seulement les premières étapes de débruitage et produit une trajectoire longue, partiellement débruitée et réutilisable. Un raffineur léger, tournant à plus haute fréquence, termine le débruitage de segments d'actions locaux (« chunks ») avec les dernières observations. Sur le benchmark simulé LIBERO, une version de style GR00T fait passer le taux de succès moyen de 96,5 % à 97,8 %. La latence d'inférence amortie passe de 115,0 ms à 44,2 ms par chunk, soit environ 2,6 fois moins. Les auteurs affirment des résultats comparables sur deux architectures VLA, plusieurs benchmarks simulés et des tâches sur robot réel, sans en détailler les chiffres dans le résumé. L'enjeu est le coût de calcul, un des freins au déploiement des VLA. Le backbone, très gourmand, est appelé à chaque chunk, ce qui limite la fréquence de boucle fermée et impose du matériel embarqué coûteux. StairVLA propose de n'invoquer ce backbone que rarement et de laisser un module léger corriger à haute fréquence. Le gain de latence ne se fait pas au prix de la précision, ce qui compte pour les intégrateurs qui visent des tâches de manipulation réactives sur des plateformes à budget énergétique limité. Les résultats restent à nuancer. LIBERO est un benchmark saturé, où un écart de 1,3 point est modeste. Les gains en conditions réelles, face à des perturbations et à des objets inédits, ne sont pas quantifiés dans le résumé. Il s'agit d'une publication de recherche, pas d'un produit ni d'un déploiement. Ce travail s'inscrit dans l'effort pour accélérer les VLA, après les têtes d'action par diffusion de Pi-0 et de GR00T, les approches à deux systèmes comme Helix de Figure, qui sépare un modèle lent de raisonnement d'une politique rapide, et les méthodes de distillation ou de réduction du nombre d'étapes de débruitage. La spécificité de StairVLA est d'utiliser l'action partiellement débruitée comme interface entre les deux niveaux, sans module de planification séparé. Les prochaines étapes à surveiller sont la publication du code, des validations sur davantage de robots réels et une comparaison directe avec les approches de type Helix ou Pi-0.5 en conditions industrielles.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
GlanceWAM : imagination parcimonieuse au moment du test pour les modèles monde-action
27arXiv cs.RO 

GlanceWAM : imagination parcimonieuse au moment du test pour les modèles monde-action

Des chercheurs publient sur arXiv GlanceWAM, une architecture de « world-action model » (WAM) qui sépare l'imagination visuelle du contrôle moteur sur un unique backbone vidéo de type DiT (Diffusion Transformer) partagé. Un module « proposeur » asynchrone tourne sur une horloge lente et génère en arrière-plan une seule image d'anticipation, projetée à quelques secondes dans le futur. En parallèle, une tête d'action décode des « chunks » d'actions au rythme du contrôle, soit 48 ms par chunk sur un seul GPU A100, entièrement dans l'espace latent et sans attendre la génération vidéo. Deux mécanismes rendent cela possible : un masque d'attention « non interférant » qui isole les représentations vidéo de celles de l'action, et un entraînement robuste à la péremption, qui prépare le modèle à exploiter une anticipation devenue légèrement ancienne. Entraîné uniquement sur démonstrations, le modèle atteint 72,2 % de réussite sur le benchmark RoboCasa (24 tâches de cuisine), contre 67,1 % pour Cosmos Policy en mode synchrone, et 99,0 % sur LIBERO. La latence par chunk est divisée par 24 par rapport aux WAM synchrones. En manipulation réelle, mono-bras et bimanuelle, il dépasse en moyenne π0.5 sans aucun pré-entraînement sur données robot. Le code est publié sur GitHub. L'enjeu est un compromis que les WAM n'avaient pas résolu. Générer de la vidéo à la fréquence de contrôle est trop lent pour un robot réel, alors que supprimer l'imagination au moment de l'inférence coûte en taux de réussite. Ici, les deux gains arrivent ensemble : l'anticipation sert de signal de guidage sans se trouver sur le chemin critique. Pour un intégrateur, cela rend plausible l'usage de priors issus de modèles vidéo sur du matériel standard, sans grappe de GPU dédiée au contrôle. Le résultat contredit aussi l'idée que la prédiction visuelle fine, image par image, serait nécessaire : une seule image future, consommée en latent, suffit. Quelques réserves s'imposent toutefois. Les chiffres viennent de benchmarks de simulation, où l'écart de 5 points avec Cosmos Policy reste modeste, et LIBERO est quasi saturé. Les essais réels, dont la taille n'est pas précisée dans le résumé, n'ont pas été validés indépendamment. Il s'agit d'un travail académique, pas d'un produit déployé. Ce travail s'inscrit dans la montée des modèles monde-action, qui réutilisent les modèles de génération vidéo pour doter les politiques robotiques d'une intuition physique. Cosmos Policy, de NVIDIA, en est la référence synchrone, et π0.5, de Physical Intelligence, représente la famille des VLA (vision-language-action) entraînés à grande échelle sur données robot. Le fait de battre π0.5 sans pré-entraînement robot suggère que les modèles vidéo pré-entraînés peuvent compenser en partie le manque de données de manipulation, un point sensible alors que ces corpus restent coûteux. La suite logique est de valider l'approche sur des tâches plus longues et sur d'autres plateformes, notamment les humanoïdes. Le code ouvert devrait permettre à d'autres équipes de reproduire et de contester ces résultats rapidement.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
SimpleTouch : les modèles vision-langage-action (VLA) maîtrisent-ils la manipulation riche en contacts sans préentraînement tactile de la politique ?
28arXiv cs.RO 

SimpleTouch : les modèles vision-langage-action (VLA) maîtrisent-ils la manipulation riche en contacts sans préentraînement tactile de la politique ?

Des chercheurs publient SimpleTouch, une extension du modèle vision-langage-action (VLA) π0.5 qui lui ajoute un « expert tactile ». Cet expert exploite tous les tokens d'un encodeur tactile préentraîné et gelé. Il apprend à partir de la supervision des actions et de la prédiction à plusieurs horizons de représentations latentes tactiles futures. L'entraînement tient en une seule étape et n'utilise que les démonstrations de la tâche, sans préentraînement tactile de la politique ni alignement visuotactile séparé. Avec 50 démonstrations par tâche, SimpleTouch obtient le meilleur taux de succès parmi les méthodes évaluées sur les six tâches du benchmark UniVTAC, avec une moyenne de 77,5 %. FTP-π0.5 atteint 45,2 % et FTP-1 66,7 %, soit des écarts de 32,3 et 10,8 points de pourcentage. Sur quatre tâches réelles, la moyenne est de 71,3 %, soit 8,8 points au-dessus de FTP-1. Le papier, disponible sur arXiv avec une page projet, ne précise pas dans cet extrait le capteur tactile utilisé, le robot ni le nombre d'essais par tâche. L'enjeu est la chaîne d'entraînement de la manipulation riche en contacts. Beaucoup d'équipes partent du principe que greffer le toucher sur un VLA préentraîné uniquement sur la vision et le langage, au moment du réglage fin, creuse un écart intermodal et donne peu de gains, voire dégrade les résultats. Elles ajoutent donc des corpus tactiles à grande échelle ou une étape d'alignement dédiée, ce qui alourdit la collecte de données et le pipeline. SimpleTouch suggère que, si l'on dispose déjà d'un VLA et d'un encodeur tactile solides, ces étapes ne sont pas indispensables pour ces tâches. Pour un intégrateur, cela abaisse le coût d'entrée : une cinquantaine de démonstrations par tâche suffiraient pour doter une politique existante de sensibilité tactile. Il faut toutefois rester prudent. Il s'agit d'un préprint non évalué par les pairs, d'un nombre limité de tâches (six en simulation, quatre en réel), et la comparaison porte sur des références choisies par les auteurs. Rien n'indique une généralisation à d'autres capteurs, morphologies ou tâches. Ce travail s'inscrit dans la montée des VLA fondés sur la famille π de Physical Intelligence, qui servent de base à de nombreuses extensions de recherche. La question de la modalité tactile y reste ouverte : les approches concurrentes, comme FTP-1, misent sur un préentraînement tactile de la politique, tandis que SimpleTouch teste l'hypothèse inverse, celle de la simplicité. Le benchmark UniVTAC fournit un terrain commun de comparaison, mais les résultats en conditions industrielles, avec cadences, variabilité des pièces et usure des capteurs, restent à démontrer. Les prochaines étapes probables sont des réplications par d'autres laboratoires, des tests sur davantage de tâches et de capteurs, et une confrontation directe avec des modèles préentraînés sur de grands volumes de données tactiles.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
StructRL : apprentissage par renforcement structuré en ligne pour les tâches vision-langage-action à long horizon
29arXiv cs.RO 

StructRL : apprentissage par renforcement structuré en ligne pour les tâches vision-langage-action à long horizon

Des chercheurs d'Amazon proposent StructRL, un cadre d'apprentissage par renforcement (RL) en ligne destiné à améliorer les modèles vision-langage-action (VLA) sur des tâches longues, c'est-à-dire celles qui exigent plusieurs manipulations dépendantes à partir d'une seule consigne. La méthode découpe chaque tâche en sous-tâches vérifiables. Elle n'accorde une récompense intermédiaire qu'une fois les sous-tâches prérequises accomplies, puis module cette récompense selon le rythme d'achèvement. Les tests portent sur deux bancs d'essai, RoboCasa365 et LIBERO-Long, avec deux modèles de base, GR00T-N1.5 de NVIDIA et pi 0.5 de Physical Intelligence. Selon les auteurs, StructRL dépasse de façon constante les méthodes de RL en ligne auxquelles il est comparé. Le résumé ne donne pas de taux de réussite chiffrés, et le code est publié sur le dépôt GitHub d'Amazon Science. Il s'agit d'un travail de recherche, sans produit ni déploiement associé. Ce résultat vise un point faible connu des VLA. Ces modèles fonctionnent correctement sur des manipulations courtes, mais leurs performances se dégradent quand les étapes s'enchaînent, car une erreur précoce compromet toute la suite. La plupart des approches de RL en ligne ne récompensent qu'à la réussite complète de la tâche. Ce signal est très rare et ne distingue pas un échec immédiat d'une séquence presque réussie. En structurant la supervision autour de sous-tâches dont l'accomplissement se vérifie, StructRL donne un gradient exploitable sans recourir à un modèle de récompense appris, plus fragile. Pour un intégrateur, l'enjeu est concret : les tâches utiles en cuisine, en logistique ou en assemblage sont presque toujours longues. Cela suggère aussi que le post-entraînement par RL, et pas seulement l'imitation, pourrait devenir l'étape qui fait passer un VLA de la démonstration à la fiabilité. Il faut toutefois rester prudent. Les évaluations se font en simulation, et le cadre suppose qu'on puisse définir et détecter automatiquement chaque sous-tâche. C'est simple dans un simulateur, beaucoup moins dans un atelier réel, où il faut des capteurs ou des vérificateurs fiables. Le passage au monde physique reste donc à démontrer. Le travail s'inscrit dans une tendance déjà visible : affiner des modèles généralistes comme GR00T ou la famille pi par RL, face à des approches concurrentes fondées sur des modèles de récompense appris ou sur des démonstrations supplémentaires. La suite logique sera de tester la méthode sur robot réel et sur d'autres architectures de VLA.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Au-delà de l'importance des tokens : préserver les échafaudages spatiaux pour une inférence VLA efficace
30arXiv cs.RO 

Au-delà de l'importance des tokens : préserver les échafaudages spatiaux pour une inférence VLA efficace

Une équipe de chercheurs propose GeoScaffold, une méthode d'élagage (pruning) des tokens visuels pour les modèles vision-langage-action (VLA), qui ne demande aucun réentraînement. Le travail, publié sur arXiv (2609.36967), part d'un constat : les stratégies existantes retiennent des tokens visuels individuels selon leur pertinence sémantique pour la tâche, sans tenir compte de l'information spatiale que la manipulation exige. Pour tester cette limite, les auteurs construisent une référence volontairement simple, « Stride », qui échantillonne uniformément les tokens sur la séquence visuelle aplatie en une dimension, soit un élagage purement géométrique. Sur pi 0.5 et le benchmark de simulation LIBERO, GeoScaffold conserve seulement 20 % des tokens visuels tout en maintenant un taux de succès moyen de 93,2 %, avec une accélération de 1,78 fois de la phase de prefill par rapport au modèle non élagué. Le résultat le plus instructif tient au comportement de Stride. À certains taux d'élagage, cette méthode naïve dépasse l'élagage sémantique et l'élagage aléatoire, mais elle s'effondre dès que le budget de tokens baisse légèrement. Les auteurs l'expliquent par le « rayon de couverture spatiale », c'est-à-dire le plus grand angle mort créé dans l'image par l'ensemble des tokens conservés, et ils observent une forte corrélation entre ce rayon et le succès des tâches. Pour les équipes qui cherchent à faire tourner des VLA sur du calcul embarqué, le message est clair : choisir les tokens « importants » ne suffit pas, il faut aussi préserver l'échafaudage géométrique de la scène. Cela remet en cause l'idée, héritée de la vision par ordinateur généraliste, que la pertinence sémantique suffit à guider la compression pour le contrôle robotique. Le gain reste modeste sur le prefill, et il est mesuré uniquement en simulation. Aucune validation sur robot réel, latence de bout en bout ou consommation n'est annoncée dans le résumé. GeoScaffold découpe chaque image en régions spatiales, répartit le budget de tokens entre régions selon des poids de pertinence pour la tâche, puis choisit à l'intérieur de chaque région des tokens « d'échafaudage » par échantillonnage du point le plus éloigné (farthest point sampling), afin de réduire le rayon de couverture local. Il s'inscrit dans une série de travaux sur l'accélération des VLA, dont pi 0.5 de Physical Intelligence est ici le modèle de référence, et qui cherchent à réduire le coût d'inférence sans repasser par l'entraînement. LIBERO reste un banc d'essai en simulation, dont les scènes sont plus régulières que celles d'un site industriel, ce qui limite la portée des 93,2 % annoncés. La suite logique serait un test sur d'autres architectures VLA et sur matériel réel, mais aucun calendrier n'est communiqué.

RecherchePaper
1 source
Plans rapides, actions fidèles : combler l'écart entre planification et exécution dans les modèles VLA hiérarchiques
31arXiv cs.RO 

Plans rapides, actions fidèles : combler l'écart entre planification et exécution dans les modèles VLA hiérarchiques

Une équipe de recherche publie sur arXiv (2609.30833) une étude sur les systèmes hiérarchiques vision-langage-action (VLA), où un planificateur vision-langage pilote un module d'action bas niveau. Sur un pipeline de waypoints adapté du modèle Pi-0.5 de Physical Intelligence, le décodage token par token (Token-AR) du planificateur exige jusqu'à 57 passes du modèle vision-langage par plan, un coût incompatible avec le temps réel ; effacer les points d'arrivée des trajectoires ne dégrade quasiment pas le taux de réussite. La solution proposée, un décodage par blocs (Block-AR) combiné à une modulation d'objectif normalisée (NGM), fait tomber ce nombre de passes de 57 à 8 sur le benchmark LIBERO et divise par 8,7 la latence sur un robot bimanuel Rokae, tandis que le taux de réussite sur LIBERO-Long grimpe de 91,0% à 96,2% et la moyenne des quatre suites de 95,85% à 98,45%. Ce travail met en lumière un angle mort des architectures VLA hiérarchiques, popularisées par des modèles comme GR00T N2 de NVIDIA ou Helix de Figure : la course actuelle privilégie les capacités du planificateur, alors que l'étude situe le véritable goulot d'étranglement dans l'articulation entre plan et exécution. Que des plans tronqués ou peu exploités n'affectent pas les performances contredit l'idée qu'une planification plus détaillée garantit plus de fiabilité. Pour les intégrateurs, la latence des VLM reste le principal frein à un déploiement en cadence réelle ; la diviser par plus de huit sans perte de précision, avec un gain de près de trois points sur les tâches longues, indique qu'un contrôle temps réel est atteignable sans sacrifier le raisonnement vision-langage. Le pipeline de référence s'appuie sur Pi-0.5, le modèle VLA hiérarchique de Physical Intelligence, dont l'approche par waypoints s'inscrit dans le même courant que GR00T N2 (NVIDIA) ou Helix (Figure). Il s'agit d'une contribution de recherche algorithmique, validée en simulation sur LIBERO et testée sur un bras bimanuel Rokae, non d'un produit commercialisé ni d'un déploiement industriel. Sans calendrier d'intégration à une plateforme commerciale annoncé, la publication vise à documenter une méthode reproductible pour réduire le coût de calcul des VLA hiérarchiques tout en renforçant la fidélité entre plan et action, une piste que d'autres laboratoires travaillant sur des architectures similaires pourraient reprendre.

RechercheOpinion
1 source
Sorties anticipées découplées : allocation de calcul adaptée à la tâche dans les VLA à flow-matching
32arXiv cs.RO 

Sorties anticipées découplées : allocation de calcul adaptée à la tâche dans les VLA à flow-matching

Une équipe de recherche propose une méthode pour réduire le coût de calcul des modèles VLA à flow matching, qui combinent un backbone vision-langage préentraîné avec un action expert générant des actions robotiques continues. Publiée sur arXiv le 25 septembre 2026 (2609.29382), l'approche traite comme réglables indépendamment trois leviers : la profondeur du backbone, celle de l'action expert et le nombre d'étapes de denoising, via de légers modules "Exit Transformers" insérés à des profondeurs intermédiaires et entraînés par distillation, associés à un mécanisme de synthèse de cache KV qui reconstruit les clés et valeurs des couches sautées. Le surcoût en paramètres reste minime, +2,1% pour SmolVLA et +4,1% pour π0.5, sans réentraînement complet. Sur LIBERO et Meta-World, la configuration conjointe des trois leviers réduit la latence de 79,2%, le calcul en FLOPs de 31,8%, et améliore le taux de réussite moyen de 5,6%. L'apport principal n'est pas seulement le gain de vitesse : c'est la démonstration que le budget de calcul optimal dépend de la tâche, certaines bénéficiant d'un backbone raccourci, d'autres d'un action expert raccourci ou de moins d'étapes de denoising, ces leviers ayant des effets complémentaires plutôt que redondants. C'est une piste directement exploitable pour les intégrateurs cherchant à faire tourner des politiques VLA sur du matériel embarqué à puissance limitée, sans réentraînement coûteux. Améliorer simultanément vitesse et taux de réussite contredit l'hypothèse habituelle d'un compromis strict entre précision et rapidité, un point qui intéresse les décideurs évaluant le passage des VLA généralistes du prototype au produit industriel. Jusqu'ici, les méthodes existantes pour accélérer les VLA à flow matching se limitaient à sauter des couches du backbone ou à réduire les étapes de débruitage, sans toucher à la profondeur de l'action expert, le composant qui génère les actions du robot. Les auteurs comblent cette lacune en traitant les trois axes conjointement. La méthode est validée sur SmolVLA, modèle compact open source de l'équipe LeRobot de Hugging Face, cofondée par des Français, et sur π0.5, de la lignée des modèles Pi de Physical Intelligence. Il s'agit d'une contribution de recherche évaluée en simulation, sans partenaire industriel ni calendrier de déploiement annoncé.

UESmolVLA, l'un des deux modèles valides par cette méthode, est développe par l'équipe LeRobot de Hugging Face, cofondée par des chercheurs français, ce qui relie indirectement cette avancée a l'écosystème européen de la robotique open source.

RecherchePaper
1 source
HarnessPAI : un harnais évolutif pour l'IA physique
33arXiv cs.RO 

HarnessPAI : un harnais évolutif pour l'IA physique

Une équipe liée au projet Darwin Agent a publié le 25 septembre 2026 sur arXiv (2609.29166) HarnessPAI, un framework agnostique au modèle et à la morphologie qui pilote les modèles d'action physique via du code exécutable. Le système sépare deux échelles : pendant un rollout, un programme fixe vérifie l'exécution en boucle ouverte ; entre les rollouts, il évolue en boucle fermée et transforme les échecs en compétences réutilisables grâce au retour d'exécution. Testé sur des bras de bureau, des robots domestiques, un aspirateur robot et un agent marcheur à pattes, HarnessPAI améliore les modèles d'action purs et les baselines "code-as-policy" sans réentraînement : +61,6 points sur Pi-0.5 sur LIBERO-PRO, +27,2 points sur WorldDreamer sur les tâches atomiques de RoboCasa. Une fois le programme convergé, aucune délibération LLM en ligne n'est nécessaire ; il sert aussi de collecteur de données expertes bon marché, et réentraîner Pi-0.5 sur ces données relève son taux de réussite de 38,8 points sur LIBERO-PRO. Ces résultats contredisent l'hypothèse dominante selon laquelle la performance en robotique physique dépend avant tout de modèles d'action plus puissants : l'entraînement standard de ces modèles peut au contraire éroder les capacités de perception et de raisonnement nécessaires à un comportement robuste, rendant même des modèles forts vulnérables aux perturbations de scène et aux tâches longues. Pour les intégrateurs et chercheurs, cela suggère qu'un harnais exécutable et piloté par le retour d'expérience peut être aussi déterminant que le modèle lui-même, et qu'il offre une voie moins coûteuse pour collecter des données d'entraînement sans téléopération massive. HarnessPAI s'inscrit dans les efforts visant à combler l'écart entre démonstrations et déploiement réel des modèles vision-langage-action, dans un paysage dominé par Pi-0 et Pi-0.5 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI ; l'étude compare directement son approche à Pi-0.5 et à WorldDreamer, la positionnant comme complémentaire plutôt que concurrente. Il s'agit pour l'instant d'une publication de recherche, sans annonce de déploiement industriel ni de partenaire commercial identifié : les auteurs présentent ces résultats comme une preuve de concept sur plusieurs plateformes robotiques, ouvrant la voie à des systèmes intégrant perception, raisonnement et action de manière vérifiable.

IA physiquePaper
1 source
La gaussienne suffit : les priors par flow matching n'aident pas lors du fine-tuning de grands modèles de comportement
34arXiv cs.RO 

La gaussienne suffit : les priors par flow matching n'aident pas lors du fine-tuning de grands modèles de comportement

Une étude publiée sur arXiv en septembre 2026 (2609.27070) montre que remplacer le prior gaussien standard des politiques de diffusion ou de flow-matching par un prior non gaussien, plus proche de la distribution cible, n'améliore pas le fine-tuning de grands modèles de comportement (Large Behavior Models) préentraînés. Les auteurs testent trois modèles, LBM 1.0 du Toyota Research Institute, Pi-0.5 de Physical Intelligence et GR00T N1.5 de NVIDIA, sur plus de 100 000 essais en simulation couvrant plus de 40 tâches et deux plateformes, ainsi que 1250 essais sur matériel réel portant sur cinq tâches de manipulation bimanuelle. Dans quasiment tous les cas, le prior non gaussien produit des résultats statistiquement indiscernables, voire pires, que le prior gaussien classique; un éventuel avantage n'apparaît que pour de très faibles fractions de données de fine-tuning. Ce résultat contredit l'hypothèse répandue selon laquelle un prior appris, plus proche de la cible, apporterait un gain supplémentaire lors du fine-tuning de modèles préentraînés, un bénéfice pourtant bien établi à l'entraînement from scratch. Pour les intégrateurs qui bâtissent leurs déploiements sur des modèles vision-language-action génériques, l'étude suggère que l'effort d'ingénierie compte moins sur le design du bruit d'entrée que sur l'entraînement de l'encodeur: les politiques fine-tunées convergent vers des actions similaires quel que soit le prior, alors que leurs embeddings divergent fortement du préentraînement. Une ablation du taux d'apprentissage confirme que l'entraînement de l'encodeur reste le facteur dominant de la performance finale, loin devant le choix du prior. L'étude s'inscrit dans la vague de modèles génériques de manipulation robotique préentraînés sur de larges corpus de démonstrations, à l'image de LBM (Toyota Research Institute), de la famille Pi de Physical Intelligence (Pi-0, Pi-0.5) ou de GR00T (NVIDIA). Les gains procurés par des priors non gaussiens n'avaient jusqu'ici été démontrés qu'à l'entraînement from scratch; ce travail est le premier à tester leur transfert au paradigme dominant de la robotique généraliste en 2026, le fine-tuning de fondations préentraînées. Les auteurs concluent en identifiant des pistes pour déterminer dans quelles conditions, notamment à très faible volume de données cibles, un prior appris pourrait malgré tout apporter un bénéfice.

UELes intégrateurs européens qui fine-tunent des modèles VLA génériques (LBM, Pi-0.5, GR00T) peuvent appliquer ces conclusions pour prioriser l'entrainement de l'encodeur plutôt que le design du prior.

RecherchePaper
1 source
Actions vision-langage sécurisées par Poisson pour la sécurité corporelle complète des politiques apprises
35arXiv cs.RO 

Actions vision-langage sécurisées par Poisson pour la sécurité corporelle complète des politiques apprises

Une équipe de recherche en robotique a publié en septembre 2026 sur arXiv un article décrivant VLPSA (Vision-Language-Poisson-Safe Actions), un filtre de sécurité destiné aux politiques Vision-Language-Action (VLA) qui ne garantissent aujourd'hui aucune évitement de collision fiable, en particulier hors des distributions d'entraînement. Le système synthétise en ligne, à partir des données de perception, des fonctions de sécurité de Poisson (PSF), converties en fonction barrière de contrôle (CBF) appliquée via un filtre CBF-QP sur l'ensemble du corps du robot et sur tout objet saisi, traité comme une extension du dernier lien articulaire. Pour tenir le temps réel tout en gardant une résolution spatiale fine dans les zones critiques de la tâche, VLPSA combine deux résolutions de cette PSF grâce à des compositions booléennes de CBF. Testé sur le benchmark SafeLIBERO face à plusieurs méthodes de filtrage de sécurité existantes, VLPSA obtient le meilleur taux d'évitement de collision du lot: il fait passer ce taux de 23,1% pour la politique de base pi-0.5 à 91,2%, tout en dépassant le taux de réussite des tâches de cette même politique de base. Le système a aussi été déployé sur un bras robotique Franka FR3 dans des scènes encombrées avec obstacles dynamiques et interférence humaine. L'intérêt principal tient au fait que VLPSA agit comme une surcouche de sécurité sans nécessiter de réentraînement de la politique VLA sous-jacente, un point sensible pour les intégrateurs qui déploient des modèles génériques de manipulation dans des environnements industriels non contrôlés. Le résultat contredit l'hypothèse selon laquelle renforcer la sécurité dégraderait mécaniquement la performance de la tâche: ici, sécurité et taux de réussite progressent simultanément. Cela apporte une réponse concrète à un angle mort connu des modèles VLA génériques, souvent démontrés dans des environnements scénarisés mais fragiles face à des obstacles imprévus ou des humains dans la boucle. Le travail s'inscrit dans la lignée des recherches sur les politiques VLA génériques de manipulation, dont pi-0.5 sert ici de politique de référence, et dans le champ plus large des fonctions barrière de contrôle appliquées à la robotique de sécurité. Les auteurs comparent VLPSA à d'autres baselines de filtrage de sécurité sans les nommer précisément dans le résumé, et les prochaines étapes annoncées concernent l'extension des déploiements réels au-delà du Franka FR3 testé.

RecherchePaper
1 source
StarVLA-α : réduire la complexité des systèmes vision-langage-action
36arXiv cs.RO 

StarVLA-α : réduire la complexité des systèmes vision-langage-action

Une équipe de recherche présente StarVLA-α, un modèle de référence pour les systèmes Vision-Language-Action (VLA) en robotique, dans une preprint arXiv (2604.11757, version 2) accompagnée d'un code annoncé sur github.com/starVLA/starVLA. Le modèle réduit volontairement la complexité architecturale et applique le même pipeline minimal sur quatre benchmarks standards du secteur : LIBERO, SimplerEnv, RoboTwin et RoboCasa. Sa version généraliste unique dépasse de 20 % le modèle Pi-0.5 (π0.5) sur RoboChallenge, un benchmark public évalué en conditions réelles et non en simulation. Les auteurs ont réévalué plusieurs choix de conception clés : stratégie de modélisation de l'action, pré-entraînement spécifique au robot et ingénierie d'interface. Ce résultat contredit une hypothèse répandue dans la course aux VLA, selon laquelle la performance exige un empilement d'astuces d'ingénierie et des architectures toujours plus complexes. En montrant qu'un backbone VLM (vision-language model) solide combiné à un design minimal suffit à dépasser un modèle reconnu comme Pi-0.5 sur un test en conditions réelles, l'étude remet en question la course à la complexité qui domine le secteur. Pour les intégrateurs et les laboratoires de recherche, l'intérêt est concret : une base simple, reproductible et compétitive réduit le coût d'entrée pour tester de nouvelles idées sans reproduire des pipelines propriétaires. Cela suggère aussi que le goulot d'étranglement des VLA tient moins à l'architecture qu'à la qualité du backbone et des données d'entraînement. Le champ des VLA s'est fragmenté depuis l'arrivée de modèles comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure AI, associé au robot Figure 03, chacun avec ses propres choix d'architecture et de données, rendant les comparaisons difficiles. StarVLA-α se positionne en contrepoint académique, en isolant les axes de conception pour permettre une analyse contrôlée plutôt qu'une surenchère d'ingénierie propre à chaque benchmark. Il s'agit d'une contribution de recherche et non d'un produit commercial ou d'un déploiement industriel : le code n'était pas encore public au moment de la publication, seule une adresse GitHub était annoncée. Les auteurs présentent StarVLA-α comme un point de départ pour de futurs travaux sur les VLA, sans partenariat industriel ni calendrier de déploiement annoncé.

RechercheOpinion
1 source
Infinigence AI publie en open source APXInf pour l'inférence embarquée sur Jetson Thor
37Pandaily 

Infinigence AI publie en open source APXInf pour l'inférence embarquée sur Jetson Thor

Infinigence AI, en collaboration avec des équipes de l'université Tsinghua et de Shanghai Jiao Tong University, a mis en open source APXInf, un moteur d'inférence conçu pour faire fonctionner des modèles de robotique embarquée directement sur l'appareil, sans passer par le cloud, afin de fermer localement la boucle percevoir-décider-agir. Le code est disponible sur GitHub sous RLinf/APXinf-robo, avec un runtime écrit en Rust et des bindings Python, ciblant les cartes Jetson de NVIDIA ainsi que des GPU de bureau. Selon Infinigence et les relais du média chinois QbitAI, le chiffre phare est une latence d'inférence de bout en bout ramenée de 278 ms à moins de 26 ms pour le modèle PI 0.5 en FP8 sur une carte Jetson Thor, soit environ 38,46 Hz, une réduction d'un facteur 10 par rapport à la version non optimisée prise comme référence. Cette performance reposerait sur des optimisations de pipeline, de graphe de calcul, de noyaux de calcul (kernels) et de quantification, complétées par une fusion de kernels CUDA assistée par un agent baptisé Agent4Kernel. Le support initial couvre les modèles PI 0.5 et WALL-OSS, sur Jetson Orin, Jetson Thor et GeForce RTX 4090. Pour l'industrie robotique, cette annonce s'adresse directement aux intégrateurs et aux équipes R&D confrontées au fossé entre modèles vision-langage-action (VLA) impressionnants en démonstration et contrôle stable et réactif sur robot réel. En ciblant explicitement le "dernier kilomètre" entre un modèle VLA capable et un contrôle embarqué fiable, Infinigence répond à une critique récurrente du secteur: la latence cloud rend beaucoup de VLA inutilisables pour du contrôle temps réel en environnement industriel. Le choix architectural, un runtime Rust minimal pour la sécurité mémoire et la stabilité sur de longues durées, plutôt qu'une simple optimisation de vitesse de pointe, cible les déploiements industriels continus plutôt que les démonstrations ponctuelles. Toutefois, le chiffre de latence doit être lu avec prudence: il concerne un modèle et une configuration matérielle précis, et Infinigence lui-même invite les équipes à reproduire ces mesures sur leurs propres checkpoints et contraintes de puissance, ce qui suggère que la portabilité de la performance à d'autres modèles ou tailles de batch n'est pas garantie. APXInf s'inscrit dans la continuité de RLinf, la pile d'entraînement par apprentissage par renforcement déjà développée par Infinigence, étendant ainsi son écosystème open source de la phase de post-entraînement vers le déploiement embarqué, avec une compatibilité de service annoncée avec OpenPI. La feuille de route évoquée inclut de nouveaux portages de modèles VLA, VLM et de modèles du monde (des travaux liés à Qwen et à la famille GR00T sont déjà mentionnés), une optimisation au format nvfp4, des backends AMD, ainsi que des backends d'inférence et des systèmes d'exploitation robotiques domestiques chinois. Le projet se positionne ainsi face aux piles d'inférence propriétaires ou semi-fermées des acteurs occidentaux du VLA, en misant sur l'ouverture du code comme argument de diffusion auprès des intégrateurs.

UELes intégrateurs et équipes R&D européennes en robotique peuvent tester cet outil open source pour réduire la latence d'inférence VLA embarquée sur leurs propres plateformes Jetson.

IA physiqueActu
1 source
IMLE-VLA : génération d'actions en une seule étape pour les modèles vision-langage-action
38arXiv cs.RO 

IMLE-VLA : génération d'actions en une seule étape pour les modèles vision-langage-action

Publié sur arXiv (2609.10915), IMLE-VLA remplace la tête d'action itérative des politiques vision-langage-action (VLA) par un générateur en une seule étape, entraîné via l'estimation conditionnelle du maximum de vraisemblance implicite (cIMLE). Appliqué au modèle π0.5, il fait passer la fréquence d'inférence de 15 Hz à 55 Hz, soit un facteur 3,67, et jusqu'à 11 fois le débit d'action. Sur le benchmark LIBERO, qui couvre 40 tâches, IMLE-VLA atteint 98,0% de réussite moyenne, le meilleur score et la plus haute fréquence d'inférence parmi les méthodes comparées. Sous les perturbations du test LIBERO-plus, il conserve la robustesse de π0.5 alors que les autres approches se dégradent nettement. Sur un bras Franka Emika Panda, quatre tâches en conditions réelles montrent un jerk réduit de 2,2 à 3,0 fois et un temps d'inférence par épisode divisé par 3,9 à 6,6 par rapport à π0.5 seul. Le problème visé est bien identifié dans le secteur: les têtes d'action entraînées par diffusion ou flow matching, comme celle de π0.5, exigent un échantillonnage multi-étapes (jusqu'à 10 pas d'Euler), ce qui produit un mouvement saccadé du robot et ralentit l'exécution des tâches. Pour les intégrateurs et équipes robotique qui déploient des bras ou des humanoïdes pilotés par des modèles de fondation, la latence d'inférence conditionne directement la fluidité et la sécurité du contrôle en temps réel. En montrant qu'un générateur à étape unique peut couvrir la multimodalité de l'action sans tomber dans l'effondrement de mode des têtes de régression classiques, IMLE-VLA remet en cause l'idée reçue selon laquelle l'échantillonnage itératif serait indispensable pour préserver la généralisation des politiques VLA à grande échelle. Ce travail s'inscrit dans la lignée des VLA construits sur des backbones vision-langage préentraînés, avec π0.5 comme base de comparaison. Il s'agit d'une contribution académique et non d'un produit commercial: code et vidéos de démonstration sont publiés sur le site du projet à des fins de reproductibilité, sans annonce de déploiement industriel ni de pilote client. Présentée comme générique, la méthode cIMLE pourrait en principe s'appliquer à d'autres têtes d'action par diffusion ou flow matching utilisées ailleurs dans le secteur, ce qui ouvre la voie à des tests sur d'autres politiques VLA et d'autres plateformes robotiques, au-delà du seul bras Franka Emika Panda utilisé pour cette validation.

RechercheActu
1 source
Pilotage de politique par proxy
39arXiv cs.RO 

Pilotage de politique par proxy

Les chercheurs à l'origine de l'article "Proxy Policy Steering" présentent une méthode d'adaptation à l'inférence pour les politiques robotiques généralistes, publiée sur arXiv (arXiv:2609.09148v2). La technique, baptisée PPS, entraîne deux petites politiques proxy en parallèle d'un modèle de base gelé : une "proxy de référence" reproduit le comportement du modèle de base sur les observations de la tâche cible, tandis qu'une "proxy de tâche", initialisée à partir de la première, capture comment ce comportement évolue sous supervision spécifique à la tâche. La différence calibrée entre ces deux proxys, dans l'espace des vitesses, vient orienter le processus de débruitage du modèle de base à chaque étape, sans jamais modifier ses paramètres. Testée sur 8 tâches de manipulation en conditions réelles et 4 en simulation, PPS améliore le taux de réussite du modèle pi-0.5, considéré comme référence actuelle du secteur, de 53 points de pourcentage en moyenne, avec des gains sur des tâches que ce modèle échouait systématiquement auparavant. Cette approche répond à un problème central pour l'industrie robotique : comment spécialiser un modèle généraliste entraîné sur des données massives à une nouvelle tâche, avec peu de démonstrations, sans dégrader ses capacités générales ni nécessiter un réentraînement complet. Contrairement au fine-tuning LoRA, aux politiques résiduelles ou aux spécialistes entraînés from scratch, PPS ne touche pas aux poids du modèle de base et ne requiert que ses prédictions de vitesse en sortie, ce qui la rend applicable même sans accès à ses paramètres internes, un atout pour des intégrateurs qui déploieraient des modèles propriétaires fermés. Le maintien des comportements de récupération après échec, jamais démontrés explicitement dans les données de spécialisation, illustre que la méthode préserve les priors larges du modèle plutôt que de les écraser, un problème récurrent des méthodes d'adaptation classiques. Le travail s'inscrit dans la lignée des modèles vision-langage-action (VLA) génériques comme pi-0 et sa version 0.5, GR00T N2 de NVIDIA ou Helix de Figure, tous confrontés au même goulot d'étranglement du déploiement : la généralisation en démonstration ne garantit pas la performance sur une tâche industrielle précise. PPS se positionne comme alternative aux méthodes de steering à l'inférence existantes et au fine-tuning paramétrique, en comparant ses résultats empiriquement contre ces baselines. L'article ne précise pas de partenaire industriel, de calendrier de déploiement ni de coût de licence associé, ce qui situe la contribution au stade de recherche méthodologique plutôt que de produit prêt à l'intégration.

IA physiqueActu
1 source
MINERVA : quelle taille minimale pour une politique de manipulation qui résout LIBERO ?
40arXiv cs.RO 

MINERVA : quelle taille minimale pour une politique de manipulation qui résout LIBERO ?

Publiée le 4 septembre 2026 sur arXiv (2609.03715v1), l'étude MINERVA mesure la taille de modèle réellement nécessaire pour résoudre LIBERO, le benchmark de manipulation aujourd'hui dominé par des modèles vision-langage-action (VLA) de plusieurs milliards de paramètres. Sa politique de 0,54 million de paramètres atteint 95,1% de réussite sur 2 000 essais répartis sur les quatre suites standard de LIBERO, à seulement 2,4 points du résultat rapporté pour pi-0.5 de LeRobot, avec 7 700 fois moins de paramètres. Les performances plafonnent vers 1 million de paramètres et s'effondrent sous 250 000. La régression L1 directe égale le flow matching tout en étant jusqu'à 3,8 fois plus rapide sur GPU, et sur simple CPU portable, sans GPU, la politique replanifie chaque pas de contrôle en 5 à 9 millisecondes, 113 fois plus vite que SmolVLA et 1 400 fois plus vite que pi-0.5. Sur LIBERO-90 (89 tâches), le même protocole obtient 94,6%, mais chute à 46-56% face aux perturbations de LIBERO-Plus, avec une robustesse quasi nulle aux variations photométriques. Ce résultat bouscule l'idée dominante selon laquelle la manipulation robotique exige des VLA à l'échelle des grands modèles de langage: un réseau 7 700 fois plus petit que pi-0.5 approche ses performances, signe que le plancher de capacité requis par LIBERO est très bas. Une permutation des identifiants de tâche montre que le conditionnement par instruction sert surtout à sélectionner une tâche mémorisée: changer seulement ce mappage ramène le taux de réussite près du hasard, ce qui interroge ce que le benchmark mesure vraiment. Pour les intégrateurs, une inférence en quelques millisecondes sur simple CPU ouvre la voie à des contrôleurs embarqués bon marché, tandis que la fragilité aux perturbations photométriques rappelle qu'un score élevé sur benchmark ne garantit pas la robustesse en conditions réelles. Le travail s'inscrit dans une course à l'échelle menée par des VLA généralistes comme pi-0 et pi-0.5 de Physical Intelligence, GR00T N2 de NVIDIA, Helix de Figure AI ou SmolVLA de Hugging Face, cité ici comme référence de politique compacte. LIBERO, benchmark de manipulation devenu standard depuis 2023, sert de terrain de comparaison, mais son biais vers la mémorisation des tâches, mis au jour par MINERVA, questionne sa validité comme mesure de généralisation. Les auteurs appellent à une conception de politiques consciente de la capacité et à des stratégies de distillation pour produire des modèles robotiques efficaces au déploiement, plutôt qu'à une simple course au nombre de paramètres.

RecherchePaper
1 source
WISE : ordonnancement de l'imagination guidé par un modèle du monde pour un post-entraînement efficace des modèles vision-langage-action
41arXiv cs.RO 

WISE : ordonnancement de l'imagination guidé par un modèle du monde pour un post-entraînement efficace des modèles vision-langage-action

Un article publié le 3 septembre 2026 sur arXiv (2609.03681) présente WISE, une méthode de post-entraînement pour les modèles VLA (Vision-Language-Action) en robotique manipulatrice. Plutôt que d'affiner ces politiques par démonstrations d'experts coûteuses ou par renforcement en conditions réelles, risqué et onéreux, WISE s'appuie sur un modèle du monde pour imaginer et évaluer des comportements candidats, mais seulement aux états jugés critiques pour l'interaction, sur des horizons courts et multi-vues afin de limiter la dérive de prédiction. Testée sur les modèles Pi-0 et Pi-0.5 de Physical Intelligence, la méthode réduit le temps de calcul GPU d'environ 80% par rapport à une imagination exhaustive, tout en améliorant les performances sur un éventail de tâches de manipulation. Des évaluations en conditions réelles confirment des gains de robustesse et de généralisation face à des changements de distribution. Le résultat s'attaque à un frein connu à l'usage des modèles du monde en robotique: leur coût de calcul et l'accumulation d'erreurs sur de longs horizons de simulation en limitaient jusqu'ici l'intérêt pratique face au renforcement réel. En montrant qu'une imagination sélective et bornée conserve l'essentiel du gain de performance pour un cinquième du coût GPU d'une approche complète, WISE offre aux équipes de recherche appliquée un argument économique pour intégrer ces modèles dans leurs pipelines de fine-tuning sans les risques du reinforcement learning physique. Le travail apporte aussi une preuve empirique que des architectures VLA généralistes comme Pi-0 peuvent gagner en robustesse sans démonstrations supplémentaires, un point clé pour les décideurs qui évaluent le passage du laboratoire au déploiement industriel fiable. Ce travail s'inscrit dans la lignée des recherches récentes sur les modèles du monde en robotique, dans un paysage où NVIDIA (GR00T N2) ou Figure AI (Helix) explorent aussi des architectures VLA généralistes, mais en ciblant ici spécifiquement l'efficacité du post-entraînement plutôt que la génération de comportements bout-en-bout. La méthode a été validée sur Pi-0 et Pi-0.5, les bases VLA développées par Physical Intelligence. Il s'agit à ce stade d'un article de recherche, sans annonce de produit commercial, de partenariat industriel ni de calendrier de déploiement; la suite attendue serait son intégration dans des pipelines de fine-tuning propriétaires ou sa reproduction indépendante sur d'autres architectures pour confirmer les gains annoncés.

IA physiqueOpinion
1 source
Savoir quand s'arrêter : le découpage adaptatif d'actions via la dynamique interne d'attention croisée dans les VLA
42arXiv cs.RO 

Savoir quand s'arrêter : le découpage adaptatif d'actions via la dynamique interne d'attention croisée dans les VLA

Des chercheurs publient sur arXiv (arXiv:2609.00908v1) une méthode nommée "adaptive action chunking" pour les architectures Vision-Language-Action (VLA), les modèles qui traduisent image et langage en séquences d'actions robotiques. Le chunking d'actions est une pratique standard dans ces frameworks : plutôt que de prédire une action à la fois, le modèle génère un bloc d'actions consécutives à exécuter en boucle ouverte avant la prochaine inférence. Le problème identifié est que des blocs courts obligent à des inférences fréquentes et provoquent des oscillations, tandis que des blocs longs se désynchronisent de l'état réel observé par le robot. La méthode proposée exploite les poids d'attention croisée action-observation déjà calculés en interne par l'"action expert" du modèle : quand l'horizon de prédiction s'allonge, cette attention se disperse et son entropie grimpe vers un plateau, signal corrélé à une hausse de l'erreur de prédiction. Un mécanisme de troncature sans entraînement supplémentaire détecte ce plateau et ajuste dynamiquement la longueur du bloc exécuté, avec un surcoût de calcul jugé négligeable. Testée sur les modèles pi-0.5 et X-VLA, sur les bancs d'essai RoboTwin 2.0 et LIBERO ainsi que sur trois tâches de manipulation réelles, l'approche améliore le taux de succès moyen par rapport aux méthodes à horizon fixe et aux baselines adaptatives existantes, tout en conservant un contrôle en boucle fermée efficace. Pour l'industrie robotique, ce travail s'attaque à un goulot d'étranglement pratique plutôt qu'à une prouesse de démonstration : la latence d'inférence des VLA reste un frein au déploiement temps réel, et le chunking est le compromis habituel entre réactivité et coût de calcul. Une méthode qui rend ce compromis dynamique, sans réentraînement ni capteur supplémentaire, intéresse directement les intégrateurs qui doivent faire tourner des VLA sur du matériel embarqué à budget de calcul limité. Cela nuance aussi le récit selon lequel il suffirait d'agrandir les modèles ou les jeux de données de démonstration : ici, le gain vient d'une meilleure exploitation du signal déjà présent dans le modèle, pas d'un nouvel entraînement. Ce papier s'inscrit dans la lignée des travaux récents sur les architectures VLA telles que pi-0 (et sa variante pi-0.5) et X-VLA, qui cherchent à généraliser l'exécution de tâches de manipulation robotique à partir d'entrées multimodales. L'évaluation combine des simulateurs académiques standards, RoboTwin 2.0 et LIBERO, avec des tâches réelles, ce qui distingue cette contribution des simples démonstrations vidéo. Aucun partenaire industriel ni date de déploiement commercial n'est mentionné : il s'agit d'une contribution de recherche méthodologique, publiée en septembre 2026, dont l'adoption dépendra de son intégration dans des piles VLA existantes par les laboratoires ou entreprises qui développent ces modèles.

RechercheOpinion
1 source
AdaVLA : accélération sans entraînement des modèles vision-langage-action par flow matching adaptatif
43arXiv cs.RO 

AdaVLA : accélération sans entraînement des modèles vision-langage-action par flow matching adaptatif

Des chercheurs ont publié fin août 2026 sur arXiv (référence 2608.29208v1) une méthode d'accélération sans réentraînement pour les modèles Vision-Language-Action (VLA) reposant sur le flow matching, baptisée AdaVLA. Les VLA, construits à partir de modèles vision-langage (VLM), souffrent d'un coût de calcul élevé qui freine leur déploiement embarqué et empêche des réponses en temps réel aux changements d'environnement. Contrairement aux techniques d'accélération existantes, qui nécessitent souvent un fine-tuning ou un accès aux données d'entraînement, rarement disponibles pour des raisons de confidentialité ou de propriété industrielle, AdaVLA fonctionne en ligne et sans données d'entraînement. La méthode introduit une métrique dérivée de la courbure de la trajectoire de flow matching pour estimer la confiance du modèle dans la génération d'action à chaque étape d'inférence. Cette métrique permet de réduire dynamiquement le nombre d'étapes d'inférence et d'ajuster le taux d'élagage des couches MLP via une évaluation d'importance calculée efficacement. Testée sur le benchmark LIBERO avec un module embarqué Jetson AGX Orin, la méthode obtient une accélération de 1,87x pour le modèle pi-0.5 et de 2,24x pour X-VLA, avec une dégradation jugée négligeable des taux de réussite des tâches. Les auteurs indiquent avoir aussi validé la robustesse de leur approche sur des tâches robotiques réelles avec SmolVLA, un modèle VLA compact développé par Hugging Face. Pour les intégrateurs et les équipes robotique, ce travail cible un goulot d'étranglement précis et jusqu'ici peu traité : la plupart des efforts d'accélération des VLA portent sur le coût d'inférence du VLM, la partie perception et raisonnement, et non sur le processus itératif de résolution d'équation différentielle propre au flow matching, qui génère les actions du robot. Si ces résultats se confirment à plus grande échelle, une méthode sans réentraînement ni accès aux données change la donne pour le déploiement en production, car elle peut s'appliquer à des modèles propriétaires sans toucher au pipeline d'entraînement, un frein courant chez les fournisseurs commerciaux de VLA. Cela conforte aussi l'idée que le flow matching, déjà présenté comme alternative plus légère aux modèles de diffusion classiques pour le contrôle robotique, peut être compressé davantage sans réentraînement lourd, un argument clé pour l'embarqué face aux contraintes de latence et d'énergie des humanoïdes et bras robotiques actuels. AdaVLA s'inscrit dans la vague de modèles VLA apparue avec des architectures comme pi-0 et sa variante pi-0.5, développées par Physical Intelligence, X-VLA, ou SmolVLA, conçu par Hugging Face, qui exploitent des VLM pré-entraînés à l'échelle d'internet pour doter les robots de capacités de raisonnement multimodal. Le flow matching s'est imposé ces derniers mois comme alternative aux processus de diffusion standards pour générer des trajectoires d'action, mais restait coûteux en inférence du fait des multiples étapes de résolution ODE. L'article, encore un simple dépôt arXiv non revu par les pairs à ce stade, ne précise ni calendrier d'intégration industrielle ni partenariat annoncé avec un fabricant de robots, et ses résultats reposent sur un seul jeu de benchmarks simulés complété par des essais réels limités sur SmolVLA. La suite logique, non détaillée dans le résumé des auteurs, serait une validation sur des VLA plus volumineux ou multi-tâches et sur du matériel robotique commercial plus large que le seul Jetson AGX Orin utilisé pour les tests.

IA physiqueOpinion
1 source
Vidéo : Hugging Face dévoile un minirobot en forme de canard capable de marcher, apprendre et patiner
44Interesting Engineering 

Vidéo : Hugging Face dévoile un minirobot en forme de canard capable de marcher, apprendre et patiner

Hugging Face a présenté Microduck, un petit robot bipède open source en forme de canard, développé avec l'entreprise française Pollen Robotics. Vendu 399 dollars, l'appareil doit commencer à être livré avant Noël 2026. Haut de 25 centimètres pour un poids inférieur à 800 grammes, Microduck embarque 15 moteurs, une caméra, un petit capteur de profondeur et deux centrales inertielles (IMU). Son bec articulé lui permet de saisir des objets, combinant locomotion et manipulation simple. Le robot sait marcher, s'asseoir, s'accroupir, se relever après une chute et même faire du roller skate. Il est livré avec des comportements pré-entraînés utilisables via une manette de jeu ou en suivant un point laser, mais ceux-ci ne sont qu'un point de départ : le logiciel complet (contrôle, simulation, apprentissage par renforcement, transfert sim-to-real) est publié en open source via deux dépôts distincts, l'un pour le SDK et le pilotage du robot, l'autre dédié à l'entraînement par renforcement. Ce lancement illustre une approche différente de la course aux humanoïdes dominée par des acteurs comme Figure, Tesla (Optimus) ou Physical Intelligence (Pi-0) : plutôt que viser des déploiements industriels à grande échelle, Hugging Face et Pollen Robotics misent sur l'accessibilité pour démocratiser l'expérimentation en IA physique. La taille réduite et la légèreté de Microduck rendent l'apprentissage par renforcement praticable sur un bureau ou en salle de classe, un processus coûteux et risqué sur des robots de taille humaine. La capacité de récupération après chute réduit aussi le besoin d'intervention manuelle entre deux essais, un point pratique souvent sous-estimé dans les démonstrations de recherche. Pour les intégrateurs et chercheurs, l'intérêt réside moins dans les prouesses physiques du robot que dans l'accès à une pile logicielle complète et ouverte pour tester le transfert simulation-vers-réel, un défi toujours non résolu de façon fiable en robotique malgré les progrès des modèles VLA à grande échelle. Ce lancement s'inscrit dans l'expansion des efforts robotiques de Hugging Face, qui cherche à étendre son modèle open source au-delà du logiciel vers le matériel physique, après d'autres initiatives de plateformes robotiques low-cost. Pollen Robotics, société française déjà connue pour ses travaux en robotique open source, apporte son expertise en conception matérielle et logicielle à ce projet. Microduck se positionne aussi comme un outil pour l'expérimentation multi-robots, avec des scénarios évoqués comme des courses ou du football entre plusieurs unités, permettant d'étudier la robotique multi-agents sans recourir à des robots humanoïdes coûteux. Le produit reste pour l'instant au stade de l'annonce, avec une commercialisation effective attendue d'ici la fin de l'année, et son adoption réelle par la communauté des développeurs et chercheurs déterminera si cette approche accessible peut réellement accélérer la recherche en apprentissage physique.

UEPollen Robotics, entreprise française, co-développe le matériel et le logiciel de Microduck avec Hugging Face, renforçant la place de la France dans la robotique open source accessible.

FR/EU ecosystemeActu
1 source
Réfléchir uniquement quand c'est nécessaire : contrôle par autorité de prompt pour une intervention sélective en mode lent dans la manipulation VLA
45arXiv cs.RO 

Réfléchir uniquement quand c'est nécessaire : contrôle par autorité de prompt pour une intervention sélective en mode lent dans la manipulation VLA

Un article publié sur arXiv (référence 2608.23224v1) documente un phénomène baptisé effondrement de forme du prompt dans le pilotage de robots par des modèles vision-langage-action (VLA). Ajouter du texte récupéré au prompt d'une politique VLA gelée, sans réentraînement, fait chuter le taux de réussite moyen de 92,47 % à 3,00 % sur 500 états testés, un ajout dénué de sens mais de longueur équivalente échouant tout aussi complètement. Les auteurs introduisent TOWN-VLA, une interface qui sépare la génération de texte candidat de l'autorisation de modifier l'entrée de la politique : une règle fixe n'autorise qu'une instruction compacte canonique, sinon le prompt original est restauré à l'identique, un contrat respecté sur les 900 routes auditées (525 restaurations vérifiées par empreinte, 375 prompts autorisés préservant la tâche). Sur l'évaluation LIBERO-Plus (grille 4x7, 10 030 épisodes par méthode), le taux de réussite passe de 69,5 % à 73,1 %, avec des gains sur les six axes de perturbation et les quatre suites testées. Sur un bras physique PiPER piloté par un checkpoint gelé du modèle π0.5, il grimpe de 52,7 % à 78,7 % sur 150 essais par méthode (p=3,16x10^-6). Ce résultat vise une pratique répandue : l'augmentation par récupération de contexte sur un modèle gelé, sans réentraînement coûteux, est perçue comme un moyen sûr d'enrichir une politique VLA en production. Or un texte sémantiquement vide provoque le même échec total qu'un texte informatif, preuve que c'est la forme de l'instruction, et non son contenu, qui domine l'exécution, un angle mort pour les intégrateurs qui supposent qu'ajouter du contexte ne peut que rester neutre ou aider. Pour les décideurs évaluant des piles VLA prêtes à l'emploi, ce travail plaide pour une couche de contrôle d'autorité sur les prompts, séparée du modèle de génération, avant tout déploiement réel. Le travail s'appuie sur un modèle gelé de la famille pi-zero (π0.5), développée par Physical Intelligence, ce qui positionne TOWN-VLA comme une couche de contrôle générique plutôt qu'un modèle concurrent d'architectures comme GR00T N2 de NVIDIA ou Helix de Figure AI. Les auteurs indiquent que la prochaine étape est une calibration d'admission sans oracle, signe que le système reste, à ce stade, un résultat de recherche audité en simulation et sur un bras robotique isolé, sans déploiement industriel ni pilote commercial annoncé.

RecherchePaper
1 source
Agir avec intention : distiller l'intention comportementale pour les modèles vision-langage-action
46arXiv cs.RO 

Agir avec intention : distiller l'intention comportementale pour les modèles vision-langage-action

Publié le 25 août 2026 sur arXiv (référence 2608.23478), un article de recherche présente INDI (Intention Distillation), une méthode d'entraînement pour les décodeurs d'action des modèles Vision-Language-Action (VLA) en robotique, dominés aujourd'hui par le clonage de comportement, qui indique la commande démontrée sans expliciter l'objectif poursuivi. Pendant l'entraînement, un VLM enseignant figé interprète chaque segment démontré à partir de l'observation, de l'instruction, d'un résumé d'action et de la vidéo d'exécution ; le VLA déployé récupère cette représentation d'intention à une couche intermédiaire du décodeur. Sur le benchmark SimplerEnv-Bridge, le modèle GR00T-N1.7 passe de 64,3 % à 84,7 % de réussite ; sur RoboCasa Kitchen, sa baseline progresse de 64,1 % à 70,3 %, avec des gains similaires relevés sur Pi-0.5. En conditions réelles, le taux de réussite moyen grimpe de 62,0 % à 68,7 %, avec un bond de jusqu'à 12 points de pourcentage sur les tâches à horizon long. Ces résultats visent une limite structurelle connue du clonage de comportement, qui capture le geste démontré mais pas la raison d'être du comportement, ce qui dégrade la généralisation sur les tâches longues ou multi-étapes. Le fait que les gains les plus marqués apparaissent justement sur ces tâches à horizon long est significatif pour les intégrateurs, car c'est là que les pipelines VLA actuels échouent le plus souvent hors démonstration scénarisée. La méthode ne requiert ni capteur ni collecte de données additionnelle : elle exploite des signaux déjà disponibles via un VLM enseignant utilisé seulement à l'entraînement, sans surcoût d'inférence au déploiement, et reste transposable à d'autres architectures VLA. Le travail prolonge des approches qui enrichissaient le clonage de comportement avec des frames futures, des observations latentes ou des trajectoires, jugées insuffisantes car elles captent une réalisation du futur, non l'objectif sémantique partagé du comportement. INDI est testé sur des modèles VLA de référence déjà largement utilisés, GR00T-N1.7 et Pi-0.5, ce qui en fait une couche d'entraînement complémentaire plutôt qu'un modèle concurrent. La publication reste à ce stade un article arXiv sans revue par les pairs formelle ni annonce de déploiement industriel ; la communauté robotique attend désormais une reproduction indépendante des résultats et une extension à d'autres familles de VLA.

RechercheActu
1 source
G0.5 : un flux autorégressif unique pour le raisonnement et l'action des robots
47arXiv cs.RO 

G0.5 : un flux autorégressif unique pour le raisonnement et l'action des robots

G0.5, publie en aout 2026 sur arXiv (2608.11739), est un modèle Vision-Language-Action (VLA) dont un décodeur transformeur unique génère raisonnement et tokens d'action sous un seul objectif, au lieu de séparer un VLM pré-entraine et un expert d'action entraine a part par flow-matching. Trois briques le rendent tenable a l'échelle d'un modèle de fondation : un tokenizeur d'action apprenable traduisant des actions robotiques hétérogènes dans un vocabulaire commun entre robots, un flux de chaine de pensée natif mêlant décomposition de taches, ancrage des objets et indices d'action, et un module de mémoire visuelle injectant plusieurs secondes d'historique. Pre-entraine sur des jeux de données robotiques et des exemples VQA, G0.5 devance les références sur sept protocoles : 76,7% de réussite en fine-tuning réel sur les robots R1lite et R1pro contre 53,3% pour Pi-0.5 et 24,4% pour GR00T-N1.7, 31,4% au BEHAVIOR Challenge 2025 contre 26,3% et 26,1% pour le vainqueur du concours, 82,5% en transfert zero-shot après post-entrainement sur DROID, ainsi que 98,9% sur LIBERO, 93,3% sur RoboTwin 2.0 et 87,3% sur SimplerEnv-Bridge. Cette fusion compte parce que l'approche dominante du secteur, illustrée par Pi-0.5 (Physical Intelligence) ou GR00T-N1.7 (NVIDIA), traite le VLM comme un simple encodeur de contexte pendant qu'un module sépare décide de l'action. En partageant les mêmes poids entre raisonnement et action, G0.5 suit les instructions plus finement et laisse un prompt piloter la granularité des gestes, l'horizon de tache ou la gestion de scènes hors distribution, sans reentrainement. L'écart de performance en conditions réelles, près du double de Pi-0.5, et la victoire généraliste au BEHAVIOR Challenge face a des politiques spécialisées, appuient empiriquement l'idée qu'un flux autoregressif unique peut tenir a l'échelle. Le travail s'inscrit dans la lignée des VLA ouverte par RT-2 et OpenVLA, prolongée par la famille Pi de Physical Intelligence, GR00T de NVIDIA ou Helix de Figure, qui ont impose le schéma VLM-encodeur plus expert d'action sépare comme standard de facto. G0.5 s'en écarté en misant sur un flux autoregressif unique, un pari qui reste a confirmer au-delà des benchmarks cites. Il s'agit d'une publication de recherche, sans produit commercialise ni déploiement industriel annonces.

IA physiqueOpinion
1 source
StellaVLA : démonstration structurée en contexte pour des modèles vision-langage-action généralisables
48arXiv cs.RO 

StellaVLA : démonstration structurée en contexte pour des modèles vision-langage-action généralisables

StellaVLA est un framework pour les modèles Vision-Language-Action (VLA) qui s'adapte a des situations inédites a partir d'une seule démonstration récupérée au moment de l'inférence, sans finetuning. Une pipeline automatisée convertit chaque trajectoire brute en démonstration structurée (plan de tache, sous-objectifs, mouvement 3D verbalise) sans annotation humaine, puis un entrainement dual conjoint action-langage internalise ce raisonnement, l'inférence n'utilisant que l'expert d'action pour un contrôle temps réel sans latence ajoutée. Sur le classement VLA-Arena du 1er aout 2026, StellaVLA arrive premier avec un score de 0,63, contre 0,44 pour pi-0.5 et 0,22 pour LingBot-VLA. Il atteint aussi 98,8% de réussite sur LIBERO et 85,1% sur LIBERO-Plus, et des tests sur robot réel confirment l'usage de démonstrations humain/robot et humain-vers-robot captées en réalité étendue (XR). Le résultat cible un point faible connu des VLA : leurs performances s'effondrent des que la scene, le point de vue ou l'objet différent de l'entrainement, ce qui obligeait jusque-la a recollecter des données et refinetuner pour chaque cas. En rendant la démonstration transférable entre robot réel, main humaine et capture XR, StellaVLA laisse entrevoir une adaptation par simple exemple contextuel plutôt qu'un cycle complet de collecte-entrainement, ce qui intéressé les intégrateurs cherchant a réduire le cout de reconfiguration en usine ou en entrepôt. L'écart revendique face a pi-0.5 (Physical Intelligence) et LingBot-VLA sur un classement tiers reste toutefois, a ce stade, un résultat de preprint sur benchmarks simules et un échantillon limite de robot réel, non un déploiement industriel vérifie indépendamment. Le travail s'inscrit dans la vague des VLA généralistes lancée ces deux dernières années par les modèles pi de Physical Intelligence et par des systèmes comme GR00T N2 de NVIDIA ou Helix de Figure AI, tous confrontes au même écart entre démonstration et usage réel. En choisissant de se comparer directement a pi-0.5 et LingBot-VLA sur VLA-Arena, les auteurs positionnent StellaVLA comme concurrent de ces approches récentes plutôt que comme variante académique isolée. Publie en aout 2026 sur arXiv, l'article ne mentionne ni partenariat industriel ni calendrier de déploiement : il s'agit pour l'instant d'une contribution de recherche destinée a être reproduite avant toute intégration commerciale.

IA physiqueActu
1 source
RoboHarness : robustesse des modèles vision-langage-action via une adaptation en contexte augmentée par mémoire
49arXiv cs.RO 

RoboHarness : robustesse des modèles vision-langage-action via une adaptation en contexte augmentée par mémoire

Des chercheurs présentent RoboHarness, un dispositif logiciel qui se greffe sur des modèles vision-langage-action (VLA) déjà entraines pour améliorer leur robustesse face au bruit perceptif et aux variations d'environnement, sans reentrainer les poids du réseau. L'architecture combine trois briques opérant en ligne, une récupération contrastive a double mémoire (RAG), un orchestrateur vision-langage pilote par un grand modèle de langage multimodal capable d'attribuer causalement les échecs d'exécution, et des interventions extensibles via le Model Context Protocol (MCP), auxquelles s'ajoute un module hors ligne de consolidation mémoire qui distille les traces d'exécution en connaissances a priori réutilisables. Les auteurs ont teste ce système sur trois modèles VLA de base, Pi-0, Pi-0.5 et SmolVLA, sur les benchmarks LIBERO-PRO et sur LIBERO-RoboHarness, un nouveau benchmark qu'ils ont eux-mêmes conçu. Resultat annonce: un gain moyen de taux de réussite absolu de 56,6%, avec une amélioration de 89,1% sur les taches longues enchaînées (long-horizon task chaining). Le code source et la page projet sont publies sur GitHub, sous le compte LZY-1021. Le papier, publie sur arXiv, en est a sa troisième version révisée. Cette approche cible une faiblesse connue des modèles VLA généralistes: leur fragilité des qu'ils sortent de la distribution de données d'entrainement, un écart souvent masque dans les démonstrations mais critique pour un déploiement industriel réel. En proposant une couche additive et sans fine-tuning, applicable a plusieurs backbones existants, RoboHarness s'inscrit dans une tendance émergente consistant a traiter la robustesse comme un problème d'orchestration et de mémoire en contexte plutôt que de seul entrainement. Pour les intégrateurs, cela laisse entrevoir la possibilité de renforcer des politiques VLA déjà déployées sans refaire les couteux cycles de collecte de données et de reentrainement, un argument potentiellement déterminant pour l'adoption en environnement industriel variable. Les modèles VLA généralistes, tels Pi-0 développe par Physical Intelligence, occupent une place croissante dans la robotique manipulatrice, aux cotes d'autres approches généralistes du secteur. RoboHarness ne constitue pas un nouveau modèle mais un harnais complémentaire, positionne comme correctif a la faiblesse structurelle de mémoire et d'attribution causale des VLA figes. Les benchmarks utilises restant majoritairement simules (suite LIBERO), la validation sur robot physique et en conditions industrielles reste l'étape a surveiller pour juger de la portée réelle de ces gains annonces.

RechercheActu
1 source
Nanyang Technological University, Peking University et BAAI dévoilent Omega-0, un modèle d'action corps entier qui réussit 81,8 % des tâches domestiques réelles
50Pandaily 

Nanyang Technological University, Peking University et BAAI dévoilent Omega-0, un modèle d'action corps entier qui réussit 81,8 % des tâches domestiques réelles

Des chercheurs de l'Université technologique de Nanyang (NTU), de l'Université de Pékin, de HKUST Guangzhou et du Beijing Academy of Artificial Intelligence (BAAI) ont publié Omega-0, un modèle d'action corps entier pour robots humanoïdes. Sur 11 tâches domestiques réelles, il atteint 81,8% de réussite, devançant pi-0.5, EgoVLA, GR00T-N1.7 et psi-0. Plutôt que de prédire les pixels futurs, Omega-0 prédit des caractéristiques visuelles latentes, à partir desquelles un transformeur de diffusion génère les actions du corps entier. L'entraînement suit trois étapes: un modèle vision-langage-action pré-entraîné via un tokenizer "Whole-Body FAST" qui affine Qwen3-VL-2B-Instruct avec des tokens de point de vue première et troisième personne, un pré-entraînement latent humain-robot inspiré de V-JEPA fusionnant vision, langage et proprioception, puis un affinage sur données domestiques réelles avec chunking temps réel pour la continuité des gestes. L'équipe a bâti pour cela Omega-HOME: 40,3 heures de données réelles, 4827 trajectoires téléopérées et 24 types de tâches, dont la prise d'objets, le nettoyage de surfaces et l'usage d'appareils électroménagers. Le résultat pèse moins que la méthodologie: pour éviter toute contamination, l'équipe a retiré les 11 tâches d'évaluation du jeu de pré-entraînement Omega-HOME, un souci de rigueur rare dans un secteur où les vidéos de démonstration sont souvent sélectionnées après coup. Pour les intégrateurs et décideurs industriels, Omega-0 illustre une approche qui couple prédiction de l'environnement futur et génération d'action corps entier dans un seul modèle, plutôt que de traiter perception, navigation et manipulation comme des sous-systèmes séparés. Le domicile reste la cible la plus difficile pour un humanoïde: il exige une perception continue combinée à une coordination motrice globale, contrairement à l'usine où tâches et environnement sont contrôlés. Un score de 81,8% sur tâches réelles, non simulées, réduit l'écart entre démonstration scénarisée et exécution robuste, sans le combler: les auteurs reconnaissent eux-mêmes que l'autonomie longue durée, l'interaction sécurisée et la généralisation à de nouvelles tâches restent non résolues. Le nom minimaliste du modèle suggère qu'Omega-0 est le premier d'une série, dans la lignée des modèles vision-langage-action qui structurent la recherche humanoïde depuis pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI. Omega-0 se mesure directement à ces références ainsi qu'à EgoVLA et psi-0, avec un protocole pensé pour limiter les biais de benchmark répandus dans le secteur. Aucun calendrier de commercialisation, de partenariat industriel ou de déploiement pilote n'est communiqué à ce stade: il s'agit d'une publication de recherche académique, pas d'un produit livré ni d'un déploiement réel à grande échelle. Les suites attendues portent vraisemblablement sur l'extension du jeu de données Omega-HOME au-delà de la sphère domestique et sur la validation de l'architecture latente sur d'autres plateformes robotiques, alors que la course humanoïde oppose désormais un nombre croissant de laboratoires universitaires chinois aux groupes commerciaux occidentaux.

IA physiqueOpinion
1 source