Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Vision qui prime sur le langage : évaluer et corriger les échecs contrefactuels dans les VLA
RecherchearXiv cs.RO 

Vision qui prime sur le langage : évaluer et corriger les échecs contrefactuels dans les VLA

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs viennent de documenter un défaut structurel des modèles Vision-Language-Action (VLA), ces systèmes censés traduire une instruction en langage naturel en commande robotique. Dans un article mis à jour sur arXiv (2602.17659v2), l'équipe montre que face à des instructions peu représentées dans les données d'entraînement, les VLA ignorent souvent le langage et se rabattent sur des raccourcis visuels : ils répètent l'action la plus fréquemment apprise ou saisissent l'objet le plus vu pendant l'entraînement, sans tenir compte de la consigne réelle. Ce phénomène, baptisé "échec contrefactuel", est évalué grâce à un nouveau benchmark, LIBERO-CF, premier du genre à tester la fidélité au langage en assignant des instructions alternatives sur des scènes visuellement plausibles issues de LIBERO. Pour y remédier, les auteurs proposent Counterfactual Action Guidance (CAG), une méthode d'inférence à double branche qui combine la politique VLA standard avec un module Vision-Action non conditionné par le langage, permettant une comparaison contrefactuelle au moment de choisir l'action. Sur LIBERO-CF, CAG améliore le modèle π0.5 de 9,7% en fidélité au langage et 3,6% en taux de réussite sur les tâches sous-représentées, sans entraînement supplémentaire ; associé à un modèle VA dédié, les gains montent à 15,5% et 8,5%. En conditions réelles, la méthode réduit les échecs contrefactuels de 9,4% et améliore la réussite des tâches de 17,2% en moyenne.

Cette découverte pèse directement sur la crédibilité des VLA comme π0, GR00T N2 ou Helix pour un usage industriel : elle confirme qu'un robot peut sembler compétent en démonstration tout en étant en réalité biaisé par ses données, un écart classique entre performance affichée et robustesse réelle. Pour un intégrateur, cela signifie qu'une consigne inhabituelle en environnement de production risque d'être mal exécutée sans erreur visible, un risque de sécurité et de fiabilité difficile à détecter sans benchmark dédié.

L'approche s'inscrit dans un effort plus large de la recherche VLA pour renforcer l'ancrage langage-action, jusqu'ici dominé par l'augmentation du volume de démonstrations plutôt que par des corrections architecturales. L'atout de CAG est de ne nécessiter ni données supplémentaires ni modification des modèles pré-entraînés, ce qui facilite son adoption en complément d'architectures existantes. Les auteurs annoncent des expériences étendues à divers VLA, ouvrant la voie à une adoption comme brique standard d'évaluation et de correction avant déploiement réel.

Dans nos dossiers

NVIDIA GR00TPhysical Intelligence — π0arXiv cs.RO

À lire aussi

CounterAlign : supervision contrefactuelle pour les modèles vision-langage-action
1arXiv cs.RO 

CounterAlign : supervision contrefactuelle pour les modèles vision-langage-action

Publié le 25 août 2026 sur arXiv sous la référence 2608.21740, l'article intitulé "CounterAlign: Counterfactual Supervision for Vision-Language-Action Models" propose une nouvelle méthode d'entraînement pour les modèles vision-langage-action (VLA), la brique logicielle qui traduit instructions textuelles et images en commandes motrices pour les robots. Le constat de départ est que l'apprentissage par clonage comportemental (behavior cloning), standard du secteur, n'expose le modèle qu'à des démonstrations d'expert réussies, sans jamais lui montrer quelles actions seraient incorrectes ou hors instruction. Les auteurs contournent le coût de collecte de trajectoires négatives ou de récompenses annotées en générant des tuples contrefactuels: chaque action d'expert est associée à une instruction différente et volontairement incompatible, puis un discriminateur adversarial apprend à partir de ces paires un modèle de récompense ancré dans l'instruction, utilisable pour du RL hors ligne, sans rollouts ni annotations supplémentaires. Testée sur le benchmark LIBERO-PRO, conçu pour mesurer la robustesse face aux changements de position d'objets et de tâches, la méthode améliore les performances par rapport à une référence récente jugée état de l'art. Des essais sur robot réel, menés sur la plateforme TX-G2 compatible AGIBot G2, confirment l'avantage face à d'autres approches concurrentes, sans que l'article ne publie de chiffres précis de taux de réussite. L'enjeu dépasse le simple gain de benchmark: il touche au goulot d'étranglement central de l'apprentissage VLA, la rareté des données négatives ou des récompenses annotées, coûteuses à produire en robotique réelle. En montrant qu'une supervision plus dense peut être extraite des démonstrations déjà collectées plutôt que d'exiger une collecte additionnelle, les auteurs offrent une piste concrète aux équipes qui entraînent des modèles VLA à grande échelle, dans la lignée de Pi-0 chez Physical Intelligence, GR00T N2 chez Nvidia ou Helix chez Figure. La méthode s'attaque à un défaut connu des politiques entraînées par simple clonage: leur fragilité face à de petites perturbations, comme un objet déplacé, un écart fréquemment cité entre démonstrations filmées et comportement réel sur le terrain. Il s'agit néanmoins d'un résultat de recherche en préprint, validé sur un benchmark et un nombre limité d'essais réels, et non d'un produit déployé en production. Le clonage comportemental s'est imposé comme paradigme dominant à mesure que les VLA passaient à l'échelle, mais ses limites en matière de supervision négative sont documentées depuis plusieurs années, tandis que le renforcement classique bute sur le coût de l'ingénierie de récompense ou de la collecte de données non expertes. CounterAlign s'inscrit dans une famille de techniques d'alignement par modélisation de récompense et discrimination adversariale, proches par l'esprit des méthodes de RLHF développées pour les grands modèles de langage, mais adaptées ici aux contraintes de la robotique physique. Le résumé ne détaille ni les baselines concurrentes précises ni de calendrier de déploiement industriel, et aucun acteur français ou européen n'apparaît dans les expériences décrites. La suite logique, non confirmée par les auteurs, serait une extension à davantage de plateformes robotiques et une comparaison plus large face aux modèles VLA commercialisés.

RechercheActu
1 source
TrapVLA : piéger les modèles vision-langage-action dans des modes d'échec configurés
2arXiv cs.RO 

TrapVLA : piéger les modèles vision-langage-action dans des modes d'échec configurés

Des chercheurs ont publié sur arXiv (2608.26578v1) une étude intitulée TrapVLA, décrivant une nouvelle attaque par porte dérobée contre les modèles Vision-Language-Action (VLA), qui pilotent des robots à partir d'instructions en langage naturel. Baptisée Configured Failure Trapping, la méthode va plus loin que les attaques classiques, qui se satisfont d'un échec quelconque : un déclencheur textuel furtif force le robot à échouer d'une façon précise et choisie à l'avance, par exemple en saisissant un objet avec un décalage de position prédéfini. Les auteurs ont conçu un moteur de génération de trajectoires cibles et deux bancs d'essai, Trap-LIBERO et Trap-RoboTwin, couvrant quatre modes d'échec. Testée en simulation et sur des robots réels, la méthode TrapVLA injecte ces échecs configurés tout en préservant les performances sur données saines. Cette recherche met au jour une faille propre aux VLA, la famille de modèles qui commence à piloter des robots industriels et de service, comme Pi-0, GR00T N2 ou Helix. En montrant qu'un attaquant peut imposer un mode de défaillance précis plutôt qu'un simple échec détectable, l'étude complique la détection par des audits classiques, qui cherchent des comportements aberrants plutôt que des erreurs discrètes et reproductibles. Pour les intégrateurs et décideurs qui envisagent de déployer des robots pilotés par des modèles fondation, la sécurité des données d'entraînement devient un critère aussi important que la capacité brute du modèle, notamment en logistique ou en manufacture. Ce travail reste une démonstration en environnement contrôlé, pas un incident observé sur un déploiement commercial. Le papier s'inscrit dans la continuité des recherches sur les portes dérobées, longtemps cantonnées aux classifieurs d'images et aux modèles de langage, désormais étendues aux agents robotiques incarnés où une erreur ciblée a des conséquences physiques directes. Les auteurs notent que les travaux antérieurs sur les portes dérobées VLA se limitaient à un échec générique, ce que Configured Failure Trapping dépasse en visant un échec configuré, donc plus discret. L'article ne propose aucune contre-mesure ni méthode de détection, seulement la construction de l'attaque et des bancs d'essai, laissant la défense pour des travaux futurs ; le code et les benchmarks sont publiés en ligne.

RechercheActu
1 source
LIBERO-VIFO : évaluer la capacité et la sécurité du suivi de repères visuels dans les modèles vision-langage-action
3arXiv cs.RO 

LIBERO-VIFO : évaluer la capacité et la sécurité du suivi de repères visuels dans les modèles vision-langage-action

Un benchmark baptisé LIBERO-VIFO, décrit dans un article arXiv (2608.17600v1) publié comme nouvelle soumission, évalue pour la première fois de façon systématique deux dimensions distinctes des modèles Vision-Language-Action (VLA) : leur capacité à suivre des indices visuels autorisés, et le risque qu'ils suivent des indices visuels non autorisés. Le benchmark définit huit familles de signaux visuels couvrant des formes variées, et structure l'évaluation en quatre protocoles répartis en deux parties. La première partie mesure la compréhension du signal et son exécution correcte lorsqu'il est autorisé. La seconde partie teste ce qui se passe en cas de conflit entre l'instruction en langage naturel et le signal visuel, ainsi qu'en l'absence totale d'instruction verbale. Sept modèles VLA ont été évalués sur ce protocole, complété par des expériences additionnelles sur des scènes instanciées, des configurations jugées critiques pour la sécurité, et un déploiement sur robot réel. Le résultat central est double et contre-intuitif : comprendre un indice visuel ne garantit pas qu'un modèle VLA l'exécute correctement, mais à l'inverse, plusieurs modèles se sont montrés capables d'exécuter une tâche indiquée uniquement par un signal visuel, sans aucune instruction linguistique associée. Cela révèle un angle mort de sécurité resté largement ignoré jusqu'ici : la plupart des benchmarks existants traitent implicitement tout indice visuel comme légitime et ne mesurent que le succès final de la tâche, sans distinguer suivi autorisé et non autorisé. Pour les intégrateurs et décideurs déployant des robots pilotés par VLA en environnement partagé (usine, entrepôt, espace public), cela signifie qu'un marqueur, objet ou geste placé dans la scène par un tiers non habilité pourrait suffire à déclencher une action, en dehors de tout contrôle par instruction verbale. Cela nuance l'hypothèse selon laquelle le canal langage resterait le point de contrôle sûr et unique des architectures VLA. Les auteurs justifient LIBERO-VIFO par les limites des travaux antérieurs, cantonnés à un éventail restreint de formes d'indices et à une évaluation grossière fondée sur le seul succès de tâche, sans jamais interroger la légitimité du signal suivi. Le nom du benchmark suggère un ancrage dans la suite existante LIBERO, utilisée pour l'apprentissage de politiques de manipulation robotique. En couvrant à la fois capacité et sécurité du suivi de signaux visuels, et en confirmant ses constats jusque sur robot réel, ce travail entend établir la "sécurité centrée sur le visuel" comme nouvel axe d'évaluation pour la communauté VLA, aux côtés des travaux déjà existants sur les vulnérabilités liées au langage. Il s'agit à ce stade d'un benchmark académique et non d'un produit ou d'un déploiement industriel.

RechercheActu
1 source
Ce qui compte pour la modélisation du monde dans les modèles vision-langage-action (VLA)
4arXiv cs.RO 

Ce qui compte pour la modélisation du monde dans les modèles vision-langage-action (VLA)

Une équipe de chercheurs publie sur arXiv (2610.19825) une étude systématique visant à déterminer ce qui compte réellement lorsqu'on intègre un modèle du monde dans un modèle Vision-Langage-Action (VLA), c'est-à-dire une politique robotique qui convertit images et instructions textuelles en actions. Les auteurs classent les approches existantes en quatre paradigmes: Implicit Future Alignment, Explicit Future Query, MoT Future Expert (un expert dédié au futur, découplé de la politique, dans une architecture de type Mixture-of-Transformers) et External World Predictor. Chacun est réimplémenté dans un cadre unifié, puis évalué avec plusieurs représentations du monde et plusieurs architectures de politique. Les tests couvrent des scénarios in-domain, hors distribution (OOD), à long horizon, dynamiques, few-shot et en conditions réelles. Les résultats chiffrés détaillés figurent sur la page projet, que les auteurs accompagnent de vidéos de démonstration. Quatre conclusions se dégagent. L'efficacité d'une représentation du monde dépend du paradigme, mais les représentations sémantiques 2D apportent des gains robustes dans tous les cas. Aucun paradigme ne domine partout, même si le MoT Future Expert offre de bonnes performances globales, surtout en robustesse OOD. Le modèle du monde profite systématiquement aux politiques bâties sur des VLM standards, tandis que les conceptions découplées s'accordent mieux avec des VLA déjà pré-entraînés. Enfin, par rapport à des références limitées à la prédiction d'actions, le modèle du monde améliore les résultats dans plusieurs configurations, avec des gains notables sur les tâches longues et dynamiques. L'intérêt pour l'industrie tient à la clarification d'un champ où les publications comparaient des méthodes qui différaient à la fois par la représentation, le mode d'intégration et le backbone, ce qui rendait les attributions de gains peu fiables. Pour les équipes qui développent des VLA, le message est pragmatique: prédire des features sémantiques 2D du futur est un choix peu risqué, et une architecture découplée permet de greffer un modèle du monde sur un VLA existant sans tout réentraîner. Les gains sur les tâches longues et dynamiques correspondent précisément aux limites des politiques purement réactives en environnement industriel. Il faut toutefois rester prudent: il s'agit d'un banc d'essai académique, sans chiffres de déploiement ni de cadence, et la validation en conditions réelles reste vraisemblablement limitée en échelle. Ce travail s'inscrit dans la montée des modèles du monde dans la robotique fondationnelle, où des acteurs comme NVIDIA (GR00T), Physical Intelligence (Pi-0) ou Figure (Helix) cherchent à dépasser le simple mappage observation-action. Les choix d'architecture restent encore peu consensuels. La suite logique consiste à tester ces paradigmes à plus grande échelle, avec des VLA pré-entraînés sur de très grands corpus et sur des plateformes variées. Aucun calendrier de pilote n'est annoncé, s'agissant d'une contribution de recherche.

RecherchePaper
1 source