RecherchearXiv cs.RO 11 août 2026

Compiler et évaluer les horizons d'états de tâche pour les agents incarnés

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

L'agence de recherche IA vient de publier un article arXiv (2608.08036, non révisé par les pairs) qui identifie une faille dans la façon dont l'industrie évalue les agents robotiques capables de planification longue durée. L'équipe introduit la notion de "task-state horizon" (TSH), c'est-à-dire l'étendue des transitions d'état pertinentes pour la tâche qu'un agent doit suivre au fil du temps, y compris celles causées par ses propres explorations, la dynamique de l'environnement, des échecs inattendus ou des interventions externes. Pour mesurer ce facteur, jusqu'ici ignoré par les benchmarks existants qui se contentent de mesurer la longueur des séquences d'actions ou la complexité des sous-tâches, les chercheurs ont développé RoboGraph, un compilateur de tâches robotiques qui traduit les dépendances de transition d'état en graphes symboliques exécutables. Ils publient également un benchmark associé de 588 épisodes répartis sur 84 scènes, avec des niveaux de TSH variables. Testés sur cet ensemble, en environnement fermé sémantique et visuel, 15 modèles agentiques de pointe ont été évalués, sans que les noms précis de ces modèles ne soient détaillés dans le résumé disponible.

Ce travail est important car il déplace la question centrale de l'évaluation robotique : la difficulté d'une tâche ne se réduit pas à sa longueur ou à son nombre d'étapes, mais dépend de la capacité de l'agent à maintenir, explorer et mettre à jour une représentation cohérente de l'état du monde sur la durée. Pour les intégrateurs et décideurs qui évaluent des piles de planification haut niveau associées à des modèles vision-langage-action (VLA), ce résultat suggère que des benchmarks de "longue durée" bien notés peuvent masquer des faiblesses réelles sur des tâches où l'état évolue de façon imprévisible, un cas fréquent en environnement industriel réel. L'étude confirme empiriquement que la majorité des modèles agentiques testés peinent dès que le TSH devient exigeant, ce qui nuance les annonces de robustesse "long-horizon" faites par certains fournisseurs de modèles de fondation robotique.

Ce travail s'inscrit dans la vague récente de benchmarks cherchant à dépasser les métriques simplistes (taux de succès, nombre d'étapes) pour capturer des dimensions cognitives plus fines de l'autonomie robotique, à l'image d'efforts antérieurs sur la mémoire ou le raisonnement causal des agents. Les auteurs ne précisent pas, dans le résumé, l'identité des laboratoires ou entreprises ayant développé les 15 modèles testés ni un calendrier de suites prévues ; RoboGraph et le benchmark associé sont présentés comme des outils ouverts destinés à orienter les prochaines générations d'agents planificateurs vers une meilleure gestion des états de tâche, plutôt que comme un produit ou déploiement commercial.

Dans nos dossiers

IA physique & VLA arXiv cs.RO

À lire aussi

1arXiv cs.RO

MAGMA-Bench : évaluer les agents incarnés à long horizon face à des tâches dynamiques et à des échecs d'exécution

MAGMA-Bench, présenté sur arXiv (2610.13534) comme un benchmark indépendant de l'architecture, vise à mesurer la capacité d'agents incarnés à raisonner sur de longues missions dans des environnements multi-robots dynamiques. Il évalue les agents sur des horizons de tâche croissants et sous perturbations contrôlées en ligne : échecs d'exécution, interruptions de tâche et mises à jour de mission. Les scénarios imposent de coordonner des robots aux capacités hétérogènes. Une interface structurée au niveau des compétences (skills) sépare le raisonnement de haut niveau de la perception et du contrôle bas niveau. Les auteurs ont testé des planificateurs open-weight déployables en local, plusieurs stratégies de suivi d'état multi-agents et des modèles frontière. Même les meilleurs échouent sur une part substantielle des épisodes « propres », sans perturbation, et leur taux de succès baisse encore dès que des perturbations sont injectées. Une adaptation supervisée améliore nettement un petit modèle, mais ses performances restent bien inférieures sur les missions longues et multi-robots. L'équipe publie le benchmark, 261 646 exemples d'entraînement au niveau tâche et un pipeline de génération de traces expertes, lui aussi indépendant de l'architecture. L'intérêt tient à ce que ces résultats disent de l'écart entre démonstrations et fiabilité opérationnelle. Beaucoup de systèmes à base de LLM ou de VLA brillent sur des tâches courtes et scriptées, mais un intégrateur industriel travaille dans l'inverse : des missions longues, des pannes de préhension, des commandes modifiées en cours de route, des flottes mêlant AMR, bras et humanoïdes. Qu'un modèle frontière échoue déjà sans perturbation suggère que la mémoire de tâche, le suivi d'état et la replanification restent des verrous, indépendamment de la qualité de la perception ou du contrôle, que le benchmark neutralise volontairement. Le gain obtenu par fine-tuning sur un petit modèle est un signal utile pour les décideurs : un planificateur local, peu coûteux et déployable sur site, peut devenir compétitif sur des missions courtes avec des données spécialisées. Mais l'écart persistant sur les horizons longs et la coordination multi-robots relativise l'idée d'une orchestration autonome prête à la production. Précision méthodologique : il s'agit de résultats de simulation avec une couche de compétences abstraite, qui ne mesurent donc ni les aléas de la perception réelle ni la robustesse du contrôle. Le benchmark comble un angle mort entre deux familles d'évaluations existantes : celles qui testent l'exécution dynamique de tâches pour un agent isolé, et celles qui testent la coordination multi-agents incarnée dans des conditions statiques. Il arrive alors que les acteurs du secteur (modèles de type Pi-0, Helix ou GR00T, systèmes de planification à base de LLM) multiplient les annonces d'autonomie à long terme sans protocole commun pour comparer la gestion des échecs. La publication du jeu d'entraînement et du pipeline de traces permet à d'autres laboratoires de reproduire les résultats et d'entraîner leurs propres planificateurs, ce qui pourrait en faire une référence pour les équipes travaillant sur la robotique de flotte, y compris en Europe. Les prochaines étapes à surveiller sont les évaluations de modèles tiers sur ce banc, et surtout un passage à des déploiements physiques, seul moyen de vérifier que ces faiblesses de raisonnement persistent hors simulation.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

Au-delà de la description : évaluer cognitivement l'action fine pour les agents incarnés

Des chercheurs ont publié CFG-Bench, un nouveau benchmark destiné à évaluer la capacité des grands modèles multimodaux (MLLM) à raisonner sur l'action fine dans des environnements physiques, plutôt que sur la simple planification de haut niveau ou le raisonnement spatial déjà couverts par les benchmarks existants. L'article, disponible sur arXiv (2511.18685), détaille un corpus de 1 368 vidéos annotées, associées à 19 562 paires question-réponse. Ces données couvrent trois paradigmes d'évaluation et quatre capacités cognitives distinctes : l'interaction physique, la relation temporelle-causale, la compréhension intentionnelle et le jugement évaluatif. L'objectif est de mesurer si un modèle sait traduire une observation visuelle en connaissance actionnable, au-delà de la simple reconnaissance d'objets ou de scènes. Les résultats sont significatifs pour l'écosystème des agents incarnés (embodied agents) qui s'appuient de plus en plus sur des architectures vision-langage-action (VLA) pour piloter robots et humanoïdes. Les auteurs montrent que même les MLLM les plus performants du marché peinent à produire des instructions détaillées pour des interactions physiques concrètes, et présentent des lacunes marquées dès qu'il s'agit de raisonnement d'ordre supérieur, comme inférer une intention ou juger la qualité d'une action. C'est un signal notable pour les intégrateurs et équipes de recherche qui misent sur ces modèles comme moteurs de décision : la compréhension de haut niveau ne garantit pas une exécution fine et fiable, un des points de friction identifiés dans l'écart persistant entre démonstration et déploiement réel en robotique. Point plus encourageant pour le secteur : les auteurs démontrent qu'un fine-tuning supervisé (SFT) sur les données de CFG-Bench, en apprenant explicitement au modèle à articuler des actions fines, se traduit par des gains de performance mesurables sur des benchmarks incarnés déjà établis. Cela suggère une piste d'amélioration directe et reproductible pour les futurs modèles VLA, plutôt qu'une simple mise en évidence de leurs limites. Le projet s'inscrit dans la vague de benchmarks spécialisés qui cherchent à combler les angles morts des évaluations génériques de MLLM. La page du projet et le jeu de données sont accessibles publiquement via cfg-bench.github.io, ouvrant la voie à des comparaisons futures entre laboratoires et fournisseurs de modèles.

RecherchePaper

1 source

3arXiv cs.RO

Que doivent mémoriser les agents incarnés ? Évaluation comparative des modalités de mémoire pour les agents incarnés

Des chercheurs proposent MeMoREval, un benchmark qui cherche à déterminer ce que les agents incarnés, c'est-à-dire les robots pilotés par un grand modèle de langage (LLM), devraient mémoriser. Le protocole est contrôlé : l'agent traverse d'abord une séquence d'événements sans connaître les tâches à venir, puis répond à des demandes d'information ou d'action en s'appuyant uniquement sur sa mémoire, sans nouvelle observation. Le benchmark regroupe 53 tâches réparties sur quatre environnements d'intérieur simulés. Il mesure le taux de réussite, mais aussi le coût d'inférence de la construction de la mémoire (écriture) et de son utilisation (lecture). Les évaluations de référence montrent que stocker les images brutes surpasse le stockage de descriptions textuelles générées, avec un coût d'inférence à l'écriture plus faible pour le modèle principal. L'association des images à des graphes de scène (représentation structurée des objets et de leurs relations spatiales) donne le meilleur taux de réussite agrégé, pour chacun des modèles testés. Deux démonstrations sur robots physiques indiquent que le protocole peut s'appliquer hors simulation. L'intérêt tient à une hypothèse très répandue dans les architectures d'agents : transposer aux robots la mémoire textuelle issue des agents LLM, en légendant tout ce que le robot perçoit. Les résultats la contredisent. Convertir la vision en texte à l'écriture perd de l'information utile pour des questions ultérieures, que l'on ne peut pas anticiper, et coûte en plus des appels de modèle. Conserver les pixels, et les compléter par une structure spatiale explicite, semble à la fois plus fidèle et plus économique à l'écriture. Pour les intégrateurs et les équipes qui conçoivent la pile logicielle de robots de service ou d'assistance, le message est concret : le choix de la modalité de mémoire est un arbitrage mesurable entre précision et coût d'inférence, et non un détail d'implémentation. Il convient toutefois de rester prudent : les résultats viennent surtout de simulation, avec seulement deux démonstrations physiques de faisabilité, sans mesure de performance en conditions réelles. Le périmètre de 53 tâches reste aussi modeste. Ce travail s'inscrit dans la montée des modèles vision-langage-action (VLA) et des agents incarnés, où la mémoire à long terme reste un point faible. Les politiques actuelles raisonnent surtout sur une fenêtre de contexte courte, et les benchmarks existants évaluent rarement la mémoire séparément de la perception ou de la planification. MeMoREval vise ce manque et prévoit des extensions : expérience accumulée, rétention sélective d'images et entrée visuelle fournie aux modules d'écriture de mémoire. Ces pistes, encore à explorer, détermineront si l'approche passe à l'échelle d'un déploiement de longue durée dans des environnements réels, domestiques ou industriels.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

ETA : un nouveau paradigme à base d'agents pour les tâches incarnées

Un nouveau papier de recherche publié sur arXiv (référence 2608.03924, version 1) présente ETA, pour Embodied Task Agent, un paradigme conçu pour étendre les agents numériques au monde physique. Les auteurs publient en parallèle OpenETA, une implémentation open source du système. L'architecture repose sur une boucle à trois éléments : un Planner qui sélectionne un appel d'outil à la fois, une Interface qui pilote l'exécution de cet appel, et un World qui renvoie le résultat de l'action ainsi qu'une observation fraîche de l'environnement. Cette boucle permet à l'agent de vérifier ce qu'il a réellement accompli, de corriger son plan en conséquence, et de conserver les interactions réussies comme les échecs sous forme d'expérience réutilisable. OpenETA propose des Planners interchangeables, des Tools et Skills composables, une mémoire consultable a posteriori, des trajectoires rejouables, ainsi que des interfaces communes pour la simulation et pour des robots réels. Le papier mentionne aussi une intégration légère avec Codex, où OpenETA tourne comme un plugin limité à trois fonctions : observe, markpoint et moveto. L'enjeu que pose l'équipe est celui du moment "ChatGPT" de la robotique : un robot généraliste capable de gérer des tâches et des environnements inconnus, tout en restant contrôlable sur des interactions longues. Les auteurs pointent une limite des systèmes actuels, majoritairement bâtis en bout en bout de l'observation vers l'action : leur généralisation dépend fortement de la couverture des données d'entraînement, et l'exécution de tâches longues reste difficile à superviser et à inspecter. En important le schéma agentique du monde des LLM (choix d'outil, vérification, mémoire auditable) plutôt qu'une politique monolithique, ETA vise justement l'inspectabilité et la traçabilité, deux propriétés recherchées par les intégrateurs et décideurs industriels pour le débogage, la sécurité et l'éventuelle certification, là où les modèles vision-langage-action de bout en bout restent largement des boîtes noires. Il s'agit à ce stade d'un article de recherche accompagné d'un code source ouvert, sans déploiement industriel ni partenariat annoncé : le texte ne cite aucune entreprise ni site de production. La démarche se distingue des modèles VLA propriétaires à grande échelle qui dominent la course humanoïde actuelle, en empruntant plutôt aux architectures d'agents logiciels à base d'outils déjà répandues côté LLM. La suite logique passera par l'adoption du code OpenETA par la communauté, avec des évaluations en simulation puis sur robots réels pour confirmer si cette approche modulaire tient la comparaison face aux politiques end-to-end sur des tâches longues et non familières.

RecherchePaper

1 source