Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
SG-CoT : un cadre de planification robotique conscient de l'ambiguïté via des graphes de scène
RecherchearXiv cs.RO 

SG-CoT : un cadre de planification robotique conscient de l'ambiguïté via des graphes de scène

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche a publié la troisième version d'un article arXiv (2603.18271v3) décrivant SG-CoT, pour Scene Graph-Chain-of-Thought, un framework en deux étapes destiné à réduire les erreurs de planification robotique causées par l'ambiguïté des instructions. Le système construit d'abord une représentation en graphe de scène de l'environnement à partir des observations du robot, capturant les objets présents, leurs attributs et leurs relations entre eux. Dans un second temps, le modèle de langage utilisé comme planificateur interroge ce graphe via des fonctions de récupération pour ne mobiliser que les portions pertinentes par rapport à l'instruction reçue. Lorsqu'une ambiguïté persiste, SG-CoT permet au LLM d'en identifier la source précise et de formuler une question de clarification, adressée à l'utilisateur ou à un autre robot. Les auteurs rapportent des gains d'au moins 10 % en précision des questions posées, et des hausses de taux de réussite de 4 % en environnement mono-agent et 15 % en environnement multi-agent, par rapport aux méthodes antérieures testées.

L'enjeu dépasse le seul exercice académique. L'utilisation de LLM comme planificateurs pour robots physiques bute régulièrement sur un problème simple mais critique en usage réel : les instructions humaines sont souvent sous-spécifiées ("prends la tasse" quand plusieurs tasses sont visibles), et un modèle qui devine plutôt que de demander précision multiplie les erreurs d'exécution coûteuses en environnement industriel ou domestique. En ancrant le raisonnement du LLM dans une représentation structurée et interrogeable de la scène plutôt que dans une simple description textuelle ou une image brute, SG-CoT s'attaque directement à l'écart entre démonstrations en laboratoire et fiabilité déployable, un point sensible pour tout intégrateur évaluant des architectures VLA ou LLM-planner pour l'AMR ou la manipulation.

Ce travail s'inscrit dans une littérature de recherche déjà dense sur le couplage entre graphes de scène et modèles de langage pour la planification robotique, où plusieurs équipes académiques explorent des approches de grounding similaires pour limiter les hallucinations de plans d'action. Le fait qu'il s'agisse d'une version "replace" (v3) suggère des révisions après retours de relecture. Aucun déploiement industriel ni partenariat commercial n'est mentionné : les résultats reposent sur des expérimentations contrôlées en simulation ou banc de test, une nuance à garder en tête avant toute extrapolation vers une adoption en production.

Dans nos dossiers

arXiv cs.RO

À lire aussi

VeriGraph : graphes de scène pour la vérification de plans de robots
1arXiv cs.RO 

VeriGraph : graphes de scène pour la vérification de plans de robots

Des chercheurs ont publié VeriGraph (arXiv:2411.10446v3), un système de planification robotique qui combine des modèles vision-langage (VLM) avec un mécanisme de vérification formelle des actions. Le principe central repose sur l'utilisation de graphes de scène comme représentation intermédiaire : à partir d'images en entrée, le système construit un graphe capturant les objets présents et leurs relations spatiales, puis s'en sert pour valider et corriger en boucle les séquences d'actions générées par un planificateur LLM. Les gains rapportés sur des tâches de manipulation sont significatifs : +58 % de taux de complétion sur les tâches guidées par langage, +56 % sur des puzzles tangram, et +30 % sur les tâches guidées par image, par rapport aux méthodes de référence testées. Ce résultat pointe un problème structurel bien documenté dans le domaine : les VLM et LLM génèrent des plans plausibles en surface mais géométriquement ou physiquement incorrects, un objet posé sur une surface inexistante, une saisie dans un ordre impossible. VeriGraph traite ce gap en introduisant une couche de vérification symbolique ancrée dans l'état réel de la scène, ce qui réduit les hallucinations de planification sans nécessiter de fine-tuning du modèle sous-jacent. Pour les intégrateurs industriels et les équipes robotique, cela suggère une voie pragmatique : greffer un vérificateur léger sur des LLM généralistes plutôt que de tout réentraîner, ce qui abaisse potentiellement le coût d'adaptation à de nouveaux environnements. VeriGraph s'inscrit dans un courant de recherche actif autour des architectures hybrides neuro-symboliques pour la robotique, où des travaux comme SayPlan (Rana et al.), LLMTAMP ou les approches PDDL-guided cherchent tous à contraindre la génération de plans par des vérificateurs formels ou géométriques. La nouveauté ici réside dans l'usage du graphe de scène comme interface universelle entre perception et planification. Les auteurs publient le code sur un site dédié, ce qui facilite la reproductibilité, mais les expériences restent en environnement simulé ou de laboratoire contrôlé, aucun déploiement en conditions industrielles réelles n'est mentionné à ce stade.

RechercheOpinion
1 source
Une perspective par l'espace d'information sur la suffisance des graphes de scène pour la planification de tâches robotiques
2arXiv cs.RO 

Une perspective par l'espace d'information sur la suffisance des graphes de scène pour la planification de tâches robotiques

Un article publié le 15 septembre 2026 sur arXiv (référence 2609.15587v1) propose un cadre théorique pour déterminer quand un graphe de scène est "suffisant" pour la planification de tâches robotiques. Ces graphes, qui encodent objets, relations et affordances d'un environnement, sont largement utilisés en planification mais deviennent trop volumineux pour rester exploitables dans les grands environnements. Les auteurs formalisent le problème via un cadre d'espaces d'information: ils définissent des systèmes de transition sur graphes de scène ainsi que la sémantique des actions de navigation et de manipulation. Ils introduisent ensuite des graphes de scène dérivés, obtenus par des mappings d'information qui fusionnent et élaguent des nœuds, générant des systèmes de transition quotients enrichis de primitives de mouvement pour représenter des actions de plus haut niveau. Deux conditions caractérisent la suffisance d'un graphe réduit: le mapping doit produire un quotient déterministe, et la tâche doit rester bien posée sur les traces dérivées, garantissant qu'un plan trouvé sur le modèle réduit reste faisable sur le système complet. Le cadre est illustré sur une tâche dans un environnement exemple, avec des cas de graphes réduits suffisants et insuffisants. Cette contribution vise un point de friction concret pour les intégrateurs robotiques: à mesure que les représentations sémantiques d'environnement s'enrichissent, généralement construites à partir de perception 3D et de modèles de vision langage, leur taille freine la planification en temps réel, en particulier pour des robots mobiles manipulateurs opérant dans de grands bâtiments ou entrepôts. Jusqu'ici, la réduction de ces graphes reposait sur des heuristiques empiriques, l'élagage orienté tâche ou des abstractions hiérarchiques, sans garantie formelle que le plan calculé sur le graphe réduit reste valide sur l'environnement réel. En posant des conditions mathématiques précises, ce travail offre un critère vérifiable pour juger si une simplification de graphe de scène est sûre, ce qui pourrait fonder de futurs pipelines capables de compresser automatiquement leur représentation du monde sans perdre en fiabilité, un enjeu pour les architectures de type VLA qui combinent bout-en-bout et représentations structurées de la scène. Le papier s'inscrit dans la lignée des travaux sur les graphes de scène 3D en robotique, notamment utilisés dans des architectures de navigation sémantique et de planification hiérarchique, domaine où plusieurs équipes académiques ont déjà proposé des méthodes d'élagage orienté tâche ou d'abstraction hiérarchique sans offrir de définition générale de la suffisance, lacune que ce travail dit combler. Il s'agit d'un article de recherche théorique, sans lien annoncé avec un produit commercial, un déploiement industriel ni un acteur du secteur humanoïde ou logistique; sa validation se limite à un exemple illustratif unique plutôt qu'à des essais à grande échelle ou du matériel réel. Les auteurs ne précisent ni suite de publication, ni code ouvert, ni intégration prévue dans un système existant, ce qui en fait pour l'instant une contribution formelle destinée à orienter de futures implémentations plutôt qu'un outil prêt à l'emploi.

RecherchePaper
1 source
OntoPlan : une représentation de scène fondée sur une ontologie et un cadre à base d'agents pour la planification de tâches robotiques à grande échelle
3arXiv cs.RO 

OntoPlan : une représentation de scène fondée sur une ontologie et un cadre à base d'agents pour la planification de tâches robotiques à grande échelle

Des chercheurs publient OntoPlan, un cadre de planification de tâches robotiques fondé sur une représentation ontologique de la scène, accompagné d'un code ouvert sur GitHub (dépôt namhyeongwoo/OntoPlan). Le système cible un défaut connu de la planification par grands modèles de langage (LLM) : sur les tâches à long horizon dans de vastes environnements, la performance se dégrade. Quand la géométrie de la scène est transmise sous forme de texte, le modèle saisit mal le contexte spatial, et le coût en tokens croît avec la taille de l'environnement. OntoPlan aligne objets, espaces, relations et états dans un vocabulaire symbolique commun. Un cadre agentique interprète l'instruction, récupère de façon sélective les informations utiles, formalise buts et contraintes, puis produit un plan exécutable. Sur 150 tâches générales réparties dans cinq environnements intérieurs et trois échelles de scène, il atteint un taux de réussite moyen de 0,89, contre 0,27 pour la meilleure méthode de référence. Il consomme en moyenne 18,1 k tokens par tâche, soit environ 5,6 fois moins que la référence la plus économe. L'enjeu est double pour les intégrateurs et les équipes qui déploient des robots pilotés par LLM. D'abord, l'écart de 0,89 contre 0,27 suggère que le goulot d'étranglement tient moins à la capacité de raisonnement du modèle qu'à la manière de lui présenter le monde : un LLM qui génère directement des séquences d'actions peine à respecter l'état courant et les préconditions, alors qu'une formalisation symbolique les rend vérifiables. Ensuite, le coût en tokens, rarement discuté dans les démonstrations, détermine la viabilité économique et la latence en exploitation. Les auteurs indiquent que l'avantage persiste quand l'échelle de la scène augmente, alors que les méthodes concurrentes perdent davantage en réussite et restent beaucoup plus coûteuses. Le système demande aussi des précisions face à une instruction ambiguë, ou signale un manque d'information face à une instruction infaisable, au lieu de s'engager dans un plan invalide. C'est un comportement de sécurité utile pour tout déploiement industriel. Plusieurs réserves s'imposent. Il s'agit d'un préprint arXiv (v1), non évalué par les pairs. Les résultats viennent d'un banc d'essai de 150 tâches, sans précision dans le résumé sur la nature des environnements (simulés ou réels) ni sur les méthodes de référence. Les chiffres ne disent donc rien de la robustesse en conditions réelles, où perception bruitée et échecs d'exécution compliquent la construction de l'ontologie. Ce travail s'inscrit dans le courant de la planification neuro-symbolique, qui combine LLM et planificateurs formels (type PDDL) pour pallier les limites des approches où le modèle génère directement les actions. Il se distingue des modèles vision-langage-action de bout en bout, qui traitent le bas niveau. La publication du code permettra une reproduction indépendante, étape décisive pour juger si l'écart de performance tient hors du banc d'essai des auteurs.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
GraphThink : une planification robotique guidée par un graphe de raisonnement pour les tâches longues
4arXiv cs.RO 

GraphThink : une planification robotique guidée par un graphe de raisonnement pour les tâches longues

Des chercheurs présentent GraphThink, un nouveau framework de planification pour agents robotiques pilotés par des grands modèles de langage (LLM), détaillé dans un article publié le 7 août 2026 sur arXiv (2608.07905v1). Le système combine deux structures de données : un graphe de tâches (task graph), qui guide le raisonnement du LLM via un prompting contextuel et un raffinement itératif pour limiter les hallucinations de planification, et un graphe de scène (scene graph), qui sert de mémoire environnementale pour déclencher une replanification en boucle fermée dès qu'un événement imprévu survient. L'entraînement du planificateur s'appuie sur GRPO (Group Relative Policy Optimization), avec une conception de récompense calquée sur le graphe de tâches. Sur le benchmark ALFRED, référence standard pour l'exécution de tâches ménagères instruites en langage naturel par un agent virtuel, GraphThink atteint l'état de l'art : son module de haut niveau dépasse les LLM propriétaires accessibles par API, aussi bien sur l'ensemble de validation que sur des tâches longues inédites (held-out long-horizon tasks), avec une bonne généralisation zero-shot et few-shot à des environnements et tâches jamais vus. Ce résultat cible un problème central pour l'industrie de la robotique humanoïde et des agents incarnés : les planificateurs fondés sur des LLM génériques hallucinent souvent des actions physiquement impossibles et perdent en cohérence sur des séquences de tâches longues, un écart classique entre démonstration et usage réel. En ancrant le raisonnement dans une représentation structurée de l'environnement plutôt que dans le seul texte, GraphThink illustre une piste concrète pour fiabiliser les architectures de type VLA (vision-language-action) utilisées par des systèmes comme GR00T N2 ou Helix, sans dépendre uniquement de modèles propriétaires massifs. Il s'agit toutefois d'un résultat de recherche évalué en simulation sur ALFRED, non d'un déploiement sur robot physique. Le champ des planificateurs LLM pour la robotique s'est développé depuis des approches comme SayCan ou Code as Policies, et la comparaison de GraphThink aux LLM API démontre surtout un gain méthodologique en environnement contrôlé ; sa validation sur du matériel réel reste l'étape suivante attendue.

RecherchePaper
1 source