Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Attention à l'écart de raffinement : quand des plans robotiques de haut niveau sûrs produisent des exécutions dangereuses
RecherchearXiv cs.RO 

Attention à l'écart de raffinement : quand des plans robotiques de haut niveau sûrs produisent des exécutions dangereuses

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs ont mis en évidence ce qu'ils nomment le « refinement gap » dans les systèmes robotiques pilotés par le langage naturel : un plan de haut niveau jugé sûr par un moniteur de sécurité peut produire une exécution qui, elle, viole la spécification. L'étude, publiée sur arXiv (2610.02662), porte sur RoboGuard, un moniteur qui vérifie des plans d'actions contre des spécifications en logique temporelle linéaire (LTL) générées à partir de la scène. Les auteurs testent une hypothèse implicite, la « complétude de trace » : la séquence d'actions abstraites vérifiée représenterait fidèlement la navigation et les effets implicites qui surviennent à l'exécution. Ils comparent le verdict de RoboGuard sur le plan de surface avec son verdict sur une trace raffinée par graphe de scène, sous la même spécification LTL. Le protocole compte 28 cas contrôlés couvrant cinq familles d'abstraction d'actions, plus 14 cas de bout en bout où SPINE génère les plans à partir d'instructions en langage naturel. Sur les 12 cas ciblés, tous présentent l'écart prédit entre plan de surface et trace raffinée, et les 16 cas témoins se comportent comme attendu.

L'enjeu concerne directement les intégrateurs et les responsables sécurité qui envisagent de placer un LLM ou un VLA dans une boucle de décision proche d'opérateurs humains. Une architecture « planificateur sémantique plus moniteur formel » est souvent présentée comme une garantie de sûreté. Ce travail montre que la garantie ne vaut que pour le niveau d'abstraction vérifié : un déplacement vers une pièce peut traverser une zone interdite, et une action de manipulation peut avoir des effets de bord que le plan ne mentionne pas. Le résultat pèse sur la sûreté de l'IA physique, où la certification suppose de vérifier ce que le robot fait réellement. La mitigation proposée, un raffinement de trace par graphe, est légère et sert aussi d'outil de diagnostic pour auditer d'autres moniteurs.

Il faut toutefois relativiser la portée. L'échantillon est réduit (28 cas contrôlés, 14 cas de bout en bout), les cas ciblés sont construits pour déclencher l'écart, et l'évaluation reste à l'échelle de la simulation ou du graphe de scène, sans déploiement sur robot physique ni chiffres de taux d'échec en conditions réelles. Le travail s'inscrit dans la montée des approches de garde-fous formels pour robots pilotés par LLM, où RoboGuard et SPINE servent de base. L'étape logique suivante est de tester ce raffinement sur des moniteurs concurrents, sur des scènes plus grandes et sur du matériel réel, avant d'en faire une exigence de validation pour les systèmes industriels.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLAarXiv cs.RO

À lire aussi

Quand l'information vaut le risque : évaluer le comportement pour l'exploration robotique dangereuse
1arXiv cs.RO 

Quand l'information vaut le risque : évaluer le comportement pour l'exploration robotique dangereuse

Un article déposé sur arXiv (référence 2609.10726v1) porte sur l'exploration robotique en zone dangereuse, terrain instable, radioactivité, incendie, mines ou dommages structurels, où la collecte d'information peut elle-même détruire le robot et interrompre toute observation future. Les auteurs conservent inchangés les composants classiques du système, mise à jour des croyances, modèle de capteur, modèle de risque physique, planificateur d'information à horizon fini, et modifient uniquement la fonction utilisée pour classer les trajectoires candidates. Ils proposent un objectif dit d'information comportementale augmentée du risque, fondé sur la pondération de probabilité de Prelec issue de l'économie comportementale, testé à grande échelle sur des simulations de type grille avec troncature en cas d'échec, sans robot physique ni site réel. Pour les intégrateurs en robotique industrielle et les décideurs impliqués dans l'inspection nucléaire, le désamorçage de mines ou la robotique de secours, ce travail formalise une question opérationnelle rarement traitée : faut-il risquer un robot pour obtenir plus d'information, sachant qu'un échec efface aussi les données déjà collectées. Les résultats montrent que la planification purement informationnelle au sens de Shannon reste une référence solide en volume brut d'information, mais que les objectifs sensibles au risque réduisent l'exposition aux dangers et les pertes de robots en évitant les échecs qui interrompent la collecte. L'approche comportementale proposée se révèle compétitive au sens de Pareto face aux méthodes de planification sous risque existantes, avec des réglages intermédiaires interprétables plutôt qu'un choix binaire entre prudence et performance. Cette contribution s'inscrit dans la recherche en planification informative sous risque, en empruntant à l'économie comportementale la théorie des perspectives et la pondération de probabilité formalisée par Drazen Prelec en 1998. Les auteurs comparent leur objectif à deux repères, la planification par information de Shannon pure et les méthodes standards de planification sous contrainte de risque, sans citer de fabricant de robots ni de plateforme commerciale. Il s'agit à ce stade d'un résultat théorique validé uniquement sur des grilles synthétiques simulées, sans partenariat industriel annoncé, la validation sur une plateforme réelle en environnement irradié ou minier restant l'étape suivante logique de ce cadre.

RecherchePaper
1 source
SHRIMP : affinement itératif des plans de tâches robotiques
2arXiv cs.RO 

SHRIMP : affinement itératif des plans de tâches robotiques

SHRIMP, un système développé par des chercheurs de l'université du Wisconsin-Madison (Wisc-HCI), permet de générer et corriger des plans de tâches robotiques à partir d'instructions en langage naturel. Décrit dans un article publié sur arXiv le 8 août 2026 (arXiv:2608.08884v1), l'outil traduit une consigne textuelle en un plan hiérarchique de primitives robotiques, que l'utilisateur peut ensuite réviser de façon itérative, soit en reformulant sa demande (ré-prompting), soit en corrigeant directement des éléments du plan. Chaque révision peut être validée en simulation avant exécution sur un robot physique. Les chercheurs ont mené une étude utilisateur avec 35 participants chargés de planifier des tâches culinaires de table (tabletop kitchen tasks), afin de mesurer le sentiment de contrôle et la transparence perçue du système. Les vidéos de démonstration et le code source sont disponibles sur le site du projet, wisc-hci.github.io/SHRIMP. L'enjeu dépasse la simple démo technique : il touche au goulot d'étranglement de l'adoption des robots collaboratifs en usine, en agriculture ou en santé, où la programmation reste réservée à des experts. Les modèles de langage (LLM) permettent depuis peu de traduire des consignes en plans d'action, mais cette approche souffre d'ambiguïté sémantique et d'un manque de transparence, rendant difficile pour un opérateur de vérifier qu'un plan généré fera bien ce qui est demandé avant de l'exécuter sur du matériel réel. En validant que la révision itérative et la visualisation en simulation améliorent le contrôle perçu par l'utilisateur, l'étude apporte un argument empirique en faveur d'interfaces homme-robot où l'IA générative reste sous supervision humaine explicite, plutôt que dans une logique de plan-et-exécute en boîte noire. C'est un signal utile pour les intégrateurs qui cherchent à déployer des robots collaboratifs sans dépendre d'ingénieurs robotique pour chaque reprogrammation. Ce travail s'inscrit dans la lignée des recherches combinant LLM et planification robotique (task-and-motion planning), un axe qui a vu émerger des approches comme le prompting de primitives d'action ou les modèles vision-langage-action (VLA) tels que Pi-0 ou GR00T N2, davantage orientés vers l'exécution directe que vers la validation utilisateur intermédiaire. SHRIMP se positionne différemment, en misant sur la boucle de correction humaine plutôt que sur l'autonomie complète du modèle. L'article reste à ce stade une contribution académique publiée en prépublication, sans mention de partenariat industriel ni de déploiement au-delà du cadre expérimental universitaire ; les prochaines étapes attendues concernent l'extension à des tâches et environnements plus complexes que le contexte de cuisine de table testé dans l'étude.

RecherchePaper
1 source
CIRRA : réconciliation continue des instructions à deux niveaux pendant l'exécution, pour des robots agents incarnés dans des tâches domestiques interactives
3arXiv cs.RO 

CIRRA : réconciliation continue des instructions à deux niveaux pendant l'exécution, pour des robots agents incarnés dans des tâches domestiques interactives

Des chercheurs proposent CIRRA (Continual Instruction Reconciliation for Robot Agents), un cadre destiné aux robots domestiques qui doivent intégrer une nouvelle consigne utilisateur pendant qu'une tâche est déjà en cours. Le travail, publié sur arXiv (2610.08862v1), introduit aussi CHIRP (Continual Household Instruction Reconciliation and Planning), un benchmark textuel de 120 épisodes couvrant huit environnements domestiques et six catégories d'activités quotidiennes. Sur CHIRP, CIRRA atteint 74,2 % d'accord de décision, soit 30 points de pourcentage de plus que la meilleure méthode de replanification testée. Selon les auteurs, chaque décision de fusion correcte produit un planning bien placé et sans conflit. Sur un humanoïde Unitree G1, le système interrompt la compétence en cours au bon moment dans tous les essais et surpasse toutes les références sur chaque métrique. Le nombre d'essais réels et les valeurs absolues ne figurent pas dans le résumé. CIRRA repose sur deux niveaux. Un raisonneur sémantique à base de LLM ancre d'abord la consigne entrante sur une compétence exécutable unique et lève les ambiguïtés sur l'action et le lieu. Un niveau structurel, piloté par des règles, conserve la séquence de sous-tâches en cours comme « colonne vertébrale » d'exécution. Il génère des candidats d'intégration en insérant les nouvelles sous-tâches dans les segments correspondant au même lieu. Le LLM n'évalue alors que les segments modifiés, pour repérer dépendances et conflits et retenir l'insertion la plus cohérente. Les sous-tâches communes sont réutilisées afin d'éviter les exécutions redondantes. L'intérêt est pratique. La plupart des agents embarqués pilotés par LLM régénèrent ou révisent en profondeur le reste du plan à chaque nouvelle consigne, ce qui crée de l'ambiguïté, des incohérences logiques et des gestes inutiles. Restreindre le raisonnement à des segments locaux réduit ce risque et limite aussi le coût d'inférence. Cela illustre une tendance du secteur : combiner un LLM avec des contraintes symboliques plutôt que de s'en remettre à une planification entièrement générative. Les réserves sont claires. Le benchmark est textuel, donc l'incertitude de perception et les échecs de manipulation n'y apparaissent pas. Un taux de 74,2 % laisse aussi un quart des décisions erronées, ce qui reste loin de ce qu'exige un robot qui évolue chez des particuliers. La démonstration sur G1 valide la ponctualité de l'interruption, mais pas la robustesse sur de longues séquences. Le travail s'inscrit dans la lignée des planificateurs LLM pour robots d'intérieur, de type SayCan et de ses successeurs, qui supposent généralement une consigne unique et un plan fixe. La gestion d'instructions arrivant en cours d'exécution, avec reconfiguration continue, reste peu traitée dans la littérature. L'Unitree G1, humanoïde accessible largement répandu dans les laboratoires, sert de plateforme de validation courante. Aucun pilote commercial ni calendrier de déploiement n'est annoncé. Les prochaines étapes probables sont une extension du benchmark à des environnements simulés ou réels avec perception, et la mesure du coût de calcul face aux approches de replanification complète.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Combler l'écart d'exécution : des contraintes sémantiques de mouvement au contrôle cinématique
4arXiv cs.RO 

Combler l'écart d'exécution : des contraintes sémantiques de mouvement au contrôle cinématique

Une équipe de chercheurs publie sur arXiv (réf. 2605.12053, mai 2026) un framework open source baptisé Giskard, conçu pour combler ce que les auteurs nomment le "Motion Execution Gap" : l'écart entre les descriptions symboliques de tâches robotiques, exprimées sous forme de contraintes sémantiques de haut niveau, et les commandes cinématiques réellement exécutables par un robot. La pièce centrale est le concept de Motion Statecharts, une représentation symbolique exécutable permettant d'organiser des contraintes de mouvement, des moniteurs d'état et des statecharts imbriqués en parallèle ou en séquence. L'exécution repose sur une implémentation par MPC linéaire (lMPC) de l'approche task-function, avec des bornes sur le jerk pour assurer des transitions fluides lors des changements de tâche. La généralisation entre morphologies est rendue possible par un modèle cinématique du monde différentiable et unifié, couvrant simultanément le robot et son environnement. La méthode a été déployée et validée sur huit plateformes robotiques distinctes opérant dans des environnements variés. Ce travail s'attaque à un goulot d'étranglement structurel bien identifié dans la communauté : les planificateurs symboliques issus de l'IA cognitive ou de la planification classique décrivent ce qu'il faut faire, mais la translation vers des trajectoires cinématiques sûres et fluides reste un défi persistant. La démonstration sur huit plateformes différentes constitue un signal fort de transferabilité inter-plateformes, là où la majorité des solutions de génération de mouvement restent étroitement liées à une architecture matérielle spécifique. Pour un intégrateur ou un COO industriel, la spécification "world-centric" proposée promet de réduire concrètement le coût de réadaptation lors d'un changement de cellule robotique ou de morphologie. Giskard est issu du groupe CRAM (Cognitive Robot Abstract Machine) de l'Université de Brême, acteur européen de référence en robotique cognitive. L'approche task-function sur laquelle s'appuie le framework est une méthode de contrôle éprouvée, mais son intégration avec une représentation symbolique exécutable et multi-niveaux via statecharts est moins courante. Les solutions concurrentes dans l'écosystème production incluent MoveIt (ROS, très répandu mais limité sur les transitions de tâches complexes) et les planificateurs réactifs à base d'arbres de comportement. Ce document est un preprint arXiv, non encore évalué par les pairs : les résultats sur les huit plateformes restent à confirmer par une reproduction indépendante. La publication du code source sur GitHub (github.com/cram2/cognitive\robot\abstract\_machine) offre toutefois une base tangible pour que la communauté robotique puisse en évaluer la portée réelle.

UEGiskard est développé par le groupe CRAM de l'Université de Brême, acteur européen de référence en robotique cognitive ; sa publication open source bénéficie directement aux intégrateurs et laboratoires européens cherchant à réduire les coûts de portage lors de changements de plateformes robotiques.

RecherchePaper
1 source