Aller au contenu principal
« Coordination homme-robot sans apprentissage préalable grâce au raisonnement structuré des LLM face à des objectifs cachés »
RecherchearXiv cs.RO 

« Coordination homme-robot sans apprentissage préalable grâce au raisonnement structuré des LLM face à des objectifs cachés »

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs présentent une architecture structurée à base de grands modèles de langage (LLM) pour la coordination homme-robot en zero-shot, c'est-à-dire sans apprentissage préalable spécifique à la tâche, quand chaque partenaire ne dispose que d'une vue privée de l'objectif commun. Formalisée comme un Dec-POMDP (processus de décision markovien partiellement observable et décentralisé), l'architecture décompose la prise de décision en cinq étapes : inférence de théorie de l'esprit conditionnée à l'action, planification hiérarchique, interprétation de la conversation, vérification des actions, et replanification à partir des retours. Testée sur une tâche de construction coopérative où robot et humain ne voient chacun qu'une partie de l'objectif final, la méthode est comparée à deux références : une version sans le module de théorie de l'esprit, et une politique d'apprentissage par renforcement multi-agent entraînée hors ligne sur de nombreuses paires d'objectifs. Lors d'expériences avec des participants humains, la méthode complète a nécessité moins d'étapes d'interaction et obtenu de meilleures notes de confiance post-interaction que les deux références.

Ces résultats intéressent directement la recherche en interaction homme-robot : ils suggèrent qu'un LLM peut servir de substitut praticable à des calculs d'inférence et de planification autrement intraitables, tout en conservant une couche de vérification classique pour garantir la faisabilité physique des actions. Le gain ne vient pas d'un modèle bout-en-bout mais d'une décomposition explicite du problème de décision d'équipe, où le LLM traite seulement les sous-tâches de raisonnement social et de langage. Pour les équipes travaillant sur des robots collaboratifs ou des tâches à information partagée incomplète, cela plaide pour des architectures modulaires plutôt que des politiques entraînées de bout en bout, coûteuses à généraliser à de nouveaux objectifs.

Le travail s'inscrit dans la recherche sur la théorie de l'esprit computationnelle et la coordination multi-agents, un champ où les politiques de renforcement multi-agent peinent traditionnellement à généraliser en zero-shot à des objectifs ou partenaires inédits. En ancrant leur architecture dans le cadre théorique du Dec-POMDP, les auteurs la rattachent à des décennies de recherche en planification sous incertitude partagée. L'article ne mentionne aucun calendrier de déploiement industriel : il s'agit d'une preuve de concept en laboratoire, qui ouvre la voie à des tests sur des tâches physiques plus complexes et des équipes homme-robot élargies.

À lire aussi

Imagine2Real : vers l'interaction robot humanoïde-objet sans apprentissage préalable grâce aux priors génératifs vidéo
1arXiv cs.RO 

Imagine2Real : vers l'interaction robot humanoïde-objet sans apprentissage préalable grâce aux priors génératifs vidéo

Une équipe de chercheurs présente Imagine2Real, un framework zéro-shot pour la manipulation humanoïde d'objets, publié sur arXiv en mai 2026. L'Humanoid-Object Interaction (HOI) en corps entier, soit la capacité d'un humanoïde à interagir physiquement avec des objets en coordonnant l'ensemble de ses degrés de liberté, reste historiquement freinée par la rareté des données 3D haute fidélité. Imagine2Real contourne cette limitation en s'appuyant sur des vidéos génératives comme priors de mouvement, sans recourir à des modèles CAO explicites. Les déplacements du robot et des objets sont formalisés comme des trajectoires 4D en points discrets. Un module appelé Keypoints Tracker suit uniquement trois repères critiques (base, mains, objet), court-circuitant le retargeting morphologique, source classique d'amplification d'erreurs. Pour maintenir des allures naturelles malgré ces signaux épars, le système exploite l'espace latent d'un Behavior Foundation Model (BFM), un modèle de fondation entraîné sur des comportements locomoteurs. Une stratégie d'entraînement progressive complète le pipeline, permettant un déploiement physique zéro-shot en environnement de capture de mouvement (mocap). Le travail s'attaque à deux verrous documentés dans la littérature : le "Representation Misalignment", décalage entre les priors géométriques et la réalité physique du robot, et la "Retargeting Complexity", difficulté d'adapter des mouvements humains à une morphologie robotique différente. En réduisant le retargeting à trois points-clés et en supprimant la dépendance aux modèles CAO, Imagine2Real compresse le pipeline de données nécessaire pour générer de nouveaux comportements. Le zéro-shot démontré en déploiement physique, et non uniquement en simulation, distingue la contribution des approches antérieures. Pour un intégrateur ou un décideur industriel, l'enjeu est clair : bootstrapper de nouvelles compétences de manipulation sans dataset 3D dédié ni séquences mocap par tâche. Imagine2Real s'inscrit dans un courant de recherche exploitant les video diffusion models comme source de connaissance pour la robotique, en parallèle des travaux de Physical Intelligence (pi0, pi0-FAST), de NVIDIA (GR00T N2) et des approches VLA de Google DeepMind. La distinction revendiquée est l'abandon des priors géométriques là où les méthodes concurrentes les jugent incontournables. Aucun partenaire industriel ni calendrier de déploiement réel n'est mentionné dans ce preprint : il s'agit d'une contribution de recherche fondamentale, dont les suites naturelles incluront l'extension à des catégories d'objets plus larges et une validation hors environnement mocap contrôlé.

RechercheOpinion
1 source
PhysX-CoT : raisonnement physique structuré, d'une image unique à des actifs 3D prêts pour la simulation
2arXiv cs.RO 

PhysX-CoT : raisonnement physique structuré, d'une image unique à des actifs 3D prêts pour la simulation

Des chercheurs ont publié le 11 août 2026 sur arXiv (référence 2608.08053v1) une méthode baptisée PhysX-CoT, conçue pour générer des actifs 3D prêts pour la simulation directement à partir d'une seule image. Contrairement aux approches actuelles, qui confient cette tâche à un modèle vision-langage produisant un flux de tokens unique et global ensuite décodé en géométrie et en champs physiques, PhysX-CoT décompose le processus en une trajectoire explicite et structurée d'états par partie : décomposition, ancrage 2D et 3D, relations entre parties, géométrie grossière et indices de surface, chaque étape étant supervisée séparément. La géométrie est factorisée de sorte que des boîtes englobantes 3D encodent le placement tandis que des codes locaux encodent la forme, et un entraînement par renforcement de type GRPO aligné sur cette chaîne de raisonnement optimise la validité du parsing, l'ancrage, la géométrie, le placement et la cohérence physique. Testée selon un protocole unifié, avec les mêmes backbone, données et décodeur figé que les méthodes concurrentes, PhysX-CoT dépasse la meilleure référence existante sur les métriques de géométrie, d'échelle et d'attributs physiques, et les actifs générés se chargent, entrent en collision et s'articulent correctement dans Unreal Engine 5. Pour l'industrie robotique et l'IA incarnée, ce travail s'attaque à un goulot d'étranglement réel : la production à grande échelle d'environnements simulés physiquement crédibles, nécessaires à l'entraînement de politiques VLA comme celles utilisées par GR00T N2, Pi-0 ou Helix. En rendant les étapes intermédiaires de génération vérifiables plutôt qu'implicites, la méthode ouvre la voie à un diagnostic plus fin des erreurs de géométrie ou de physique qui pénalisent aujourd'hui les pipelines automatisés. Les auteurs appuient leur démonstration sur des contrôles rigoureux (oracle, comparaisons à budget de tokens équivalent, permutation de l'ordre des états), montrant que ce raisonnement structuré est fonctionnel et non cosmétique, un point de méthode qui renforce la crédibilité des gains annoncés malgré leur origine auto-rapportée. Ce travail s'inscrit dans la lignée des recherches en chaîne de raisonnement appliquées au-delà du texte, transposées ici à la génération d'actifs 3D physiques pour la robotique simulée. Il reste à ce stade une contribution académique, sans déploiement commercial annoncé ; les prochaines étapes attendues concernent l'intégration à des pipelines d'entraînement de robots et l'extension à des actifs plus complexes.

RecherchePaper
1 source
Hierarchical Fast-Slow ReAct : un agent de navigation vers un objectif sans apprentissage préalable
3arXiv cs.RO 

Hierarchical Fast-Slow ReAct : un agent de navigation vers un objectif sans apprentissage préalable

Publié en août 2026 sur arXiv, ce travail de recherche présente un agent hiérarchique rapide-lent pour la navigation vers un objet cible en zero-shot (ZSON) : un robot doit localiser une catégorie d'objet dans un bâtiment jamais visité. Les méthodes dominantes choisissent la frontière d'exploration par argmax sur une carte de valeur vision-langage, sans conserver les preuves passées. Le système proposé garde ce contrôleur réactif actif à chaque pas, en construisant une mémoire ancrée sur les coordonnées : grille sémantique des pièces et objets confirmés, plus des images-clés bornées, chaque détection filtrée par un VLM avant écriture. Une couche délibérative relit cette mémoire en boucle bornée raisonnement-récupération-action, se déclenche sur des événements structurels, raisonne d'abord en texte et ne rappelle une image qu'en dernier recours, sous plafonds d'appels et repli automatique. Résultat : 68,75% de succès sur HM3D v1 (val) et 47,29% sur MP3D (val), meilleur score zero-shot comparé ; sur 2000 épisodes HM3D, un argmax simple à la place de la délibération coûte 3,40 points de succès (IC 95% [1,70 ; 5,05]), perte que la délibération systématique ne comble pas. Ce résultat contredit l'hypothèse selon laquelle interroger un VLM à intervalle fixe depuis la vue courante suffit, et qu'une mémoire explicite ne vaut pas son coût de calcul. En montrant qu'une mémoire persistante couplée à une délibération sélective bat l'argmax pur et la délibération exhaustive, l'étude donne un argument concret aux intégrateurs de robots mobiles d'intérieur (logistique, inspection, service) arbitrant entre coût des appels VLM et qualité de décision, et confirme la bascule vers des architectures hybrides rapide-lent en IA incarnée. Le travail s'inscrit dans la lignée des méthodes ZSON à carte de valeur vision-langage, dominantes mais sans mémoire longue, et des architectures plus récentes plaçant un VLM directement dans la boucle de décision, jugées coûteuses et rigides. Il s'appuie sur les benchmarks standards HM3D et MP3D, sous simulateur Habitat, pour se comparer aux méthodes zero-shot existantes. Aucun partenaire industriel n'est mentionné : la validation reste en simulation, l'étape suivante logique étant un test sur robot réel.

RecherchePaper
1 source
Suppression des barrières d'infrastructure dans la collaboration homme-robot grâce à des cellules reconfigurables sans fil
4arXiv cs.RO 

Suppression des barrières d'infrastructure dans la collaboration homme-robot grâce à des cellules reconfigurables sans fil

Un preprint arXiv publie en aout 2026 (2608.09658) décrit une cellule de collaboration homme-robot entièrement sans fil, conçue pour les scenarios industriels a forte variabilité et faibles volumes comme le remanufacturing, ou les réaménagements fréquents de poste sont la norme. Le système repose sur la 5G et intègre un prototype de plateforme multi-capteurs alimentée par batterie, supprimant le câblage électrique et de données qui bride habituellement la reconfiguration des lignes. Un module de vision par ordinateur, entraine sur données synthétiques et réelles, détecte les poses de préhension des objets et reconnait les mains des opérateurs avec une précision mAP@50-95 de 97,74% (+/-0,10%) et un temps d'inférence moyen de 12,5 millisecondes. Teste en Hongrie et en Norvege sur des infrastructures 5G publiques et privées, en mode Standalone et Non-Standalone, le dispositif a atteint des temps de réponse aller-retour descendant jusqu'a 12 millisecondes avec des combinaisons réseau-terminal compatibles. Pour les intégrateurs et décideurs industriels, ce travail s'attaque a un frein concret a la collaboration homme-robot: le câblage, qui rend couteuse toute reconfiguration en contexte de petites sériés. En déportant les calculs vers l'edge via la 5G, l'architecture cherche a résoudre l'arbitrage classique entre bande passante et latence, condition nécessaire a une détection de mains suffisamment rapide pour garantir la sécurité en temps réel. Les auteurs précisent toutefois que ces performances ne sont obtenues qu'avec des associations réseau-matériel compatibles, et que des problèmes d'interopérabilité persistent entre équipements 5G, un rappel utile face au discours souvent trop optimiste sur la 5G industrielle "plug and play". Ce testbed s'inscrit dans la recherche sur les cellules de production reconfigurables pour l'Industrie 4.0, ou la demande de lignes flexibles s'oppose aux infrastructures filaires traditionnelles. Il s'agit d'une contribution académique en preprint, non encore évaluée par les pairs, centrée sur l'infrastructure de communication et de perception plutôt que sur un produit commercial. La validation croisée sur deux sites aux configurations réseau distinctes vise a démontrer la portabilité de l'approche, les auteurs annonçant que les limites d'interopérabilité identifiées devront être traitées dans de futurs travaux avant un déploiement industriel plus large en remanufacturing et formation des opérateurs.

UELe dispositif a ete teste sur des infrastructures 5G publiques et privees en Hongrie et en Norvege, positionnant des terrains d'essai europeens au coeur de cette recherche sur les cellules de production reconfigurables.

RecherchePaper
1 source