RecherchearXiv cs.RO 14 septembre 2026

UniPart : segmentation 3D zéro-coup des pièces guidée par le langage pour l'interaction incarnée

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs présentent UniPart, un modèle de segmentation 3D par parties conditionné par le langage, décrit dans un article déposé sur arXiv sous l'identifiant 2609.12898v1. Le système est un Transformer 3D cross-modal en propagation directe qui associe un nuage de points à une expression textuelle libre, par exemple "la poignée" ou "le bouton", en la conditionnant sur les embeddings textuels de CLIP. Pour entraîner ce modèle, les auteurs ont construit LangPart-1M, un jeu de données combinant plus de 160 000 objets 3D issus de la base Objaverse et 8 millions de paires texte-partie générées via une méthode de génération multi-vues cohérente. Un sous-ensemble annoté manuellement à haute qualité, baptisé LangPart-4K, a ensuite été créé pour affiner et évaluer le modèle. Selon les auteurs, UniPart obtient de bons résultats en zero-shot sur des benchmarks ouverts de segmentation de parties et a été testé en conditions réelles sur des tâches de préhension robotique guidées par le langage.

Cette approche s'attaque à un verrou concret de la manipulation robotique fine: la plupart des modèles 3D généralistes raisonnent à l'échelle de l'objet entier, tandis que les modèles capables de distinguer les parties fonctionnelles restent limités à des taxonomies fermées et ne généralisent pas à du vocabulaire nouveau. Pour un intégrateur ou un ingénieur robotique, disposer d'un système qui associe une instruction en langage naturel à une sous-partie précise d'un objet, sans réentraînement, ouvre la voie à des pipelines de manipulation plus flexibles, avec préhension ciblée d'une poignée, d'un bouton ou d'une charnière plutôt que de l'objet dans son ensemble. Le passage du benchmark zero-shot à une démonstration de préhension réelle constitue un indice encore préliminaire que la compréhension fine des parties par vision-langage peut passer à l'échelle sans dépendre d'annotations exhaustives, une hypothèse encore débattue dans le secteur des modèles vision-langage-action appliqués à la manipulation.

UniPart s'inscrit dans la lignée des modèles fondation 3D qui se sont multipliés ces deux dernières années, dont la majorité peine à concilier généralisation et granularité fine. Le travail s'appuie sur des briques désormais courantes du secteur, l'encodeur texte-image CLIP et la base d'objets 3D Objaverse, pour construire à moindre coût une supervision massive plutôt que de dépendre uniquement d'annotations manuelles onéreuses. Il se positionne face aux modèles 3D dits "part-aware" à taxonomie fermée déjà existants, qu'il cherche explicitement à dépasser en ouverture de vocabulaire. À ce stade, il s'agit d'un travail de recherche publié en préimpression, sans produit ni déploiement commercial annoncé; les auteurs ne précisent ni calendrier de publication du code, ni disponibilité des jeux de données LangPart-1M et LangPart-4K, ni intégration prévue dans une pile robotique existante.

Dans nos dossiers

IA physique & VLA Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Au-delà du placement et de l'articulation : des scènes de code pilotées par l'usage pour l'interaction incarnée

Des chercheurs présentent RoomWright dans un preprint arXiv (2608.18840v1, catégorie "new", diffusé fin août 2026), un framework agentique de génération de scènes 3D d'intérieur entièrement représentées sous forme de code pour l'interaction incarnée. Le système effectue un raisonnement d'objets piloté par l'usage : chaque point d'ancrage de la scène est traité comme un centre de tâche autour duquel sont ajoutés les objets requis et leurs affordances. Un agent de code compile ensuite chaque interaction en une règle trigger-condition-effet qui met à jour des états d'objets structurés, capturant les dépendances causales entre eux, par exemple ouvrir un meuble avant d'en extraire un objet. Pour lever l'ambiguïté d'orientation des objets manipulables, difficile à déduire de simples pixels, la méthode s'appuie sur une orientation guidée par l'usage et informée par annotation. Les auteurs indiquent avoir mené des expériences extensives validant l'approche, produisant des scènes exécutables, éditables et directement utilisables en simulation. Les méthodes existantes de génération de scènes par code produisent certes des environnements éditables, mais restent focalisées sur la construction visuelle et l'articulation au niveau objet, laissant l'usage fonctionnel des scènes largement non modélisé, un manque que RoomWright cible directement. Pour l'entraînement de modèles vision-langage-action (VLA) tels que Pi-0, GR00T N2 ou Helix, disposer de scènes encodant non seulement le placement des objets mais aussi leurs règles d'usage et leurs dépendances causales représente un enjeu concret : cela permet de générer automatiquement des tâches de manipulation multi-étapes cohérentes, sans scénarisation manuelle systématique. L'approche s'adresse ainsi directement au fossé entre démonstrations statiques et environnements de simulation réellement exploitables pour l'apprentissage de politiques, un point sensible pour les équipes robotique qui peinent à produire des données d'entraînement diversifiées et causalement cohérentes à grande échelle. RoomWright s'inscrit dans la lignée des travaux récents combinant grands modèles de langage et génération de code pour la synthèse procédurale de scènes 3D destinées à l'IA incarnée, à la manipulation robotique et à l'apprentissage de politiques par simulation, un champ où les publications se sont multipliées depuis l'essor des VLA. Le papier, publié en preprint sur arXiv sans mention d'acteur français ou européen, reste à ce stade une contribution de recherche et non un produit déployé : aucune date de mise à disposition du code source ni de jeu de données n'est précisée. Les auteurs présentent les résultats comme une démonstration de faisabilité plutôt qu'un système prêt à l'emploi, la suite logique étant une intégration dans des pipelines de simulation existants pour la robotique de manipulation.

RecherchePaper

1 source

2arXiv cs.RO

LaGEA : des agents incarnés guidés par le langage pour la manipulation robotique

Des chercheurs présentent LaGEA (Language Guided Embodied Agents), une architecture combinant un modèle vision-langage (VLM) et l'apprentissage par renforcement (RL) pour la manipulation robotique, décrite dans une version mise a jour (v3) d'un article arXiv (2509.23155). Apres chaque tentative, le système résume l'épisode en langage naturel, localise les instants décisifs de la trajectoire, aligne ce retour avec l'état visuel dans une représentation partagée, puis transforme la progression vers l'objectif en récompenses bornées appliquées pas a pas. Un coefficient adaptatif, sensible aux échecs, rend ce signal dense en début d'exploration puis l'atténué avec la montée en compétence de l'agent. Sur les bancs d'essai simules Meta-World MT10 (dix taches de manipulation) et Robotic Fetch, LaGEA améliore le taux de réussite moyen de 9,0% sur des objectifs aléatoires, 5,3% sur des objectifs fixes et 17% sur les taches Fetch par rapport aux méthodes de référence, avec une convergence plus rapide. Le travail s'attaque a un problème classique du RL, la conception manuelle des fonctions de récompense, souvent couteuse et peu généralisable a de nouvelles taches. En montrant qu'un retour en langage naturel, structure et ancre temporellement, peut remplacer une partie de cette ingénierie, LaGEA nuance le narratif dominant autour des modèles vision-langage-action (VLA) de type Pi-0, GR00T N2 ou Helix, conçus pour piloter directement une politique de bout en bout : ici, le langage sert de superviseur d'apprentissage plutôt que de commande directe. Les gains rapportes restent obtenus en simulation, non sur du matériel réel, et demandent une confirmation sur des taches de manipulation physique. LaGEA prolonge les travaux exploitant les grands modèles vision-langage comme source de récompense ou de critique pour le RL, un axe de recherche actif depuis l'essor des modèles de fondation capables de décrire des objectifs et d'évaluer des trajectoires. Meta-World MT10 et Robotic Fetch sont des bancs d'essai standards de la communauté robotique, ce qui permet une comparaison directe avec l'état de l'art. S'agissant d'une version corrigée d'un article déjà publie, la contribution reste académique : aucun partenaire industriel, date de déploiement ou intégration produit n'est annonce a ce stade, la prochaine étape logique étant une validation sim-to-real sur robot physique.

RecherchePaper

1 source

3arXiv cs.RO

Video Assessment Conditionnée par l'Action et le Langage pour le Contrôle Incarné

ALVA, pour Action- and Language-Conditioned Video Assessment, est une méthode d'évaluation de trajectoires présentée dans une prépublication arXiv d'août 2026 (référence 2608.08273), qui vérifie si un agent robotique a réellement exécuté une instruction en langage naturel donnée en plusieurs étapes. Le système s'appuie sur un modèle vision-langage pré-entraîné en deux temps : il résume d'abord les transitions visuelles conditionnées sur les actions exécutées, puis confronte ce résumé à l'instruction pour produire un score discret de progression sur la trajectoire. Testé dans des environnements domestiques 3D simulés, ALVA se montre conservateur, avec un taux de faux positifs proche de zéro, et utilisé comme récompense terminale pour l'optimisation de politiques, il surpasse les références fondées sur l'image finale ou la similarité d'embeddings et réduit l'écart avec un oracle de vérité terrain. Ce travail s'attaque à un point faible connu de l'apprentissage par renforcement pour agents suivant des instructions : concevoir une récompense fiable capable de détecter si une tâche multi-étapes est vraiment accomplie, sans se laisser tromper par des états visuellement proches mais fonctionnellement incorrects. Pour les équipes qui entraînent des politiques VLA (vision-language-action), un évaluateur conservateur, quitte à sous-noter certaines réussites, limite le risque qu'un agent apprenne à exploiter les failles d'une récompense trop permissive et conforte l'idée que des VLM généralistes peuvent servir de juges interprétables pour le contrôle robotique. Ces résultats restent toutefois circonscrits à des environnements simulés, sans validation sur robot physique, ce qui limite pour l'instant leur portée industrielle directe. La démarche s'inscrit dans un courant de recherche plus large visant à remplacer les récompenses figées, fondées sur l'appariement de l'image finale ou la distance d'embedding, par des juges basés sur des modèles de fondation capables de raisonner sur une trajectoire complète et le langage de la consigne. Cette prépublication arXiv n'a pas encore été relue par les pairs et ne compare pas ALVA à des systèmes commerciaux. Les auteurs le présentent comme un mécanisme de feedback interprétable pour les tâches de contrôle robotique simulées étudiées, laissant ouverte son extension à des tâches plus complexes ou à des robots réels, étape logique mais non annoncée à ce stade.

RecherchePaper

1 source

4arXiv cs.RO

Exploration vision-langage guidée par plan d'étage pour la réponse à des questions incarnée

Des chercheurs présentent HFLEX-EQA, un nouveau framework pour l'Embodied Question Answering (EQA), publié sur arXiv (référence 2609.26360v1) en septembre 2026. L'EQA désigne la tâche où un robot doit explorer un environnement inconnu, collecter les informations pertinentes, puis répondre à des questions sur ce qu'il a observé. Le système combine quatre briques : une construction en ligne de graphe de scène hiérarchique, une planification pilotée par un modèle vision-langage (VLM), une exploration par frontières sémantiques, et des a priori de plan d'étage. À partir de flux RGB-D, HFLEX-EQA construit incrémentalement à la fois un graphe de scène hiérarchique et une carte d'occupation à vocabulaire ouvert, ce qui permet au VLM de raisonner conjointement sur la structure de la scène, les observations visuelles utiles à la tâche, l'historique d'exploration et un plan d'étage topologique estimé. Une stratégie de découverte de pièces exploite ce plan d'étage combiné à la sémantique des frontières non explorées pour orienter le robot vers les types de pièces les plus susceptibles de contenir la réponse. Le système a été évalué sur les benchmarks OpenEQA et ExploreEQA, et testé en conditions réelles sur un robot quadrupède en environnement intérieur. L'apport principal tient à l'ajout d'un a priori structurel global, le plan d'étage, là où la plupart des approches récentes couplant VLM et cartes ou graphes sémantiques ne s'appuient que sur les observations locales pour décider où explorer ensuite. Pour les équipes travaillant sur la navigation sémantique et la compréhension de scène en robotique de service, industrielle ou d'inspection, ce travail illustre une tendance de fond : le raisonnement spatial des VLM progresse quand on lui injecte une connaissance structurelle du bâtiment plutôt que de le laisser réagir image par image. Le déploiement réel sur quadrupède, au-delà de la simulation, va dans le sens d'une réduction de l'écart entre benchmarks académiques et comportement embarqué, sans pour autant constituer une preuve de robustesse à grande échelle : il s'agit d'une validation de recherche, pas d'un produit commercialisé. Le papier s'inscrit dans la lignée des approches EQA récentes combinant VLM et représentations sémantiques de l'environnement, dont il pointe la limite commune : l'absence d'exploitation des a priori structurels du bâtiment. Ses résultats sont comparés directement aux méthodes existantes sur OpenEQA et ExploreEQA, deux benchmarks de référence du domaine. Aucune date de mise en production, partenariat industriel ou déploiement à plus grande échelle n'est annoncé à ce stade ; il s'agit d'une contribution méthodologique destinée à la communauté de recherche en robotique embarquée et en IA multimodale.

RecherchePaper

1 source