CrossMaps : cartographie sémantique à vocabulaire…

1arXiv cs.RO

Navigation par objectif à vocabulaire ouvert : généraliser la cartographie sémantique avec CLIP dense

Des chercheurs ont publié une nouvelle version (v2) de l'article arXiv 2407.09016, qui présente OVExp, un framework d'exploration en vocabulaire ouvert pour la navigation robotique vers des objets-cibles non catégorisés au préalable. Le système s'appuie sur des modèles Dense CLIP pour généraliser la cartographie sémantique, sans recourir à l'inférence coûteuse de grands modèles de langage (LLM) ni à un entraînement intensif par apprentissage par renforcement (RL) de bout en bout. L'innovation centrale est une stratégie de transfert cross-modal sur cartographie sémantique : le réseau apprend d'abord uniquement à partir de texte, puis transfère ces représentations, au moment du test, vers une cartographie multimodale combinant localisation spatiale précise des objets et représentations visuelles généralisables. Les auteurs annoncent une généralisation robuste vers des objets-cibles inédits, validée sur les benchmarks établis d'ObjectNav, malgré un entraînement reposant sur des mises en page textuelles limitées en nombre d'objets. Pour l'industrie robotique et les intégrateurs, ce travail cible un problème concret de coût et de latence : les approches actuelles de navigation en vocabulaire ouvert, qui appellent un LLM à chaque décision ou nécessitent des heures d'entraînement RL par environnement, restent difficiles à déployer à grande échelle sur des robots mobiles autonomes (AMR) ou des plateformes d'inspection. En montrant qu'un réseau de prédiction d'objectifs basé sur une carte sémantique peut généraliser sans réentraînement lourd ni appel LLM en boucle, OVExp propose une alternative aux architectures VLA gourmandes en ressources, ce qui intéresse directement tout acteur cherchant à doter des robots de capacités de recherche d'objets flexibles sans exploser les coûts d'inférence en production. Ce travail s'inscrit dans la lignée des recherches sur ObjectNav, la tâche de navigation vers un objet-cible désigné par catégorie ou par image dans un environnement inconnu, un benchmark phare de la navigation embarquée depuis plusieurs années. Il se positionne face à deux familles de méthodes concurrentes : celles qui exploitent des LLM sans entraînement supplémentaire pour raisonner sur la scène, coûteuses en inférence, et celles qui affinent des politiques par RL de bout en bout, limitées en généralisation hors distribution. En s'appuyant sur CLIP, déjà largement utilisé pour l'ancrage vision-langage, et sur un entraînement texte-seul transférable au moment du test, les auteurs proposent une voie plus économe en ressources. Publié en v2 sur arXiv, l'article reste à ce stade une contribution académique évaluée en simulation, sans annonce de déploiement matériel ni de partenariat industriel.

RecherchePaper

1 source

2arXiv cs.RO

FUS3DMaps : cartographie sémantique à vocabulaire ouvert par fusion 3D de couches voxel et instance

Une équipe de recherche a publié le 6 mai 2026 sur arXiv (référence 2605.03669) FUS3DMaps, une méthode de cartographie sémantique 3D à vocabulaire ouvert conçue pour permettre à des robots de localiser spatialement des concepts arbitraires sans ensemble de classes prédéfini. Le système fonctionne en ligne et maintient simultanément deux couches sémantiques dans une même carte de voxels partagée : une couche dense, qui projette directement les embeddings de pixels sur la carte 3D, et une couche instance-level, qui segmente les vues, encode les régions correspondant à des objets distincts, puis les associe en 3D. Les expériences menées sur des benchmarks établis de segmentation sémantique 3D montrent que FUS3DMaps atteint une précision compétitive à l'échelle de bâtiments multi-étages, un niveau de scalabilité rarement démontré pour ce type d'approche sans entraînement supervisé. Le code et les données complémentaires sont annoncés en accès ouvert. Ce qui distingue FUS3DMaps des méthodes existantes est la fusion sémantique inter-couches (cross-layer fusion), qui combine les forces complémentaires des deux représentations : la couche dense couvre l'intégralité du champ visuel sans nécessiter de segmentation préalable, mais souffre d'un manque de précision à l'échelle ; la couche instance-level est précise sur les objets individuels mais dépend de l'association 2D-3D. En fusionnant les embeddings des deux couches au niveau voxel, la méthode améliore la qualité de chacune. Pour garantir la scalabilité, la fusion dense et inter-couches est restreinte à une fenêtre spatiale glissante, évitant l'explosion mémoire dans les grands environnements. Pour les intégrateurs de robotique mobile ou les développeurs de systèmes de navigation en environnement ouvert, c'est une piste concrète vers des robots capables de répondre à des requêtes en langage naturel sur des espaces non balisés. La cartographie sémantique à vocabulaire ouvert est un champ en plein essor depuis l'émergence des vision-language models (VLM) comme CLIP. Les approches actuelles se divisent en deux familles : les méthodes instance-level (LSeg, OpenScene, EmbodiedScan) et les méthodes dense (ConceptFusion, OpenFusion), chacune avec ses compromis entre précision et scalabilité. FUS3DMaps tente de réconcilier les deux dans un pipeline unifié, sans fine-tuning. À noter que l'article est une prépublication arXiv, sans validation par les pairs à ce stade, et que les démonstrations vidéo et le code sont encore annoncés comme "à venir". Aucune entreprise industrielle ou partenaire de déploiement n'est mentionné : il s'agit d'une contribution de recherche académique, pas d'un produit commercialisé.

RechercheActu

1 source

3arXiv cs.RO

ActiveLang : cartographie 3D active à vocabulaire ouvert, avec exploration guidée par l'incertitude sémantique

ActiveLang est un système autonome de cartographie 3D active à vocabulaire ouvert, décrit dans un preprint arXiv (2610.09518). Il construit des cartes 3D annotées en langage naturel pendant que le robot explore, et choisit lui-même où regarder ensuite en fonction de l'incertitude sémantique. Techniquement, le système adapte en ligne des descripteurs de langage sur une représentation compacte à double jeu de gaussiennes (variante du Gaussian Splatting). Cette représentation reconstruit conjointement la géométrie, l'apparence et la sémantique, avec un surcoût mémoire que les auteurs qualifient de modeste, sans le chiffrer dans le résumé. Le planificateur sélectionne les points de vue les plus informatifs, ce qui permet de cartographier avec moins d'observations et un coût de calcul réduit. Les tests portent sur deux jeux de données, Replica et ScanNet++. Ils montrent des gains « substantiels » en segmentation à vocabulaire ouvert, en 2D comme en 3D, face à des méthodes en ligne et hors ligne. Le résumé ne donne ni pourcentages de mIoU, ni temps de calcul, ni nombre de vues économisées. L'enjeu est de savoir quoi regarder, pas seulement comment représenter ce qu'on a vu. La plupart des cartes sémantiques à vocabulaire ouvert supposent un parcours de capture déjà fait, puis traité hors ligne. Un robot déployé dans un entrepôt, un hôpital ou un domicile ne connaît ni l'environnement ni les concepts utiles à l'avance. Il doit donc cartographier et interpréter en même temps. Si l'approche tient ses promesses, elle réduit le temps d'exploration et le calcul embarqué, deux postes qui pèsent sur la viabilité d'un déploiement. Elle permettrait aussi d'interroger la carte en langage libre (« où est le chariot rouge ? ») sans réentraîner de classifieur. Les réserves sont nettes. Replica et ScanNet++ sont des scènes d'intérieur statiques et propres, et aucune validation sur robot réel, avec bruit de capteur, dynamique ou grandes surfaces, n'est mentionnée dans le résumé. C'est un résultat de recherche, pas un produit. Le travail s'inscrit dans la convergence entre le Gaussian Splatting et les modèles vision-langage, avec des approches comme LangSplat ou Feature 3DGS pour la distillation de caractéristiques CLIP dans des scènes 3D. Ces méthodes restent souvent hors ligne et passives. À l'inverse, la cartographie active, historiquement fondée sur l'information géométrique (exploration par frontières, prochaine meilleure vue), n'intégrait pas l'incertitude sémantique. ActiveLang comble cet écart. Les prochaines étapes à surveiller sont un passage sur plateforme mobile réelle, des mesures de latence embarquée et une intégration avec des planificateurs de tâches pilotés par modèles de langage. Aucun partenaire industriel ni calendrier n'est annoncé.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

OpenSplatGraph : des cartes sémantiques denses aux graphes de scène structurés pour la perception robotique à vocabulaire ouvert

Des chercheurs, vraisemblablement du groupe de robotique de CSIRO (Australie) d'après l'adresse de la page projet, publient sur arXiv OpenSplatGraph, un cadre logiciel qui construit en ligne un graphe de scène 3D persistant à partir d'une carte sémantique dense en 3D Gaussian Splatting (3DGS) à vocabulaire ouvert. Le système ajoute à cette carte un champ sémantique « conscient de la fiabilité », qui conserve des statistiques légères sur les observations. Ces statistiques servent à extraire des objets à partir d'une requête en langage naturel, avec un niveau de confiance associé. Les instances extraites sont rattachées à des nœuds persistants du graphe, dont les attributs et les relations sont mis à jour au fil des observations et des requêtes. Les auteurs annoncent des évaluations sur des benchmarks standard de compréhension de scènes 3D et des expériences robotiques réelles, avec des performances « compétitives ». Le résumé ne donne aucun chiffre, aucune plateforme robotique ni aucun temps de calcul, et le travail reste un préprint académique, sans produit ni déploiement. L'enjeu est de combler un fossé entre deux représentations. Les cartes 3DGS offrent une géométrie fidèle et une perception à vocabulaire ouvert, mais leur sémantique reste un champ de caractéristiques non structuré, peu adapté au raisonnement centré sur les objets. Les graphes de scène 3D, eux, modélisent objets et relations, mais reposent souvent sur des géométries éparses qui exploitent mal les cartes denses. Pour un intégrateur ou un ingénieur perception, l'intérêt est de pouvoir demander « où est tel objet ? » ou « que contient cette zone ? » sans maintenir deux cartes séparées. La notion de confiance par observation répond aussi à un problème pratique, celui des détections bruitées d'un modèle vision-langage. Seuls les chiffres des benchmarks, absents du résumé, permettront de juger si l'approche dépasse les méthodes existantes en conditions réelles. Ce travail s'inscrit dans la convergence entre cartographie par splatting gaussien et représentations sémantiques ouvertes, où les graphes de scène servent de couche de raisonnement pour la planification et la manipulation guidées par le langage. Il suit des approches antérieures de graphes de scène 3D construits sur des nuages de points ou des cartes éparses, que les auteurs jugent sous-exploitées sur le plan sémantique. Aucun calendrier de déploiement n'est annoncé. Les prochaines étapes probables sont la publication du code via la page projet, des comparaisons indépendantes et des tests sur des robots mobiles ou manipulateurs dans des environnements plus vastes et dynamiques.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

CrossMaps : cartographie sémantique à vocabulaire ouvert avec estimation de confiance pour la navigation de rovers

À lire aussi

Navigation par objectif à vocabulaire ouvert : généraliser la cartographie sémantique avec CLIP dense

FUS3DMaps : cartographie sémantique à vocabulaire ouvert par fusion 3D de couches voxel et instance

ActiveLang : cartographie 3D active à vocabulaire ouvert, avec exploration guidée par l'incertitude sémantique

OpenSplatGraph : des cartes sémantiques denses aux graphes de scène structurés pour la perception robotique à vocabulaire ouvert