RecherchearXiv cs.RO 18 juin 2026

Rapport technique pour le challenge ICRA 2026 GOOSE de segmentation sémantique 2D : utilisation de DINOv3 pour la compréhension robuste des scènes extérieures en robotique de terrain

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs a remporté la première place du GOOSE 2D Fine-Grained Semantic Segmentation Challenge, organisé dans le cadre du Workshop on Field Robotics de la conférence ICRA 2026. Ce défi porte sur la segmentation sémantique dense d'images hors-route selon une taxonomie fine de 64 classes et 11 catégories coarses évaluées. La solution gagnante repose sur deux apports complémentaires : une architecture combinant un backbone DINOv3 ViT-L/16 (auto-supervisé, patch 16x16), un ViT-Adapter, et un décodeur Mask2Former à classification par masques, complétés par une loss auxiliaire sur le token global [CLS] pour la supervision à grain coarse. À l'inférence, les auteurs appliquent une stratégie d'agrégation multi-échelle avec flip horizontal (test-time augmentation) et un ensemble des trois meilleurs checkpoints sélectionnés via les scores Codabench. Le score composite officiel atteint 76,57 %, décomposé en 69,32 % de mIoU fine-classe et 83,81 % de mIoU catégorie, plaçant cette méthode en tête du leaderboard final.

Ce résultat est notable pour la robotique de terrain car la segmentation hors-route à grain fin reste un verrou opérationnel majeur : les environnements non structurés (boue, végétation dense, rochers, herbe haute) produisent une variance visuelle que les modèles entraînés sur données urbaines gèrent mal. La combinaison DINOv3 + ViT-Adapter démontre ici que les représentations auto-supervisées issues de grandes masses de données génériques transfèrent efficacement vers des taxonomies spécialisées outdoor avec 64 classes, sans nécessiter de préentraînement spécifique au domaine. Pour les intégrateurs de robots agricoles, militaires ou de search-and-rescue, cela valide une voie d'architecture réplicable avec des backbones publics, sans dépendance à des datasets propriétaires.

Le dataset GOOSE (German Outdoor and Open-Source) a été développé pour combler le manque de benchmarks off-road à haute granularité, là où les jeux de données comme Cityscapes ou ADE20K restent centrés sur la ville. ICRA 2026, tenu en mai à Atlanta, concentre cette année plusieurs challenges dédiés au terrain non structuré, signalant une montée en maturité du sous-domaine face à l'essor des robots d'inspection, de déminage et d'agriculture autonome. Les concurrents directs de cette approche incluent des solutions basées sur des backbones InternImage ou SegFormer, mais la combinaison DINOv3 + supervision auxiliaire coarse semble offrir un gain de robustesse mesurable sur les classes rares. Les auteurs n'annoncent pas de déploiement terrain immédiat, mais le rapport technique soumis à ICRA 2026 constitue une base de référence pour les équipes travaillant sur la perception outdoor en conditions réelles.

Impact France/UE

Le dataset GOOSE, développé en Allemagne, constitue un benchmark européen pour la robotique de terrain non structuré ; les équipes EU travaillant sur l'agriculture autonome, le déminage ou l'inspection bénéficient directement d'une architecture de référence à backbones publics, sans dépendance à des données propriétaires.

Dans nos dossiers

ICRA / IROS / CoRL

À lire aussi

1arXiv cs.RO

Graphes de scène 3D en ensemble ouvert pour la robotique de terrain : étude de cas en extérieur

Des chercheurs publient le 7 septembre 2026 sur arXiv (2609.04607v1) un rapport de terrain sur les graphes de scène 3D en robotique extérieure, testant le système Terra 3DSG sur cinq jeux de données robotiques outdoor distincts. Ces cartes hiérarchiques combinent géométrie et sémantique via des modèles vision-langage en ensemble ouvert (VLM open-set), afin de permettre un raisonnement robotique de haut niveau. L'étude introduit de nouvelles métriques de cohérence pour vérifier si les propriétés sémantiques et structurelles du graphe restent stables lors de traversées répétées du même environnement. Résultats chiffrés : les embeddings de points sémantiques produits par les VLM présentent des valeurs aberrantes et des modes multiples sur l'ensemble des jeux de données testés, avec un ratio d'outliers supérieur à 0,1 pour environ 30% des points. La récupération d'objets par navigation atteint un taux de succès proche de 70%, mais les trajectoires affichent en moyenne environ 66% d'inefficacité par rapport au chemin optimal, freinées par des échecs de franchissabilité du terrain et un routage peu efficace. La compréhension au niveau des régions reste limitée, avec un score F1 moyen de seulement 0,359. En revanche, la représentation reste compacte, moins de 600 Mo pour des trajectoires de plusieurs kilomètres. Ces résultats importent car ils testent en conditions réelles une hypothèse répandue dans la recherche en robotique cognitive : que les graphes de scène 3D couplés à des VLM en ensemble ouvert peuvent servir de carte générale pour la navigation et la manipulation. L'étude nuance cet optimisme en documentant des limites concrètes, la sémantique visuelle reste bruitée en extérieur, la planification de trajectoire ignore encore la franchissabilité réelle du terrain, et la compréhension de régions naturelles complexes (forêts, terrains accidentés) reste un problème ouvert. Pour les intégrateurs travaillant sur des robots de terrain, drones, quadrupèdes, véhicules autonomes agricoles ou d'inspection, ce constat signale que les architectures VLA et les cartes sémantiques validées en intérieur ou en environnement urbain simulé ne se transposent pas directement à l'extérieur sans adaptation. Le travail s'inscrit dans la lignée des recherches sur les 3DSG initiées ces dernières années pour doter les robots de représentations de scène exploitables par des modèles de langage, jusqu'ici majoritairement validées en intérieur. Terra 3DSG sert ici de cas d'étude représentatif plutôt que de produit commercial abouti, l'article se positionnant explicitement comme une analyse de limites plutôt qu'une annonce de performance. Les auteurs identifient trois pistes de travail futures : mieux gérer les modes sémantiques multiples dans les embeddings, intégrer la franchissabilité du terrain directement dans la structure du graphe, et améliorer la compréhension sémantique au niveau des régions, autant de chantiers ouverts avant un déploiement robuste en extérieur à grande échelle.

RecherchePaper

1 source

2arXiv cs.RO

Enrichir le contexte spatial et temporel pour l'apprentissage par imitation robotique avec des graphes de scène

Des chercheurs ont publié le 1er juin 2026 sur arXiv (2606.01072) une méthode d'apprentissage par imitation qui exploite des graphes de scène dynamiques comme mécanisme de mémoire structurée pour les robots mobiles. Le principe : pendant l'exécution d'une tâche, le robot maintient un graphe de scène mis à jour en continu, qui encode les relations entre objets et leur évolution dans le temps. Plutôt que de traiter uniquement les observations courantes du capteur, le système capitalise sur l'historique accrété de l'environnement pour inférer des politiques d'action. Les validations couvrent deux régimes : manipulation mobile en simulation (environnements à grande échelle spatialement) et manipulation sur table en conditions réelles. Les auteurs rapportent une amélioration substantielle des performances par rapport aux baselines, particulièrement sur des tâches nécessitant un raisonnement à long terme, sans donner de métriques chiffrées précises dans l'abstract. Ce travail s'attaque à deux verrous persistants du déploiement de robots apprenants dans des environnements non-structurés. Le premier est l'observabilité partielle : dans un appartement ou un bureau, le champ de vision d'un robot ne capture qu'une fraction de l'espace pertinent, et les objets manipulés disparaissent régulièrement du cadre. Le second est l'horizon temporel : des tâches comme "ranger la cuisine" enchaînent des dizaines de sous-tâches dont les dépendances ne sont pas localement visibles. En substituant un graphe de scène explicite et structuré à une mémoire implicite (fenêtre d'observations brutes, état caché LSTM), l'approche donne au robot une représentation interprétable et modulaire du contexte. Pour les intégrateurs industriels et les équipes qui déploient des politiques d'imitation dans des environnements semi-structurés, c'est une piste crédible pour réduire le gap entre démo de labo et robustesse opérationnelle, même si les expériences restent pour l'instant confinées à la simulation et au tabletop. L'apprentissage par imitation (behavioral cloning, GAIL, DAgger) a connu un regain d'intérêt majeur avec l'essor des Visual Language Action models (VLA) comme Pi-0 de Physical Intelligence, RT-2 de Google DeepMind, ou OpenVLA. Les graphes de scène sont une technique éprouvée en vision par ordinateur et en navigation robotique (travaux de Armeni, Rosinol, Chang notamment), mais leur intégration dans des pipelines d'imitation learning reste peu explorée. Les approches concurrentes pour gérer la mémoire à long terme incluent les transformers avec attention sur un historique d'observations, les représentations de tâches hiérarchiques (task graphs), et les world models latents. Ce preprint n'étant pas encore évalué par les pairs, ses résultats méritent confirmation sur des benchmarks plus larges et des environnements réellement non-structurés avant de pouvoir orienter des décisions d'architecture. Les auteurs n'annoncent pas de code public ni de suite industrielle à ce stade.

RechercheOpinion

1 source

3arXiv cs.RO

CrowdOcc : complétion sémantique de scènes par vision monoculaire pour robots quadrupèdes en intérieur bondé

Une équipe de chercheurs publie CrowdOcc, un jeu de données RGB-D et un cadre de complétion sémantique de scène (SSC, semantic scene complétion) monoculaire destinés aux robots quadrupèdes évoluant dans des intérieurs fréquentés. Le jeu de données compte 25,1 K images issues de 11 scènes d'intérieur, avec des annotations d'occupation sémantique 3D construites par « découplage statique/dynamique », c'est-à-dire en traitant séparément la géométrie fixe de l'environnement et les personnes en mouvement. Le cadre repose sur deux modules. Le premier, NGSGF (Normal Guided Scene Geometry Fusion), complète la projection 3D guidée par la profondeur avec des normales de surface, afin de rendre la géométrie plus robuste aux occlusions. Le second, HCSI (Human-Centric Sparse Interaction), modélise de façon sélective, en 3D, les relations entre personnes ainsi qu'entre une personne et son environnement local. Sur le jeu de test à scènes disjointes, la méthode atteint 15,80 d'IoU, 11,40 de mIoU et 46,23 d'IoU sur la classe « humain ». Il s'agit d'un résultat de recherche académique, sans produit ni déploiement associé. L'enjeu porte sur une hypothèse rarement testée : la perception 3D des robots mobiles est surtout validée dans des scènes statiques ou peu peuplées. Or, dans une foule, les personnes masquent les murs, le mobilier et le sol, et leur propre occupation prédite est souvent incomplète ou mal placée. Pour un quadrupède opérant dans un hall, un commerce ou un site d'inspection partagé avec des employés, c'est la fiabilité de la carte d'occupation locale, donc de la planification de trajectoire et de l'évitement, qui est en jeu. Le fait de se limiter à une seule caméra, avec profondeur, va dans le sens de plateformes à faible coût et à capteurs réduits. Les chiffres appellent toutefois à la prudence : 15,80 d'IoU et 11,40 de mIoU restent modestes en valeur absolue. Le jeu de données est aussi petit (11 scènes), et la généralisation n'est démontrée que sur des scènes d'intérieur invisibles du même corpus. L'écart avec une robustesse exploitable en production est donc probablement important, d'autant que les résumés ne donnent ni latence ni cadence d'inférence embarquée. Ces travaux prolongent la lignée de la complétion sémantique de scène monoculaire, née dans le contexte de la conduite autonome (SemanticKITTI, approches de type MonoScene), puis étendue à l'occupation 3D en intérieur. La plupart de ces références supposent des scènes statiques ou des points de vue de véhicule, et non celui d'un quadrupède, plus bas et plus instable. CrowdOcc comble ce vide avec un banc d'essai dédié aux scènes peuplées. Les prochaines étapes naturelles sont l'évaluation sur une plateforme réelle, la mesure du temps d'inférence embarqué et l'extension à davantage de scènes. Le papier ne mentionne aucun acteur industriel ou européen précis. Il s'adresse aux équipes qui développent des quadrupèdes commerciaux et aux laboratoires travaillant sur la navigation en environnement humain.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

RoboMME : évaluation et compréhension de la mémoire pour les politiques robotiques généralistes

Une équipe de chercheurs a publié RoboMME (Robotic Multi-Memory Evaluation), un benchmark standardisé à grande échelle destiné à évaluer les modèles VLA (vision-language-action) sur des tâches de manipulation robotique nécessitant de la mémoire à long horizon. Le benchmark comprend 16 tâches construites selon une taxonomie en quatre catégories : mémoire temporelle, spatiale, des objets et procédurale, couvrant des scénarios comme le comptage d'actions répétées ou la manipulation d'objets temporairement occultés. Les auteurs ont également développé 14 variantes de VLA augmentées de mémoire, toutes bâties sur le backbone pi0.5 de Physical Intelligence, et les ont évaluées selon différentes stratégies d'intégration mémorielle. L'absence d'un cadre d'évaluation standardisé était jusqu'ici un frein majeur pour la recherche sur la mémoire dans les VLA généralistes : chaque équipe testait ses mécanismes dans des conditions ad hoc, rendant toute comparaison rigoureuse impossible. RoboMME comble ce vide en permettant, pour la première fois, de mesurer systématiquement comment différentes représentations mémorielles (états cachés récurrents, mémoire externe, fenêtre de contexte longue) se comportent sur un spectre de tâches hétérogènes. La conclusion principale est nuancée : l'efficacité d'une architecture mémoire est fortement dépendante de la tâche, chaque approche présentant des avantages distincts selon la catégorie, ce qui remet en cause l'idée qu'une solution universelle serait à portée à court terme. Pour les intégrateurs et les décideurs B2B, cela signifie concrètement que le choix du mécanisme mémoriel devra rester spécifique au cas d'usage, sans recette générique applicable. Ce benchmark s'inscrit dans la montée en puissance des VLA généralistes, portés par des modèles comme pi0 et pi0.5 de Physical Intelligence (levée de 400 millions de dollars en 2024), OpenVLA, Octo ou RoboVLMs, qui cherchent tous à transférer les capacités des grands modèles de langage à la manipulation physique. D'autres benchmarks comme LIBERO, RoboSuite ou MetaWorld couvrent déjà l'évaluation générale des VLA, mais RoboMME se distingue par son focus explicite sur la mémoire à long horizon, un aspect jusqu'ici systématiquement sous-évalué dans ces environnements. Les prochaines étapes probables incluent l'adoption de RoboMME comme référence communautaire dans les pipelines d'évaluation des grands labs robotiques, et le développement d'architectures mémoire capables de généraliser entre catégories de tâches sans sacrifier les performances spécialisées.

RechercheActu

1 source