
Des échecs aux mondes apprenables : génération d'environnements conditionnée par la politique pour les agents de navigation
Des chercheurs présentent WEDGE, un cadre de génération d'environnements de simulation pour agents de navigation, qui part des échecs d'une politique préentraînée pour décider quoi lui faire apprendre. À chaque cycle d'adaptation, un LLM compare les trajectoires réussies et ratées de la politique et propose des « caractéristiques de faiblesse » sous forme de code exécutable. Ces hypothèses sont validées automatiquement sur un jeu diagnostique, et la plus forte est retenue selon son écart de taux de réussite. Elle est ensuite reliée aux facteurs d'environnement qui la commandent. WEDGE fait varier ces facteurs pour construire des scènes dans les régimes de difficulté où l'agent échoue. L'évaluation porte sur trois agents de navigation aux mécanismes d'adaptation différents, dont Uni-NaVid et Gemini, sur ProcTHOR, avec un transfert testé sur HM3D. Le résumé publié ne donne aucun chiffre de gain, ce qui empêche d'en juger l'ampleur.
L'intérêt tient à ce que le travail contredit l'idée qu'il suffit de produire davantage de données simulées, réalistes et variées. Les auteurs observent que chaque politique présente un profil de faiblesses propre et profite d'environnements différents. L'adaptation guidée par les faiblesses bat des références à budget équivalent, un tirage aléatoire et une sélection d'exemples difficiles. Pour un intégrateur ou une équipe qui affine un modèle de navigation avant un déploiement sur site, cela revient à diagnostiquer avant de générer, plutôt que de multiplier les scènes. Les gains obtenus sur ProcTHOR se retrouvent sur HM3D pour Uni-NaVid et Gemini, signe d'un transfert partiel entre jeux de scènes. Les deux jeux restent des environnements simulés d'intérieur. Rien ne prouve donc encore un transfert sim-to-real sur un robot physique.
Le travail s'inscrit dans la lignée des pipelines de génération procédurale d'environnements comme ProcTHOR, de la curation de données synthétiques et de l'entraînement par curriculum, jusqu'ici surtout pilotés par des critères génériques. L'usage d'un LLM comme outil de diagnostic rapproche WEDGE des approches d'évaluation automatisée des politiques. Les auteurs montrent aussi que la faiblesse dominante peut persister ou se déplacer à mesure que l'agent progresse, ce qui justifie un ré-diagnostic itératif. Cette boucle reste à tester sur des modèles vision-langage-action plus larges et sur du matériel réel. Il s'agit d'une prépublication arXiv, sans produit ni pilote industriel annoncé.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




