
Les trajectoires imaginées sont cinématiques, pas dynamiques : diagnostic d'un échec des modèles du monde à long horizon
Des chercheurs proposent un nouveau diagnostic pour expliquer pourquoi les modèles du monde (world models) utilises en apprentissage par renforcement échouent sur les longs horizons de prédiction. Publie sur arXiv (2607.05966v1), le papier avance que l'explication habituelle, l'erreur qui s'accumule au fil des pas de simulation, est trop générique et ne dit rien sur la nature de cette erreur. Les auteurs proposent une distinction cinématique versus dynamique: un modèle du monde peut imaginer des trajectoires qui restent plausibles au niveau des positions et vitesses (cinématique) sans respecter les forces, frottements et contraintes physiques réelles (dynamique). Pour le mesurer, ils introduisent l'iKCE (imagined Kinematic-Consistency Error), un indicateur pas-a-pas qui compare une trajectoire imaginée a une référence cinématique en forme close, complète par un protocole de perturbation testant si l'iKCE réagit quand les conditions physiques franchissent une frontière de régime. Applique a un checkpoint public de DreamerV3 entraine sur la tache walker-walk du DeepMind Control Suite, l'iKCE des trajectoires imaginées est environ cent fois supérieur a celui de trajectoires réelles équivalentes.
Le résultat le plus parlant vient d'un balayage du coefficient de friction traversant la frontière ou la marche du robot s'effondre: la récompense de la politique entraînée chute brutalement dans cette zone, mais l'iKCE du modèle reste statistiquement plat, preuve que le modèle n'a jamais vraiment intègre la dynamique physique sous-jacente et se contente d'extrapoler des formes de mouvement. Pour l'industrie qui mise sur les modèles du monde pour la planification robotique ou l'apprentissage par simulation, ce travail fournit un outil concret pour distinguer un modèle qui "a compris la physique" d'un modèle qui reproduit des motifs de surface, une nuance cruciale avant tout transfert vers du contrôle réel.
Le papier s'inscrit dans la lignée des travaux sur les world models (PlaNet, Dreamer, DreamerV3) largement utilises en RL base sur modèle, ou la fiabilité des rollouts imagines conditionne directement la qualité des politiques apprises. Les auteurs précisent que leur diagnostic est surtout discriminant aux horizons dépassant la période de marche de l'agent, ouvrant la voie a des benchmarks de robustesse dynamique applicables a d'autres architectures et environnements que DMC walker-walk.
Dans nos dossiers




