ValueFormer : une fonction de valeur transformer causale à étiquettes conscientes de l'étape pour les politiques vision-langage-action semi-autonomes

Des chercheurs présentent ValueFormer (arXiv:2608.02958), un transformer causal compact adossé à un backbone DINOv3 gelé qui produit, à chaque frame, deux signaux : une valeur Monte Carlo lisse (V_mc) pour l'estimation d'avantage, et une valeur binaire nette pour détecter les erreurs en direct. Les épisodes échoués reçoivent un retour succès puis décroissance, la détection s'appuyant sur des intervalles d'erreur plutôt qu'un instant unique. Sur une tâche réelle d'assemblage bimanuel de sandwichs (1427 épisodes), ce poids de critique par frame fait passer le taux de réussite de 70% à 85% (n=20, dans la marge de bruit), et un encodeur bf16 par lots divise le coût de service par 3 à 5, permettant au critique de tourner à 2 Hz avec la politique sur un seul GPU.

L'enjeu souligné par les auteurs est méthodologique : une politique Vision-Language-Action entraînée par clonage comportemental échoue silencieusement, un rollout qui s'effondre ressemblant, vu des seules actions, à un rollout qui progresse normalement. Le renforcement apporterait ce signal de progrès, mais reste impraticable : l'expérience réelle sur robot coûte cher et les aliments déformables comme les ingrédients d'un sandwich résistent mal à la simulation. Un simple bit de succès ou d'échec en fin d'épisode est trop rare pour indiquer quand une trajectoire a dérapé. Le point dur, selon les auteurs, n'est pas l'architecture mais l'étiquette par frame, qui doit être dense, continue et bien structurée. Pour l'industrie, cela offre un moyen peu coûteux d'instrumenter des politiques VLA en production et de détecter les erreurs en direct sur des tâches impliquant des objets déformables, mal gérés par la simulation classique.

ValueFormer s'inscrit dans la famille des politiques Vision-Language-Action, aux côtés de modèles comme Pi-0, GR00T N2 ou Helix, qui visent à généraliser le contrôle robotique à partir de démonstrations plutôt que de règles codées à la main. Le choix d'un backbone DINOv3 gelé et d'une architecture indépendante de la politique rend le critique réutilisable d'un système à l'autre, une approche modulaire plutôt qu'intégrée de bout en bout. Le papier reste un travail de recherche testé en laboratoire sur une seule tâche, avec un gain de performance mesuré sur seulement 20 essais, un résultat à confirmer avant toute généralisation.