Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Vers des filtres de sécurité latents généraux conditionnés par le langage
RecherchearXiv cs.RO 

Vers des filtres de sécurité latents généraux conditionnés par le langage

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent une nouvelle approche de filtrage de sécurité pour les robots pilotés par des modèles vision-langage-action (VLA), détaillée dans un article publié le 1er août 2026 sur arXiv (2608.00315v1). Le système, baptisé filtre de sécurité latent conditionné par le langage, combine un acteur et un critique de sécurité fondés sur la théorie de Hamilton-Jacobi, tous deux conditionnés par des contraintes exprimées en langage naturel plutôt que codées en dur. Les auteurs l'ont testé sur trois tâches en environnement simulé et basé sur la vision : le pick-and-place, l'essuyage de table et l'empilement de blocs. Résultat annoncé : le filtre réduit les violations de contraintes de sécurité et parvient à transférer partiellement son comportement vers des instances de contraintes jamais vues pendant l'entraînement, à condition qu'elles appartiennent aux mêmes familles de contraintes déjà couvertes.

Cette approche s'attaque à un vrai goulot d'étranglement industriel : jusqu'ici, chaque filtre de sécurité robotique devait être reconçu ou réentraîné dès que les exigences changeaient, par exemple passer d'un entrepôt à un environnement médical ou ajuster une distance de sécurité selon l'utilisateur. Pour les intégrateurs qui déploient des politiques VLA génériques capables d'exécuter des tâches variées à partir d'une simple instruction textuelle, un filtre reconfigurable par le langage éviterait un cycle de développement coûteux à chaque nouveau cas d'usage ou client. C'est un signal que le secteur cherche désormais à généraliser non seulement les capacités des robots, mais aussi les garde-fous qui les encadrent, un chantier resté à la traîne derrière les progrès spectaculaires des modèles de contrôle eux-mêmes.

Le travail s'inscrit dans la lignée des filtres de sécurité par réchabilité de Hamilton-Jacobi, une méthode de contrôle formel déjà utilisée pour garantir des marges de sécurité vérifiables sur des systèmes robotiques, mais historiquement limitée à des contraintes fixes et spécifiques à une tâche. En la couplant à du conditionnement linguistique, les auteurs cherchent à suivre la tendance des VLA génériques type RT-2 ou OpenVLA, capables d'exécuter des instructions diverses avec une seule politique. L'étude reste toutefois cantonnée à des tâches de manipulation simulées et à un transfert partiel seulement sur des contraintes proches de celles déjà vues, loin d'une garantie de sécurité générale prête pour un déploiement industriel réel.

Dans nos dossiers

IA physique & VLAOpenVLA / RT-XarXiv cs.RO

À lire aussi

CSF : filtrage de sécurité contextuel pour les générateurs de mouvements
1arXiv cs.RO 

CSF : filtrage de sécurité contextuel pour les générateurs de mouvements

Des chercheurs proposent le Contextual Safety Filtering (CSF), un filtre de sécurité sans entraînement destiné aux générateurs de mouvement pilotés par texte, ceux qui produisent des mouvements corps entier exécutables par un robot. Le principe consiste à ancrer des règles de sécurité formulées en langage naturel dans des trajectoires de référence, l'une sûre et l'autre dangereuse, produites par le générateur lui-même. Pour chaque règle active, ces deux trajectoires définissent une valeur de sécurité affine, appliquée par un CBF-QP (programme quadratique à fonction barrière de contrôle) qui suit la référence sûre. Les auteurs testent le dispositif sur quatre générateurs préentraînés d'architectures différentes. Selon eux, CSF active la règle visée dans tous les cas dangereux, qu'ils soient explicites ou déclenchés par la scène, et réduit jusqu'à 90 % le taux d'événements dangereux. Il conserve entre 88 % et 100 % des mouvements bénins. Le système complet est démontré sur un Unitree G1 réel, qui évite des mouvements dangereux lors d'interactions avec des humains et des objets. Il s'agit d'un preprint arXiv (2610.12467v1), sans produit commercialisé ni déploiement industriel. Le problème visé est concret. Un générateur de mouvement conditionné par texte ignore le contexte : la même action, comme saisir ou pousser, n'a pas la même portée selon qu'elle cible un objet ou une personne. Les garde-fous actuels se limitent à filtrer le prompt, à exiger des données de mouvement annotées, ou à imposer des contraintes purement géométriques. Aucun ne tient compte de la façon dont la scène change le sens du geste. Pour un intégrateur ou un responsable sécurité qui envisage des humanoïdes à proximité d'opérateurs, l'intérêt est qu'il n'y a ni réentraînement ni jeu de données étiqueté à constituer, et que l'approche s'applique à plusieurs architectures. Les règles restent lisibles et modifiables en langage naturel, ce qui facilite l'audit. Le recours à un CBF-QP apporte une garantie formelle d'application de la contrainte, ce qui contraste avec les filtres purement statistiques. Il faut toutefois relativiser. Une réduction « jusqu'à 90 % » est un maximum, pas une moyenne. Les benchmarks sont académiques, et le taux restant d'événements dangereux comme le comportement hors distribution ne sont pas précisés. La perte pouvant atteindre 12 % de mouvements bénins se traduirait en production par des refus ou des blocages à gérer. Une démonstration sur un seul robot ne vaut pas validation sécuritaire, et rien n'indique une conformité aux normes ISO ou à l'évaluation de risques en environnement partagé. Ces travaux s'inscrivent dans la montée des générateurs de mouvement humanoïdes pilotés par texte, associés à des contrôleurs de suivi de corps entier, souvent testés sur le Unitree G1, devenu plateforme de recherche de référence grâce à son prix relativement bas. La sécurité y reste un angle mort, car les travaux dominants portent sur la qualité et la diversité du mouvement, pas sur sa pertinence en situation. La suite logique serait de tester CSF sur des tâches plus longues, avec perception en boucle fermée et une détection de scène plus robuste, puis sur d'autres plateformes. Les acteurs industriels qui poussent les modèles généralistes (VLA, modèles de fondation pour humanoïdes) devront traiter ce même problème de sécurité contextuelle avant de déployer au contact de personnes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
CrossSafe : vers des filtres de sécurité latents transférables entre morphologies robotiques
2arXiv cs.RO 

CrossSafe : vers des filtres de sécurité latents transférables entre morphologies robotiques

Un article publié sur arXiv le 25 septembre 2026 (2609.28984v1), intitulé "CrossSafe: Towards Cross-Embodiment Latent Safety Filters", propose un filtre de sécurité conditionné par la morphologie du robot et partageable entre plusieurs embodiments. La méthode applique une analyse de type Hamilton-Jacobi reachability directement dans un espace latent construit à partir d'une représentation morphology-aware du robot et de son environnement, plutôt que dans l'espace d'action brut de l'effecteur terminal qu'utilisent la plupart des modèles VLA (vision-language-action). L'approche est évaluée sur cinq embodiments de robots bimanuels et cinq tâches de manipulation, avec des contraintes d'évitement de collision portant sur l'ensemble du corps du robot. Une politique unique, entraînée conjointement sur les cinq tâches et quatre des cinq embodiments, généralise en zero-shot au cinquième embodiment laissé de côté à l'entraînement, réduisant le taux de collision par rapport à la politique nominale sans filtre; les auteurs montrent aussi que multiplier les embodiments à l'entraînement améliore cette généralisation. Ce résultat vise un angle mort des politiques de manipulation généralistes de type VLA, dans la lignée de modèles comme Pi-0, GR00T N2 ou Helix: elles apprennent des actions dans un espace commun d'effecteur terminal sans capturer explicitement comment la sécurité dépend de la morphologie et de la cinématique propres à chaque robot, alors qu'une même action peut être sûre pour un bras et dangereuse pour un autre. Pour des intégrateurs qui déploient une même politique sur des flottes hétérogènes, cela suggère que le raisonnement de sécurité, détecter un obstacle puis décider de l'éviter, peut être mutualisé entre plateformes tout en restant conditionné à la morphologie de chacune, sans nécessiter un filtre réentraîné robot par robot. C'est un indice supplémentaire que la généralisation cross-embodiment, déjà démontrée pour les compétences de manipulation, s'étend à l'évitement de collision, un prérequis pour tout déploiement de VLA en environnement partagé avec des humains. Le travail s'inscrit dans la recherche en apprentissage cross-embodiment et dans les méthodes de contrôle sûr par reachability Hamilton-Jacobi, historiquement coûteuses en calcul et limitées à des systèmes de faible dimension, une contrainte que l'encodage latent proposé ici cherche justement à contourner. Il s'agit à ce stade d'un article académique déposé sur arXiv, sans produit ni robot commercial nommé, et sans acteur français ou européen cité: les cinq embodiments bimanuels testés ne sont pas identifiés publiquement dans le résumé disponible. Aucun calendrier de déploiement réel ni partenariat industriel n'est communiqué; les auteurs indiquent vouloir étendre l'évaluation à davantage d'embodiments et de tâches pour confirmer la courbe de généralisation observée.

RecherchePaper
1 source
XEWorld : les modèles du monde conditionnés par l'action se généralisent-ils à des robots inédits ?
3arXiv cs.RO 

XEWorld : les modèles du monde conditionnés par l'action se généralisent-ils à des robots inédits ?

XEWorld, un banc d'essai contrôle présente par une équipe de recherche, évalué si les modèles du monde conditionnes par l'action, des simulateurs appris pour la manipulation robotique, généralisent a des robots jamais vus pendant l'entrainement. Le protocole isole la variable embodiment en testant des robots non vus dans des scènes physiquement identiques a celles de l'entrainement. Le constat est net: les modèles actuels se comportent avant tout comme des systèmes d'appariement visuel en 2D, dont la généralisation dépend de la similarité visuelle avec les robots déjà vus, et non de la similarité cinématique réelle. Consequence directe, ils peinent a traduire une commande articulaire numérique en trajectoire visuelle cohérente et échouent a prédire une évolution dynamique de la scene a partir d'une simple image statique de départ. Pour rendre correctement un embodiment inédit en zero-shot, il faut leur fournir des actions déjà projetées dans l'espace des pixels et un alignement spatio-temporel explicite, ce qui contourne le problème plutôt que de le résoudre. Meme quand l'adaptation few-shot permet de récupérer l'apparence du nouveau robot, elle declenche un oubli catastrophique des embodiments déjà appris. Ce résultat pèse directement sur l'industrie robotique: les modèles du monde sont promus comme des simulateurs bon marche pour entrainer des politiques VLA telles que Pi-0, GR00T N2 ou Helix, en complément ou en remplacement de la collecte de données réelles et des moteurs physiques classiques. Si ces simulateurs appris ne généralisent pas au-delà des robots vus a l'entrainement, chaque nouvel humanoïde, bras industriel ou plateforme mobile nécessiterait son propre modèle reentraine, ce qui fragilise la promesse d'un simulateur généraliste réutilisable d'un intégrateur a l'autre. L'étude agit aussi comme un correctif face a l'enthousiasme autour des architectures cross-embodiment: la généralisation apparente de certaines démonstrations tiendrait davantage a une ressemblance d'aspect entre robots qu'a une compréhension de la physique sous-jacente, un signal d'alerte pour quiconque évalué des annonces de transfert zero-shot entre plateformes. Cette limite s'inscrit dans une course plus large ou des laboratoires comme Google DeepMind, NVIDIA ou Physical Intelligence développent des modèles du monde et des politiques généralistes censées piloter des robots très différents avec un seul réseau, une démarche destinée a réduire le cout de la collecte de données robot par robot. XEWorld, publie en preprint sur arXiv début aout 2026, ne remet pas en cause l'utilité des modèles du monde en soi mais isole précisément le point de blocage actuel: la confusion entre apparence visuelle et dynamique physique. Les auteurs appellent a des innovations architecturales qui découplent explicitement ces deux dimensions, une piste qui conditionnera la capacité des prochaines générations de simulateurs appris a soutenir un entrainement véritablement cross-embodiment plutôt qu'un simple recyclage visuel de robots déjà connus.

RecherchePaper
1 source
ContactGuard : surveillance de l'exécution pré-contact par modèles du monde latents conditionnés par l'action
4arXiv cs.RO 

ContactGuard : surveillance de l'exécution pré-contact par modèles du monde latents conditionnés par l'action

Publié sur arXiv (2608.13438v1), un article de recherche présente ContactGuard, un moniteur d'exécution qui détecte les échecs de manipulation robotique avant le contact physique avec l'objet. Pensé pour les politiques visuomotrices « chunked » couplées à des caméras montées au poignet, souvent aveugles à une approche déjà en train de pousser, rater, glisser ou déranger l'objet, le système prédit dans un espace visuel latent compact la conséquence du prochain bloc d'actions planifié par la politique, puis interrompt l'exécution en cas d'échec probable. Son modèle du monde, entraîné sur des trajectoires robotiques non étiquetées sans prédiction vidéo pixel par pixel, s'appuie sur une sonde d'échec légère apprise sur un petit jeu de clips pré-contact étiquetés. Testé sur robot réel, il prédit les échecs plus précisément que des versions simplifiées mises en comparaison, sans modifier la politique existante. Cette approche cible une limite concrète des politiques actuelles de type VLA, qui exécutent des séquences d'actions sur plusieurs pas de temps sans réévaluation intermédiaire, rendant les échecs difficiles à anticiper avant qu'ils ne surviennent physiquement. Sur des tâches contact-riche comme l'insertion, l'assemblage ou la préhension, un échec détecté après coup signifie pièces endommagées ou reprises coûteuses. Pour les intégrateurs, l'intérêt tient à la nature de couche de sécurité externe du système, greffée sur une politique existante sans réentraînement, potentiellement applicable à plusieurs politiques « chunked » déjà déployées. Plutôt que de renforcer la politique de base à la source, ContactGuard ajoute une supervision prédictive en aval, une piste utile pour un secteur où l'écart entre démonstrations en laboratoire et fiabilité en conditions réelles reste un sujet sensible. Il s'agit d'une contribution académique sans lien annoncé avec une entreprise ou un robot commercial précis : aucun fabricant, site de déploiement ni feuille de route commerciale ne figure dans la publication. Le travail s'inscrit dans la lignée des modèles du monde latents en robotique, plus économes en calcul que la prédiction vidéo pixel par pixel, et se positionne en couche de supervision complémentaire aux politiques VLA plutôt qu'en nouvelle architecture de contrôle. La validation repose sur des tâches réelles de manipulation, mais reste un résultat de laboratoire : aucun acteur français ou européen du secteur n'est cité, et les auteurs ne précisent ni calendrier de suite ni partenariat industriel.

RecherchePaper
1 source