Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Tests adversariaux des filtres de sécurité du robot humanoïde SPARK
RecherchearXiv cs.RO 

Tests adversariaux des filtres de sécurité du robot humanoïde SPARK

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs a publié en mai 2026 sur arXiv (arXiv:2605.19009) une étude de robustesse portant sur les filtres de sécurité SPARK pour robots humanoïdes. Le travail consiste en une réplication du cas de référence G1SportMode\D1\WG\SO\v1 dans le simulateur MuJoCo, puis en une batterie de tests adversariaux sur six méthodes de filtrage : RSSA, RSSS, SSA, CBF (Control Barrier Function), PFM et SMA. Les auteurs ont également construit un pipeline de post-traitement pour convertir les logs bruts SPARK en trois métriques exploitables, suivi d'objectif, distance minimale aux obstacles, et nombre de pas en collision. Résultat principal : certaines méthodes optimisent le suivi de trajectoire au détriment de l'évitement, tandis que d'autres réduisent les collisions sans maintenir l'efficacité de déplacement.

L'importance de ce travail tient à un angle souvent négligé dans l'évaluation des humanoïdes : les benchmarks nominaux, ceux qui servent à comparer les méthodes en conditions idéales, ne capturent pas les modes d'échec qui émergent dans des environnements contraints. Trois types de perturbations ont été testés : densification des obstacles ("obstacle crowding"), estimation bruitée des distances, et information obstacle avec délai. Dans ces conditions, le comportement de sécurité de plusieurs filtres se dégrade significativement, un résultat qui contredit implicitement l'hypothèse que les scores de référence suffisent à valider une méthode avant déploiement terrain. Pour un intégrateur ou un responsable de sécurité industrielle, c'est un signal clair : la qualification d'un filtre de sécurité humanoïde doit inclure des scénarios de stress, pas seulement les cas nominaux.

Le SPARK framework s'est imposé ces dernières années comme cadre de référence pour évaluer la sécurité des humanoïdes à corps complet, face à la complexité inhérente de ces systèmes : haute dimensionnalité, contraintes de collision multiples, proximité avec des opérateurs humains. Le cas répliqué ici est lié au robot Unitree G1, l'une des plateformes humanoïdes accessibles les plus répandues en recherche. Les concurrents directs dans cet espace incluent des travaux sur MPC avec CBF (MIT, CMU), les approches RoboSafe d'ETH Zurich, et les filtres embarqués dans Boston Dynamics Atlas. La suite logique de cette recherche serait un protocole de stress testing standardisé, intégrable dans les pipelines de CI/CD robotique avant déploiement en environnement semi-contrôlé.

Dans nos dossiers

Boston DynamicsUnitreearXiv cs.RO

À lire aussi

Apprentissage de politiques de sécurité pour robots via des scénarios synthétiques adversariaux
1arXiv cs.RO 

Apprentissage de politiques de sécurité pour robots via des scénarios synthétiques adversariaux

Des chercheurs ont déposé en juin 2026 sur arXiv (référence 2606.05952) un article de recherche présentant un cadre de "gamification agentique" destiné à entraîner des politiques de sécurité pour robots physiques. Le principe repose sur un jeu adversarial entre deux agents logiciels : une Red Team chargée d'explorer l'espace des défaillances possibles en construisant des scénarios dangereux, et une Blue Team qui raffine itérativement les politiques de sécurité pour y répondre. Ce processus en boucle vise à faire émerger des cas limites à haut risque que ni la simulation aléatoire ni l'énumération manuelle de scénarios ne permettent d'identifier efficacement. Il est important de noter que les auteurs décrivent eux-mêmes un travail en cours : la contribution se limite à une formulation du problème et à une architecture de solution proposée, sans validation expérimentale publiée à ce stade. L'enjeu industriel est réel. À mesure que les systèmes de Physical AI, notamment les bras manipulateurs et les robots humanoïdes, quittent les environnements contrôlés pour des déploiements en atelier ou en logistique, la robustesse des politiques de sécurité devient un critère de qualification aussi important que la performance. Les approches classiques de test par simulation aléatoire souffrent d'une couverture insuffisante des situations rares mais critiques, et l'énumération manuelle ne passe pas à l'échelle. L'idée d'un red teaming automatisé, si elle est validée expérimentalement, offrirait un pipeline scalable pour certifier des comportements sûrs avant déploiement, ce que les intégrateurs industriels attendent avec impatience. Le red teaming est une technique éprouvée en cybersécurité et dans l'alignement des grands modèles de langage : Anthropic et OpenAI l'utilisent systématiquement pour identifier les comportements dangereux de leurs LLMs avant mise en production. Sa transposition à la robotique physique est plus complexe, car l'espace d'états est continu, les conséquences des défaillances sont immédiates et irréversibles, et la simulation doit capturer une physique réaliste. Dans un secteur où Figure, Tesla (Optimus), Boston Dynamics et Agility Robotics accélèrent leurs déploiements en environnements non structurés, la question de la certification de sécurité reste un verrou non résolu. Ce travail propose une direction méthodologique, mais ses auteurs n'annoncent ni calendrier d'implémentation ni partenariat industriel à ce stade.

RechercheOpinion
1 source
ResSafe : filtrage de sécurité par apprentissage par renforcement résiduel pour humanoïdes
2arXiv cs.RO 

ResSafe : filtrage de sécurité par apprentissage par renforcement résiduel pour humanoïdes

ResSafe, une architecture de contrôle en deux politiques pour les robots humanoïdes, a été publiée le 15 septembre 2026 sur arXiv sous la référence 2609.15988. La méthode sépare performance et sécurité : une politique nominale est entraînée uniquement pour accomplir la tâche, tandis qu'une politique résiduelle apprend en parallèle des corrections de sécurité qui ajustent ses actions. Cette seconde politique agit comme un filtre de sécurité implicite, censé limiter chutes et instabilités liées à la dynamique à haute dimensionnalité et aux interactions riches en contacts propres aux humanoïdes. L'abstract ne cite aucune plateforme robotique ni aucun chiffre de performance (taux de chute, distance parcourue, degrés de liberté), signe d'une recherche encore amont, sans validation matérielle détaillée. Pour l'industrie, ce découplage répond à un problème connu : faire arbitrer par une seule politique performance, robustesse et sécurité oblige à régler manuellement plusieurs termes de récompense concurrents, un exercice fragile qui complique le passage du simulateur au robot réel. En sortant la sécurité de cette équation unique, ResSafe propose une approche modulaire qui, si elle se confirme sur du matériel, pourrait faciliter l'ajout de correctifs de sécurité sans réentraîner toute la politique de locomotion. L'enjeu parle directement aux intégrateurs et décideurs du secteur, confrontés à un écart persistant entre démonstrations en simulation et fiabilité en conditions réelles. Le travail s'inscrit dans une recherche académique plus large sur le contrôle par apprentissage des humanoïdes, où le RL pour la locomotion et le suivi de mouvement s'est largement généralisé ces dernières années. Il se distingue des méthodes de filtrage de sécurité explicite, fondées sur des barrières de contrôle ou des modèles analytiques de la dynamique, souvent coûteuses ou difficiles à généraliser à un système aussi complexe. L'article ne mentionne ni code source, ni partenaire industriel, ni calendrier d'essais sur robot physique : ResSafe reste, à ce stade, une contribution de recherche dont l'apport devra être confirmé au-delà de la simulation.

RecherchePaper
1 source
Le robot humanoïde s'attaque aux barres de singe
3IEEE Spectrum Robotics 

Le robot humanoïde s'attaque aux barres de singe

Le Robotic Systems Lab de l'ETH Zurich a dévoilé un robot humanoïde traversant des barres de singe: il saute pour s'accrocher à une structure clairsemée, enchaîne les prises une à une, puis atterrit sans chuter, un test de perception fine de géométries en surplomb et de contrôle agile du corps entier. Unitree a publié en open source son modèle de fondation incarné UnifoLM-WLA-1.0, revendiquant des résultats état de l'art parmi les modèles ouverts sur plusieurs benchmarks, un seul réseau coordonnant manipulation de bureau et manipulation mobile corps entier avec généralisation entre tâches et effecteurs. Le centre de recherche CRASAR est revenu sur le 11 septembre 2001, première utilisation documentée de robots en recherche et sauvetage urbains: déployés de l'après midi du 11 septembre au 2 octobre, date de panne du dernier robot disponible, ils n'ont trouvé aucun survivant mais ont localisé des restes humains et aidé à repérer des accès vers sous sols et cages d'escalier. ANYbotics a par ailleurs détaillé la certification de ses robots quadrupèdes pour opérer en atmosphères explosives, une homologation jugée jusque là impossible par des experts du secteur. L'exercice des barres de singe reste un démonstrateur de recherche, loin d'un cas d'usage industriel, mais il montre les progrès de l'intégration perception-contrôle sur des appuis discontinus, verrou encore ouvert pour la locomotion humanoïde hors laboratoire. L'ouverture complète du code d'UnifoLM-WLA-1.0 s'inscrit dans une stratégie chinoise de banalisation des modèles de fondation incarnés de type VLA, qui met la pression sur des modèles propriétaires comme Pi-0, GR00T N2 ou Helix en offrant gratuitement des capacités comparables, un signal à suivre pour tout intégrateur arbitrant entre bâtir et acheter sa pile logicielle. Le retour de CRASAR, vingt cinq ans après les faits, rappelle que la robotique de catastrophe reste bornée par des attentes réalistes, cartographier et localiser plutôt que se substituer aux secouristes, un repère utile face à l'emballement actuel autour des humanoïdes généralistes. ANYbotics illustre à l'inverse un marché B2B mature hors du battage humanoïde, où le robot à pattes prouve une valeur d'usage certifiée en environnement industriel à risque. Le Robotic Systems Lab de l'ETH Zurich, berceau du quadrupède ANYmal dont est issu le spin off suisse ANYbotics, poursuit une lignée de recherche en locomotion agile entamée il y a plus d'une décennie. Unitree se positionne en concurrent direct de Tesla avec Optimus, de Figure avec Figure 03 ou de NVIDIA avec GR00T, sur le terrain des modèles de fondation grand public. Le calendrier du secteur s'intensifie d'ici la fin de l'année, avec le Humanoids Summit à Séoul les 22 et 23 septembre 2026, IROS 2026 à Pittsburgh du 27 septembre au 1er octobre, puis CoRL 2026 à Austin du 9 au 12 novembre, où plusieurs de ces équipes présenteront leurs prochains travaux.

UEANYbotics, spin-off suisse de l'ETH Zurich, fait certifier ses robots quadrupèdes pour les atmosphères explosives, un enjeu direct pour les sites industriels à risque en Europe.

RecherchePaper
1 source
Affinage tenant compte du filtre pour un suivi sûr du corps entier d'un robot humanoïde
4arXiv cs.RO 

Affinage tenant compte du filtre pour un suivi sûr du corps entier d'un robot humanoïde

Des chercheurs publient sur arXiv (2610.02341) CoFiT, pour Constrained Filter-aware Tuning, une méthode de fine-tuning qui adapte un tracker de mouvement humanoïde pré-entraîné à la présence d'un filtre de sécurité. Le tracker est une politique d'apprentissage par renforcement qui suit une référence fournie par un planificateur, un téléopérateur ou un générateur de mouvement. Le filtre, de type control barrier function (CBF), corrige les sorties de la politique à l'exécution pour respecter de nouvelles contraintes. Les auteurs testent la méthode sur deux trackers existants, TWIST2 et SONIC, dans diverses scènes de contraintes. Par rapport à un entraînement limité au filtre seul, CoFiT réduit le temps de violation de 91 % sur TWIST2 et de 21 % sur SONIC, avec des corrections du filtre moins importantes. Sur un Unitree G1 réel, la réduction atteint 83 % pour TWIST2. Tous les essais se terminent sans intervention de l'opérateur, contre 50 % d'essais de référence qui ont exigé un arrêt manuel. Le nombre d'essais n'est pas précisé dans le résumé. L'intérêt tient au constat que tracker et filtre de sécurité ne peuvent pas être conçus séparément. Le filtre modifie les actions exécutées, donc aussi la distribution des états que la politique rencontre, ce qui crée des écarts de dynamique, d'objectif et d'information entre ce que le tracker a appris et ce qu'il subit. Pour un intégrateur, l'architecture « référence, tracker RL, filtre CBF » ne garantit donc pas la sécurité par simple empilement. Le fine-tuning d'un tracker existant, sans réentraînement complet, offre une voie pragmatique vers le déploiement en environnement non structuré. L'écart de gain entre TWIST2 (91 %) et SONIC (21 %) signale toutefois que le bénéfice dépend fortement du tracker de départ. La validation matérielle repose sur un seul robot, le G1, un humanoïde de recherche à faible coût, et sur des scénarios de contraintes dont la complexité reste à examiner dans l'article complet. Ce travail s'inscrit dans la généralisation des contrôleurs de suivi de mouvement du corps entier, devenus la couche d'exécution standard de la téléopération et des politiques pilotées par des modèles génératifs. Les CBF fournissent depuis longtemps des garanties de sécurité en robotique, mais surtout sur des systèmes plus simples. Il s'agit d'une prépublication v1, non évaluée par des pairs, sans déploiement industriel ni produit annoncé. Les suites probables sont des essais sur d'autres plateformes, des contraintes plus riches comme le contact ou l'évitement de personnes, et une extension à d'autres trackers. Les auteurs revendiquent des principes de conception, ce qui sera utile à tout acteur combinant politique apprise et couche de sécurité certifiable, y compris en Europe, où les exigences de sécurité machine pèsent sur les humanoïdes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source