Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Attaques trojans sur les contrôleurs de réseaux de neurones pour systèmes robotiques
RecherchearXiv cs.RO 

Attaques trojans sur les contrôleurs de réseaux de neurones pour systèmes robotiques

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (référence 2602.05121v2) une démonstration de faisabilité d'attaques par backdoor, dites attaques "Trojan", ciblant des contrôleurs neuronaux embarqués dans des systèmes robotiques. Le vecteur d'attaque étudié est un robot mobile à propulsion différentielle, dont le contrôleur de suivi de trajectoire et de stabilisation de pose est implémenté sous forme de réseau de neurones. Les auteurs ont conçu un module Trojan parallèle, léger, conçu pour être inséré dans le réseau principal sans modifier ses poids. Ce module reste inactif en fonctionnement normal, puis s'active dès qu'une condition de déclenchement très précise est détectée, définie conjointement par la pose courante du robot et ses paramètres objectifs. À l'activation, le module corrompt directement les commandes de vitesse des roues, provoquant des comportements non désirés, potentiellement dangereux. L'attaque est validée en simulation selon deux scénarios distincts.

Ce travail met en lumière un risque souvent sous-estimé dans la robotique industrielle et les AMR (robots mobiles autonomes) : la chaîne d'approvisionnement en modèles neuronaux. Dès lors qu'un contrôleur est fourni par un tiers, entraîné sur une infrastructure externe, ou acquis via un pipeline de fine-tuning non audité, l'intégrateur ne peut pas garantir l'absence de modules cachés. La discrétion du Trojan, dormant jusqu'à un trigger très spécifique, le rend difficilement détectable par les tests fonctionnels classiques. Pour les COO industriels et les équipes sécurité, cela signifie que les approches de validation de modèles actuelles, orientées performance, sont insuffisantes face à des attaques intentionnelles.

Les attaques par backdoor sur les réseaux de neurones sont documentées depuis 2017 dans le domaine de la classification d'images, mais leur transposition aux systèmes de contrôle robotique en temps réel est plus récente et plus critique : une erreur de classification est bénigne, une dérive de trajectoire sur un robot industriel peut provoquer des dommages matériels ou humains. Ce papier s'inscrit dans un corpus croissant qui questionne la robustesse des architectures VLA (Vision-Language-Action) et des contrôleurs neuronaux génériques. Les suites logiques sont des méthodes de détection (analyse spectrale des poids, tests adversariaux ciblés) et des protocoles de certification des modèles embarqués, un chantier encore largement ouvert pour les organismes de standardisation comme l'ISO ou l'IEC.

Impact France/UE

Les intégrateurs européens d'AMR et robots industriels utilisant des contrôleurs neuronaux fournis par des tiers sont directement exposés à ce vecteur d'attaque ; les travaux de normalisation ISO/IEC sur la certification des modèles embarqués deviennent un chantier prioritaire pour le marché européen.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Une architecture de contrôle robuste au niveau des tâches pour les systèmes dynamiques appris
1arXiv cs.RO 

Une architecture de contrôle robuste au niveau des tâches pour les systèmes dynamiques appris

Une équipe de recherche présente une architecture de contrôle nommée L1-DS (L1-augmented Dynamical Systems), décrite dans un article arXiv (2511.09790v2, version corrigée) sur l'apprentissage par démonstration basé sur les systèmes dynamiques (DS). Le problème ciblé est le "task-exécution mismatch" : l'écart entre la trajectoire planifiée et celle réellement exécutée par le robot, dû à des dynamiques non modélisées, des perturbations persistantes et la latence du système. La solution associe un contrôleur stabilisateur nominal et un contrôleur adaptatif L1, plus un sélecteur de cible fondé sur une Dynamic Time Warping (DTW) fenêtrée qui corrige le désalignement temporel pour un suivi cohérent en phase. L'approche est validée sur deux jeux de données de référence, LASA et IROS handwriting, utilisés pour évaluer la reproduction de trajectoires d'écriture manuscrite par bras robotique. Le sujet touche un point sensible pour les intégrateurs qui déploient des modèles de mouvement appris par démonstration sur du matériel réel : en simulation, ces systèmes dynamiques produisent des trajectoires stables et répétables, mais en conditions réelles, frottements, retards d'actionneurs et perturbations font dériver le robot de la trajectoire prévue. L1-DS ne remplace aucun modèle de mouvement existant : il s'ajoute comme couche de contrôle robuste par-dessus n'importe quel schéma de LfD basé sur les systèmes dynamiques, une brique potentiellement compatible avec des pipelines déjà en place plutôt qu'une nouvelle méthode d'apprentissage. Cette approche s'oppose dans son esprit aux architectures Vision-Language-Action (VLA) récentes, qui misent sur la généralisation par apprentissage bout-en-bout à partir de très larges volumes de données : ici, la robustesse repose sur des garanties de contrôle classiques plutôt que sur l'échelle des données d'entraînement. L'apprentissage par démonstration basé sur les systèmes dynamiques s'appuie sur des travaux plus anciens comme les Dynamic Movement Primitives et les modèles de mélange de gaussiennes stables, utilisés depuis plus d'une décennie pour générer des trajectoires à partir d'un petit nombre de démonstrations humaines. Le contrôle adaptatif L1 provient de la robotique aérienne, où il est recherché pour sa capacité à réagir rapidement aux incertitudes sans compromettre la stabilité. Publié en deuxième version sur arXiv sous la référence 2511.09790, ce travail reste une contribution de recherche académique : aucune application industrielle, aucun partenariat avec un fabricant de robots ni aucun déploiement sur matériel commercial n'est mentionné. La suite logique, non annoncée par les auteurs, serait une validation sur bras robotique physique dans des tâches de manipulation industrielle, au-delà des benchmarks d'écriture utilisés ici.

RecherchePaper
1 source
Au-delà de la récupération d'erreur : un cadre de contrôle humain adaptatif pour les systèmes robotiques
2arXiv cs.RO 

Au-delà de la récupération d'erreur : un cadre de contrôle humain adaptatif pour les systèmes robotiques

Des chercheurs ont publié sur arXiv en juin 2026 (arXiv:2606.18189) une méthode appelée E-MPC (Engagement-aware Model Predictive Control), conçue pour repenser le rôle de l'humain dans la supervision des robots d'assistance. L'approche a été validée en simulation puis dans une étude utilisateur réelle, sur un système robotique d'aide à l'alimentation (bite acquisition), avec des participants simulant des limitations de mobilité. Le principe central : plutôt que de solliciter l'opérateur uniquement lorsqu'un robot échoue ou est en incertitude, le système planifie proactivement des moments d'interaction pour maintenir un niveau d'engagement choisi par l'utilisateur, tout en respectant une contrainte de charge cognitive maximale. E-MPC intègre un modèle de dynamique d'interaction utilisateur qui prédit comment l'engagement évolue en fonction de la fréquence et du type d'intervention demandée. Ce travail remet en cause un postulat dominant dans la robotique d'assistance : que l'autonomie maximale est toujours préférable pour l'utilisateur. Dans des contextes de caregiving physique, les personnes à mobilité réduite risquent de devenir de simples observateurs passifs d'un robot qui agit entièrement seul, ce qui dégrade l'expérience et potentiellement l'adhésion au système. E-MPC déplace le curseur : l'interaction n'est plus un signal d'échec, mais un levier de conception du workflow. Cela a des implications concrètes pour les intégrateurs de systèmes d'assistance à domicile ou en EHPAD, où le consentement continu et le sentiment de contrôle de l'utilisateur sont des critères de certification et d'acceptabilité. La robotique d'assistance humanoïde et collaborative accumule depuis plusieurs années des travaux sur le human-in-the-loop, mais ceux-ci se concentrent presque exclusivement sur la robustesse (détection de pannes, out-of-distribution handling). E-MPC s'inscrit dans une tendance plus récente qui emprunte aux travaux sur l'interaction adaptative et la téléopération partagée, avec des connexions aux recherches sur le shared autonomy (Javdani, Srinivasa et al.). Les auteurs n'annoncent pas de commercialisation ni de partenariat industriel à ce stade : il s'agit d'un prototype de recherche avec étude utilisateur, pas d'un produit déployé. Les suites naturelles incluent des essais avec de vraies populations en situation de handicap et l'extension à des tâches multi-étapes plus complexes que l'alimentation.

UELes implications pour la certification des robots d'assistance à domicile et en EHPAD (consentement continu, sentiment de contrôle utilisateur) sont directement pertinentes pour les intégrateurs français et la réglementation médicosociale en France.

RecherchePaper
1 source
Micro-politiques neuronales pour un contrôle robotique sûr en temps réel
3arXiv cs.RO 

Micro-politiques neuronales pour un contrôle robotique sûr en temps réel

Des chercheurs publient sur arXiv (2610.08541v1) une méthode de synthèse de « Micro Neural Policies » (MNP), des politiques de contrôle neuronales minuscules, conçues pour piloter des robots en temps réel sur des microcontrôleurs aux ressources très limitées. La recherche d'une politique combine une stratégie d'évolution (Evolution Strategy, ES) et une vérification par model checking statistique (SMC). Selon les auteurs, cette combinaison réduit fortement la taille du réseau sans dégrader la sécurité ni la robustesse. L'entraînement et l'évaluation ont été menés à grande échelle sur deux tâches, le pendule inversé sur chariot (Cartpole) et le contrôle d'un quadrirotor. Les fréquences de contrôle et les architectures de réseau variaient. Après validation en simulation, les politiques ont été transférées en « zero-shot » sur des systèmes physiques, c'est-à-dire sans réentraînement ni ajustement. Leur empreinte mémoire va de 0,5 à 7,5 ko. Sur microcontrôleur, la latence d'inférence est déterministe, avec moins de 25 ns de gigue, et la puce reste inactive plus de 97 % du temps. Cela laisse de la marge pour d'autres charges de travail. L'intérêt tient à ce que ce travail va à contre-courant de la tendance dominante. Les modèles VLA (vision-langage-action) et les politiques de fondation grossissent et exigent des GPU embarqués. Ici, la contrainte s'inverse : un contrôleur de quelques kilo-octets, avec une exécution prévisible et une vérification formelle de la sécurité. Pour un intégrateur, c'est la couche basse qui compte, celle des boucles rapides de stabilisation, de la commande de moteurs et des drones légers. Le temps réel dur et la certifiabilité y pèsent davantage que la capacité de généralisation. Le résultat de sim-to-real sans perte de performance est encourageant. Il faut cependant le relativiser : Cartpole et un quadrirotor sont des bancs d'essai classiques, de faible dimension, loin de la manipulation dextre ou de la locomotion d'un humanoïde. Le résumé ne donne ni les marges de sécurité mesurées ni les comparaisons chiffrées avec d'autres méthodes. Ces points restent donc à vérifier dans l'article complet. Ces travaux s'inscrivent dans un courant plus large qui cherche à réduire les politiques neuronales (distillation, quantification, TinyML) et à les doter de garanties formelles. Ils répondent à un frein bien connu, la difficulté de certifier un réseau opaque dans un système critique. Ils se démarquent aussi des approches par apprentissage par renforcement profond, plus gourmandes en calcul et plus difficiles à vérifier. Le résumé ne cite ni partenaire industriel ni calendrier de déploiement. Il s'agit donc d'une publication de recherche, pas d'un produit. La suite logique serait de tester l'approche sur des systèmes plus complexes, avec davantage de degrés de liberté, et de l'intégrer dans des chaînes de contrôle hiérarchiques. Un modèle de haut niveau y fixerait les objectifs, et une micro-politique vérifiée assurerait la stabilité en temps réel.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage de la dynamique de contact par le toucher : réseaux de neurones sur graphes conditionnés par l'action pour l'insertion de tiges robotique
4arXiv cs.RO 

Apprentissage de la dynamique de contact par le toucher : réseaux de neurones sur graphes conditionnés par l'action pour l'insertion de tiges robotique

Une équipe de recherche publie sur arXiv (2509.12151, version 3) un modèle physique apprenable capable de prédire le mouvement de l'effecteur terminal d'un robot ainsi que la force et le couple de réaction lors de manipulations à contact riche. L'architecture représente l'effecteur et l'environnement comme des maillages en interaction organisés en graphe, et conditionne explicitement ses prédictions sur la commande de contrôle appliquée : elle prédit directement la mise à jour de pose au niveau de l'objet, tandis que le couple de réaction émerge d'un champ de force calculé par sommet du maillage. L'entraînement est auto-supervisé, à partir des seules données des encodeurs articulaires et du capteur de force-couple, pendant que le robot touche aléatoirement son environnement sans consigne de tâche. En simulation, ce modèle se transfère à une tâche d'insertion de pièce (peg insertion) sur des géométries concaves inédites : un agent de commande prédictive (MPC) qui l'utilise atteint jusqu'à 98% de taux de réussite, et après un réglage fin sur des données auto-collectées, il égale un agent planifiant avec la dynamique de référence au jeu le plus serré testé, 1 mm. Dans le monde réel, ce modèle surpasse un modèle MuJoCo calibré par identification de système classique de 45% en précision de position, et de 74% et 63% respectivement en erreur de force et de couple. L'enjeu dépasse la démonstration académique : l'insertion de pièces à tolérances serrées reste un point de blocage classique pour l'assemblage robotique de précision, car les simulateurs physiques standards peinent à modéliser fidèlement le frottement et la déformation de contact, ce qui creuse l'écart simulation-réel et oblige les intégrateurs à des campagnes coûteuses de calibration manuelle. En montrant qu'un modèle appris à partir de simples contacts aléatoires, sans démonstration de tâche, généralise à des géométries jamais vues et rivalise avec une dynamique de référence à 1 mm de clearance, ce travail suggère une voie pour réduire la dépendance à l'identification de système traditionnelle et améliorer la robustesse hors simulation, un enjeu direct pour les intégrateurs travaillant sur l'assemblage électronique ou mécanique fin. Les résultats restent toutefois circonscrits à une tâche unique testée en conditions contrôlées, avec une comparaison réelle limitée à un seul modèle de référence, et non à un déploiement industriel à l'échelle. Cette approche s'inscrit dans un courant de recherche appliquant les réseaux de neurones sur graphes à la simulation physique à base de maillages, et l'étend ici à la dynamique de contact robot-environnement conditionnée par l'action. Elle se distingue des politiques de bout en bout de type vision-langage-action, qui apprennent un comportement directement à partir de démonstrations massives et spécifiques à la tâche, en misant plutôt sur un modèle dynamique générique et réutilisable appris de façon indépendante de la tâche. Le principal point de comparaison méthodologique reste l'identification de système classique utilisée dans des moteurs comme MuJoCo, que ce travail cherche explicitement à dépasser sur la fidélité des forces de contact. Le fait que le papier en soit à sa troisième version sur arXiv signale des itérations après relecture, sans partenariat industriel, pilote ou calendrier de déploiement mentionné à ce stade ; les suites attendues porteraient sur l'extension à d'autres tâches d'assemblage à tolérances serrées et une validation sur davantage de plateformes robotiques réelles.

RecherchePaper
1 source