Aller au contenu principal
SynIL : exploiter la synergie pour l'apprentissage par imitation hors ligne à partir de jeux de démonstrations imparfaites
RecherchearXiv cs.RO 

SynIL : exploiter la synergie pour l'apprentissage par imitation hors ligne à partir de jeux de démonstrations imparfaites

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent SynIL (Synergy-based Imitation Learning), un cadre d'apprentissage par imitation hors ligne conçu pour exploiter des jeux de démonstrations imparfaits sans intervention humaine. Le problème visé est connu : les performances de l'imitation se dégradent fortement quand les données contiennent des démonstrations sous-optimales ou bruitées. Les méthodes existantes filtrent ou repondèrent les données, mais elles exigent en général une présélection manuelle de démonstrations expertes de référence, ou des heuristiques propres à chaque tâche. SynIL s'en passe : il évalue automatiquement la qualité de chaque transition, sans étiquette. Il quantifie la « synergie motrice », c'est-à-dire la structure coordonnée et de faible dimension du mouvement, que les neurosciences associent au niveau de maîtrise motrice. À partir de cette mesure, il produit des signaux de récompense denses, au niveau de chaque transition, par régression auto-supervisée. Les tests portent sur les benchmarks de locomotion D4RL et sur des jeux Robomimic de manipulation issus de plusieurs opérateurs humains. Les auteurs rapportent que ces récompenses corrèlent fortement avec les récompenses réelles de l'environnement. SynIL dépasse nettement le clonage comportemental (BC). Il atteint des résultats comparables à ceux de l'apprentissage par renforcement hors ligne entraîné sur les vraies récompenses, et meilleurs en téléopération humaine à récompense éparse.

L'enjeu est pratique pour quiconque collecte des données de téléopération à grande échelle. Les jeux de démonstrations réels mélangent opérateurs aguerris et novices, essais hésitants et gestes parasites. Le tri manuel ne passe pas à l'échelle, alors que les politiques généralistes de type VLA dépendent de volumes toujours plus grands. Un score de qualité calculé sans référence experte pourrait réduire le coût de curation et rendre exploitables des données jusque-là écartées. Le résultat sur récompenses éparses est le plus intéressant, puisque c'est le cas habituel de la manipulation réelle, où la récompense se limite souvent à un succès ou un échec en fin d'épisode. Des réserves s'imposent : il s'agit d'un préprint (arXiv, v1) non évalué par des pairs. Les validations se limitent à des benchmarks simulés ou à des jeux de données standard, sans robot physique ni humanoïde. L'hypothèse selon laquelle la synergie reflète la compétence reste à vérifier sur des morphologies et des tâches plus variées.

Ces travaux s'inscrivent dans un courant plus large de pondération et de filtrage des données pour l'apprentissage hors ligne, face à la montée des corpus de téléopération agrégés par les laboratoires et les fabricants d'humanoïdes. Le lien avec la biomécanique et les neurosciences motrices est relativement peu exploité dans ce champ. L'article ne mentionne ni code publié, ni calendrier de déploiement, ni partenaire industriel. L'étape suivante logique serait une validation sur robots réels et sur des modèles fondation de grande taille.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

À lire aussi

Apprentissage continu pour la synthèse de saisies à 6 DOF à partir de l'expérience et de démonstrations
1arXiv cs.RO 

Apprentissage continu pour la synthèse de saisies à 6 DOF à partir de l'expérience et de démonstrations

Des chercheurs publient sur arXiv (identifiant 2610.01301) un cadre d'apprentissage continu pour la synthèse de prises 6-DoF avec une pince parallèle, à partir d'une seule vue, dans des scènes encombrées. Leur méthode n'ajuste pas un grand modèle paramétrique. Elle adapte le système par une mémoire située dans un espace d'embedding appris. Les résultats de chaque tentative de saisie modifient les scores des prises futures. Des démonstrations fournies par l'utilisateur, facultatives, sont rappelées puis transférées vers de nouvelles scènes, où elles deviennent des prises candidates supplémentaires. L'évaluation combine simulation et expériences réelles, avec plus de 1500 essais de saisie. Selon les auteurs, le système égale les références 6-DoF existantes avant toute adaptation. Il progresse en ligne sur des objets inconnus, issus de catégories absentes ou sous-représentées à l'entraînement. Il tient un apprentissage continu sur le long terme avec peu d'oubli. Sur plusieurs catégories d'objets difficiles, il dépasse 90 % de réussite après seulement 50 tentatives en ligne. La vidéo et le code sont publiés sur la page du projet. Ce résultat s'attaque à un point faible de la manutention robotisée. La plupart des systèmes de saisie sont entraînés hors ligne puis figés au déploiement. Leurs performances baissent dès que les conditions s'écartent des données d'entraînement, par exemple avec une référence jamais vue dans un bac de e-commerce ou de logistique. Passer par une mémoire plutôt que par un réglage fin évite de réentraîner un gros modèle sur site. Cela limite le coût de calcul, le risque de régression et l'oubli catastrophique. Pour un intégrateur, 50 essais représentent quelques heures de fonctionnement. Un robot pourrait donc s'améliorer seul sur son assortiment réel, sans cycle de collecte et de réentraînement. Le canal de démonstrations donne aussi à un opérateur non spécialiste un moyen simple de corriger un échec. Il faut toutefois rester prudent. Il s'agit d'un preprint, pas encore évalué par les pairs. Les chiffres ne couvrent que quelques catégories choisies, sans information dans le résumé sur la diversité des objets, les temps de cycle ou le matériel. Le travail concerne uniquement la saisie par pince parallèle, pas la manipulation dextre ni les humanoïdes. Il s'inscrit dans la lignée des méthodes de saisie 6-DoF apprises, comme Contact-GraspNet et ses successeurs, et des modèles vision-langage-action généralistes. Ceux-ci restent en grande partie figés après l'entraînement. Cette approche à mémoire y ajoute une voie d'adaptation légère. La suite logique serait des essais en conditions industrielles, avec des cadences réelles et des assortiments variés.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage de la loco-manipulation à partir de démonstrations SMPC via un RL clairsemé hors ligne vers en ligne
2arXiv cs.RO 

Apprentissage de la loco-manipulation à partir de démonstrations SMPC via un RL clairsemé hors ligne vers en ligne

Une équipe de recherche présente dans un preprint arXiv publié le 13 août 2026 (arXiv:2608.12063v1) une méthode d'apprentissage combinant locomotion et manipulation pour robots à pattes. Le système utilise du Sample-based Model Predictive Control (SMPC), une forme de commande prédictive par échantillonnage, exécutée entièrement en simulation pour générer automatiquement de vastes jeux de données hors ligne, jouant le rôle d'expert artificiel. Ces données servent ensuite à entraîner un agent de reinforcement learning (RL) off-policy à l'aide de récompenses de tâche uniquement éparses (sparse rewards), sans le façonnage manuel et chronophage de fonctions de récompense denses habituellement nécessaire. Cet agent de haut niveau est couplé à un contrôleur bas niveau assurant la stabilité dynamique du robot. Les auteurs valident la robustesse du transfert simulation-vers-réel (sim-to-real) en déployant des compétences complexes de loco-manipulation sur deux morphologies différentes: un quadrupède Spot équipé d'un bras et un humanoïde G1. L'intérêt principal de ces travaux tient à la résolution du goulot d'étranglement le plus coûteux du RL appliqué à la robotique: la conception manuelle de récompenses denses, qui ralentit considérablement l'apprentissage de nouvelles compétences à chaque nouvelle tâche. En s'appuyant sur des démonstrations SMPC pour préremplir l'exploration, les auteurs affirment que les politiques apprises finissent par surpasser leur propre professeur de commande optimale, un résultat notable si confirmé à plus grande échelle. Pour les intégrateurs et décideurs du secteur, cela illustre une voie alternative aux approches VLA entraînées sur des démonstrations réelles massives: générer les données d'entraînement en simulation via un contrôleur classique plutôt que par téléopération humaine, ce qui pourrait réduire les coûts de collecte de données pour les robots à pattes et humanoïdes. Ce travail s'inscrit dans la tendance du RL offline-to-online et de l'usage de contrôleurs optimaux comme professeurs pour le RL. Il reste à ce stade une publication de recherche, sans nom d'entreprise, de laboratoire ni de calendrier de déploiement commercial associés dans l'abstract, et sans comparaison chiffrée directe avec les approches VLA concurrentes.

RecherchePaper
1 source
LOPAL : apprentissage actif local sensible aux performances à partir de démonstrations imparfaites
3arXiv cs.RO 

LOPAL : apprentissage actif local sensible aux performances à partir de démonstrations imparfaites

Des chercheurs ont publié sur arXiv (référence 2606.16888) une méthode baptisée LOPAL (Local Performance-Aware Active Learning), conçue pour améliorer l'apprentissage par démonstration robotique en tenant compte de la qualité variable à l'intérieur même d'une démonstration humaine. L'approche repose sur deux composants complémentaires : d'abord, un modèle de mélange de gaussiennes (GMM) qui encode simultanément les trajectoires démontrées et une évaluation locale de leur qualité, permettant de générer des trajectoires qui sélectionnent et combinent les meilleures portions de chaque démonstration imparfaite ; ensuite, un mécanisme d'acquisition active de données qui identifie les zones où les données de qualité font défaut et sollicite l'opérateur humain pour fournir des corrections via un système d'autonomie partagée, pendant que le robot continue d'exécuter le comportement appris de façon autonome. Validée sur une tâche réelle d'inspection de tuyauterie, LOPAL atteint une amélioration de 27,31 % des performances par rapport aux démonstrations initiales, tout en réduisant l'effort de collecte de données. L'intérêt industriel de cette approche est tangible pour les intégrateurs et les responsables de production qui déploient des robots sur des tâches répétitives à variation fine. Le verrou que LOPAL cherche à lever est bien connu : les humains sont des démonstrateurs incohérents, et les méthodes classiques de LfD (imitation directe, GAIL, etc.) traitent chaque démonstration comme globalement bonne ou mauvaise. En exploitant la granularité locale, le système peut extraire de la valeur même de gestes imparfaits, ce qui réduit le nombre de démos nécessaires et accélère la mise en service. Le mécanisme d'autonomie partagée est particulièrement pertinent pour les environnements industriels où l'opérateur peut intervenir ponctuellement sans reprendre le contrôle total. L'apprentissage par démonstration est un domaine actif depuis plus d'une décennie, avec des approches comme DMP (Dynamic Movement Primitives), ProDMP, ou plus récemment les politiques de diffusion (Diffusion Policy) et les VLA (Vision-Language-Action models). LOPAL s'inscrit dans la lignée des méthodes basées sur les GMM, popularisées notamment par les travaux de l'EPFL et de l'IIT, mais en y ajoutant une couche d'apprentissage actif et de correction en ligne. Le papier reste au stade académique (pas de déploiement industriel annoncé), et les résultats sur la tâche d'inspection de pipes, bien que convaincants, portent sur un environnement contrôlé. Les prochaines étapes naturelles concernent la généralisation à des tâches multi-contact et la robustesse face à des perturbations environnementales non anticipées.

RecherchePaper
1 source
Repenser le désapprentissage des démonstrations dans l'apprentissage par imitation pour la robotique
4arXiv cs.RO 

Repenser le désapprentissage des démonstrations dans l'apprentissage par imitation pour la robotique

Un article publié sur arXiv (2608.20784v1) propose un cadre d'audit pour l'oubli de démonstrations en apprentissage par imitation robotique, quand des contributeurs demandent le retrait de leurs démonstrations d'une politique déjà entraînée. Plutôt qu'un réentraînement complet, coûteux à mesure que grandissent modèle et données, les auteurs évaluent des opérateurs d'édition appliqués directement à la politique existante. Leur audit croise deux axes: le comportement, mesuré par la divergence d'action face à des réentraînements de référence, et la preuve, mesurée par une attaque d'appartenance rapportant rang et niveau absolu de perte. Sur cinq conditions préenregistrées, trois politiques robotiques réelles et deux suites de simulation, un édit de type redirection sur l'architecture ACT restaure un taux de succès de 18 essais sur 20 en évaluation en aveugle. Ce travail répond à un problème concret pour l'industrie robotique: à mesure que les politiques génératives de type VLA s'entraînent sur des volumes croissants de démonstrations téléopérées, les demandes de retrait de données individuelles se heurteront au coût du réentraînement complet. Les métriques héritées du machine unlearning classique, comme la perte d'oubli ou une simple attaque d'appartenance, ne suffisent pas à garantir qu'une édition a réellement supprimé l'influence d'une démonstration en boucle fermée: un édit peut réparer le comportement sans effacer la trace détectable, ou au contraire réduire cette détectabilité tout en éloignant le comportement du réentraînement réel. Pour des intégrateurs tentés par l'édition post-hoc plutôt que le réentraînement complet, un simple test de réussite de tâche ne suffit donc pas à certifier qu'une démonstration a été effectivement oubliée. Cette recherche prolonge les travaux de machine unlearning menés sur les grands modèles de langage et de vision, transposés ici au contrôle robotique en boucle fermée, où c'est l'action, non la seule prédiction, qui doit être auditée. Elle survient alors que l'apprentissage par imitation à partir de démonstrations téléopérées s'impose comme méthode dominante pour entraîner des politiques robotiques générales, dans la lignée d'architectures comme ACT, popularisée par les plateformes de téléopération de type ALOHA. La question du retrait de données gagne en importance à mesure que ces jeux de données reposent sur des opérateurs identifiables, avec des implications de consentement et de conformité. Les auteurs ont préenregistré leurs cinq conditions expérimentales, une rigueur rare dans la littérature robotique, sans annoncer de calendrier de déploiement industriel.

UELes enjeux de retrait de données et de conformité soulevés touchent directement les industriels européens de la téléopération robotique soumis aux exigences de consentement et de suppression de données (type RGPD).

RecherchePaper
1 source