Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Analyse de l'incertitude avec supervision humaine dans les robots auto-adaptatifs via les LLM
RecherchearXiv cs.RO 

Analyse de l'incertitude avec supervision humaine dans les robots auto-adaptatifs via les LLM

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs a soumis le 6 mai 2026 sur arXiv (identifiant 2605.02983) une méthodologie baptisée RoboULM, conçue pour aider les ingénieurs à identifier et analyser systématiquement les incertitudes dans les robots auto-adaptatifs dès la phase de conception. L'outil s'appuie sur des modèles de langage large (LLM) dans une boucle "human-in-the-loop" : le praticien guide l'exploration via des prompts structurés, affine les résultats de manière itérative, et construit une cartographie des sources d'incertitude, de leurs impacts potentiels et des stratégies de mitigation associées. L'évaluation a mobilisé 16 praticiens issus de quatre cas d'usage industriels distincts. Les auteurs ont par ailleurs produit une taxonomie des incertitudes propres aux robots auto-adaptatifs, sous la forme d'un catalogue structuré destiné à être réutilisé en phase de design.

L'enjeu est concret pour les intégrateurs et les équipes d'ingénierie qui déploient des systèmes robotiques dans des environnements industriels non contrôlés : les incertitudes non traitées en amont figurent parmi les principales causes de violations de sécurité et de défaillances opérationnelles en production. RoboULM propose de déplacer cette analyse vers la conception, avant que les choix architecturaux ne soient figés dans le matériel ou le logiciel. Les 16 participants ont jugé l'outil à la fois utile et facile à appréhender, en valorisant particulièrement le guidage par prompts structurés et la capacité de raffinement itératif, deux leviers qui réduisent la charge cognitive liée à l'analyse de systèmes complexes. Il s'agit d'un cas d'usage émergent des LLM comme assistants d'ingénierie de sûreté, distinct de leur rôle habituel dans le contrôle ou la planification du robot lui-même.

Cette approche s'inscrit dans un débat plus large autour du fossé simulation-réalité (sim-to-real gap) et de la capacité à anticiper les comportements imprévus avant déploiement réel. Les robots auto-adaptatifs, c'est-à-dire les systèmes capables de modifier leur comportement en réponse à des changements d'environnement, posent des défis de vérification que les méthodes formelles classiques peinent à couvrir exhaustivement. Des travaux parallèles dans les domaines de la safety engineering et de la vérification-validation pour systèmes autonomes convergent vers des approches hybrides homme-machine similaires. RoboULM reste à ce stade un outil de recherche, non un produit commercialisé : les prochaines étapes naturelles seraient une intégration dans les flux de conception existants (MBSE, SysML) et une validation sur des périmètres industriels plus larges.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Adaptation mutuelle dans le co-transport humain-robot avec incertitude sur les préférences humaines
1arXiv cs.RO 

Adaptation mutuelle dans le co-transport humain-robot avec incertitude sur les préférences humaines

Une équipe de chercheurs a publié en mars 2025 sur arXiv (référence 2503.08895) un cadre unifié de co-transport humain-robot fondé sur l'adaptation mutuelle, visant à résoudre un problème central de la robotique collaborative physique : comment un robot peut-il s'adapter en temps réel à un partenaire humain dont les préférences de trajectoire sont incertaines, et réciproquement ? L'article propose trois contributions distinctes. Plutôt que de fixer a priori les paramètres comportementaux du partenaire, les auteurs modélisent une distribution de probabilité sur l'ensemble des préférences possibles. Ils introduisent ensuite une mesure d'obstination (stubbornness) variant dans le temps, qui détermine dynamiquement si le robot doit mener la trajectoire ou céder la direction à l'humain lorsque celui-ci manifeste une préférence forte et persistante au-delà d'un seuil défini. Enfin, une stratégie d'optimisation de posture s'applique au niveau du contrôle bas-niveau pour compenser les comportements imprévisibles quand l'humain prend les commandes. Le cadre a été validé auprès de vingt participants, complété par des simulations comparatives. Ce travail adresse un verrou technique majeur pour les robots collaboratifs physiques en logistique, industrie et assistance à la personne : l'écart entre les modèles humains supposés et la variabilité réelle des opérateurs. En introduisant une modélisation probabiliste plutôt que déterministe des préférences, le framework évite le blocage classique des systèmes à paramètres fixes qui échouent dès que l'humain dévie du comportement anticipé. Pour un intégrateur ou un COO industriel, le signal concret est que des robots de co-manutention pourraient s'adapter à différents opérateurs sans reprogrammation, réduisant les coûts de déploiement multi-site. La bascule dynamique entre modes "robot meneur" et "humain meneur" offre par ailleurs une flexibilité opérationnelle utile dans des contextes où l'ergonomie ou la sécurité prime sur l'optimisation de trajectoire. Le co-transport physique humain-robot reste peu industrialisé comparé aux AMR ou aux cobots de type Universal Robots et FANUC CRX. Les approches antérieures à impédance variable ou fondées sur des modèles de jeu de Stackelberg avaient posé des bases théoriques, mais butaient sur la rigidité des hypothèses comportementales. Ce papier s'inscrit dans une tendance plus large à intégrer l'incertitude humaine dans la boucle de contrôle, direction explorée notamment par le MIT CSAIL et, en France, par l'INRIA au travers de travaux sur la planification collaborative. Les prochaines étapes probables incluent des validations en environnement industriel réel et l'extension à des tâches multi-étapes, où la gestion de l'obstination sur des horizons temporels plus longs constituera un défi supplémentaire.

UEL'INRIA mène des travaux sur la planification collaborative dans la même direction, positionnant la recherche française pour contribuer à des solutions de co-manutention adaptatives qui pourraient bénéficier aux intégrateurs industriels européens à moyen terme.

RecherchePaper
1 source
Programmation robotique visuelle avec supervision humaine et LLM : « APPROVE
2arXiv cs.RO 

Programmation robotique visuelle avec supervision humaine et LLM : « APPROVE

Une équipe de recherche présente APPROVE (AI-Powered Programming for Robots with Visual End-user Feedback), un framework de programmation robotique détaillé dans une prépublication arXiv référencée 2608.19281v1, mise en ligne en août 2026. Le système combine des instructions en langage naturel, une interface par blocs Blockly et une étape explicite de confirmation par l'utilisateur. Un grand modèle de langage (LLM) traduit la demande formulée en langage naturel en un programme robotique, affiché sous forme de blocs modifiables avant toute exécution. L'utilisateur peut alors valider, corriger ou rejeter le code généré plutôt que de le laisser s'exécuter directement. Les fonctions validées sont ensuite stockées dans une bibliothèque réutilisable, permettant de constituer progressivement un ensemble de briques logicielles fiables pour de futures tâches. Cette approche cible des limites documentées des générateurs de code robotique basés sur des LLM: absence de transparence sur ce que le programme fait réellement, absence de mécanisme garantissant l'alignement avec l'intention de l'utilisateur, et faible réutilisabilité des programmes produits. Pour les intégrateurs et les décideurs industriels, l'enjeu dépasse la simple commodité: exécuter directement sur un robot physique du code généré par une IA, sans vérification humaine intermédiaire, pose un risque de sécurité et de confiance qui freine l'adoption. En imposant une confirmation visuelle avant exécution, APPROVE illustre une tendance plus large du secteur à vouloir concilier la flexibilité du langage naturel avec un contrôle humain explicite, plutôt que de traiter le LLM comme une boîte noire de bout en bout. La démarche s'inscrit dans la lignée des interfaces de programmation par blocs, historiquement utilisées pour rendre la robotique accessible aux non-experts mais critiquées pour leur manque de flexibilité face à des tâches complexes. Elle prolonge aussi des travaux récents ayant exploré les LLM pour générer automatiquement des programmes robotiques à partir de langage naturel, une piste jugée prometteuse mais jusqu'ici limitée par l'absence de garde-fous. APPROVE reste à ce stade une contribution de recherche, présentée comme une preuve de concept centrée sur l'utilisateur final, sans mention de déploiement industriel, de partenariat ou de calendrier de commercialisation. L'article la positionne comme une direction de conception plutôt qu'un produit prêt à l'emploi, avec pour priorités affichées la confiance de l'utilisateur, l'alignement d'intention et la réutilisation du code.

RecherchePaper
1 source
Allocation de tâches adaptative en temps réel pour la supervision de plusieurs robots par plusieurs humains
3arXiv cs.RO 

Allocation de tâches adaptative en temps réel pour la supervision de plusieurs robots par plusieurs humains

Des chercheurs proposent, dans une prépublication arXiv (2610.00897v1), une méthode d'allocation en temps réel des tâches de supervision de robots à plusieurs opérateurs humains, qui tient compte de leur état cognitif. Le scénario visé est celui où plusieurs opérateurs télé-opèrent ponctuellement plusieurs robots pour les aider à surmonter une difficulté. L'algorithme est glouton : il cherche à minimiser la charge de travail estimée de chaque opérateur, avec une priorisation des tâches. Les robots sont affectés en fonction de la capacité de supervision courante de chaque opérateur, l'effort requis variant selon le type de tâche. Une étude utilisateur compare la méthode à une référence qui ignore les facteurs humains. Sur des intervalles de temps prédéfinis, l'approche obtient de meilleures performances et moins de signes comportementaux de fatigue. Le résumé ne fournit ni nombre de participants, ni taille des flottes, ni ampleur des gains, ni type de robots. L'enjeu concerne directement les opérations où l'autonomie reste incomplète. Beaucoup de déploiements de robots mobiles, de manipulateurs ou d'humanoïdes reposent sur un modèle « un humain pour N robots », où l'opérateur intervient quand le robot bloque. Les méthodes d'allocation existantes supposent une capacité de supervision fixe par opérateur et ignorent les variations de charge mentale et de fatigue. Le résultat est une charge déséquilibrée : certains opérateurs saturent pendant que d'autres sont sous-employés. Les auteurs présentent l'ajustement adaptatif de la capacité comme un mécanisme préventif pour les longues durées et les environnements exigeants. Pour un intégrateur ou un COO, cela déplace la question du ratio opérateurs/robots vers la qualité de l'orchestration humaine. Ce ratio conditionne le coût d'exploitation réel d'une flotte, notamment quand les VLA (modèles vision-langage-action) laissent encore une part d'interventions humaines. Les limites sont à garder en tête : l'évaluation est une étude utilisateur, sans mention de terrain industriel, et le gain est mesuré face à une référence simple. Ce travail s'inscrit dans la littérature sur la supervision multi-robot et la télé-opération partagée. Cette littérature a longtemps traité l'opérateur comme une ressource de capacité constante, alors que l'industrialisation de la logistique, de la livraison et des humanoïdes de première génération rend les pics d'exceptions et la fatigue sur de longues vacations plus gênants. Plusieurs acteurs commerciaux misent déjà sur des centres de téléassistance pour couvrir les cas limites, sans qu'on sache s'ils modulent la charge de leurs opérateurs de cette façon. Aucun déploiement, pilote ou calendrier n'est annoncé, et aucun acteur français ou européen n'est cité. Les prochaines étapes naturelles seraient une validation sur des flottes réelles, avec des mesures physiologiques ou comportementales de la fatigue en conditions de production, ainsi qu'une intégration dans les logiciels d'orchestration de flottes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage par imitation sélective Max-Q pour l'entraînement en ligne de robots avec supervision humaine
4arXiv cs.RO 

Apprentissage par imitation sélective Max-Q pour l'entraînement en ligne de robots avec supervision humaine

Des chercheurs publient sur arXiv (2608.15088) une méthode d'apprentissage par renforcement en ligne avec intervention humaine (human-in-the-loop, HIL) pour robots réels, baptisée Max-Q Selective Imitation. Elle combine un critique "MC Q-chunk", qui évalué les actions par segments a partir des retours Monte Carlo du buffer de replay plutôt que par retropropagation temporelle classique, et une règle "max-Q" qui fait imiter a l'acteur, a chaque état, soit l'action de la politique courante soit un échantillon du buffer, selon lequel des deux obtient le Q le plus élevé. Sur une tache réelle d'insertion de connecteur USB avec seulement 20 démonstrations, la variante ACT QChunk-MCBC atteint 99% de réussite en 30 minutes d'entrainement HIL, contre environ 5 heures pour la méthode de référence HIL-SERL. En simulation, sur les taches Peg Insertion et Square, les variantes ACT et Flow Q-chunk dépassent 96% de réussite en une demi-heure environ, devant HIL-SERL, EXPO et E2HiL. Ce gain de vitesse s'attaque a un goulot d'étranglement connu de l'apprentissage robotique en ligne : la convergence après correction humaine se compte souvent en heures, ce qui freine son usage industriel la ou chaque minute d'arrêt machine coute cher. Diviser ce temps par dix sur une tache de précision comme l'insertion de connecteurs suggère que les méthodes HIL pourraient sortir du laboratoire pour des lignes d'assemblage réelles, notamment quand peu de démonstrations sont disponibles. Pour les équipes de recherche en robotique, l'article illustre aussi une tendance a remplacer les mises a jour par différence temporelle, lentes et sensibles au bruit, par des cibles Monte Carlo combinées a une règle de sélection simple, sans seuils ni lissage ajoutes. La méthode se positionne explicitement face a HIL-SERL, référence du domaine, ainsi qu'a EXPO et E2HiL, évaluées sur les mêmes benchmarks de manipulation fine, et s'inscrit dans la lignée des politiques d'action par segments popularisées par ACT, avec une variante testée sur un modèle de flux. Publie comme un article de recherche tout juste mis en ligne sur arXiv, ce travail ne correspond ni a un produit commercial ni a un déploiement industriel annonce : les résultats reposent sur un seul banc réel et deux taches simulées, sans indication sur la généralisation a d'autres robots. Les auteurs ne mentionnent aucune suite en termes de partenariat industriel ou d'intégration logicielle ; la contribution reste, pour l'instant, une brique algorithmique destinée a la communauté recherche en apprentissage robotique.

RecherchePaper
1 source