Aller au contenu principal
Un cadre d'apprentissage par renforcement neuromorphique pour la planification de chemin efficace dans les systèmes robotisés de préparation de commandes
IndustrielarXiv cs.RO 

Un cadre d'apprentissage par renforcement neuromorphique pour la planification de chemin efficace dans les systèmes robotisés de préparation de commandes

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs a publié sur arXiv (référence 2606.20031) le framework SDQN-RMFS, une chaîne de traitement complète qui associe apprentissage par renforcement et calcul neuromorphique pour la navigation de robots mobiles dans les systèmes d'exécution d'entrepôts (RMFS, Robotic Mobile Fulfillment Systems). Le pipeline fonctionne en deux temps : une politique est d'abord entraînée sur un réseau de neurones artificiel (ANN) classique, en pleine précision, via une stratégie d'entraînement autorisant les collisions afin de densifier les trajectoires informatives. Elle est ensuite convertie en réseau de neurones impulsionnels (SNN, Spiking Neural Network) grâce à une distillation de connaissance à labels durs (hard-label knowledge distillation), technique qui compense le décalage de distribution entre les deux architectures. Déployé sur puce neuromorphique, le système atteint jusqu'à 11 281 fois d'économies d'énergie par rapport à une baseline GPU haute performance, avec une réduction de latence de près de 2×, sans dégradation mesurable de la qualité de décision.

Ces résultats sont significatifs pour quiconque opère un entrepôt automatisé à grande échelle : l'énergie consommée par les unités de calcul embarquées constitue un poste de coût non négligeable dès que la flotte dépasse quelques centaines d'AMR (autonomous mobile robots). La contribution technique principale est de démontrer, sur matériel réel et non en simulation, qu'une politique RL peut survivre à la conversion ANN-vers-SNN sans effondrement de performance, un point de friction longtemps considéré comme rédhibitoire pour le déploiement neuromorphique industriel. Le travail valide également l'approche sim-to-real dans un contexte d'entrepôt dense et dynamique, là où les méthodes classiques de planification de chemin (A*, règles heuristiques) peinent à répondre en temps réel sous contrainte de ressources.

Les RMFS sont au coeur des entrepôts d'Amazon Robotics (issu de l'acquisition de Kiva Systems), de Geek+ ou d'Hai Robotics, mais aussi du français Exotec, dont le système Skypod mobilise des flottes de plusieurs milliers de robots. Le calcul neuromorphique mobilise des acteurs comme Intel (puce Loihi 2) et des laboratoires académiques européens autour de BrainScaleS. Ce preprint n'a pas encore été soumis à révision par les pairs, et les conditions exactes des expériences matérielles (type de puce, taille de l'entrepôt simulé, densité de flotte) mériteraient d'être précisées avant tout benchmark concurrentiel. Les prochaines étapes logiques seraient un pilote en entrepôt réel et une évaluation sur flottes hétérogènes.

Impact France/UE

Exotec (Skypod) et les laboratoires européens autour de BrainScaleS sont directement concernés par cette avancée en calcul neuromorphique qui pourrait réduire drastiquement les coûts énergétiques des flottes AMR à grande échelle.

À lire aussi

Décision séquentielle par apprentissage multi-échelle pour la préparation de commandes en robotique de manutention
1arXiv cs.RO 

Décision séquentielle par apprentissage multi-échelle pour la préparation de commandes en robotique de manutention

Des chercheurs ont publié en mai 2026 sur arXiv (référence 2605.08758) un framework de décision séquentielle baptisé OLSF-TRS, pour Omni-scale Learning-based Sequential Decision Framework for Tote-handling Robotic Systems. Ce système combine optimisation combinatoire structurée et apprentissage par renforcement multi-agent (MARL) pour coordonner simultanément les décisions liées aux commandes, aux bacs de manutention (totes) et aux robots dans les centres de préparation automatisés. En configuration petite échelle, OLSF-TRS affiche un écart d'optimalité moyen inférieur à 3,5% sur deux architectures système distinctes. En configuration grande échelle, il réduit les mouvements de bacs de 8 à 12% par rapport aux baselines heuristiques classiques, et de plus de 30% par rapport aux approches règle-based de l'état de l'art, tout en maintenant une réactivité en temps réel. L'enjeu concret pour les intégrateurs intralogistiques est significatif : la quasi-totalité des frameworks existants sont conçus sur mesure pour un type de système spécifique, tri-sorter, mini-load AS/RS ou AMR grid-based, ce qui rend tout transfert à un autre contexte laborieux. OLSF-TRS propose une couche de pilotage unifiée et scalable, potentiellement applicable à des architectures hétérogènes. La réduction de plus de 30% des mouvements de bacs se traduit directement en gains énergétiques, réduction de l'usure mécanique et meilleure stabilité du throughput, des KPIs centraux pour les COOs industriels. À noter cependant que les résultats reposent sur des simulations et benchmarks comparatifs sans déploiement terrain documenté, ce qui laisse entière la question du sim-to-real gap en production réelle. Ce travail s'inscrit dans une tendance structurelle de fond : la substitution des palettes par les bacs comme unité logistique primaire, portée par l'explosion du e-commerce et la fragmentation des commandes en petites séries. Des acteurs comme Exotec (France, système Skypod), AutoStore (Norvège) ou Geek+ (Chine) opèrent des déploiements massifs en grid-based robotics confrontés exactement à ces problèmes de coordination ordres-bacs-robots à grande échelle. La convergence entre optimisation combinatoire de type VRP et MARL est un champ de recherche en pleine effervescence, porté par des laboratoires industriels en Europe et en Asie. L'article ne mentionne ni partenariat industriel ni timeline de commercialisation, le positionnant comme une contribution académique précompétitive.

UEExotec (France, Skypod) et AutoStore (Norvège) opèrent des déploiements massifs confrontés exactement aux problèmes de coordination ordres-bacs-robots adressés par ce framework, en faisant une piste de R&D directement pertinente pour l'intralogistique européenne.

IndustrielPaper
1 source
Comau développe un système robotisé de préparation de commandes pour l'e-commerce de Decathlon
2Robotics & Automation News 

Comau développe un système robotisé de préparation de commandes pour l'e-commerce de Decathlon

Comau, groupe italien d'automatisation industrielle, a conçu et validé un système de préparation de commandes testé dans les opérations logistiques e-commerce de Decathlon. Les essais s'inscrivent dans MASTERLY, une initiative européenne qui vise à faire passer l'industrie de la production de masse classique à des systèmes flexibles et personnalisés. La solution repose sur le cobot MyCo de Comau, piloté par une architecture logicielle ROS2, et associe des capteurs intelligents à une couche de perception. Le communiqué disponible ne donne ni cadence, ni taux de prise réussie, ni nombre de références manipulées, ni durée ou site précis du test. Il s'agit donc d'un pilote validé en conditions d'essai, pas d'un déploiement commercial annoncé. L'intérêt est moins technologique que démonstratif. La préparation de commandes e-commerce, avec ses milliers de références hétérogènes et ses pics saisonniers, reste l'un des derniers maillons peu automatisés de l'entrepôt. Un cobot standard sur une pile logicielle ouverte ROS2 laisse espérer un coût d'intégration plus faible que des cellules propriétaires, un point à surveiller pour les intégrateurs. Sans métriques publiées, la question de l'écart entre démonstration et exploitation reste entière. Côté contexte, Comau s'appuie sur sa gamme de cobots et sur des programmes européens pour valider des cas d'usage hors de l'automobile. Decathlon, enseigne française, fournit un terrain logistique réel. Le segment du picking robotisé est déjà occupé par des acteurs comme Exotec (France, systèmes goods-to-person), RightHand Robotics ou Dexterity. La suite dépendra d'éventuels résultats chiffrés et d'un passage à l'échelle sur plusieurs sites, aucun n'étant annoncé à ce stade.

UEUn pilote logistique e-commerce chez Decathlon, enseigne française, dans le cadre du programme européen MASTERLY, illustre l'usage de cobots sur pile ROS2 ouverte pour le picking en Europe.

IndustrielActu
1 source
NavRL++ : un cadre système pour améliorer le transfert simulation-réel dans la navigation robotique par apprentissage par renforcement
3arXiv cs.RO 

NavRL++ : un cadre système pour améliorer le transfert simulation-réel dans la navigation robotique par apprentissage par renforcement

Une équipe de chercheurs a publié NavRL++, un cadre de navigation autonome par apprentissage par renforcement (RL) conçu spécifiquement pour réduire l'écart entre simulation et déploiement réel. Présenté sur arXiv (2605.15559), le système propose à la fois un nouveau pipeline d'entraînement et de déploiement et une étude empirique systématique qui isole les facteurs dégradant les performances en conditions réelles : bruit de capteurs, échecs de perception, latence système et réponse du contrôleur. Les auteurs ont validé leur approche sur plusieurs plateformes physiques, dont des robots aériens et quadrupèdes, sur des tâches de navigation comme l'exploration et l'inspection, en obtenant un transfert zéro-shot depuis la simulation. Le problème que NavRL++ cherche à résoudre est structurel : la quasi-totalité des travaux récents en navigation par RL se concentre sur la conception du framework d'apprentissage (représentations d'entrée, espaces d'actions, fonctions de récompense), sans analyser rigoureusement pourquoi les politiques entraînées en sim échouent en réel. NavRL++ répond à cela avec deux contributions techniques. La première est le perturbation-aware fine-tuning, une stratégie post-entraînement qui injecte explicitement les perturbations identifiées lors de l'étude empirique pour rendre la politique plus robuste. La seconde est une politique à raisonnement temporel basée sur un Transformer, qui exploite une fenêtre d'observation courte pour lisser le contrôle et compenser la dégradation perceptuelle typique du monde réel. Les résultats quantitatifs montrent des performances supérieures aux baselines RL dans des environnements statiques et dynamiques, et comparables aux planificateurs classiques à optimisation en contexte statique. Le défi du sim-to-real reste l'un des verrous majeurs à la commercialisation de la navigation autonome par RL, notamment pour les robots mobiles en environnements industriels non structurés. La plupart des approches existantes, comme les travaux issus de Berkeley (BADGR, RECON) ou les pipelines de navigation d'Agility Robotics et Boston Dynamics, contournent partiellement le problème via de la simulation photo-réaliste ou du domain randomization intensif. NavRL++ adopte une approche complémentaire : diagnostiquer empiriquement les sources d'écart plutôt que de les masquer. La prochaine étape naturelle sera de tester cette méthodologie sur des flottes de robots en déploiement continu, notamment dans des scénarios entrepôt ou inspection d'infrastructures où la latence et la fiabilité des capteurs sont des contraintes opérationnelles dures.

RecherchePaper
1 source
RLinf-VLA : un cadre unifié et efficace pour l'apprentissage par renforcement des modèles vision-langage-action
4arXiv cs.RO 

RLinf-VLA : un cadre unifié et efficace pour l'apprentissage par renforcement des modèles vision-langage-action

Une équipe de recherche présente RLinf-VLA, un framework unifié et efficace pour l'entraînement par renforcement (RL) de modèles vision-langage-action (VLA), décrit dans un article arXiv (2510.06710, version 3, remplaçant une version antérieure). Le système standardise l'intégration de plusieurs architectures VLA, de différents algorithmes RL et de simulateurs hétérogènes derrière une interface commune, pour permettre comparaisons équitables et reproductibilité. Pour gagner en efficacité, RLinf-VLA introduit une stratégie d'allocation de pipeline fine et hybride, répartissant dynamiquement les ressources entre rendu, inférence et entraînement, ce qui produit un gain de vitesse de 1,61 à 1,88 fois sur le simulateur ManiSkill. Les modèles entraînés avec ce framework atteignent 98,11% de réussite sur 130 tâches du benchmark LIBERO, 97,66% sur 25 tâches ManiSkill, et une moyenne de 84,63% sur six tâches RoboTwin. Pour les laboratoires de robotique et les équipes développant des politiques de manipulation, ce travail répond à un problème concret: jusqu'ici, chaque groupe construisait sa propre pipeline RL+VLA sur mesure, rendant les comparaisons d'architectures et d'algorithmes peu fiables. Un gain de vitesse proche du double affecte directement le coût et la durée des cycles d'entraînement, une étape historiquement gourmande en calcul puisqu'elle combine simulation, inférence et mise à jour de politique en boucle continue. Les taux de réussite proches de la saturation, 98% sur LIBERO, 97,7% sur ManiSkill, montrent que le post-entraînement par renforcement peut pousser des VLA déjà pré-entraînés par imitation vers des performances très élevées sur des benchmarks simulés établis, mais ces résultats restent obtenus en simulation contrôlée et ne préjugent pas d'une généralisation équivalente en conditions réelles. Le contexte est celui d'un basculement plus large dans l'entraînement des modèles VLA, jusque-là dominé par l'apprentissage supervisé à partir de démonstrations, vers des méthodes de post-entraînement par interaction, une trajectoire qui rappelle le rôle du RLHF pour les grands modèles de langage. Les auteurs positionnent explicitement RLinf-VLA comme une réponse à la fragmentation des efforts en RL pour la robotique embarquée, où l'absence de plateforme commune empêchait des comparaisons équitables entre architectures et algorithmes. Au-delà du code, l'article revendique la synthèse d'un ensemble de pratiques efficaces pour l'entraînement RL des VLA, positionnant le framework comme base technique et méthodologique pour la recherche future en intelligence embarquée. Aucune entreprise ni site de déploiement industriel n'est associé à cette publication, qui reste à ce stade une contribution académique validée sur des benchmarks de simulation plutôt qu'un produit déployé.

IA physiqueOpinion
1 source