À l'intérieur de XRZero-G0, un nouveau jeu de données ouvert de 2 000 heures pour la recherche en robotique

Humanoid Everyday : un jeu de données robotique complet pour la manipulation humanoïde en monde ouvert

Une équipe de recherche a publié sur arXiv (identifiant 2510.08807v2) Humanoid Everyday, un jeu de données massif dédié à l'apprentissage de la manipulation par les robots humanoïdes en conditions ouvertes. Le dataset compile 10 300 trajectoires et plus de 3 millions de frames couvrant 260 tâches réparties en 7 catégories larges : manipulation dextère d'objets, interaction humain-humanoïde, actions intégrant de la locomotion bipède, et d'autres scénarios du quotidien. Les données sont multimodales, RGB, profondeur, LiDAR, retour tactile, accompagnées d'annotations en langage naturel. La collecte repose sur un pipeline de télé-opération supervisée par des humains, optimisé pour maximiser le débit tout en maintenant la qualité des démonstrations. Les auteurs publient simultanément une plateforme d'évaluation cloud permettant à des équipes extérieures de déployer leurs propres politiques de contrôle et d'obtenir des métriques comparables dans un environnement standardisé. Ce dataset comble un vide structurel dans la recherche robotique : la quasi-totalité des benchmarks existants (Open X-Embodiment, DROID, BridgeData V2) ciblent des bras fixes, et les rares datasets humanoïdes disponibles se limitent à des environnements contrôlés, un faible nombre de tâches, et excluent généralement la locomotion et l'interaction avec des personnes. Pour un intégrateur ou un décideur industriel, la portée pratique est double : des données hétérogènes permettent d'entraîner des politiques plus généralisables, notamment des architectures VLA (vision-language-action) ; la plateforme d'évaluation cloud offre pour la première fois un cadre reproductible pour comparer des méthodes d'apprentissage par imitation ou par renforcement sur des tâches humanoïdes réalistes. L'article analyse aussi les performances de plusieurs politiques de référence, en identifiant leurs forces et limites par catégorie. La publication intervient dans un contexte de forte concurrence autour des données d'entraînement pour humanoïdes. Physical Intelligence (Pi-0, π0.5), NVIDIA (GR00T N2), Unitree et Figure AI misent chacun sur des datasets propriétaires pour différencier leurs politiques de contrôle. Côté recherche ouverte, AgiBot World et RH20T ont posé des jalons, mais restent limités dans leur couverture humanoïde. Humanoid Everyday est rendu entièrement public, dataset, code de collecte et plateforme d'évaluation inclus, ce qui en fait une ressource directement exploitable par des laboratoires et startups sans accès à des infrastructures de collecte massives. Les auteurs présentent cette release comme un socle pour de futurs agents incarnés généralistes, sans préciser d'échéancier pour des suites expérimentales.

💬 Le vrai sujet ici, c'est pas juste le volume (10 300 trajectoires, bon), c'est que les benchmarks humanoïdes existants ignoraient presque tous la locomotion et l'interaction avec des humains réels depuis le début. Des acteurs comme Pi-0 ou GR00T N2 misaient sur leurs données propriétaires comme avantage concurrentiel, et une release open-source de cette ampleur vient rogner ce levier directement. Reste à voir si ça tient face à des politiques entraînées en conditions réelles, mais pour des labos sans infrastructure de collecte massive, ça change le rapport de force.

InternW0-Δ : un modèle monde-action reliant dynamique prédictive et actions avec plus de 20 000 heures de données ouvertes

Des chercheurs du projet InternRobotics, rattaché au laboratoire chinois Shanghai AI Laboratory (dont dépend la série de modèles Intern), publient sur arXiv (2609.31394v1) InternW0-Δ, un "World Action Model" qui unifie prédiction visuelle et génération d'actions pour la manipulation robotique générale. L'architecture repose sur un cadre Mixture-of-Transformers combinant un expert vidéo et un expert action, guidés sémantiquement par un VLM gelé, auxquels s'ajoutent des a priori géométriques et de mouvement 4D injectés par distillation depuis un modèle fondation 4D préentraîné. Un mécanisme baptisé Causal Imprint apprend, pendant l'entraînement seulement, à anticiper les changements de scène pertinents et fournit ces représentations prédictives à l'expert action sans qu'il soit nécessaire de générer une vidéo future complète au moment de l'inférence. Le modèle est préentraîné sur un corpus hétérogène de plus de 20 000 heures de données, mêlant démonstrations robotiques, données UMI, démonstrations humaines à la première personne et données Ego2Robot, alignées sous une représentation état-action commune. Les auteurs annoncent des performances supérieures aux méthodes existantes sur des benchmarks de simulation et sur plateformes robotiques réelles, et prévoient d'ouvrir le code d'entraînement, les poids, l'infrastructure et le pipeline de traitement de données, sous réserve des licences applicables. L'intérêt de ce travail tient moins à un déploiement industriel qu'à une proposition architecturale: fusionner prédiction du monde et politique d'action dans un seul modèle, plutôt que d'enchaîner un générateur vidéo et un contrôleur séparés, tout en évitant le coût d'inférence habituel des rollouts vidéo futurs, un goulot d'étranglement connu des approches type modèle du monde. Si le corpus de 20 000 heures est effectivement publié en open source, il représenterait une ressource de référence dans un domaine où les grands jeux de données de manipulation (type Open X-Embodiment) restent souvent plus restreints ou fermés, avec un impact direct pour les intégrateurs et laboratoires cherchant à entraîner des politiques VLA sans dépendre des corpus propriétaires. Ces résultats restent toutefois auto-rapportés, issus d'un article non encore évalué par les pairs, et les comparaisons de benchmarks méritent d'être prises avec prudence. InternW0-Δ se positionne face aux modèles VLA actuels de l'industrie tels que Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure, qui traitent généralement perception, prédiction et action de façon plus découplée. Aucun acteur français ou européen n'est mentionné dans cette publication. Le statut reste celui d'une publication de recherche: aucune date précise d'ouverture du code ni de pilote industriel n'est annoncée, seule une intention de publication progressive selon les licences des données utilisées.

NVIDIA et Hugging Face apportent de nouveaux modèles et frameworks à LeRobot pour la communauté robotique ouverte

NVIDIA et Hugging Face annoncent l'intégration du modèle NVIDIA Isaac GR00T 1.7 et du framework NVIDIA Isaac Teleop dans LeRobot, la bibliothèque open source de Hugging Face pour la robotique, avec l'arrivée prochaine de NVIDIA Cosmos 3, un modèle monde pour l'IA physique. Isaac Teleop capture des démonstrations humaines via des dispositifs externes dans des formats standardisés, directement dans LeRobot, pour constituer et partager des jeux de données. Isaac GR00T 1.7, présenté par NVIDIA comme le premier modèle fondation robotique open source et commercialement exploitable, facilite le post-entraînement et le déploiement via les workflows LeRobot sur de nouvelles morphologies de robots, avec des benchmarks publiés. Ces briques s'appuient sur des ressources déjà connectées à LeRobot: le plus grand jeu de données open source d'IA physique, téléchargé plus de 15 millions de fois, avec plus de 350 000 trajectoires réelles et simulées et 57 millions de prises (grasps); les frameworks de simulation Isaac Sim et Isaac Lab; Isaac Lab-Arena, intégré au LeRobot Environment Hub pour prototyper des environnements et entraîner des politiques généralistes comme GR00T, Pi ou SmolVLA; et l'intégration de Jetson Thor avec le robot humanoïde open source Reachy 2 pour déployer des modèles VLA (vision-langage-action). Thomas Wolf, cofondateur et chief science officer de Hugging Face, décrit cette collaboration comme un moyen de faire passer la recherche avancée à un stade où la communauté peut l'étudier, l'adapter et la faire évoluer. Pour les intégrateurs et équipes R&D, l'enjeu est de standardiser un pipeline jusque-là fragmenté, collecte de données, entraînement, évaluation, déploiement, en connectant les 3 millions de développeurs robotique de NVIDIA aux 16 millions de builders IA de Hugging Face. Cela réduit le coût d'entrée pour tester des modèles VLA sur du matériel réel sans dépendre d'une pile propriétaire fermée. La mise en avant du caractère "commercialement viable" de GR00T 1.7 tranche avec des modèles concurrents (Pi de Physical Intelligence, Helix de Figure) souvent montrés en démonstration mais rarement publiés en open source avec benchmarks vérifiables. Coupler cela à un futur modèle monde comme Cosmos 3, censé générer des données synthétiques quand les données réelles sont trop chères ou rares à collecter, répond directement à l'un des goulots d'étranglement les plus documentés du secteur humanoïde. Cette annonce prolonge un partenariat plus ancien entre NVIDIA et Hugging Face autour de LeRobot, devenu une référence pour le partage ouvert de données et de politiques robotiques. Elle s'inscrit dans la stratégie de verticalisation physical AI de NVIDIA, de la simulation (Isaac Sim, Isaac Lab) au calcul embarqué (Jetson Thor) en passant par les modèles fondation et, prochainement, les modèles monde. Elle positionne NVIDIA face à des acteurs misant sur des piles intégrées fermées, comme Figure ou Physical Intelligence, en jouant la carte de l'infrastructure ouverte et mutualisée. Aucun acteur français n'apparaît directement, mais Reachy 2 est développé par Pollen Robotics, racheté par Hugging Face, ce qui donne une visibilité indirecte à cet acteur français dans l'écosystème. Les prochaines étapes annoncées restent pour l'instant limitées à la sortie de Cosmos 3 dans LeRobot, sans calendrier de déploiement industriel précisé.

HEARTH : un jeu de données RGB-thermique-3D centré sur l'objet pour la manipulation robotique sensible à la température

Le dataset HEARTH, présenté dans un article publié sur arXiv (2609.23418), regroupe des captures RGB, thermiques et 3D de 90 objets physiques répartis en 18 catégories du quotidien, pour un total de 145 états d'objets enregistrés. Le pipeline associé projette les températures de surface apparentes, mesurées par caméra thermique, directement sur des maillages 3D reconstruits, grâce à une calibration caméra et un transfert de pose. Chaque objet du dataset est ainsi livré avec ses mesures de température brutes, les paramètres de la caméra, un maillage texturé en RGB et une texture thermique exploitable en simulation. Les auteurs ont ensuite construit trois tâches de manipulation dérivées du benchmark LIBERO et collecté 1200 démonstrations pour affiner un modèle vision-langage-action (VLA) préentraîné, π0.5. Résultat de l'étude d'ablation : le taux de réussite sur des tâches de sélection d'objets dépendant de la température passe de 35,0% avec une observation RGB seule à 75,0% lorsque le canal thermique est ajouté. Ce résultat met en évidence une limite concrète des modèles VLA actuels, entraînés quasi exclusivement sur des images visibles : ils échouent à raisonner sur des propriétés physiques invisibles à l'œil, comme la chaleur d'une tasse ou d'une plaque de cuisson, alors même que ce type de discrimination est critique en environnement domestique ou industriel pour la sécurité et la manipulation fine. Pour les intégrateurs robotiques, l'enseignement principal n'est pas architectural mais lié aux données : ajouter un canal thermique low-cost à un pipeline d'apprentissage existant peut plus que doubler le taux de succès sans modifier le modèle lui-même, ce qui relance la question des modalités manquantes dans les VLA génériques déployés à grande échelle. HEARTH comble un vide identifié par les auteurs : l'absence de datasets robotiques associant température mesurée, apparence et géométrie d'objets, alors que les benchmarks de manipulation comme LIBERO servent de référence commune au secteur. Le choix de π0.5 comme base, une évolution du modèle généraliste pi-0 développé par Physical Intelligence, positionne ce travail dans la lignée des VLA foundation models concurrents des approches type GR00T N2 (NVIDIA) ou Helix (Figure), qui reposent aujourd'hui sur des entrées essentiellement visuelles. L'article ne mentionne pas d'extension prévue au-delà des trois tâches testées, mais ouvre la voie à l'intégration systématique de capteurs thermiques dans les pipelines d'entraînement VLA.