Aller au contenu principal
ACE Robotics et NTU dévoilent Puffin-World, un modèle du monde multimodal open source
IA physiquePandaily 

ACE Robotics et NTU dévoilent Puffin-World, un modèle du monde multimodal open source

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

ACE Robotics et le S-Lab de l'Université technologique de Nanyang, avec des collaborateurs de l'Université Jiaotong de Pékin et de l'Université du Michigan, ont mis en open source Puffin-World, un modèle du monde multimodal unifié traitant physique, géométrie et apparence comme des états natifs d'un monde en trois dimensions. La publication inclut le code, les modèles et le jeu de données Puffin-16M, soit environ 15 millions de triplets vision-langage-caméra (Puffin-Cam-15M) et 1 million de trajectoires complexes couvrant tangage, lacet, roulis et mouvements composés en intérieur, extérieur, synthèse et conduite (Puffin-Traj-1M). L'équipe a aussi utilisé Puffin-World pour ajouter des étiquettes de pose caméra absolue à 28 jeux de données publics, soit environ 44,5 millions d'images publiées pour la recherche. Sur quatre benchmarks caméra-vers-monde (Stanford2D3D, MegaDepth, TartanAir, LaMAR), le modèle revendique des erreurs médianes état de l'art : sur Stanford2D3D, 0,29° de roulis, 0,53° de tangage et 1,62° de champ de vision vertical, avec un roulis sous le degré également en tête sur MegaDepth (0,28°), TartanAir (0,31°) et LaMAR (0,26°). L'architecture combine un encodeur visuel aligné sur la géométrie, un modèle de langage, un générateur par diffusion et un connecteur léger, permettant de partager compréhension, génération et reconstruction dans un seul cadre.

Contrairement à la plupart des modèles du monde génératifs qui se contentent de prédire les pixels d'une image future, Puffin-World modélise conjointement un état physique sensible à la gravité, un état géométrique reconstruit par profondeur et un état d'apparence rendu en RGB, le tout relié par une représentation Omni-Camera fusionnant repères de caméra absolus et relatifs. Cette distinction compte pour les intégrateurs et laboratoires de robotique embarquée : à partir d'une seule image, le modèle estime roulis, tangage et champ de vision vertical absolus, et peut ensuite synthétiser des trajectoires en vue libre, reconstruire une géométrie dense et corriger en boucle fermée la dérive de gravité et de pose pendant qu'une caméra traverse une scène générée. C'est un pas vers des modèles du monde robot-ready, utilisables pour la perception et la simulation plutôt que pour la seule génération vidéo, et cela comble un manque identifié dans les corpus de caméra purement relatifs, incapables d'enseigner l'alignement sur la gravité. Les métriques avancées (erreurs sous le degré, PSNR et LPIPS en tête sur RealEstate10K) proviennent des propres benchmarks du projet et méritent d'être considérées avec la prudence habituelle réservée aux résultats auto-rapportés, en l'absence d'évaluation indépendante à ce stade.

Le projet s'inscrit dans la course actuelle des laboratoires de recherche en robotique et vision par ordinateur à produire des modèles du monde capables de dépasser la simple prédiction de trame suivante, à l'image des efforts parallèles sur des modèles vision-langage-action comme Pi-0 ou GR00T N2 destinés au contrôle robotique. En publiant à la fois le code, les poids et un jeu de données massif de 16 millions d'échantillons annotés en pose absolue, ACE Robotics et NTU cherchent à positionner Puffin-World comme une brique de base réutilisable par la communauté, plutôt que comme un produit fermé. Le dépôt fournit un point de contrôle unique combinant perception de la physique de caméra, simulation de points de vue contrôlables et reconstruction 3D cohérente, sans modules de géométrie externes spécifiques à une tâche. Aucun calendrier de déploiement industriel, pilote client ou intégration matérielle n'a été communiqué à ce stade : il s'agit pour l'instant d'une contribution de recherche ouverte, dont l'adoption par des acteurs de la robotique embarquée dépendra des validations indépendantes à venir.

À lire aussi

Xiaomi ouvre en open source son modèle du monde incarné Robotics-U0 et sa suite d'entraînement
1Pandaily 

Xiaomi ouvre en open source son modèle du monde incarné Robotics-U0 et sa suite d'entraînement

Xiaomi a publié en open source Xiaomi-Robotics-U0, un modèle de monde incarné autorégressif qui traite la génération de contenu robotique comme une extension des modèles fondation image et vidéo, plutôt que comme un simple générateur de trajectoires. La version principale compte environ 38 milliards de paramètres, entraînée en continu pour l'intelligence incarnée ; une variante Xiaomi-Robotics-U0-4B et des déclinaisons FlashAR sont aussi publiées sur Hugging Face et ModelScope, avec code d'inférence, démos Gradio et scripts d'entraînement FSDP mis en ligne début septembre. Dans un seul cadre de prédiction de token, le modèle unifie génération texte-vers-image, édition d'image, synthèse de scènes multi-vues, transfert incarné contrôlable et déroulement de vidéo, en s'appuyant sur une tokenisation IBQ et des briques issues de Qwen3-32B et de la lignée EMU3.5. Le module d'inférence FlashAR+ remplace le décodage séquentiel token par token par une génération parallèle, couplée au batching vLLM, avec un gain revendiqué de 82,9 fois à près de 83 fois en génération 1024x1024, faisant chuter la latence d'un exemple type de 450,8 à 5,44 secondes, et un score EWMScore_P de 73,64 plaçant UNIS en tête du classement WorldArena. Pour l'industrie robotique, cette ouverture d'un modèle de monde de cette taille change la donne pour les intégrateurs qui cherchent à générer des données synthétiques d'entraînement sans multiplier les collectes réelles : Xiaomi affiche une progression du taux de réussite sur des tâches d'interférence de 36,9% à 63,2% sous fonds et éclairages inédits, en mélangeant données de transfert de style et démonstrations réelles pour le post-entraînement de politiques de contrôle. Cela nourrit le débat sur la résolution du fossé simulation-réel et la viabilité des modèles vision-langage-action (VLA) à grande échelle. Les comparaisons revendiquées face à GPT-Image-2 reposent toutefois sur des jeux de test internes non vérifiés de façon indépendante, et les checkpoints vidéo restent en retard sur les versions image et transfert, ce qui invite à la prudence avant de considérer ces poids ouverts comme une usine à données prête à l'emploi pour des robots en production. Cette publication s'inscrit dans la montée en puissance de Xiaomi sur la robotique incarnée, aux côtés d'acteurs comme Nvidia et son GR00T N2, Physical Intelligence et Pi-0, ou Figure et Helix, qui développent tous des modèles de fondation pour l'action robotique. En misant sur un modèle de monde génératif plutôt que sur une politique d'action directe, Xiaomi se positionne sur la brique amont de génération de données et de simulation, complémentaire des VLA de contrôle. Xiaomi invite lui-même les équipes à vérifier les termes de licence, le choix du moteur FlashAR et la reproductibilité des scores WorldArena par des tiers avant tout déploiement en production, signe que cette publication reste à ce stade un jeu d'outils de recherche plutôt qu'un produit clé en main pour l'industrie.

IA physiqueOpinion
1 source
Galbot lance LDA-1B, un modèle du monde-action en open source
2Pandaily 

Galbot lance LDA-1B, un modèle du monde-action en open source

Galbot a publié LDA-1B, un modèle fondation monde-action cross-embodiment de 1,6 milliard de paramètres, construit sur son architecture propriétaire WAM (World-Action Model). Ce modèle unifie modèles de monde et modèles d'action au niveau des données, permettant un apprentissage conjoint sur données de simulation et données réelles, données humaines et robotiques, ainsi que sur jeux de données d'action labellisés et non labellisés. LDA-1B peut s'adapter à différentes morphologies de robots après seulement une heure de post-entraînement, selon Galbot. À mesure que le volume de données d'entraînement est passé de 5 000 à 30 000 heures, l'erreur de prédiction d'action a diminué de façon continue, démontrant un comportement de scaling cohérent. La recherche a été acceptée à RSS 2026 et le code source est désormais public. Le modèle est intégré dans AstraBrain et AstraData, l'infrastructure de déploiement de Galbot, couvrant la logistique industrielle, les tâches domestiques et les scénarios retail. En avril 2026, la société est l'entreprise d'IA incarnée non cotée la mieux valorisée en Chine, avec une valorisation dépassant 20 milliards de yuans (2,8 milliards de dollars). Plusieurs points méritent attention. La capacité d'adaptation cross-embodiment en une heure de fine-tuning est une affirmation forte, mais elle reste à valider hors démonstrations contrôlées. Le comportement de scaling confirmé entre 5 000 et 30 000 heures de données est un signal positif pour les VLA (Vision-Language-Action models) à grande échelle, suggérant que les lois d'échelle s'appliquent à l'action robotique de façon analogue aux LLM textuels. L'open-source du codebase réduit la barrière d'entrée pour les intégrateurs souhaitant expérimenter sans infrastructure propriétaire, et positionne Galbot comme fournisseur d'infrastructure fondationale, pas seulement constructeur de robots. Galbot est une startup spécialisée dans les robots humanoïdes et l'IA incarnée. LDA-1B entre en compétition directe avec pi0 de Physical Intelligence, GR00T N2 de NVIDIA, et les approches internes de Figure AI et Agility Robotics côté américain. En Chine, la société rivalise avec Unitree et UBTECH sur le terrain humanoïde. L'acceptation à RSS 2026 lui confère une légitimité académique rare dans ce secteur encore dominé par les communiqués marketing. Les prochaines étapes probables incluent des pilotes industriels en logistique et retail, et une expansion internationale que la valorisation de 2,8 milliards de dollars rend plausible.

UEPression concurrentielle indirecte sur les équipes VLA européennes (INRIA, CEA-List), mais aucun déploiement ni partenariat européen annoncé.

💬 Le comportement de scaling sur les données robotiques, c'est le vrai signal ici, pas le chiffre de valorisation. Que les lois d'échelle s'appliquent à l'action physique comme au texte, ça dit quelque chose sur ce qu'on va voir dans 3 ans, et tu commences à comprendre pourquoi les gros acteurs américains s'agitent. L'open source est une bonne décision stratégique, mais une heure de fine-tuning pour changer de morphologie de robot, j'attends de voir ça hors démo contrôlée.

IA physiqueOpinion
1 source
Shanghai AI Lab lance Intern W0, un modèle du monde physique pour la robotique à retour de force et tactile
3Pandaily 

Shanghai AI Lab lance Intern W0, un modèle du monde physique pour la robotique à retour de force et tactile

Le Shanghai Artificial Intelligence Laboratory a présenté W0, un modèle de fondation robotique baptisé Intern physical world model, conçu pour combiner vision, force et toucher dans des tâches physiques à contact riche, avec perception, prédiction, action et correction s'exécutant en parallèle plutôt qu'en chaîne rigide. Deux piliers le définissent : une perception force-tactile native, où la vision fixe cibles et trajectoires d'approche, le retour de contact ajuste qualité de préhension et détection de glissement, et l'état corporel suit pose et mouvement ; et une architecture « duplex » asynchrone à fréquences multiples, planification longue en arrière-plan et commandes moteur à haute fréquence, pour raccourcir le délai entre un changement d'environnement et la correction du geste. W0 diffère du projet NCP-ArchPreview, mené avec le LUMIA Lab de l'université Jiao Tong de Shanghai sur la prédiction du concept suivant en espace latent. Connecté à la plateforme Intern InkStone et au modèle scientifique Intern S2, W0 a fait tourner des boucles fermées en laboratoire humide et sec : évolution dirigée de protéines d'édition génique, synthèse organique de mépivacaïne, préparation de nanoparticules lipidiques avec ajustements dynamiques de paramètres en cours de run. Pour les intégrateurs et décideurs de la robotique industrielle, ce choix diffère du pari humanoïde grand public : plutôt que la démonstration spectaculaire, le laboratoire vise l'automatisation d'expériences scientifiques, où la fiabilité du contact (préhension, glissement, micro-ajustement) prime sur la marche ou la manipulation domestique. Si le couplage force-tactile-vision en duplex tient au-delà des cas montrés, il fournirait un argument concret dans le débat sur le passage à l'échelle des modèles vision-langage-action au-delà de vidéos de démonstration triées, un reproche récurrent fait au secteur. Les résultats de laboratoire humide cités restent toutefois issus en partie de couverture secondaire relayée par le laboratoire lui-même comme preuve précoce, non d'une validation indépendante ni d'un déploiement à grande échelle : une preuve de faisabilité sur un nombre limité de protocoles, pas un produit fini. W0 s'inscrit dans l'effort plus large du Shanghai AI Lab pour bâtir une pile de modèles d'IA physique, distincte de sa branche NCP-ArchPreview menée avec l'université Jiao Tong de Shanghai. Contrairement aux humanoïdes commerciaux orientés logistique ou assemblage industriel, le laboratoire cible en priorité les instruments de paillasse et les protocoles de chimie, biologie et science des matériaux, présentés comme une brique sous les flux Intern InkStone plutôt que comme un robot grand public. La suite dépendra de la capacité du contrôle force-tactile duplex à généraliser au-delà des trois cas démontrés, protéines d'édition génique, synthèse de mépivacaïne, nanoparticules lipidiques ; le laboratoire présente ces résultats comme l'ouverture d'un chemin allant de la déduction de schémas à l'expérience instrumentée, sans calendrier de déploiement ni partenaires pilotes annoncés à ce stade.

IA physiqueOpinion
1 source
Runway présente Praxis-1, un modèle du monde et d'action pour la robotique
4Robotics Business Review 

Runway présente Praxis-1, un modèle du monde et d'action pour la robotique

Runway AI, la société new-yorkaise fondée en 2018 et connue pour ses modèles génératifs vidéo, a présenté cette semaine Praxis-1, un « world action model » à poids ouverts qui convertit son pré-entraînement vidéo à grande échelle en commandes pour robots. Le modèle s'appuie sur la même base que les world models généraux de l'entreprise (GWM-1, Gen-4.5, Aleph 2.0, Act-Two) et apprend surtout à partir de vidéos filmées à la troisième personne, non de démonstrations téléopérées. Il a été entraîné sur des tâches de manipulation allant du simple pick-and-place (soulever des canettes) à la manipulation d'objets déformables (emballer des sacs cadeaux). Runway affirme que la simulation de politiques robotiques dans son world model prédit les résultats réels avec une corrélation de 0,95, mieux que des techniques plus coûteuses fondées sur la reconstruction 3D, sans publier de détails méthodologiques. Des partenaires pilotes (Noble Machines, Standard Bots et Ultra) font tourner Praxis-1 sur leur propre matériel, des bras bimanuels aux humanoïdes, avec un fine-tuning léger. La sortie publique est annoncée « dans les prochains mois », sans date. L'enjeu est de savoir si la vidéo peut remplacer, au moins en partie, la donnée robot, rare et chère à collecter. Selon Kamil Sindi, directeur technique de Runway, la performance progresse avec le volume de vidéo, de sorte que le plafond du modèle dépendrait de la quantité de vidéo disponible plutôt que du nombre de démonstrations. Si cela se confirme, le goulot d'étranglement des politiques généralistes se déplacerait de la collecte téléopérée vers le curage de données vidéo. Pour les intégrateurs, la promesse d'un modèle unique adaptable à plusieurs morphologies avec peu de fine-tuning serait un gain de coût réel. Il faut toutefois rester prudent : aucun taux de réussite, aucun temps de cycle ni aucune comparaison avec des politiques existantes n'a été publié, et les retours des partenaires sont rapportés par Runway elle-même. Le chiffre de 0,95 mesure la fidélité de la simulation, pas la performance sur site. À ce stade, il s'agit d'une annonce avec des tests partenaires, pas d'un produit livré ni d'un déploiement en production. Runway arrive en robotique depuis la vidéo générative, après GWM-1 et des modèles interactifs temps réel comme Solaris et GWM Worlds 2, conçus pour créer des environnements d'entraînement d'agents. L'entreprise, qui a des bureaux à New York, San Francisco, Seattle, Londres, Paris, Tel Aviv et Tokyo, rejoint un champ où les approches VLA (vision-langage-action) et world models se disputent le terrain, face à des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix), qui s'appuient davantage sur des données robot. Le choix des poids ouverts est assumé : Sindi y voit un levier pour que les États-Unis retrouvent leur avance industrielle, en laissant aux fabricants de matériel de la flexibilité. Les prochaines étapes sont l'élargissement du cercle de partenaires avant la sortie publique et la validation sur davantage de robots, pour combler les écarts avant la disponibilité générale. Aucun acteur français ou européen n'est cité parmi les partenaires.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source