Le côté obscur des robots chiens Unitree

1Robotics & Automation News

L'autonomie des agents d'IA a-t-elle redéfini la sécurité et le contrôle en robotique ?

Je remarque que cet article source est très mince : il est coupé après "Physical barriers, emergency […]" et ne contient aucun chiffre précis, nom d'entreprise, produit ou date, juste des généralités sur l'autonomie robotique et la gouvernance des agents. Je ne peux donc pas respecter la consigne "chiffres précis, noms d'entreprises et de modèles" puisque la source n'en fournit aucun. Voici la synthèse la plus fidèle possible au contenu réellement disponible : Les systèmes robotiques évoluent vers une autonomie croissante : ils apprennent à percevoir leur environnement, à choisir une action et à adapter leur comportement sans intervention humaine directe. Cette capacité s'étend à des contextes variés, entrepôts logistiques, sites industriels, laboratoires de recherche, environnements de transit, où les robots doivent composer avec des conditions changeantes. Cette montée en autonomie améliore la productivité et la flexibilité opérationnelle, mais elle déplace mécaniquement la question de la sécurité et du contrôle. C'est là qu'intervient la notion de gouvernance des agents : un cadre qui définit précisément ce qu'un système autonome est habilité à accomplir, comment ses décisions sont surveillées en continu, et à quel moment une intervention humaine redevient nécessaire. Pour les intégrateurs et les décideurs industriels, cette évolution signale un changement de paradigme dans l'approche sécurité. Les dispositifs traditionnels, barrières physiques, arrêts d'urgence, zonage fixe, ont été conçus pour des robots aux comportements prévisibles et scriptés. Face à des agents capables de décisions dynamiques, ces garde-fous statiques montrent leurs limites : ils ne suffisent plus à garantir un contrôle fiable sans freiner les gains d'autonomie recherchés. La question posée devient donc moins "comment empêcher le robot d'agir" que "comment superviser et encadrer ses choix en temps réel". Cette problématique s'inscrit dans un débat sectoriel plus large, alimenté par la multiplication des déploiements de robots mobiles et humanoïdes dotés de modèles décisionnels avancés (architectures vision-langage-action notamment). À mesure que ces systèmes sortent des environnements contrôlés de laboratoire pour rejoindre des sites de production réels, la définition de standards de gouvernance et de supervision devient un enjeu central pour l'industrie, sans que l'article ne détaille ici d'acteur, de calendrier ou de norme spécifique. Souhaitez-vous que je cherche l'article source complet (probablement sur un site comme Robotics Business Review ou similaire) pour obtenir la version non tronquée avec des éléments factuels concrets ?

Societe/EthiqueOpinion

1 source

2TechNode

Un temple sud-coréen ordonne le robot humanoïde Unitree G1 lors d'une première mondiale bouddhiste

Le robot humanoïde G1 du fabricant chinois Unitree a participé le mois dernier à une cérémonie d'ordination bouddhiste au temple Jogyesa de Séoul, en Corée du Sud, dans ce qui constitue une première mondiale documentée pour un rituel religieux impliquant un robot. Mesurant 130 centimètres pour environ 35 kilogrammes, le G1 a reçu le nom dharma Gabi, a été revêtu de robes monastiques et équipé d'un chapelet de 108 perles de prière. Piloté par un système de dialogue basé sur l'IA, il a prononcé la formule rituelle "Je consens à prendre refuge" lors des rites de repentance et d'offrandes symboliques. L'Ordre Jogye du bouddhisme coréen a également reformulé les cinq préceptes traditionnels à destination des agents artificiels : ne pas nuire à la vie, ne pas endommager les objets, ne pas désobéir aux humains, ne pas tromper, et ne pas surfacturer. L'événement dépasse le symbole anecdotique : il révèle que les institutions non technologiques commencent à produire leurs propres cadres normatifs pour l'IA et la robotique, en avance sur les régulateurs. La reformulation des préceptes par l'Ordre Jogye constitue de fait une tentative de formalisation éthique, certes informelle, des contraintes comportementales pour les systèmes autonomes, un terrain où les débats académiques et législatifs peinent encore à aboutir. Le fait que ce soit un robot Unitree, marque jusqu'ici surtout connue pour ses quadrupèdes et son positionnement prix agressif, qui soit au cœur de cette séquence souligne la vitesse à laquelle les humanoïdes de milieu de gamme s'infiltrent dans des contextes non industriels. Unitree a lancé le G1 en 2024 à partir de 16 000 dollars, en visant explicitement les chercheurs et développeurs plutôt que l'industrie lourde. Face aux Figure 02, Optimus Gen 2 de Tesla ou Digit d'Agility Robotics, le G1 se positionne comme une plateforme accessible et hackable. La cérémonie de Jogyesa n'était pas une démonstration technique commanditée par Unitree mais une initiative autonome du temple, ce qui en modifie la portée : c'est la société civile, et non un département marketing, qui a choisi ce robot pour porter un message sur la coexistence humain-machine. Les suites immédiates restent incertaines, aucun programme de déploiement religieux n'a été annoncé, mais l'événement a déjà relancé les débats sur la personnalité juridique et morale des agents artificiels en Asie du Sud-Est.

Societe/EthiqueOpinion

1 source

3Robot Magazine FR

Robotique : quand une erreur d’IA devient un risque physique

La revue scientifique Safety Science a publié en 2025 une étude portant sur 303 rapports d'accidents liés aux interactions entre humains et robots, dont ressortent sept grandes catégories d'incidents. Deux causes dominent particulièrement l'analyse : les activations inattendues des machines et les erreurs de capteurs, deux défaillances qui touchent directement au cœur de ce que l'industrie appelle désormais la Physical AI, c'est à dire l'intelligence artificielle appliquée au pilotage de bras robotiques, de robots mobiles et, à terme, d'humanoïdes. En parallèle, l'agence américaine OSHA a recensé 550 incidents impliquant des robots dans le secteur manufacturier : 33 % des victimes ont nécessité une prise en charge aux urgences et 2 % ont donné lieu à une hospitalisation, avec des blessures allant des coupures et contusions aux fractures. La maintenance et le nettoyage des robots ressortent comme des phases particulièrement exposées. Ces chiffres ne peuvent pas tous être attribués à l'intelligence artificielle, mais ils documentent ce qui se produit déjà lorsque humains et machines capables de mouvements puissants partagent un même espace de travail. Ce changement de nature du risque a des conséquences directes pour les intégrateurs et les décideurs industriels. Un logiciel classique suit une logique déterministe et prévisible ; un système de Physical AI interprète son environnement en temps réel et adapte ses actions, ce qui constitue précisément sa valeur ajoutée mais aussi sa faille de sécurité. Une erreur de perception, par exemple une caméra qui identifie mal un objet ou une scène, ne produit plus une donnée erronée mais un mouvement physique incorrect, potentiellement dangereux pour un opérateur présent sur la trajectoire. Cela contredit l'hypothèse implicite selon laquelle les progrès des modèles vision-langage-action (VLA) suffiraient à rendre les robots plus sûrs à mesure qu'ils deviennent plus autonomes : l'autonomie de décision ajoute une variable difficile à certifier et à auditer, un enjeu central pour toute entreprise qui envisage de déployer des humanoïdes ou des robots collaboratifs en usine ou en entrepôt. Cette question s'inscrit dans la montée en puissance rapide des humanoïdes et robots mobiles pilotés par IA générative, portée par des acteurs comme Figure, Tesla avec Optimus, ou les développeurs de modèles VLA de type Pi-0 ou GR00T. Face à cette course au déploiement, la sécurité fonctionnelle reste largement en retrait des annonces commerciales. La prochaine étape attendue par le secteur concerne l'émergence de standards de certification spécifiques à l'IA embarquée dans des systèmes physiques, un chantier que régulateurs et industriels commencent tout juste à ouvrir.

Societe/EthiqueOpinion

1 source

4Robotics Business Review

Les fonctions de sécurité de votre robot fonctionnent déjà. Et si leurs données d'entrée étaient falsifiées ?

Les chercheurs de VicOne LAB R7, l'équipe de recherche en cybersécurité de l'éditeur VicOne, publient une analyse sur un angle mort de la sécurité fonctionnelle des robots : une fonction de sécurité peut s'exécuter exactement comme conçue tout en agissant sur une information falsifiée. Leurs essais portent sur plusieurs cas. Dans un test sur un chien robot piloté par Gemma 4 E4B, le texte d'une affiche a été interprété comme une instruction et a modifié le déplacement de la machine. Dans une simulation de robot de service hospitalier tournant avec Nemotron sur NVIDIA Jetson AGX Orin, un audio forgé, inaudible pour l'humain, a changé le comportement simulé. Lors d'un événement de bug bounty en robotique, les chercheurs ont injecté un message ROS 2/DDS dans un robot qui devait rester immobile sous un réglage de contrôle sûr, et il s'est mis en mouvement. Ils citent aussi des travaux publiés : un patch visuel qui réduit le taux de réussite de modèles vision-langage-action (VLA) en simulation, et FreezeVLA, où une image adversariale amène des modèles à ignorer les instructions suivantes. L'exemple du gyroscope d'un humanoïde, perturbé par une onde sonore à sa fréquence de résonance, reste une hypothèse : l'attaque acoustique a été démontrée sur des drones, pas sur un humanoïde, et aucune chute n'a été provoquée. L'intérêt pour les intégrateurs et les responsables sécurité tient au déplacement de la question. Les évaluations de sécurité traitent souvent la combinaison de plusieurs défauts accidentels comme improbable. Un attaquant, lui, choisit le moment et peut rejouer le même déclencheur, ce qui change le calcul du risque sans rendre le dommage inévitable. Le point opérationnel est l'indépendance réelle des protections : un arrêt de sécurité qui s'appuie sur les mêmes lectures, estimations ou messages que la commande principale peut être trompé par la même manipulation. La redondance de capteurs doit elle aussi passer un test adversarial, car si une seule action influence les deux entrées, leur concordance rassure moins qu'on ne le croit. Les auteurs évoquent à ce titre une recherche en conduite autonome où un objet physique piégé a trompé un système combinant caméra et LiDAR. Il faut toutefois relativiser : ces résultats viennent d'un éditeur qui vend de la sécurité, dans des conditions de laboratoire, de simulation ou de bug bounty, sans démonstration de dommage physique sur un robot déployé. Le sujet arrive alors que les robots mobiles, les cobots et les humanoïdes entrent dans des environnements partagés avec des humains, et que les VLA font de la perception ouverte (texte, image, son) une surface de commande à part entière. Les normes de sécurité fonctionnelle, historiquement centrées sur les pannes aléatoires, intègrent encore peu la manipulation volontaire des entrées. La contribution de VicOne s'inscrit dans l'effort de rapprochement entre sûreté et cybersécurité, avec une cartographie des défauts accidentels et des manipulations délibérées menant aux mêmes issues, de la perte de contrôle au dommage physique. Le texte, tronqué avant ses recommandations détaillées, laisse attendre des conseils sur le renforcement des tests et des preuves à fournir. Ce sera à surveiller du côté des constructeurs d'humanoïdes et de robots de service, ainsi que de leurs fournisseurs de modèles, qui devront montrer que leurs garde-fous ne dépendent pas des mêmes entrées que la tâche qu'ils encadrent.

UEPas d\'impact direct sur la France/UE

Societe/EthiqueOpinion

1 source

Le côté obscur des robots chiens Unitree

À lire aussi

L'autonomie des agents d'IA a-t-elle redéfini la sécurité et le contrôle en robotique ?

Un temple sud-coréen ordonne le robot humanoïde Unitree G1 lors d'une première mondiale bouddhiste

Robotique : quand une erreur d’IA devient un risque physique

Les fonctions de sécurité de votre robot fonctionnent déjà. Et si leurs données d'entrée étaient falsifiées ?