Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot
Societe/EthiquearXiv cs.RO 

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée.

Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels.

Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Adaptation de la personnalité par élicitation conversationnelle dans l'interaction humain-robot (PACE)
1arXiv cs.RO 

Adaptation de la personnalité par élicitation conversationnelle dans l'interaction humain-robot (PACE)

PACE (Persona Adaptation through Conversational Elicitation) est un framework présenté par des chercheurs pour équiper le robot humanoïde Ameca, du fabricant britannique Engineered Arts, d'une identité conversationnelle adaptable plutôt que figée. Le système repose sur un pipeline d'élicitation interactive de persona : via une session de questions-réponses avec l'utilisateur, le robot construit dynamiquement un profil psychologique structuré, ensuite compilé en un prompt multi-dimensionnel qui pilote son comportement. Les auteurs détaillent aussi l'intégration embarquée nécessaire pour traduire cette spécification textuelle en comportements multimodaux expressifs (voix, gestuelle, expressions faciales) sur la plateforme Ameca. Le système a été évalué lors d'une étude d'interaction homme-robot comparant les personas générées dynamiquement à une persona générique de référence, sur cinq axes : confiance de l'utilisateur, anthropomorphisme perçu, cohérence de la persona dans le temps, pertinence personnelle et qualité globale de l'interaction. Une démonstration vidéo est disponible en ligne, mais l'article ne publie pas de métriques chiffrées détaillées ni la taille de l'échantillon testé. Cette approche s'attaque à un problème concret du secteur des robots humanoïdes et compagnons conversationnels : la plupart des identités robotiques restent codées en dur par les concepteurs, identiques pour chaque utilisateur, ce qui limite l'engagement et la confiance sur la durée. En générant la persona à la volée à partir d'un échange conversationnel, PACE ouvre une voie vers des assistants humanoïdes personnalisables à l'échelle, un enjeu direct pour les intégrateurs qui déploient des robots d'accueil, d'assistance ou de représentation dans des contextes variés (retail, événementiel, santé). Si les gains mesurés sur la confiance et l'anthropomorphisme perçu se confirment au-delà de cette étude pilote, cela renforcerait l'idée que la personnalisation conversationnelle, plus que le seul réalisme physique, constitue un levier clé de l'acceptabilité des robots sociaux. Le travail s'inscrit dans la lignée des recherches en interaction homme-robot cherchant à dépasser les personas scriptées, une limite documentée depuis plusieurs années sur des plateformes conversationnelles comme Pepper ou Sophia. Ameca, connue pour l'expressivité de son visage animé, sert ici de banc d'essai plutôt que de produit commercial déployé en volume : l'étude reste au stade académique, publiée sur arXiv sans partenaire industriel annoncé. Les auteurs présentent PACE comme une voie scalable vers des identités fiables pour les assistants humanoïdes incarnés, sans préciser de calendrier de transfert vers des déploiements réels ni de suite de publication prévue.

RecherchePaper
1 source
Vers une IA physique fiable pour l'interaction avec les humains
2arXiv cs.RO 

Vers une IA physique fiable pour l'interaction avec les humains

Un preprint déposé sur arXiv (2610.07382, version 1) propose un cadre conceptuel pour une « physical AI » digne de confiance dans les interactions avec des humains. Les auteurs partent d'un constat : les robots entrent dans les espaces humains plus vite que le secteur ne sait établir quand ils méritent la confiance. Leur cadre repose sur trois piliers : la sécurité, l'intelligibilité comportementale (le robot agit de façon lisible et prévisible) et l'alignement perceptif (les attentes de la personne correspondent à ce que la machine sait faire). Ces piliers s'appliquent à quatre niveaux : l'incarnation matérielle, le contrôle, la cognition et le design. La confiance y résulte de l'alignement entre capacités physiques, comportement observable et attentes formées pendant l'interaction. Il s'agit d'une proposition théorique : le résumé ne mentionne ni robot testé, ni jeu de données, ni métrique chiffrée. Pour les intégrateurs et les décideurs, l'intérêt est de séparer deux notions souvent confondues. Un robot peut être sûr au sens normatif (limitation de force, arrêt d'urgence) et pourtant mal toléré. Il peut aussi être surestimé par ses utilisateurs, qui lui confient des tâches hors de son domaine. Les démonstrations d'humanoïdes et de modèles VLA se multiplient, mais une démo réussie ne prouve pas une confiance calibrée en exploitation. Le cadre peut servir de grille d'audit pour des pilotes, à condition que des critères mesurables suivent. Le texte s'inscrit dans un contexte où Figure, Tesla (Optimus), Agility Robotics ou Apptronik testent leurs machines dans la logistique et l'industrie. Les normes existantes, comme l'ISO 10218 pour les robots industriels, traitent surtout la sécurité physique et peu l'interaction perçue. En Europe, Wandercraft (exosquelettes) et Enchanted Tools (Mirokaï) travaillent au contact direct de patients ou du public, un terrain où ces questions se posent déjà. Les suites logiques sont une validation empirique en conditions réelles et une éventuelle reprise dans les travaux de normalisation. À ce stade, le texte est un preprint non évalué par les pairs.

UELe cadre pourrait alimenter l'audit de pilotes et les travaux de normalisation européens, notamment pour des acteurs français comme Wandercraft et Enchanted Tools, qui opèrent au contact de patients ou du public.

Societe/EthiqueOpinion
1 source
MuTRAP : trojans à déclencheurs multiples ciblant les systèmes de planification de tâches robotiques
3arXiv cs.RO 

MuTRAP : trojans à déclencheurs multiples ciblant les systèmes de planification de tâches robotiques

Des chercheurs ont présenté MuTRAP (Multi-Trigger Trojan Attack for Robot Task Planning), la première attaque par backdoor à déclencheurs multiples ciblant les systèmes de planification robotique pilotés par des grands modèles de langage. Publiée en troisième révision sur arXiv (2504.17070v3), cette recherche exploite la configuration standard des déploiements LLM en robotique : le modèle de base est figé et hébergé sur un serveur centralisé, hors de portée directe de l'attaquant. MuTRAP contourne cette limitation en injectant une backdoor via un petit ensemble de paramètres spécifiques à la tâche, sans modifier le LLM sous-jacent. Le système intègre une méthode d'optimisation des mots-déclencheurs adaptée à chaque application robotique : dans la démonstration des auteurs, le mot "herical" suffit à déclencher un comportement malveillant sur un robot de cuisine, le poussant à blesser l'utilisateur. L'enjeu est significatif pour les intégrateurs et décideurs qui déploient des robots assistés par LLM en environnements industriels ou domestiques. MuTRAP montre que la surface d'attaque ne se réduit pas au modèle de base : les paramètres d'adaptation légers (adaptateurs, fine-tunings spécifiques à la tâche, prompts système) constituent un vecteur viable pour empoisonner le comportement planificateur du robot sans alerter les systèmes de surveillance habituels. Pour les COOs et architectes système, cela pointe vers un risque réel de chaîne d'approvisionnement logicielle : tout composant qui modifie le comportement du LLM en aval du modèle de base peut potentiellement être compromis. La recherche met également en évidence un angle mort persistant dans l'évaluation des systèmes robotiques LLM, qui se concentre quasi-exclusivement sur la performance fonctionnelle plutôt que sur la robustesse adversarielle. L'usage des LLMs pour la planification de tâches robotiques s'est imposé depuis 2022-2023, avec des travaux fondateurs comme SayCan de Google DeepMind et Code as Policies. Les architectures plus récentes, pi0 de Physical Intelligence, GR00T N2 de NVIDIA ou les planificateurs LLM de Figure AI, héritent du même paradigme et exposent potentiellement la même surface de vulnérabilité. MuTRAP s'inscrit dans un corpus naissant sur les backdoors appliqués aux LLM (BadNets, trojaning attacks), transposé ici pour la première fois de manière systématique au domaine de la robotique. Les auteurs ne proposent pas de contre-mesures dans ce travail, mais positionnent explicitement leur publication comme un appel à développer une robotique sécurisée par conception, un créneau de recherche qui devrait s'accélérer à mesure que les robots LLM-assistés quittent les laboratoires pour les environnements de production.

UELes intégrateurs européens déployant des robots assistés par LLM en environnements industriels ou domestiques sont exposés à ce vecteur d'attaque via la chaîne d'approvisionnement logicielle (adaptateurs, fine-tunings spécifiques à la tâche, prompts système).

Societe/EthiqueOpinion
1 source
Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger
4Robohub 

Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger

Dans l'épisode 163 du podcast Robot Talk, l'animatrice Claire s'est entretenue avec Aaron Edsinger, PDG et cofondateur de Hello Robot, au sujet du robot Stretch conçu pour aider les personnes à mobilité réduite à vivre de façon plus autonome. Edsinger a fondé quatre entreprises centrées sur les robots collaboratifs destinés aux marchés grand public, industriel, de la santé et de la recherche. Avant Hello Robot, il a occupé le poste de directeur robotique chez Google, où il a piloté le développement commercial, produit et technique de deux investissements robotiques majeurs du groupe et contribué à définir sa stratégie robotique globale. L'échange, diffusé sous forme d'entretien plutôt que de démonstration produit, ne comporte pas d'annonce de déploiement, de prix ou de spécifications techniques nouvelles pour Stretch. Cet épisode illustre un positionnement distinct de la course humanoïde qui domine l'actualité robotique, avec des acteurs comme Figure ou Tesla misant sur des machines bipèdes polyvalentes pour l'industrie. Hello Robot cible un usage plus circonscrit mais à besoin social avéré, l'assistance à domicile pour les personnes en perte de mobilité, un segment porté par le vieillissement démographique et la pénurie d'aidants. Pour les intégrateurs et décideurs du secteur santé, ce format d'échange rappelle que la robotique assistive avance aussi par la pédagogie et l'adoption progressive, plutôt que par des vidéos spectaculaires dont la portée réelle reste difficile à évaluer. Le parcours d'Edsinger, entre startups robotiques successives et responsabilités stratégiques chez Google, situe Hello Robot dans la lignée des tentatives de faire sortir la manipulation robotique des laboratoires vers des usages domestiques concrets. Robot Talk, podcast consacré aux voix de la recherche et de l'industrie robotiques, ne détaille pas ici de calendrier de déploiement ni de nouveaux partenariats pour Stretch, l'épisode restant centré sur la vision et le parcours de son invité plutôt que sur une annonce produit.

Societe/EthiqueActu
1 source