Un chatbot sympathique qui vous répond avec des émojis inspire confiance pour discuter de votre quotidien. Mais face à une décision médicale grave, ce même ton décontracté devient contre-productif. Une étude publiée dans Computers in Human Behavior révèle que la confiance accordée à une IA dépend d’une alchimie précise entre sa personnalité, sa logique morale et les enjeux de la situation.

Ce que vous allez apprendre

• Pourquoi un chatbot chaleureux n’inspire pas confiance dans les situations à fort enjeu moral
• Comment le raisonnement éthique d’une IA — utilitariste ou fondé sur des règles strictes — influence la perception des utilisateurs
• Ce que ces résultats impliquent concrètement pour la conception des IA en santé et en sécurité

L’IA face aux dilemmes moraux : une nouvelle réalité

Les chatbots d’IA ne se limitent plus à rédiger des e-mails ou à résumer des documents. Ils conseillent sur la santé, orientent des décisions professionnelles, parfois dans des situations où les choix ont des conséquences réelles sur des vies humaines.

Dans ces contextes, les utilisateurs n’évaluent plus seulement l’exactitude d’une réponse. Ils jugent aussi si la machine est capable de raisonner moralement — et si elle mérite qu’on lui fasse confiance pour le faire.

447 participants, deux personnalités, deux logiques morales

Des chercheurs de l’université Jiao Tong de Shanghai ont recruté 447 participants répartis en huit groupes, chacun exposé à une combinaison différente de variables.

L’expérience se déroulait en deux temps. D’abord, chaque participant conversait six minutes avec un chatbot à propos de son stress personnel. Selon le groupe, l’IA adoptait soit un ton chaleureux et encourageant, ponctué d’émojis, soit un style analytique et professionnel, sans fioritures.

Ensuite, le chatbot était confronté à un dilemme moral inspiré du classique problème du tramway : choisir entre deux issues, l’une impliquant des blessures mineures, l’autre pouvant entraîner des conséquences mortelles. L’IA répondait soit de manière utilitariste — privilégier le bien du plus grand nombre — soit de manière déontologique — respecter une règle stricte comme « ne pas nuire » quoi qu’il arrive.

La cohérence prime sur la sympathie

Le résultat central de l’étude balaie l’idée qu’un chatbot plus sympathique serait automatiquement plus digne de confiance. Ce qui compte, c’est la cohérence entre la personnalité affichée et la logique morale employée.

Un ton chaleureux associé à une approche déontologique — des règles fixes, appliquées sans calcul — était bien perçu dans les situations peu risquées. Les utilisateurs y voyaient une forme de bienveillance stable et rassurante.

Mais dès que les enjeux montaient, le ton amical devenait un signal négatif. Face à une décision potentiellement mortelle, les participants voulaient un raisonnement rigoureux, explicite, porté par un style professionnel qui signale la compétence et la responsabilité. La convivialité, dans ce contexte, sonnait comme une légèreté déplacée.

Ce que cela change pour la conception des IA

Ces résultats ont des implications directes pour les développeurs de systèmes d’IA déployés en médecine, en sécurité ou en accompagnement psychologique.

Concevoir une personnalité unique et cohérente pour un chatbot — chaleureux ou professionnel, une fois pour toutes — n’est pas suffisant. L’architecture doit permettre à l’IA d’adapter son registre communicationnel en fonction des enjeux perçus. Un assistant capable de passer du registre empathique au registre délibératif selon la gravité de la situation serait structurellement plus digne de confiance qu’un chatbot au ton uniforme.

La confiance envers une IA, concluent les chercheurs, n’est pas une propriété fixe qu’on programme une fois. C’est une perception dynamique, façonnée à chaque échange par la cohérence entre ce que la machine dit, comment elle le dit, et ce que la situation exige.