L’IA affective, de nouvelles avenues pour la santé

L’auteure, professeure en intelligence artificielle à la Sorbonne et directrice de la Chaire HUMAAINE du LIMSI-CNRS à Paris, a publié entre autres Les robots « émotionnels » : santé, surveillance, sexualité… : et l’éthique dans tout cela ? (L’observatoire, 2020)

L’intelligence artificielle (IA) est porteuse de promesses fantastiques dans le domaine de la santé grâce à sa capacité de détecter les maladies ou d’analyser le génome, par exemple, mais aussi grâce aux moyens qu’elle offre de surveiller des patients, de les stimuler ou de détecter des symptômes de maladie par l’utilisation d’agents conversationnels (installés sur des téléphones intelligents, des enceintes vocales, des robots sociaux). Des machines sont désormais capables d’enregistrer nos comportements, d’alerter notre médecin, de nous écouter et de nous répondre. Ainsi, les dimensions affectives propres aux êtres humains envahissent ces systèmes pour permettre un dialogue plus naturel, mais aussi pour capter notre attention.

L’informatique émotionnelle (ou affective computing) est un champ de recherche et d’application émergent. Ce terme, tout comme celui de l’IA est un oxymore, car il mélange des notions opposées, relatives au vivant et à l’artefact. Aujourd’hui, l’informatique émotionnelle est devenue centrale dans le développement des systèmes d’interaction humain-machine, notamment pour la robotique de services mais aussi les agents conversationnels comme Alexa d’Amazon. Elle regroupe trois technologies permettant la reconnaissance de certains états émotionnels des êtres humains, le raisonnement et la prise de décision en utilisant ces informations et, enfin, la génération d’expressions affectives par les machines.

Doter les robots de capacités d’interprétation, de raisonnement et de simulation émotionnels est utile pour construire des systèmes interagissant socialement avec les humains. Les robots émotionnels peuvent être un apport important pour la santé, pour prêter assistance, pour stimuler cognitivement, voire pour surveiller des pathologies liées au grand âge, à la dépression ou à l’autisme. Cependant, l’utilisation de tels robots comporte d’importants risques d’isolement, de déshumanisation et de manipulation des humains. Comment évoluerons-nous face à ces machines ? Un robot sera-t-il capable de déceler des comportements émotionnels dont nous ne serions pas conscients pour mieux nous inciter, avec des stratégies de nudge (suggestions indirectes), à faire certaines actions ou à prendre certaines décisions ? La co-adaptation humain-robot à long terme devra être un axe de recherche et de surveillance majeur au cours des prochaines années. Une surveillance de l’éthique de ces systèmes est nécessaire, surtout auprès de personnes vulnérables.

L’apparition de l’informatique affective a donc ouvert un champ important d’applications, que ce soit pour le diagnostic médical, la stimulation cognitive, la surveillance de diverses pathologies, l’assistance en santé ou encore l’éducation à l’aide de logiciels ou de robots. Même si le rendement de ces modèles n’est pas encore très convaincant, ces modélisations engendrent chez les humains des comportements surprenants. L’anthropomorphisme, c’est-à-dire la tendance à attribuer aux machines des réactions humaines, est alors bien réel. Mais si l’IA permet de détecter ou de simuler les affects, elle ne peut pas les faire ressentir à la machine. La modélisation des émotions ne touche que la composante expressive ; il n’y a dans une machine ni sentiment, ni désir, ni plaisir, ni intention.

La modélisation informatique des affects amène bien sûr à se poser la question des conséquences sociétales du fait de vivre dans un quotidien environné d’objets pseudo-affectifs. Les agents conversationnels et les robots sociaux peuvent déjà intégrer des systèmes de détection, de raisonnement et de génération d’expressions affectives qui, même en faisant des erreurs importantes, peuvent interagir avec nous. Ils sont cependant loin d’avoir des capacités sémantiques suffisantes pour converser et partager des idées, mais ils pourront bientôt détecter notre malaise, notre stress et peut-être nos mensonges.

Notre imaginaire et nos représentations symboliques vont donc évoluer au contact de ces machines, surtout si celles-ci nous parlent et simulent de l’empathie et que nos interactions avec elles se multiplient. Comment éviter que cela crée de l’isolement, une certaine déshumanisation et un appauvrissement de la vie sociale ? Il est nécessaire de réfléchir à la co-adaptation humain-machine, aux bénéfices et aux risques engendrés par ces objets et aux garde-fous à concevoir pour éviter d’être manipulés par eux.

Il importe également de savoir si nous sommes prêts à accepter des robots capables de détecter nos émotions, d’y réagir et, par exemple, de simuler de l’empathie, avec le risque de nous attacher à des machines affectives comme nous nous attachons à un animal domestique. Dans ce cas, quels statuts auront ces individus numériques dans nos sociétés ? Même si ces objets ne sont pas réellement émotionnels, conscients et autonomes, ils vont prendre de plus en plus de place dans notre quotidien. Quels garde-fous seront développés ? L’éducation à l’égard de l’IA, l’observation et l’expérimentation des machines affectives sont nécessaires pour que nous puissions prendre suffisamment de distance devant ces technologies.