Il est urgent de réguler nos relations intimes avec les robots

Publié le

14 janvier 2025 à 7h30

Les « robots émotionnels », capables d’interagir finement avec les humains, appellent des réponses institutionnelles adaptées, notamment dans les services psychiatriques et les Ehpad.

Ça y est : les robots débarquent dans nos maisons. Animaux de compagnie électroniques, robots domestiques, serveurs android, infirmières automatisées et même modèles sexuels : la technologie n’assiste plus seulement notre force (outil), notre action (machine) et notre intelligence (intelligence artificielle, IA), elle comble notre humanité.

Car l’objectif de ces « robots émotionnels » n’est plus l’efficacité objective, mais lien subjectif. Capables de reconnaître les émotions sur les visages et d’imiter le sentiment dans leur comportement et leur parole, ils ne cherchent plus à produire des choses, mais à provoquer des sentiments, non plus à satisfaire des désirs, mais à en créer de nouveaux, non plus pour remplir une identité, mais pour creuser une altérité. Ce qu’ils sont compte plus que ce qu’ils fonte. Peut-on vraiment aimer un robot ?

Les deux renversements de pouvoir et d’autonomie permettent de mieux comprendre l’émergence de cette « robomanité » (Bruno Bonnell). D’abord un renversement de pouvoir, puisque pour la première fois dans l’histoire de la technologie, on ne cherche plus à accroître l’efficacité d’un appareil, mais à l’ajuster à notre condition humaine. C’est-à-dire le rendre imparfait et vulnérable, bref l’affaiblir.

Un problème moral

Nous conjurons ainsi la toute-puissance maléfique de nos créatures – imaginaires mais de plus en plus réelles – du Golem biblique à la matrice des sœurs Wachowski (« Matrix », 1999) en passant par le monstre du « Frankenstein » de Shelley (1818). ), mais surtout par le CARL de Kubrick (« 2001, L’Odyssée de l’espace », 1968), emblème d’une rationalité destructrice, qui, ayant compris que “l’erreur était humaine” et pour maximiser ses chances de succès, il décide d’éliminer les personnes qui collaborent avec lui. Rien à craindre, au contraire, de la part d’une créature dont l’amélioration est un affaiblissement.

Les robots émotionnels inversent alors la logique de l’autonomie : la voiture autonome devait choisir le meilleur itinéraire sans provoquer d’accident, un agent conversationnel pour dialoguer sans hallucinations et une IA boursière pour spéculer sans provoquer de crash, etc. de l’IA relationnelle doit impliquent une errance, une imprévisibilité, cette irrationalité de l’être humain. Ces nouveaux robots doivent donc contredire leur étymologie et cesser d’être des esclaves (voler en tchèque) pour créer une intimité qui est aussi une distance, une bienveillance qui est aussi une étrangeté. L’altérité est à ce prix.

Mais nos relations avec les robots posent un problème moral. Car leur ajustement à nos attentes risque de nous enfermer dans des relations aseptisées, dépourvues de ce face-à-face rude et irremplaçable entre deux consciences. C’est en effet dans ce dialogue de la pensée avec elle-même, dans cette confrontation des points de vue, dans cette négociation des désirs, que se forge une humanité commune, autrement dit le lien sous-jacent qui nous relie aux autres par au-delà de nos différences. Le problème réside donc moins dans l’illusion de la relation entre l’individu et le robot, que dans la séparation des humains entre lesquels le robot s’insère.

Le chant des sirènes

Quand on sait qu’aujourd’hui on peut dupliquer un humain après seulement deux heures de discussions, comment ne pas imaginer que l’on puisse réanimer les morts et remplacer les vivants par leurs versions améliorées ? De même, comment empêcher l’invasion des robots dans nos services hospitaliers et psychiatriques, dans nos Ehpad, alors que, déjà, les résidents les préfèrent aux humains, qu’ils coûtent moins cher, qu’ils ne sont jamais malades ni en grève ?

Le risque serait triple : discréditer les personnes aux conversations « robotisées » par rapport aux autres, réduire leur incitation à interagir avec d’autres êtres humains et retirer au personnel soignant son rôle premier, l’attention portée aux personnes vulnérables. En bref, l’humanisation des robots pourrait déshumaniser non pas directement nos relations, mais les idéaux de réciprocité et de dignité qui sous-tendent notre monde commun.

La robomanité nous enjoint donc de fixer des limites institutionnelles à son utilisation, afin que son potentiel augmente nos capacités morales plutôt que de les dégrader. Dans les milieux de soins par exemple, les robots devront libérer du temps « de qualité » pour les humains (travail de diagnostic, prise de décision clinique, assistance psychologique…). Et faciliter les relations humaines, comme on le voit avec certains troubles mentaux, notamment l’autisme, dont l’anxiété diminue au contact de la prévisibilité des robots.

Il appartient aux institutions de fixer une proportion entre « temps humain » et « temps machine ». Le problème sera alors de résister au chant de ces sirènes, disponibles, économiques, en nous rattachant au mât de notre humanité commune, qui est une exigence morale plus qu’une propriété naturelle.