Pourquoi les robots nous fascinent-ils autant ?
Serge Tisseron. Dans notre culture chrétienne, l’explication généralement avancée est qu’en donnant la vie à des robots, les hommes égaleraient Dieu donnant la vie aux hommes. Et comme une forte culpabilité est attachée à ce désir, il en résulte l’inquiétude que les robots se révoltent. Mais je pense qu’il y a une raison beaucoup plus essentielle, qui ne s’accompagne pas forcément de culpabilité. Les robots mobilisent en même temps des formes de relations que nous avons soit avec des êtres humains, soit avec des machines, soit encore avec des images. Ces trois domaines traditionnellement séparés se trouvent réunis avec les robots. Nous pourrons en effet considérer à volonté les robots comme des ersatz d’êtres humains doués d’empathie, voire d’émotions; comme des machines que nous pourrons débrancher; ou comme des images, si nous décidons de leur donner l’apparence d’un proche disparu. Considérer un robot comme une machine sera évidemment le plus rassurant, mais pas forcément le plus fréquent: nous aurons envie qu’ils soient nos amis, nos confidents, voire nos conseillers.
Quels sont les principaux dangers des robots ?
S.T. Il y a d’abord un danger à long terme, lié à leur interconnexion. À partir du moment où les robots sont en grand nombre et interconnectés, apprenant ainsi de tous les robots du même modèle, ils peuvent acquérir un degré d’autonomie imprévisible pour l’être humain. Certains chercheurs disent que l’intelligence artificielle apparaîtra là où on ne l’a pas prévue, sous une forme non anticipée, en lien avec l’interconnexion. Mais ce danger n’est pas pour tout de suite, et à trop le mettre en avant, on risque d’en oublier un autre bien plus urgent: l’interconnexion des robots leur donne aussi le pouvoir de transmettre à leur fabricant l’ensemble des faits, gestes et paroles de leur propriétaire. Avec nos robots domestiques, il deviendra de plus en plus difficile de protéger notre vie privée. Et ça, c’est un danger à très court terme puisque les robots feront partie de notre quotidien dans une dizaine d’années au maximum.
Faut-il craindre un risque de manipulation ?
S.T. Le robot n’a pas de pouvoir de manipulation, c’est le programmeur qui en a un! Les programmes qui habiteront les robots seront évidemment élaborés en fonction d’une certaine idéologie. Et puisque les robots seront probablement vendus à perte, les fabricants seront tentés de passer des alliances avec des distributeurs de films, des fabricants de nourriture, et ainsi influencer les conseils que les robots nous donneront. Ils deviendront inévitablement un nouveau support publicitaire dont l’impact sera sans commune mesure avec celui de la publicité sur internet, en raison de la puissance de conviction donnée par la présence physique du robot. Indépendamment de ça, les choix que les robots nous proposeront seront toujours des choix limités et reflèteront l’idéologie de leurs programmeurs. En pensant le monde à travers les programmes que les robots nous proposeront, nous risquons d’appauvrir la représentation de nos possibles. Et nous risquons aussi d’appauvrir l’idée que nous nous faisons d’une relation: des robots toujours d’accord avec nous risquent de nous rendre moins tolérants au caractère toujours imprévisible d’une relation humaine.
Les robots peuvent-ils à l'inverse favoriser la sociabilisation ?
S.T. Bien entendu, si les programmes le prévoient. Dans le cas d’un robot à domicile par exemple, il peut suggérer à la vieille dame qui s’ennuie de regarder un film ou de faire un peu de gymnastique. Il s’agit là de programmes qui entretiennent les capacités mentales et physiques de leur propriétaire, et c’est bien, mais ce n’est pas suffisant. Ils enferment la personne âgée dans un soliloque avec son robot, au risque de créer une «robot dépendance»! Au contraire, un robot socialisant se présente comme une interface entre les humains. Il humanise son propriétaire en l’incitant à établir des relations avec d’autres humains. C’est pourquoi j’appelle les consommateurs à être vigilants et à dire dès aujourd’hui quels robots ils veulent. L’État a aussi un rôle à jouer en protégeant par des mesures législatives la vie privée des utilisateurs, en encourageant l’open source et les logiciels libres, et en imposant l’apprentissage de la programmation dès l’école élémentaire.
La déconnexion sera-t-elle un enjeu ?
S.T. Tout à fait, encore faut-il que la question soit bien posée par les fabricants, ce qui n’est pas le cas aujourd’hui. J’en ai eu la preuve lorsque je me suis rendu chez Aldebaran, la société qui a développé le robot Pepper. Lorsque j’ai voulu le débrancher, sa tête est tombée sur son tronc et il est devenu tout mou. C’est une catastrophe: comment voulez-vous qu’une personne âgée débranche son robot chaque soir pour préserver son intimité alors que vous lui donnez l’impression qu’elle l’assassine? Il faut que les fabricants installent un programme qui permette de débrancher son robot sans susciter d’image désagréable pouvant dissuader de le faire. Sans quoi beaucoup ne le feront jamais, ce qui serait catastrophique.
