Technologie

«Il faut donner des droits aux robots, pour notre propre bien»

Une chercheuse du MIT suggère qu’on protège les robots contre la maltraitance comme on le fait pour les animaux

Kate Darling n’aime pas torturer Pleo, un petit dinosaure robotique, mignon, du genre à n’avoir jamais fait de mal à une mouche. Pourtant, au cours de l’atelier qu’elle organisait vendredi à Genève, à la conférence sur les nouvelles technologies Lift13, cette chercheuse en propriété intellectuelle et en politique de l’innovation au MIT de Boston, a demandé aux participants de maltraiter la créature jusqu’à ce que mort s’en-suive. Le but était de sonder le ressenti de chacun. C’est du malaise, provoqué chez elle par les mauvais traitements infligés au menu engin, qu’est née sa réflexion sur le droit des robots.

Le Temps: Pour beaucoup, la question d’accorder des droits aux robots reste de la science-fiction. Pensez-vous que nous soyons déjà arrivés à un niveau technologique qui soulève ce genre de question?

Kate Darling: La loi est toujours très en retard sur la technologie, les deux domaines ne se parlent pas. Les gens qui développent ces technologies ne pensent pas aux implications légales et éthiques de leur travail. Je ne parle pas de robots futuristes qui seraient aussi intelligents que nous, mais de robots qui existent déjà. Nous sommes toujours davantage entourés par une technologie qui interagit avec nous au niveau social, qui essaie de se «brancher» sur nos émotions. Cela va des jouets pour enfants aux robots de compagnie, comme ceux qui sont utilisés à des fins médicales ou dans des foyers pour personnes âgées. Ils vont devenir beaucoup plus sophistiqués, et nous devons nous poser certaines questions dès maintenant.

– Lesquelles?

– Des études montrent que, bien que sachant que ces robots sont des objets, nous avons tendance à les traiter comme s’ils étaient vivants, en projetant des émotions sur eux et en créant des liens affectifs avec eux. On observe que les gens ont beaucoup plus de peine à éteindre ce type de robot que les autres. Cette technologie pourrait être utilisée de manière abusive. Si les compagnies exploitent cet attachement à des fins de marketing, par exemple. La protection de la vie privée pourrait aussi être menacée. On peut imaginer que ces robots amènent leurs utilisateurs à divulguer des choses. Certaines personnes estiment que l’on devrait restreindre la recherche dans le domaine des technologies qui jouent avec nos émotions.

– Et vous?

– Je ne crois pas que ce soit responsable. Cette technologie est utile dans le domaine éducatif ou de la santé. Et puis, nous aimons nous attacher à ces robots, penser que leurs émotions sont réelles, que ce sont nos amis. De toute façon, je ne pense pas que ce serait possible, l’industrie du jouet a trop de pouvoir.

– Et quels droits devrions-nous donner à ces robots?

– Je pense que les projections que nous faisons sur les robots sociaux, et les liens que nous créons avec eux pourraient nous amener à vouloir leur donner une forme de protection juridique. Je ne parle pas d’une sorte de droit à la vie, qu’on n’ait pas le droit de les éteindre, etc. Je parle plutôt de quelque chose comme les lois qui protègent les animaux. A eux non plus, on n’accorde pas le droit à la vie, mais on a édicté des lois pour les protéger contre la maltraitance. A mon avis, pas tant à cause de la douleur qu’ils peuvent ressentir, qu’en raison de la réaction que leur douleur suscite chez nous. Ce n’est pas pour rien que nous protégeons beaucoup plus les animaux que nous trouvons attachants, ou auxquels nous pouvons nous identifier. Lorsque Pleo est sorti, des gens ont mis en ligne des vidéos où ils le torturaient: ils testaient ses limites. Les réactions ont été extrêmes, les internautes étaient bouleversés, bien qu’ils connussent très bien sa nature de robot. Regarder cette chose se tordre de douleur provoque en nous des réactions qui vont bien au-delà de ce qu’il y a dans l’engin. D’où l’idée de donner aux robots des droits de «second ordre», dans le sens où ils ne leur sont pas inhérents. Ils existent plus pour notre bien et celui de la société.

– Comment cela?

– La loi a tendance à réguler aussi notre comportement d’un point de vue éthique, et à décourager des agissements qui peuvent se révéler nocifs dans un autre contexte. En décourageant la maltraitance des robots sociaux, on promeut des valeurs que l’on juge bonnes pour notre société, comme de bien traiter toutes les choses et les êtres. Si un enfant donne des coups de pieds dans son jouet robotique, il le fera peut-être aussi à un chat ou à un autre enfant. Dans certains pays, lorsqu’un cas de maltraitance d’animaux est découvert, cela déclenche automatiquement une enquête sur d’éventuelles maltraitances envers les enfants. Parce que ce genre de comportement à tendance à se transférer.

– Mais les animaux sont des êtres vivants, pas les robots.

– Comment définit-on la vie? Et pourquoi est-ce important?

– Est-ce que la réponse ne varie pas selon les cultures?

– En effet. Dans la tradition shintoïste japonaise, chaque objet a une âme. Et cela explique, dans une certaine mesure, pourquoi la culture japonaise accepte mieux les compagnons robotiques. Elle ne divise pas les choses entre «vivant» et «non vivant», comme dans la culture occidentale.

– Comment définit-on le périmètre? Est-ce que mon toaster serait aussi protégé?

– La ligne de séparation sera de toute façon floue et arbitraire. Mais les systèmes légaux sont habitués à ça. Des études ont montré que ce qui suscite le plus de réactions émotionnelles chez nous sont les robots qui combinent plusieurs facteurs, qui sont incarnés, autonomes et interagissent socialement avec nous. On pourrait se baser là-dessus.

– Il y a des gens qui sont attachés à leur voiture.

– C’est vrai. Les militaires américains ont testé un robot qui désamorçait les mines. Il avait l’air d’une araignée géante, à six pattes. Chaque fois qu’il passait sur une mine, il en perdait une. Le colonel qui était chargé du projet l’a interrompu en arguant que c’était inhumain, qu’il ne pouvait pas supporter la vue de ce robot qui se traînait sur ses pattes restantes. Cela montre que la ligne est floue, que l’on s’identifie même à des choses qui ne sont pas anthropomorphes. Le fait que ce robot ressemblait vaguement à un animal, même s’il n’avait pas été conçu pour, suffit. Et donc, lorsque c’est fait à dessein, cela va beaucoup plus loin.

– Dans les films de science-fiction, les robots prennent le contrôle de la planète. Pensez-vous que si nous leur accordons des droits, ils nous en accorderont également en retour?

– C’est mon plan (rires). Sérieusement, je pense que nous sommes très loin d’atteindre ce niveau technologique.

Publicité