Aller au contenu principal
Encore 1/5 articles gratuits à lire
Alberto Bondolfi à Zurich, juin 2018.
© Dominic Büttner pour «Le Temps»

Philosophie

Alberto Bondolfi: «Pour faire confiance aux machines, il faut faire confiance aux hommes»

Le professeur d’éthique croit en un avenir amélioré par la coexistence entre les robots, l’IA et les humains. Pour autant que ces derniers soient attentifs à toujours pouvoir garder le contrôle de ce qu’ils ont créé

La relation de l’homme à la machine se pose avec une acuité inédite en ces années 2010. L’avènement des assistants vocaux, du corps augmenté ou de l’intelligence artificielle suscite d’innombrables questions. A l’occasion d’un colloque à l’EPFL, nous consacrons une série d’articles à ces enjeux.

Dans la même série

Comment les chatbots percent en Suisse

Les robots et le moi

Comment faut-il percevoir notre future cohabitation avec des robots et des machines aussi, voire plus intelligentes que l’humain? Pour l’éthicien Alberto Bondolfi, professeur honoraire à l’Université de Genève, il ne faut pas la craindre. Mais il prévient: aujourd’hui déjà, la révolution technologique remet en question des piliers fondamentaux de notre culture.

Le Temps: Pourquoi l’intelligence artificielle (IA) et la révolution technologique qui l’accompagne soulèvent-elles autant de questions existentielles?

Alberto Bondolfi: Il existe beaucoup de littérature sur la vision futuriste des technologies et des changements qu’elle va provoquer. Mais toutes ces théories se basent sur l’état des choses tel que nous le connaissons aujourd’hui. Elles ne peuvent donc être qu’imparfaites. En réalité, des questions fondamentales se posent aujourd’hui déjà. Cette révolution technologique est déroutante, parce qu’elle bouscule et remet en cause les repères classiques avec lesquels nous évoluons depuis toujours, notamment en termes de responsabilité.

C’est-à-dire?

Lorsqu’un tort, une injustice ou un acte malveillant est commis, on cherche toujours à ramener la responsabilité à une personne, qu’elle soit physique, morale ou institutionnelle. On localise la faute et quelqu’un va devoir rendre des comptes! Mais avec la robotisation, cette distinction entre les personnes et les choses est en train de s’estomper.

Le principal problème est-il juridique?

Oui, sachant que le système juridique exprime en partie la sensibilité morale de notre société.

Il faut donc légiférer autour des robots?

On parle souvent de vide juridique en ce qui concerne les nouvelles technologies. Mais ce vide juridique n’est que partiel. Prenez le vol, par exemple. Son visage a déjà maintes fois changé. Aujourd’hui, la cybercriminalité a pris une grande importance, alors qu’elle n’existait pas il y a quelques années. Pourtant, le mécanisme juridique reste le même: on cherche un coupable et on le punit en fonction de son méfait.

La peur d’être victime de la machine qu’on a créée est une peur ancestrale

Là, c’est évident. Mais dans le cas d’une voiture autonome ou d’un avion en pilotage automatique? Qui devrait être considéré comme responsable en cas d’accident?

Il y a deux possibilités. Soit la responsabilité incombe à la personne chargée de surveiller la machine qui n’aurait pas pris son relais de manière adéquate, qui aurait manqué de vigilance. Soit elle incombe au fabricant du système de conduite autonome.

Et dans le futur, si une machine apprend à une machine qui, elle aussi, transmet ses capacités à une autre machine, et ainsi de suite, comment fera-t-on pour désigner un responsable?

Si l’on parvient à remonter la chaîne des causes, le mécanisme juridique actuel vaut toujours. Mais c’est vrai, cela va devenir de plus en plus complexe, jusqu’à ce qu’un cas ne soit plus judiciable. Cette crainte-ci est plus importante que la simple peur des machines intelligentes.

Lorsqu’on parle de singularité technologique, cette perspective de voir les hommes cohabiter avec des machines dotées d’une supra-intelligence, les visions sont souvent pessimistes, pour ne pas dire catastrophistes. Est-ce exagéré?

La peur d’être victime de la machine qu’on a créée est une peur ancestrale! Un seul exemple: la machine à vapeur. Les Anglais craignaient de ne pas être capables de faire freiner un train qui avançait à 30 km/h. On y est parvenu.

Donc vous avez une vision optimiste d’un tel avenir?

Je sais que je fais partie d’une minorité de gens, mais oui. Mon rêve, c’est que les machines, non pas me rendent heureux, mais qu’elles me simplifient la vie. Cela à condition que ces technologies reposent sur un système mixte, c’est-à-dire que l’homme garde le contrôle. Si les machines continuent leurs performances contre notre volonté, cela ne pourra pas fonctionner. Il faut donc impérativement songer à des mécanismes qui permettent à l’humain de rester maître.

Ceux qui créent ces machines intelligentes songent-ils à cet impératif?

Pour avoir confiance dans les machines, il faut avoir confiance dans les hommes. On peut partir du principe que l’humain est mauvais mais, dans ce cas, il faudrait fixer des règles à tout va qui mèneraient à l’établissement d’un Etat policier. Ou alors à un blocage, à une inactivité totale dans le domaine technologique. Ce serait contre-productif.

Et si l’on considère que l’homme est de nature bienveillante?

L’homme est-il bon ou mauvais? Je vous l’accorde, répondre à cette question n’est pas simple. Même les écrits religieux émettent des ambivalences à ce sujet.

On en vient à la question religieuse. Pourquoi est-elle systématiquement convoquée lorsqu’on débat de ces questions?

C’est assez logique: travailler sur le transhumanisme ou, plus simplement, augmenter les capacités humaines grâce aux machines mène à s’interroger sur ce que Dieu a créé. Avons-nous le droit d’améliorer notre dot? Sommes-nous condamnés à notre corporalité originelle?

Les nouvelles technologies vont accentuer les inégalités sociales

Donc, pour travailler de manière décomplexée sur l’homme augmenté, il faut être athée?

Non, cela ne change rien. Les non-croyants ont aussi des intuitions morales. Ils sont aussi amenés à s’interroger sur eux-mêmes. Avec, souvent, la crainte de s’égarer, de perdre son identité en devenant un homme augmenté.

Le risque que les hommes perdent le contrôle des machines qu’ils ont créées est-il réel?

Il existe des filtres qui, à mon sens, nous protègent de ce scénario. Par exemple l’orgueil. C’est l’orgueil des développeurs qui les incite à mettre tout en œuvre pour pouvoir garder le contrôle de ce qu’ils inventent. C’est rassurant…

Vous n’avez donc aucune crainte à ce sujet?

Ma crainte, c’est que les nouvelles technologies vont accentuer les inégalités sociales. C’est déjà le cas aujourd’hui. La technicisation va augmenter et rendra les savants toujours plus savants.


Préparer la Suisse au «social freezing»

Au cours de sa longue carrière, Alberto Bondolfi a souvent étudié les questions éthiques qui concernaient le domaine médical, et plus particulièrement la biomédecine. Depuis 2014, il est membre de TA-Swiss. Ce centre de compétences est chargé d’étudier «Comment la technologie [va] changer notre vie», selon les termes utilisés sur son site internet.

Il sert à aider le parlement et le Conseil fédéral à prendre des décisions en matière technologique. Il se compose de groupes interdisciplinaires – professeurs, juristes, scientifiques, politiciens – mais qui «s’appliquent à travailler avec des groupes de citoyens pour tester l’acceptation de certaines innovations sur le grand public», insiste Alberto Bondolfi.

Un enfant quand on veut

Depuis l’an dernier, le professeur préside un sous-groupe de TA-Swiss qui étudie le «social freezing», c’est-à-dire la congélation d’ovocytes permettant à des femmes, pour des raisons privées ou professionnelles, d’avoir un enfant quand elles le souhaitent. Le «social freezing» permet de reporter leur maternité grâce à la cryogénisation d’ovocytes prélevés à une période propice à la fécondation.

Cette étude a pour objectif d’évaluer les bénéfices et les risques de cette pratique sur le plan médical, social, professionnel, juridique et, donc, éthique. Des recommandations devraient être publiées à fin 2018. (S. P.)

Publicité
Publicité

La dernière vidéo economie

«Nous tirons parti de la lumière pour améliorer le bien-être des gens»

Candidate au prix SUD de la start-up durable organisé par «Le Temps», la société Oculight est une spin-off de l’EPFL qui propose des aides à la décision dans l’architecture et la construction, aménagement des façades, ouvertures en toitures, choix du mobilier, aménagement des pièces, pour une utilisation intelligente de la lumière naturelle. Interview de sa cofondatrice Marilyne Andersen

«Nous tirons parti de la lumière pour améliorer le bien-être des gens»

n/a
© Gabioud Simon (gam)