Expert

L'homme du futur sera-t-il augmenté ou amputé par la technologie?

L’ère des technosciences est arrivée. Elle repose sur des instruments que l’homme est loin de maîtriser, mais auxquels il accorde toute sa confiance. Il est urgent de débattre de leur contrôle, écrit Solange Ghernaouti, directrice du Swiss Cybersecurity Advisory and Research Group. Il y va de l’avenir de l’humanité

En offrant de nouveaux possibles, les avancées technologiques façonnent l’évolution de nos comportements, tout en créant de nouvelles habitudes et dépendances. Opportunités pour certains, risques pour tous, forgent le changement de société dont nous sommes témoins et acteurs. Avec la convergence des nanotechnologies, des biotechnologies, de l’informatique et des sciences cognitives, nous sommes passés à l’ère des technosciences. Le vivant et le non-vivant, interconnectés par un Internet de toutes choses, sont des sources inépuisables de données et de génération de flux informationnels. Le corps, le cerveau humain, les mouvements, les comportements, les sentiments ou les émotions sont un minerai informationnel capté et traité en permanence par des opérations arithmétiques et logiques.

Les fournisseurs de technologies considèrent l’individu comme un système d’information. Connecté, il participe bon gré, mal gré à l’exploitation de ses données. Il alimente un marché a priori sans limite. Il favorise à son insu l’apprentissage des machines, le développement d’algorithmes prédictifs, de systèmes d’aide à la décision, d’intelligence artificielle ainsi que le courant transhumaniste. Ainsi, il contribue à la délégation de ses responsabilités et de ses libertés à des ordinateurs avec lesquels il interagit mais aussi qui peuvent agir pour lui, le remplacer, l’influencer, le surveiller, le contrôler.

Humain simplifié

La possibilité de l’amélioration artificielle des capacités humaines physiques et cognitives laisse entrevoir un horizon d’êtres hybrides issus de l’électronique et du biologique. Utiliser des technologies à des fins non thérapeutiques, c’est considérer l’humain comme une chose à améliorer. Le risque que cette transformation artificielle soit réalisée dans un cadre normatif des manières d’être, de penser et d’agir, imposé par des acteurs hégémoniques des technosciences et fervents adeptes de l’ultralibéralisme, n’est pas négligeable. Dès lors, l’individu pourrait se retrouver amputé de ce qui fait sa condition humaine, de sa personnalité, de ses forces et faiblesses. L’expression d’humain augmenté est alors un abus de langage car il s’agit d’un humain transformé, standardisé, voire simplifié, mais surtout un humain piloté et contrôlé, via les technosciences, par des entités licites ou illicites qui les contrôlent. En effet, le risque de détournement, d’usage abusif, criminel et terroriste des objets connectés, équipements électroniques, systèmes informatiques et réseaux de télécommunication est réel, comme en témoigne le nombre d’incidents de sécurité plus ou moins graves révélés en permanence et affectant tous types d’infrastructures, y compris celles critiques ou a priori hautement protégées.

L’expression d’humain augmenté est un abus de langage car il s’agit d’un humain transformé, standardisé, voire simplifié, mais surtout un humain piloté et contrôlé, via les technosciences, par des entités licites ou illicites qui les contrôlent

L’humain doit-il être modifié, éventuellement augmenté par la technique? A partir de quelle technologie, quantité de technologies ou degré de d’intégration de celle-ci dans le corps peut-on encore définir un être comme étant humain? Est-ce que la frontière de la peau permet de faire la différence dans l’hybridation du biologique et du technique? L’effraction corporelle est-elle nécessaire ou doit-on déjà considérer une personne dépendante aux objets technologiques et connectée en permanence, comme un mutant, un primitif du futur…?

Qui prendra le contrôle

S’il est difficile aujourd’hui de maîtriser la cybersécurité, de réduire les vulnérabilités, de lutter contre la cybercriminalité, d’éviter les dérives comme par exemple la surveillance de masse, la fin de la vie privée, du libre arbitre, de l’autonomie ou de la démocratie, de réguler ou encore d’instaurer les niveaux de confiance nécessaires au bon fonctionnement de la société, qu’en sera-t-il demain avec des systèmes encore plus complexes, plus miniaturisés et invisibles, plus intriqués, interconnectées et interdépendants, plus «intelligents»?

Comment sécuriser toute la chaîne des acteurs, systèmes, processus, algorithmes, services liés aux Big Data, à l’intelligence artificielle, à l’Internet de toutes choses? Comment s’assurer de la sécurité, de la fiabilité, de la sûreté de tous les composants et de toutes leurs interrelations, durant tout leur cycle de vie (développement, fabrication, implantation, gestion, utilisation, élimination)?

La complexité des environnements technologiques mis en place est devenue telle que l’humain ne peut penser pouvoir la maîtriser qu’en ayant recours à encore plus de données, plus d’algorithmes, de processeurs interconnectés et de traitements. Cette fuite en avant est paradoxale puisqu’il ne les maîtrise pas, ne les comprend pas, mais est enclin à leur accorder sa confiance et à se soumettre à eux. Dans tous les cas, la question centrale demeure: qui sera en mesure de contrôler ces nouvelles infrastructures technologiques?

Redéfinir le bien commun

Les sciences du vivant et de l’ingénierie soulèvent des enjeux sociétaux et défis idéologiques pour tous, comme c’est déjà le cas avec l’usage des drones tueurs qui pourraient devenir autonomes et décider de tuer sans contrôle humain.

Il est urgent, hors des injonctions d’innovation et des discours messianiques qui accompagnent le développement des technosciences, de débattre de ces questions afin de contribuer à la définition du bien commun et du bien vivre avec les technologies sans en être esclave. C’est à ce prix que l’humain pourra conduire de façon éclairée et responsable le développement d’une technocivilisation ouvrant la voie à un humanisme renouvelé et au service des générations futures. Notre devenir ne doit pas être la résultante de logiques financières et de puissance hors de contrôle, ni dépendre de dictatures technico-économiques. Celles-ci ignorent le principe de précaution et sont rarement synonymes de progrès social et politique.

Publicité