L’ère du super-ordinateur qui sait tout n’est peut-être plus très loin
opinions
Les révélations d’Edward Snowden laissent peut-être présager des bouleversements technologiques inouïs, ce que les spécialistes nomment la «singularité technologique». Décryptage par Johann Roduit, doctorant en droit et éthique biomédicale
L’ère du super-ordinateur qui sait tout n’est peut-être plus très loin
Et si l’affaire Snowden nous révélait que la singularité technologique, cet hypothétique événement pendant lequel l’intelligence artificielle serait capable d’auto-évolution et surpasserait largement l’intelligence humaine, est bel et bien en train de se mettre en place? En ce début d’année, le Spiegel affirme, selon des informations révélées par Edward Snowden, que l’Agence nationale de sécurité américaine (NSA) a un accès quasi total aux données des clients d’Apple. Un accès qui serait programmé lors de la fabrication des appareils. Micro, caméra, messagerie vocale, SMS… Ainsi les autorités américaines voient, entendent et enregistrent presque tout.
Au-delà des problèmes de violation de la vie privée et des tensions géopolitiques que cette situation engendre, une question se pose: comment la NSA compte-elle analyser toutes ces données? La fiction peut, ici, aider à la réflexion, en suggérant des éléments de réponse.
Ce scénario orwellien a déjà été exploité, entre autres, dans le film Eagle Eye ( L’Œil du Mal , 2008). Dans ce film, un super-ordinateur a un œil sur tout. Avec l’aide d’algorithmes, il calcule les probabilités qu’une personne commette un crime ou fasse un mauvais choix. Après qu’un homme politique a refusé une de ses suggestions, cette intelligence artificielle décide de se venger. Elle planifie alors un coup d’Etat afin de placer les personnes qui, selon elle, seraient plus aptes à l’exercice du pouvoir et respecteraient ses décisions. Ce film met donc en scène un monde ayant subi un processus de singularité technologique: une intelligence artificielle parvient à influencer la vie de chaque citoyen et à analyser le comportement de chacun.
D’après les révélations d’Edward Snowden, il semblerait que la réalité ait quelque peu rejoint la fiction. En effet, selon ce que rapporte Le Temps du 03.01.2014, «l’Agence nationale de sécurité américaine est tout près de créer un «ordinateur quantique» à même de décrypter presque n’importe quel encodage». Bien que, pour certains, un tel ordinateur ne soit pas encore sur le point de fonctionner ( Le Matin, 04.01.2014), la construction d’un tel outil informatique est néanmoins en cours.
Sans se risquer à prédire une date quelconque, comme le font certains futuristes (par exemple Ray Kurzweil, l’un des grands théoriciens du transhumanisme), j’avancerai simplement ici que les éléments nécessaires à une singularité semblent, en effet, être en train de se mettre en place. De plus en plus, nos appareils technologiques se connectent à Internet, partageant ainsi nos habitudes, nos activités et nos vies sur la Toile.
Le monde inanimé de nos objets s’éveille (voir Le Temps du 09.01.2013). Appareils ménagers, caméras de sécurité, GPS, drones, passeports biométriques, membres bioniques, cœurs artificiels, lentilles «augmentées» et même brosses à dents, faux cils et faux ongles peuvent être connectés. La récolte de toutes ces informations permettrait à un super-ordinateur de connaître nos habitudes mieux que nous-mêmes. Car, contrairement à l’intelligence artificielle, nous sommes des êtres à la mémoire fragile.
De plus, comme certains auteurs l’ont déjà soulevé: «La plupart d’entre nous avons intégré dans notre quotidien ces technologies «amélioratives» sans même nous en rendre compte, et nous acceptons, intégrons et utilisons certaines d’entre elles toujours plus rapidement» (Menuz, Roduit, Hurlimann, Huffington Post , 13.04.2013). Il est devenu, en effet, presque impossible de fonctionner dans notre société sans être connecté.
La singularité technologique qu’on nous prédit pour l’avenir se mettra vraisemblablement en place au terme d’une série d’événements. La création d’un super-ordinateur et d’un réseau internet connectant personnes et objets semble constituer un pas de plus dans cette direction. La singularité technologique est-elle donc inévitable? Quels en seraient les risques et les opportunités? Ce sont ces questions qui intéressent tout particulièrement l’Institut du futur de l’humanité d’Oxford, Singularity University en Californie et le Centre pour l’étude du risque existentiel de Cambridge. Cependant, de telles questions, qui remettent en cause la place de l’être humain dans ce monde, devront vraisemblablement être résolues par nos sociétés et par chacun d’entre nous.
Cofondateur du think tank NeoHumanitas, actuellement en séjour de recherche à l’Université d’Oxford, au Centre Uehiro d’éthique pratique
La NSA travaille sur une machine presque omnisciente. Un pas de plus vers la «singularité technologique»?
Le Temps publie des chroniques et des tribunes – ces dernières sont proposées à des personnalités ou sollicitées par elles. Qu’elles soient écrites par des membres de sa rédaction s’exprimant en leur nom propre ou par des personnes extérieures, ces opinions reflètent le point de vue de leurs autrices et auteurs. Elles ne représentent nullement la position du titre.
