Aller au contenu principal
Pablo Jensen: «La grande majorité des comportements sociaux reste imprévisible: nous ne sommes ni des fourmis ni des atomes sociaux.»
© Yann Bastard pour Le Temps

Technologies

L’être humain peut-il être modélisé?

A l’heure où Facebook semble nous connaître mieux que notre propre mère, nos actions et nos pensées seraient donc réductibles à de simples modèles mathématiques. Dans un ouvrage stimulant, le chercheur Pablo Jensen s’en défend: la société ne peut et surtout ne doit pas se laisser si facilement mettre en équations

Calculer la chute des corps? C’est fait, merci Galilée. Détailler le comportement des atomes et des particules? Plus délicat, mais on y est arrivé. Modéliser le climat et ses dérèglements? Cela paraît inouï, mais la science est parvenue à délivrer un modèle fiable. Prédire les comportements sociaux? Aïe, voilà que les modèles résistent à cet humain si imprévisible! Tel est en substance le message délivré par Pablo Jensen, chercheur en physique et en sciences sociales, dans son livre Pourquoi la société ne se laisse pas mettre en équations.

Scénario de science-fiction

Son ouvrage – stimulant – nous apporte une bonne et une mauvaise nouvelle. La mauvaise, c’est que, décidément, la technologie, aussi pointue et efficiente soit-elle, ne pourra pas créer une gouvernance idéale, fondée sur la planification des besoins, comme le rêvaient Platon dans sa République ou les philosophes des Lumières. La bonne nouvelle, c’est que notre imprédictibilité humaine nous permet – jusqu’à présent – d’échapper à un régime totalitaire planifiant nos moindres gestes et piétinant notre liberté.

Mais l’heure est grave. Le poids croissant des données – et ceux qui les récoltent – ainsi que le pouvoir grandissant des algorithmes et de l’intelligence artificielle – et ceux qui les dressent – peuvent légitimement faire craindre la bascule de l’humanité dans un cauchemar digne des plus belles œuvres de science-fiction.

La grande vertu du livre de Pablo Jensen est d’éviter la caricature. Sa lecture nous invite à une discussion citoyenne: les modélisations de la société ont leur utilité mais aussi leurs limites, et les données sur lesquelles elles s’appuient devraient être employées à meilleur escient. Rencontre avec un scientifique critique.

Le Temps: L’humanité est-elle trop complexe pour être mise en boîte?

Pablo Jensen: Quand j’étais jeune chercheur, j’avais une foi un peu naïve dans les régularités physiques du monde naturel. Le système solaire est d’une si élégante stabilité! Avec le temps, j’ai réalisé à quel point cette prévisibilité ne s’appliquait pas à la société. Prenez un tigre, emmenez-le au labo pour mener des expériences, vous en tirerez peut-être des lois générales sur le comportement du tigre. Mais pour ce faire, il aura d’abord fallu l’apprivoiser.

Cette image rend compte du fait que les scientifiques réussissent d’autant mieux à modéliser la société qu’elle a été auparavant domptée, standardisée. Ainsi, l’économie homogénéise nos valeurs par l’argent et les rend commensurables, ce qui facilite les prévisions. Cependant, la grande majorité des comportements sociaux reste imprévisible: nous ne sommes ni des fourmis ni des atomes sociaux!

Les scientifiques ont-ils une vision trop simplifiée de la société?

Pas tous, heureusement. Le risque, c’est que des politiques erronées peuvent naître de ces visions simplistes. Les travaux de l’économiste américaine Elinor Ostrom, par exemple, ont mis en cause la théorie économique classique qui estimait que les individus sont un peu idiots et ont besoin impérativement d’un Etat central ou de la main régulatrice du marché pour gérer le bien commun.

D’où vient cette volonté de modéliser la société?

Du rêve d’une science sûre et absolue, qui remonte à Platon. Il est tentant de trouver des lois irréfutables, une stabilité lumineuse au milieu d’un monde incertain. La tendance s’est accrue au XIXe siècle avec les Etats modernes. Les premiers sociologues ont remarqué par exemple que les taux de suicide étaient à peu près constants d’une année à l’autre, donnant l’impression qu’il existait des lois poussant certains individus à se supprimer.

Les pouvoirs centraux ont tenté de s’appuyer sur ces lois pour gouverner, certains dérivant vers le totalitarisme. De nos jours, elles intéressent aussi grandement l’économie privée, ce qui comporte de nouveaux dangers.

Lesquels?

La Chine nous offre un exemple édifiant avec sa politique de «crédit social», qui utilise le big data pour pister et évaluer ses citoyens. Une évaluation qui peut vous valoir d’être inscrit sur une liste noire vous empêchant de voyager ou de retirer de l’argent. Mais, d’un point de vue très pragmatique, la Chine a l’intelligence de ne pas se laisser piller ses données par des privés, comme le fait l’Europe. Les gouvernements élus ont perdu une grande partie du contrôle sur leur territoire, qui est passé dans les mains des géants du web: les données, c’est le pouvoir!

Sombre perspective, en somme, pour les libertés individuelles…

Pas forcément. C’est vrai qu’en continuant ainsi nous nous dirigeons vers un contrôle social jamais vu à ce jour, sous la férule d’un «Big Brother» dont la Chine nous montre les prémices. Chacun de nos actes devient visible, enregistré, analysé. On sait ce que vous achetez, vos parcours quotidiens, vos fréquentations sur le Net. Comme on est loin du temps de Louis XIV, monarque «absolu», qui en savait en fin de compte si peu sur ses sujets!

Mais il y a une issue: socialiser les algorithmes. L’heure n’est plus à l’expertise scientifique surplombant le corps social pour guider la politique. Il est temps de favoriser l’intelligence collective en utilisant les méthodes formelles, mais en les prenant pour des guides et non des critères absolus. Il y a un bon usage du big data qui reste à construire, non pas par une élite, pas dans des laboratoires, mais par nous tous, péniblement peut-être mais ensemble. Wikipédia est un excellent exemple de mutualisation du bien commun numérique, à des fins d’amélioration de la connaissance.

Alors précisément, ces méthodes formelles que sont les modélisations, les prédictions sociales que vous analysez dans votre livre, devrions-nous les prendre davantage avec des pincettes?

Oui, car le risque de simplification ou de manipulation est omniprésent. Mais je prône une méfiance raisonnable et un bon usage des indicateurs. Les classements annuels des meilleurs lycées, qui tournent à l’obsession, ne disent rien de la qualité de l’enseignement et peuvent avoir un effet néfaste si être premier au classement devient un but en soi. En revanche, évaluer un universitaire par le nombre de citations de ses pairs peut être un bon moyen de débusquer un imposteur.

La question importante est: l’indicateur remplace-t-il l’évaluation ou permet-il de l’enrichir? De même, nos données personnelles peuvent être utilisées à bon escient. Par exemple, dans le domaine des soins, il serait utile d’avoir une vision plus complète des données du patient, pour améliorer les traitements. En prenant bien sûr garde à ce que les assureurs ne les utilisent pas pour «adapter» les primes de leurs clients.


Des algorithmes pour les gouverner tous

Modélisation, prédiction des comportements sociaux, contrôle social, ces thèmes ont été abordés par de grands auteurs de science-fiction il y a plus d’un demi-siècle.

◼︎ «Fondation», d’Isaac Asimov (1940-1970)

Œuvre monument de la science-fiction, le cycle de Fondation se passe dans un futur lointain. A la base du récit, une invention géniale d’un mathématicien nommé Hari Seldon: la «psychohistoire», une science capable de prédire la chute prochaine de l’empire et un règne de la barbarie. «Je ne suis pas spécialiste d’Asimov, admet Pablo Jensen, mais je trouve que son idée est typique d’une époque où l'on pensait que la science toute-puissante trouverait des lois infaillibles. Cette idée revient en force aujourd’hui, avec par exemple le projet FuturICT, qui veut mettre sur pied un «simulateur terrestre» pour comprendre tous les problèmes et ainsi «gouverner notre futur».

◼︎ «Minority Report», de Philip K. Dick (1956)

Dans un futur proche, des êtres humains mutants ont un don de prescience leur permettant de prédire des crimes encore non commis. «Cette œuvre a dû inspirer le logiciel PredPol, indique le chercheur. Il est utilisé par plusieurs polices américaines pour anticiper des délits, mais son efficacité est difficile à évaluer car protégée par le secret commercial. Les évaluations indépendantes suggèrent qu’il ne fait pas mieux que les humains, en reproduisant simplement le passé…» En Suisse, la ville de Zurich utilise un tel outil prédictif. La police locale affirme avoir ainsi fait chuter le nombre de cambriolages de 30 à 40% depuis 2014. En Suisse romande, ce genre de logiciel peine encore à séduire les autorités.

◼︎ «1984», de George Orwell (1949)

Winston Smith, citoyen d’un empire totalitaire, vit dans un monde de surveillance permanente sous l’œil de «Big Brother». Déviant du droit chemin, il est rattrapé par le Parti aux griffes d’acier. «Le nouveau contrôle social numérique imposé par la Chine communiste à ses citoyens me semble illustrer la pertinence et la modernité de cette œuvre, estime Pablo Jensen. Jusqu’où l’Etat doit-il exercer un contrôle social? En Europe, le cloisonnement entre les données – par exemple entre votre assurance maladie et vos prêts bancaires – assure une certaine préservation de la vie privée. Mais jusqu’à quand? Par ailleurs, cette œuvre montre par quels mécanismes pervers on peut «dresser» des êtres pour qu’ils se comportent comme on l’attend.»

Publicité
Publicité

La dernière vidéo société

Au Vietnam, on se nourrit volontiers de serpents

Les Vietnamiens sont friands de serpents. On y voit l'influence de la tradition chinoise. Mais la pratique choque, y compris dans les villes du pays

Au Vietnam, on se nourrit volontiers de serpents

n/a