«Socialbot», l’ami qui nous veut du mal

«Il n’est pas humain. Il est un robot. Dante Pryor est un socialbot.» C’est ainsi, via le dernier épisode en date de la série TV The Good Wife, diffusé aux Etats-Unis dimanche dernier, que la notion de socialbot faisait brusquement irruption dans l’air du temps, dans notre culture commune et dans les conversations. Des «robots sociaux» qui parviennent à se faire passer pour des humains sur Facebook ou Twitter? Parmi les faux-semblants qui peuplent les réseaux sociaux du Web, voici assurément l’un des plus méconnus et des plus troublants. Des plus inquiétants, aussi. Car c’est rarement pour rire. «Comment un robot a-t-il pu diffamer votre client?» demande le juge. «Il est conçu pour recycler et recracher les commentaires et ragots d’autrui. C’est une version informatisée des pires côtés de la nature humaine», martèle l’avocate Alicia Florrick, héroïne de la série.

C’est plus ou moins pareil dans la vraie vie. «Cela s’est vu, par exemple, dans des campagnes politiques. Un algorithme crée des socialbots par milliers pour exercer de l’influence ou pour noyer des avis divergents», explique Anna Jobin, sociologue et informaticienne, chercheuse à l’EPFL et à l’Université de Lausanne, engagée dans une thèse de doctorat sur nos interactions avec les algorithmes. Exemples? Les gouvernements mexicain, russe et syrien ont été accusés de déployer des armées de socialbots au cours des trois dernières années. Et le groupe de recherche Truthy de l’Université de l’Indiana à Bloomington a observé l’usage de cette arme électorale pendant les élections du Congrès états-unien en 2010.

Algorithme et séduction

Au fond, qu’est-ce que c’est? Un socialbot est un programme informatique automatisé, capable de se créer un profil sur les réseaux sociaux, avec un nom et une jolie photo, puis d’établir des connexions avec les usagers, de s’exprimer, de commenter les «posts» de ses «amis», d’alimenter les discussions. La chair dont il se pare, si l’on peut dire, est obtenue en piochant dans la matière vivante mise en ligne par les humains: ­visages séduisants empruntés au site Hotornot.com, éléments identitaires ramassés çà et là sur le réseau, avis tranchants glanés dans les actualités ou dans les tweets des autres.

Des sites tels que 10minute­mail.com permettent à l’essaim de «robots» de se procurer des adresses e-mail jetables pour s’inscrire au réseau. D’autres services en ligne sont mis à profit pour contourner l’obstacle du captcha, cette suite de caractères tordus qu’il faut déchiffrer pour «prouver que vous êtes humain» (la bonne blague…). Le reste, la recette qui malaxe ce fatras de données pour simuler le comportement d’un individu lambda, est une affaire d'algorithmes.

Le plus souvent, les socialbots débarquent sur les réseaux sociaux en tant qu’envahisseurs. Ils ont des visées politiques ou commerciales, voire frauduleuses, et sont traités en indésirables lorsqu’ils se font repérer. Parfois, c’est en revanche le site même où ils sont actifs qui les crée. «C’est le cas de certains sites de rencontre. Lorsqu’il y a plus d’hommes que de femmes parmi les usagers, le réseau risque de perdre en attractivité. On peut assister alors au ­déploiement en masse de faux profils féminins créés par des algorithmes pour augmenter l’activité. Un programme unique peut créer 20 000 profils. Un algorithme peut se faire passer pour une multitude. Ce sont des manipulations malveillantes, trompeuses», observe Anna Jobin.

Le chat et la souris

Les robots informatiques (ou bots) en tant que tels ne sont pas une nouveauté. Lorsque Amazon.com vous suggère des achats, vous savez (non?) qu’un algorithme a analysé vos acquisitions précédentes pour modéliser vos goûts. Il y a tentative de mani­pulation de votre comportement d’achat, oui, mais pas tromperie. Les socialbots, c’est une autre paire de manches. Même si, avec le temps, il est possible que la frontière devienne moins claire…

«Le site Netflix – un service de visionnement de films en ligne – a déterminé que dans 60% des cas, le consommateur choisit d’après une suggestion générée à partir de l’historique de ses choix. L’enjeu, c’est désormais les 40% restants, ceux qui préfèrent sortir des sentiers battus. Peut-on les modéliser aussi?» On frémit… «Des start-up de la Silicon Valley y travaillent. On parle d’«algorithmes de sérendipité»… Dans le cas des socialbots, d’une manière semblable, on programme des incohérences, des irrégularités, de l’arbitraire, pour que leur comportement paraisse plus crédible», reprend Anna Jobin. Il ne s’agit pas seulement de tromper les usagers, mais aussi le réseau social lui-même. «D’un côté, vous avez des algorithmes conçus pour influencer les usagers sans se faire repérer. De l’autre, des algorithmes créés pour détecter ces algorithmes sociaux. C’est le jeu du chat et de la souris.»

Lorsque le troupeau de socialbots et leur propriétaire humain (le botherder, ou «gardien de robots») réussissent leur coup, personne n’en parle: leur action demeure indécelable. Les socialbots qui défraient le plus la chronique sont ceux qu’on monte de toutes pièces pour démontrer… comment fonctionne un socialbot. L’été dernier, un bot brésilien nommé Carina Santos parvenait ainsi à devenir une journaliste ­influente sur Twitter en recyclant machinalement des tweets du journal Globo. «Ses créateurs, chercheurs à l’Université fédérale d’Ouro Preto, voulaient montrer que les mesures d’influence utilisées par Twitter (retweets, abonnés ou followers) ne sont pas fiables.» Mission accomplie…

,