Réseaux sociaux

Crise des fake news et ingérence russe: comment Facebook a perdu le contrôle

Le magazine américain «Wired» raconte dans une (très) longue enquête les crises qui ont secoué le réseau social pendant deux années noires, et sa lente réaction une fois mis face à ses responsabilités. Magistral

L'article original signé Nicholas Thompson et Fred Vogelstein est composé de 13 chapitres, que nous avons choisi de titrer pour une meilleure compréhension.

Sur le site de Wired: Inside the Two Years That Shook Facebook—and the World


C’est une longue enquête passionnante et édifiante que conte cette semaine le mensuel américain Wired. Cinquante et une interviews et 70 000 signes d’un récit souvent haletant pour retracer les deux dernières années de Facebook, ces deux anni horribiles qui ont vu le réseau social manipulé et envahi de fausses nouvelles, au point qu’il a été accusé d’avoir attisé les haines et fait élire Donald Trump. C’est l’histoire d’un aveuglement, d’une chute, d’une succession d’événements mal évalués, mal compris. Une histoire qui concerne le réseau mais aussi ses 2 milliards d’utilisateurs. Voici, chapitre par chapitre, l’essentiel de cette enquête (les sous-titres sont ajoutés).


I. L’effet Sarajevo de deux captures d’écran

Tout commence en février 2016 dans les locaux de Facebook à Menlo Park, quand, sur le mur blanc destiné à accueillir pensées et commentaires des employés, à plusieurs reprises, une main anonyme barre un «Black lives matter» pour le remplacer par un «All lives matter». Courroucé, Mark Zuckerberg envoie un mémo à tous les employés du groupe pour condamner le geste. De quoi susciter la curiosité d’un jeune diplômé de la Columbia Journalism School,  sous contrat à la section Trending Topics chargée d’éduquer les algorithmes qui décideront des sujets qui doivent «remonter» sur Facebook – c’est l’équipe qui doit éliminer les informations complotistes ou fausses, et maintenir un équilibre éditorial. Benjamin Fearnow flaire un bon sujet, il fait une capture d’écran du mémo de Zuckerberg et l’envoie au site web Gizmodo, où travaille un de ses anciens compagnons d’uni. Celui-ci publie l’information, et quelques jours plus tard Benjamin Fearnow est identifié (on apprend au passage que Facebook a pu avoir accès à son compte Gmail), convoqué et renvoyé.

La veille, il a fait une 2e capture d’écran, pour immortaliser l’une des questions que les employés de Facebook veulent le plus poser en interne à Mark Zuckerberg: quelle est leur responsabilité pour empêcher Donald Trump de se faire élire l’année suivante? Gizmodo continue d’enquêter, rencontre d’autres membres de l’équipe des Trending Topics et publie en mai un article qui va changer la face du monde pour le réseau social: «Des anciens de Facebook racontent: «Nous supprimions couramment des articles conservateurs». L’article devient instantanément viral, repris par tous les sites conservateurs, commenté partout ailleurs, et il va durablement faire tanguer le navire. «Ces captures d’écran ont une résonance mondiale, Fearnow avec ses fuites est comme l’assassin de l’archiduc François-Ferdinand [déclencheur de la Première Guerre mondiale, ndlr]», écrit Wired.

II. La rivalité avec Twitter et le statut de plateforme neutre

«Move fast and break things» (qui peut être traduit par «avancer vite et casser les codes») est le motto de Mark Zuckerberg, écrit le magazine, et c’est parce qu’il achète ou fait couler ceux qui peuvent lui faire de l’ombre qu’il s’est intéressé à l’information, à cause de Twitter. En 2012, le réseau à l’oiseau bleu était «une très forte menace», se rappelle un ancien cadre de Facebook, et c’est pourquoi Facebook a amélioré l’intégration des articles des sites d’information, convaincu les médias de passer par sa plateforme, et finalement développé les «instant articles» en 2015, accélérant le déclin de Twitter. Mais Facebook n’a jamais vraiment réfléchi aux implications, analyse Wired. Qu’est-ce qu’un fait? Qu’est-ce qui est juste? Comment montrer la différence entre la satire, le commentaire, le factuel? Facebook s’est toujours réfugié derrière son principe quasi-religieux de neutralité, son statut de plateforme ouverte à tous les contenus, protégé par la loi sur les communications de toute responsabilité sur ses publications. C’est ainsi que Facebook a choisi de tout montrer de la même façon – une enquête du Washington Post, une rumeur du New York Post, une photo de votre chien: vous voyez ce que vos amis choisissent de vous montrer, pas un ponte dans sa tour. Facebook est la plateforme d’où les journaux peuvent s’adresser à leurs lecteurs. Et Wired complète: «Une plateforme aussi à la disposition des ados hackers en Macédoine, ou de décideurs à Moscou.»

III. Quand Facebook veut faire la paix avec les conservateurs

C’est à l’époque du fiasco des Trending Topics qu’un investisseur de longue date de Facebook, Roger McNamee, commence à remarquer des choses bizarres: des mèmes venant visiblement de groupes Facebook associés à la campagne de Bernie Sanders (à l’époque encore dans la course contre Hillary Clinton pour l’investiture démocrate), et pourtant qui ne peuvent pas venir de là. Mais McNamee ne dit rien. Facebook se débat à ce moment contre les accusations de biais politiques dans la campagne, suite à l’article de Gizmodo. Un sénateur exige des réponses officielles. Facebook répond que les allégations sont largement fausses, et pour faire la paix avec les conservateurs, invite 17 personnalités républicaines, stars de la télé et autres conseillers. L’idée était que libertariens et conservateurs s’opposent sur la nécessité de réguler la plateforme, et donc que rien ne se passe. «Comme souvent lorsque des personnes extérieures à l’entreprise rencontrent des membres de Facebook, elles passèrent leur temps à voir comment elles pouvaient obtenir plus d’abonnés à leurs pages», écrit Wired

Un peu plus tard, la star des conservateurs, Glenn Beck, félicite Mark Zuckerberg: «Je lui ai demandé si Facebook allait tout partager ou trier les contenus. Sans hésitation, avec clarté et courage, il m’a dit qu’il n’y avait qu’un seul Facebook et un seul chemin: «Nous sommes une plateforme ouverte». A la même époque, le chef du News Feed publie son manifeste: «Bâtir un meilleur fil de nouvelles pour vous», réaffirmant la nécessité de la neutralité. La conséquence principale de tout cela est que Facebook redoute désormais de se faire pincer en flagrant délit de censure de nouvelles pro-conservateurs. «Et c’est ainsi qu’un été de calomnie et de rancœur commence, tandis que Facebook espère rester hors de l’arène» écrit Wired.

IV. Où la pression des éditeurs aboutit à la fin de la manutention fine de l’algorithme de l’information, et au début des «fake news»

C’est aussi à cette époque que Mark Zuckerberg rencontre Rupert Murdoch. Le patron du groupe de médias News Corp lui fait part de sa frustration envers Facebook et Google – qui ont subtilisé la majeure partie du marché publicitaire online et affaiblissent la presse – et menace de lui mener la vie dure. Des menaces que Facebook prend au sérieux: un haut cadre du groupe a confié à Wired que nombre des comptes de prédateurs sexuels qui ont valu au groupe une série de critiques et de plaintes en 2007 étaient des faux, et qu’ils étaient liés à des comptes d’avocats de News Corp ou d’employés de Murdoch, à l’époque le propriétaire du principal concurrent de Facebook, Myspace. Mark Zuckerberg revient effectivement convaincu qu’il faut des changements. Pour les éditeurs, les «instant articles» qui sont lus sur le site de Facebook ne leur apportent rien, de plus ils sont en accès libre sans paywall, ce qui nuit par exemple au Wall Street Journal de Murdoch. Le groupe réfléchit. L’équipe des Trending Topics est dissoute en août 2016, des ingénieurs de Seattle prennent le contrôle de l’algorithme. Très vite, le module commence à afficher mensonges et fiction, écrit Wired, comme «Fox News dévoile la traîtrise de Megyn Kelly et la renvoie pour son soutien à Hillary Clinton».

V. Les équipes de Trump démontrent leur maîtrise de Facebook et les «fake news» envahissent le réseau

Tandis que Facebook domine les médias sans vouloir en faire partie, les équipes de Donald Trump comprennent vite que le réseau va leur permettre de mener la campagne de marketing politique direct la plus efficace de l’histoire. Le directeur des médias sociaux de Trump est pourtant son ancien caddie et Hillary Clinton est conseillée par le patron de Google, Eric Schmidt. Mais, en un été, l’équipe de Trump fait de Facebook une de ses premières sources de financement, raconte Wired. Comment? Les équipes de Trump uploadent sur Facebook toutes les informations sur ses partisans. Ils identifient le profil de ceux qui se sont abonnés aux newsletters de Trump, ou ont acheté des casquettes pro-Trump, grâce aux instruments de profilage de Facebook. Et ils utilisent ensuite l’autre instrument de Facebook, des «audiences similaires» pour cibler tous les internautes qui ont le même profil. L’effet est immédiat. Des messages comme «cette élection est truquée par les médias qui lancent de fausses accusations pour faire élire Hillary l’escroc» reçoivent des centaines de milliers de «j’aime». L’argent coule à flots. Les messages des démocrates deviennent moins visibles. Les cadres de Facebook souhaitent presque tous la victoire de Clinton, mais constatent que Trump utilise bien mieux la plateforme.

Toute une série de magouilleurs montent dans le train des fake news, écrit Wired. Le site Ending the Fed, annonçant que le pape soutient Trump, reçoit ainsi plus d’un million de commentaires et de partages. Les fake news génèrent bien plus de «j’aime» et de partages que les vraies informations. Les cadres de Facebook, myopes, ne voient et ne font toujours rien: il y a le souvenir cuisant de l’échec des Trending Topics, d’autre part le réseau vend de la publicité grâce à ces histoires sensationnelles qui ramènent de l’audience. Ils craignent aussi, en prenant partie sur les fake news, de devoir prendre d’autres responsabilités que celles d’une simple plateforme. A la fin de l’été, Roger McNamee, l’investisseur historique de Facebook, sort de son silence et écrit un long mail à Zuckerberg et Sandberg, qui commence ainsi: «Je me suis investi dans Facebook il y a plus de dix ans et cela a été une grande fierté et une joie… jusqu’il y a quelques mois. Maintenant je suis déçu. Je suis embarrassé. J’ai honte.»

VI. Donald Trump est élu, et une cellule Info intègre voit le jour

L’élection de Trump sème la panique les premiers jours à Facebook. «L’idée que les fake news sur Facebook – dont vous savez qu’elles ne représentent qu’une toute petite partie – auraient pu influencer les élections, cette idée est vraiment stupide» commente Mark Zuckerberg, deux jours après le vote. Des propos mal reçus dans la société: «On sentait que si on ne rectifiait pas le tir, on prendrait le même chemin damné qu’Uber» dit un cadre. Huit jours plus tard, Zuckerberg poste un début de mea-culpa et évoque un plan en 7 points. A Lima, il rencontre Barack Obama qui le somme de réagir, selon des médias; mais Wired cite un proche de Zuckerberg, selon lequel c’est le patron de Facebook qui a voulu convaincre l’ex-président de sa volonté de redresser la barre. Une équipe dénommée «Task Force Info intègre» est lancée, et peu après Facebook annonce qu’il va couper les revenus publicitaires pour les «fermes à clics», et rendre plus simple le signalement par les internautes d’informations suspectes. En décembre, Facebook annonce l’arrivée du fact-checking sur la plateforme, sous-traité à des professionnels chargés d’évaluer les articles signalés. L’entreprise embauche une ancienne gloire de CNN, Campbell Brown, chargée de mettre en place un projet équivalent au News Lab de Google, montrant l’implication de Facebook dans le problème de l’information. «Comment faire pour sortir les gens de leur bulle de filtre? Le problème, ce n’est pas Facebook, ce sont les hommes» écrit Wired.

VII. L’engrenage de la désinformation dénoncé par une influente troïka

C’est à cette époque qu’un attelage étonnant se met en place: la chercheuse en sécurité Renée DiResta publie en mai 2017 un article montrant comment les bots alimentent la désinformation: vous vous abonnez à une page anti-vaccins et Facebook vous suggère de rejoindre un groupe de gens persuadés que la Terre est plate, puis un groupe consacré au Pizzagate… Son article fait du bruit; et elle est contactée par un ancien de Google, Tristan Harris, devenu une conscience inquiète de la Silicon Valley, qui lui-même a été contacté par Roger McNamee, l’investisseur, excédé du manque de réactions de Facebook. Tous les trois se rejoignent sur un constat: Facebook a des effets délétères sur la démocratie américaine. Et ils ont vite l’oreille des médias et du Congrès, deux groupes qui ont leurs propres griefs contre le média social géant.

VIII. Facebook fait un pas vers les éditeurs, et Zuckerberg vers les citoyens

Les relations n’ont jamais été simples entre les éditeurs et Facebook, rappelle Wired, ils sont liés mais ne s’aiment pas. Les éditeurs reprochent à Facebook (et Google) d’avoir capturé près des 3/4 du marché de la publicité et à son algorithme de les pousser à publier des choses de plus en plus bêtes. Ils redoutent son poids: Facebook vaut 200 fois plus que le Time et détient le vrai pouvoir. De leur côté, les cadres de Facebook en ont assez de se faire donner des leçons par des gens qui ne font pas la différence entre un algorithme et une interface de programmation. Ils savent que si Facebook a récupéré la publicité, c’est parce que leur modèle est meilleur. Cette méfiance mutuelle n’a rien fait pour faciliter les débuts du projet journalistique de Campbell Brown à Facebook. Mais celle-ci est confortée quand, en février 2017, Mark Zuckerberg publie un nouveau manifeste qui commence par ces mots: «Sommes-nous en train de construire le monde que nous voulons?» et qui insiste sur la nécessité de se débarrasser des clickbaits et des fake news. Pour Brown, le texte montre que Zuckerberg comprend la responsabilité civique de la société. Pour d’autres, c’est juste un texte grandiloquent dans lequel il suggère que la réponse à tous les problèmes est que les gens doivent plus utiliser Facebook.

C’est peu après que Mark Zuckerberg commence à voyager à l’intérieur des Etats-Unis pour écouter les Américains – pour certains, un tour de chauffe présidentiel.

IX. Dans la douleur, Facebook découvre l’ampleur des dégâts

Ce n’est qu’environ six mois après l’élection que Facebook se rend compte que la plateforme a donné du pouvoir à bien d’autres que des adolescents hackers de Macédoine et autres pourvoyeurs de taureaux au rabais, continue Wired. Le chef de la sécurité de Facebook, Alex Stamos, connu pour avoir refusé de donner l’accès à ses serveurs au renseignement américain quand il était à Yahoo!, publie son rapport le 27 avril 2017, au lendemain du jour où le Sénat américain convoque le chef du FBI, James Comey, dans le cadre de son enquête sur les ingérences russes dans l’élection. Ce rapport détaille la façon dont un pays ennemi pourrait utiliser Facebook pour manipuler l’opinion: mais il donne peu d'exemples et ne mentionne pas la Russie. «Je me rappelle avoir pensé: mon Dieu, c’est tout ce qu’ils ont pu faire en six mois», dit la chercheuse Renée DiResta… Peu après, le Time suggère qu’il a peut-être raté des signes et cite les services de renseignement, selon lesquels des Russes ont acheté des publicités sur Facebook pour répandre de la propagande.

Facebook apprend que le Congrès travaille sur une piste russe et se met à creuser. Qu’est-ce qui a été payé en roubles? Qu’est-ce qui a été installé par des navigateurs paramétrés en russe? La société finit par identifier une série de comptes financés par une agence de recherche sur Internet, mise sur pied pour influencer l’opinion américaine. Un compte Cœur du Texas qui appelle à la sécession de l’Etat. Un compte Blacktivist qui promeut des histoires de brutalité policière envers les Noirs, avec plus d’abonnés que la véritable page officielle de Black Lives Matter… Quand nombre de chercheurs en sécurité expriment leur consternation devant le temps que Facebook a pris pour comprendre le rôle des «fermes à clics» russes, les cadres répondent qu’ils n’ont reçu aucune aide des agences de renseignement.

Même la découverte de la propagande russe se fait dans la confusion. Ainsi, en raison d’une erreur de calcul, les premiers chiffres articulés font état de millions de dollars dépensés en publicité, alors qu’il ne s’est agi que de centaines de milliers de dollars. Il faut ensuite décider à qui Facebook communique quelle information. Finalement, le chef de la sécurité Alex Stamos publie dans un post de blog à son nom en septembre 2017 ceci: les Russes ont acheté pour 100 000 dollars environ 3000 publicités destinées à influencer l’opinion américaine au moment des élections. Peu de publicité, peu d’argent: de quoi minimiser les dégâts.

Pour la chercheuse DiResta, «on passe de l’incompétence à la malveillance», explique-t-elle à Wired. Quelques semaines plus tard, elle reçoit un appel d’un chercheur du Tow Center for Digital Journalism, le centre de recherche de la Faculté de journalisme de Columbia. Jonathan Albright a récupéré les données de six des comptes suspendus par Facebook, dont celui qui milite pour la sécession du Texas ou celui qui joue sur la haine raciale. Le chercheur a étudié les 500 derniers messages de chacun des six comptes et établi qu’ils avaient été partagés plus de 340 millions de fois.

X. Des critiques de plus en plus publiques et fortes

Les premières auditions au Congrès ont lieu en novembre 2017. Roger McNamee, Tristan Harris et Renée DiResta ont briefé les parlementaires du Sénat et de la Chambre des représentants chargés des auditions. Il avait été question à un moment que ce soit les patrons de Google, Facebook et Twitter qui viennent témoigner eux-mêmes, dans une mise en scène théâtrale qui aurait rappelé ce qu’ont dû faire les industries du tabac une génération plus tôt. «Non, nous n’avons pas de règlement interdisant à un Etat étranger d’utiliser Facebook pour des campagnes d’influence, explique Colin Stretch, le directeur juridique de l’entreprise. Non, Facebook ne se sent pas obligé de prévenir tous les utilisateurs qui ont été mis en présence de publicités russes que c’était de la tromperie». Wired souligne la menace de la sénatrice Dianne Feinstein, Californienne comme Facebook: «Vous avez créé ces plateformes, elles sont détournées de leur but, c’est à vous de les réparer. Sinon, ce sera nous.»

Une autre digue cède encore avec ces auditions. Une semaine plus tard, le premier président de Facebook, Sean Parker, regrette publiquement d’avoir porté Facebook: «Dieu seul sait ce que cela fait au cerveau de nos enfants.» Onze jours plus tard, l’ancien responsable de la confidentialité de Facebook et ex-vice-président Chamath Palihapitiya demande au gouvernement de réguler la société, dans une opinion publiée par le New York Times: «La compagnie ne va pas nous protéger d’elle-même, et ce n’est rien moins que la démocratie qui est en jeu.»

XI. Premières concessions de Facebook

Le jour des auditions au Sénat est aussi celui où Mark Zuckerberg doit commenter les résultats du 3e trimestre de Facebook. Ils sont excellents mais Mark Zuckerberg préfère plutôt montrer qu’il comprend la leçon. «J’ai dit combien je suis fâché que les Russes aient voulu utiliser nos outils pour semer la méfiance… pour miner nos valeurs. Nous ne nous laisserons pas faire.» Et d’annoncer que Facebook allait tant investir dans la sécurité que le groupe gagnerait significativement moins d’argent pendant un moment. Autre signe qu’il commence à absorber les critiques, après l’avoir refusé pendant des années, Mark Zuckerberg accepte que les éditeurs conservent leur paywall même pour des «instant articles». Le chef des News à Facebook reconnaît que l’écosystème de ce dernier a longtemps favorisé les clickbaits, les informations sensationnalistes, au détriment de l’information de qualité. «Un réseau social qui ne récompense que les clics et pas les abonnements, c’est comme une appli de rencontres qui encourage les coups d’une nuit mais pas les mariages», écrit Wired

XII. La prise de conscience s’accélère

Peu avant Thanksgiving, Mark Zuckerberg évoque «l’immense responsabilité» qui est celle de Facebook. Il ne doit pas très bien dormir la nuit, explique un employé à Wired. En cette fin d’automne, Facebook est accusé de nourrir la haine contre les Rohingyas en Birmanie et de soutenir le pouvoir autoritaire de Duterte aux Philippines. Zuckerberg accuse le coup quand l’ex-vice-président Chamath Palihapitiya, encore lui, déclare dans une conférence à Stanford que, selon lui, Facebook «déchire le tissu social», qu’il se sent profondément coupable et que ses enfants n’ont pas le droit d’aller sur ce genre de plateforme. Roger McNamee aussi se répand en commentaires désobligeants sur la compagnie, même si certains cadres estiment qu’il exagère sa relation à Facebook. A cette époque en tout cas, Mark Zuckerberg participe à un dîner avec des hauts cadres, les patrons de News Corp, et fait l’éloge de Rupert Murdoch.

XIII. Les bonnes résolutions du Nouvel An

4 janvier 2018. Sur un ton grave, Mark Zuckerberg présente ses défis pour 2018. Il veut renforcer les «interactions qui ont du sens» sur Facebook, pour que le temps qu’on y passe soit «de qualité» – et il s’attend à ce que le temps passé sur la plateforme diminue. Les critiques sont nombreuses dans la presse qui accuse Zuckerberg de vouloir la laminer un peu plus – ce n’est pas du tout le cas, affirme son entourage, il veut honnêtement passer de «tout est bon qui fait du clic» à «tout est bon qui fait réfléchir et suscite la discussion». Huit jours plus tard, il annonce que Facebook va favoriser certains éditeurs, ceux dont les contenus sont de confiance, informatifs et localisés. D’autres annonces de ce genre devraient suivre cette année, écrit Wired. Zuckerberg a toujours bien réagi aux menaces – rachetant Instagram quand les images ont décollé, WhatsApp quand les messageries ont pris leur essor, copiant Snapchat quand celui-ci se faisait menaçant. Mais cette fois, le chemin de croix des mois précédents l’a profondément changé, dit son entourage, il a beaucoup réfléchi et s’inquiète, son «technoptimisme» est en berne, il est profondément troublé, et est devenu parano quant à la façon dont les utilisateurs pourraient détourner ce qu’il a construit.

Zuckerberg a aussi évolué au sujet de sa conception de Facebook. Lui qui n’avait jamais accepté le rôle d’éditeur, affirmant que le réseau social n’était qu’une plateforme, a compris qu’il avait une responsabilité envers son public. «On ne peut pas rendre le monde plus ouvert et plus connecté si on le disloque. Editeur ou plateforme, Facebook semble enfin avoir reconnu qu’il est clairement les deux» conclut Wired.

Publicité