Comment le capitalisme de surveillance opère sur Facebook

Il y a quelques mois, nous évoquions l’essor et la permanence d’un capitalisme de surveillance sur les réseaux sociaux qui manipule désormais notre économie, notre société et même nos vies en toute impunité. Cette nouvelle logique économique constitue une menace non seulement pour notre vie privée, mais également pour la démocratie, expliquait dans ce sens la sociologue Shoshana Zuboff dans un article du New York Times.

Récemment, John Naughton, professeur de compréhension publique de la technologie à l’Open University, a publié une chronique pour le quotidien britannique The Guardian dans laquelle il explique la manière dont opère le capitalisme de surveillance sur le réseau social Facebook et comment toute publication entraîne des conséquences algorithmiques.

Le logiciel publicitaire de Facebook est magnifiquement conçu

Naughton, auteur de l’ouvrage « From Gutenberg to Zuckerberg: What You Really Need to Know About the Internet », rapporte l’épisode vécu par Anne Borden King, une Britannique ayant publié un jour sur son compte Facebook qu’elle avait été diagnostiquée d’un cancer du sein.

« Depuis que j’ai annoncé mon cancer du sein sur Facebook, mon fil d’actualité contient de nombreuses publicités pour des soins alternatifs contre le cancer. Ces publicités, nouvelles sur mon fil d’actualité, font la promotion de tous types de soins, des graines de cumin à l’argent colloïdal en tant que traitements contre le cancer. Certaines annonces publicitaires promeuvent même des cliniques de luxe ou des thérapies non toxiques contre le cancer sur une plage au Mexique », explique Anne Borden.

Marketing pseudoscientifique

L’ironie est qu’Anne Borden King est la dernière personne susceptible de se laisser berner par ce type de publications douteuses. En effet, elle exerce en tant que consultante pour le groupe de surveillance scientifique Bay Science Wach et elle est cofondatrice de Campaign Against Phony Autism Cures, une association qui milite contre les traitements et les fausses nouvelles liés à l’autisme.

Par conséquent, King a facilement reconnu dans les annonces de son fil d’actualité toutes les caractéristiques révélatrices d’un marketing pseudoscientifique, explique le professeur Naughton.

« Quand j’ai vu ces publicités, j’ai compris que Facebook m’avait tagué pour que je les reçoive », précise King.

Facebook dresse notre profil pour les annonceurs publicitaires

On pourrait se demander si même un utilisateur habitué des réseaux sociaux comprend vraiment le fonctionnement de Facebook, explique John Naughton.

« Il est évident que King a été étiquetée par Facebook soit en tant que cancéreuse, soit en tant que personne intéressée par le cancer ou peut-être dans les deux catégories. Les algorithmes de la plate-forme enregistrent tout ce qu’un utilisateur fait et s’attachent à dresser son profil pour aider les annonceurs à atteindre un type d’utilisateurs qui répondent à des critères démographiques ou autres. »

Selon Naughton, la seule façon de comprendre le fonctionnement de Facebook est d’y accéder en tant qu’annonceur, c’est-à-dire en tant que client, plutôt qu’en tant que simple utilisateur.

« Ce que l’on rencontre ensuite est un système automatisé tout à fait brillant qui vous guide à travers le processus de création d’un public personnalisé pour tout message publicitaire que vous souhaitez diffuser. Et au fur et à mesure que vous parcourez ce système, ce dernier vous propose des idées de catégories d’utilisateurs auxquelles vous n’aviez peut-être pas pensé (ou même rêvé) mais qui pourraient s’avérer pertinentes pour votre campagne. »

Dans le cas de King, les fournisseurs vantant les graines de cumin en tant que traitement contre le cancer ont probablement dû indiquer s’ils souhaitaient inclure dans leur profil d’audience personnalisée les utilisateurs ayant récemment été diagnostiqué d’un cancer du sein ainsi que ceux qui ont exprimé un intérêt pour les thérapies non toxiques contre le cancer ou pour la vitamine D.

Facebook, une machine publicitaire

« Pour les annonceurs, l’objectif de l’exercice est d’élargir l’éventail des personnes susceptibles d’être réceptives à leurs messages. Pour Facebook, l’objectif est d’augmenter les recettes publicitaires. C’est donc un scénario win-win pour les deux parties. C’est loin d’être le cas pour King et pour les utilisateurs », écrit John Naughton.

« Tout l’intérêt de la machine publicitaire Facebook repose précisément dans le fait que c’est une machine. Facebook ne connaît que les corrélations entre les exigences des annonceurs et les profils des utilisateurs. Il ne connaît ni ne se soucie du cancer ou de quoi que ce soit d’autre. »

En 2017, des chercheurs se sont attachés à démontrer le fonctionnement publicitaire de Facebook. Ceux-ci ont réalisé une expérience pour voir si la machine Facebook les aiderait à promouvoir trois publications auprès d’utilisateurs antisémites.

À un moment donné du processus, le système automatisé a demandé aux chercheurs s’ils souhaitaient inclure les personnes qui correspondent à au moins un des éléments suivants :  Schutzstaffel (SS), histoire de « pourquoi les Juifs ruinent le monde », « comment brûler les Juifs » et « personne qui déteste les juifs ». Le système a alors expliqué aux chercheurs que leur sélection d’audience potentielle était remarquable et qu’ils pourraient atteindre environ 108.000 personnes. Et le tout pour seulement 30 dollars !

Les chercheurs de ProPublica ont alors contacté Facebook et l’entreprise a supprimé les catégories antisémites. Le réseau social leur a expliqué qu’il chercherait un moyen de résoudre le problème comme, par exemple, en limitant le nombre de catégories disponibles ou encore en procédant à leur examen avant de les proposer aux annonceurs.

L’argent avant tout

« Il est inutile d’essayer d’anthropomorphiser cela. Facebook n’est pas dirigé par des nazis. Mais ces ingénieurs ont construit une machine incroyablement puissante et magnifiquement conçue pour faire correspondre les annonceurs avec des personnes qui pourraient être réceptives à leurs messages. Et il est clair que les annonceurs adorent cette machine, car cela leur procure la sensation agréable que leurs budgets publicitaires peuvent être dépensés plus efficacement sur Facebook plutôt que sur des panneaux d’affichage ou dans des publicités télévisées. Ce qui, bien entendu, signifie aussi malheureusement que le boycott publicitaire très médiatisé contre Facebook stimulé par les manifestations #blacklivesmatter aura peu d’impact sur ses résultats. La morale est importante, mais c’est l’argent qui parle », avance Naughton dans The Guardian.

Selon lui, l’une des choses remarquables des médias sociaux à leurs débuts était la façon dont ils permettaient aux personnes de tendre la main aux autres et de trouver du soutien et de l’aide quand elles en avaient le plus besoin.

« Peut-être que cela se produit encore. À l’origine, cependant, les communications n’étaient pas organisées par des algorithmes conçus pour en extraire de la valeur. Mais le modèle économique que nous dénommons dorénavant « capitalisme de surveillance » a payé et c’est la raison pour laquelle vous ne devriez jamais rien publier sur Facebook sans être prêt à faire face aux conséquences algorithmiques. »