Les réseaux sociaux, une vaste machine utilisée pour modifier notre comportement

Les réseaux sociaux dérobent, sous nos yeux, notre temps. Ces plateformes ont été conçues avec comme principal objectif (pour lequel elles emploient toutes les techniques inimaginables) notre programmation comportementale, affirme Jaron Lanier, un des pionniers de la réalité virtuelle et de l’Internet, critique virulent des réseaux sociaux, dans une longue interview accordée au magazine GQ.

Nous avons l’habitude de croire que les réseaux sociaux se distinguent par leur gratuité. Toutefois, il est loin d’en être ainsi. Nous payons notre présence sur les médias sociaux avec la « certitude » sur nos comportements en ligne que celle-ci offre à leurs partenaires commerciaux, propose Soshana Zuboff, sociologue et professeure émérite de Harvard, auteure de l’ouvrage « L’âge du capitalisme de surveillance ».

« Il s’agit d’un mouvement fondé sur des algorithmes prédictifs et des calculs mathématiques du comportement humain. Les capitalistes de la surveillance « vendent la certitude aux clients commerciaux qui aimeraient savoir avec certitude ce que nous faisons. Ils veulent connaître le maximum qu’ils peuvent tirer de nous dans un échange. Ils veulent savoir comment nous allons nous comporter afin de savoir comment intervenir au mieux dans nos comportements. »

Servage de données

Selon Lanier, la gratuité des réseaux sociaux est un leurre. À chaque fois que nous bénéficions gratuitement d’un service comme Facebook, Instagram, Google ou Twitter, nous sommes en fait le produit vendu.

Les entreprises de médias sociaux sont essentiellement des systèmes géants de modification du comportement qui utilisent des algorithmes pour augmenter sans cesse « l’engagement » des utilisateurs, en suscitant de mauvais sentiments chez ces derniers. Ces entreprises vendent à leur tour la possibilité de modifier notre comportement à des annonceurs qui souhaitent utiliser leur influence sur nous pour, par exemple, réduire notre participation électorale ou radicaliser les suprémacistes blancs, explique Lanier.

« En échange de likes, de retweets et de photos publiques de vos enfants, vous vous inscrivez essentiellement pour devenir un serf de données pour des entreprises qui ne peuvent gagner de l’argent qu’en vous rendant accro puis en vous manipulant. À cause de tout cela, et pour le bien de la société, vous devriez faire tout ce qui est en votre pouvoir pour quitter les réseaux sociaux. »

Activisme en ligne

Dans son livre « Ten Arguments for Deleting Your Social Media Accounts Right Now », Lanier met en garde contre le revers de la médaille de l’activisme en ligne. Il suggère que les médias sociaux utilisés pour permettre l’organisation et la connexion de personnes avec un même point de vue finissent par enhardir les adversaires entre eux.

Lanier éclaire ses propos par des exemples. Sur les réseaux sociaux, l’algorithme prend un mouvement social positif, tel que Black Lives Matter, et le montre à un groupe de personnes enclines à être choquées par ce mouvement. L’outil continue de présenter ce mouvement à d’autres utilisateurs qui y sont réticents et les énerve pour le profit jusqu’à ce que ces groupes deviennent encore plus présents que le mouvement face auxquels ils réagissaient.

Les incarnations précédentes des manifestations Black Lives Matter, écrit Lanier dans son livre, ont contribué à galvaniser les mouvements de la droite alternative et de la suprématie blanche. Plus récemment, l’utilisation de Twitter par Donald Trump semble avoir alimenté un centre gauche résurgent qui se nourrit de ses messages incendiaires quotidiens, avance Lanier.

Technologie et poursuite du bonheur

Au cours de sa carrière, Lanier n’a eu de cesse de définir les dommages que des entreprises telles Twitter, Google et Facebook font à notre société et à notre psychisme individuel. Selon lui, les algorithmes nuisent aux personnes, les divisent les unes contre les autres et modifient ce qu’elles sont d’une manière insidieuse et menaçante.

« Les médias sociaux sont pires que les cigarettes en ce sens que ces dernières ne vous dégradent pas. Elles vous tuent, mais vous êtes toujours vous. Par exemple, vous ne définissez pas ce qu’est le bonheur, et vous ne le définissez pas comme quelque chose qui sera accompli. Il s’agit d’une poursuite. Vous laissez de l’espace pour que les futures personnes le trouvent elles-mêmes. Et donc, je pense que la priorité numéro un est de ne pas créer des incitations perverses qui ruinent les quêtes de sens, de bonheur, de décence ou d’amélioration. »

Les incitations perverses sont ce que Lanier a combattu toute sa vie : la façon dont la technologie est cooptée et les espaces numériques colonisés au profit de personnes (ou peut-être éventuellement de robots) qui ne se soucient pas de votre bonheur.

Notes d’espoir

Lorsqu’on lui demande si sa relation à la technologie a changé avec la pandémie, Jaron Lanier répond :

« Je pense que les gens passent plus de temps de manière autonome en se connectant avec d’autres via des chats vidéo ou des choses comme ça. Je pense que les choses se sont un peu améliorées. » Le fait que les gens n’utilisent pas les ordinateurs pour passer leur temps dans des boucles basées sur des algorithmes mais pour se parler, puis peut-être sortir, est pour Lanier une source d’optimisme.

Selon lui, le boycott de Facebook par plusieurs grandes marques pour protester contre les discours de haine et la désinformation sur le réseau social est également une lueur espoir.

« Les spécialistes du marketing sont obsédés par le marché des jeunes. Et ces jeunes sont vraiment fatigués de la suprématie blanche. Et je pense qu’il y a juste beaucoup de personnes qui regardent ce qui se trouve à côté de leurs publicités et qui se disent qu’elles investissent de l’argent dans ce truc, et que cela pourrait leur faire perdre le marché des jeunes. »

Futur

Dans ce long entretien, Jaron Lanier évoque également ce que sera le futur à l’ère des réseaux sociaux. Dans un premier temps, il souligne que la vague de chômage causée par le virus correspond assez étroitement aux prédictions établies auparavant par les experts du secteur.

« En ce qui concerne l’automatisation, si vous regardez la gamme des prédictions, la plupart des personnes légitimes ont fini par prédire une augmentation du chômage dans 10 à 15 ans, et c’est un peu similaire à l’augmentation de chômage que nous avons vu pendant la pandémie. »

En tant que solutions, l’oracle des techs cite l’introduction d’un revenu de base universel. Lanier a d’ailleurs écrit un livre à ce sujet, intitulé « Who Owns The Future ? », dont l’idée est simple : ce que vous créez ou ce avec quoi vous contribuez au monde numérique vous appartient.

À l’heure actuelle, la plupart des systèmes sur Internet sont configurés pour nous exploiter, pour récolter nos idées créatives et nos données sans compensation. Selon Lanier, l’attitude dominante à la Silicon Valley peut se résumer comme suit :

« Il n’y a aucune raison pour que vous sachiez ce que vos données signifient, comment elles pourraient être utilisées, vous ne pouvez pas contribuer, nous ne savons pas qui vous êtes, nous ne voulons pas le savoir, vous ne valez rien, vous n’allez pas être payé, c’est seulement valable une fois que nous l’avons agrégé mais vous ne savez rien, vous ne saurez rien, vous êtes dans le noir, vous êtes inutile, vous êtes sans espoir. Et puis un robot constitué avec vos données vous remplacera. »

L’apogée des réseaux sociaux

Chaque jour, Google et Facebook et d’autres entreprises technologiques deviennent plus puissantes et sophistiquées grâce à l’analyse de nos choix et de nos histoires. Ces entreprises facturent de l’argent aux annonceurs pour accéder à ces informations et développer leurs affaires. Cependant, ces entreprises ne vous paient pas pour votre contribution. Elles ne reconnaissent même pas véritablement cette collaboration, comme si l’intelligence artificielle venait de nulle part, alors qu’elle provient de nos données dérivées.

« À l’ère de l’information, nous sommes tous des travailleurs, des consommateurs et des entrepreneurs à la fois. Et si nous étions payés pour notre travail dans ce système ? En reconnaissant les rôles que nous jouons dans la construction de l’avenir, nous pourrions avoir une chance d’y être des participants significatifs. Lorsqu’une personne est habilitée à faire la différence, elle devient davantage une personne à part entière. Elle s’éveille spirituellement », avance encore Jaron Lanier dans l’entrevue avec GC.

Le pire des scénarios futurs…

« Facebook a peut-être déjà gagné, ce qui signifierait la fin de la démocratie dans ce siècle. Il est possible que nous ne puissions pas tout à fait sortir de ce système de paranoïa et de tribalisme pour le profit. Il s’agit d’un système tout simplement trop puissant qui va tout déchirer, nous laissant dans un monde d’oligarques et d’autocrates qui ne sont pas capables de faire face aux vrais problèmes tels que les pandémies et le changement climatique et ainsi de suite. C’est une réelle possibilité pour ce siècle. Je ne dis pas que je pense que c’est ce qui va arriver. Toutefois, on voit tous les jours des preuves que c’est ce qui est en train de se passer. »

« Regardez à quel point ces plates-formes pourraient être devenues si puissantes, au point que l’influence des médias sociaux est plus puissante que l’expérience de la réalité, que le public peut regarder des centaines de milliers de personnes mourir d’un virus tout en croyant que c’est un canular en même temps, et intégrer ces deux choses. C’est la nourriture du mal », conclut Lanier.