Comment l’IA générative favorise la censure sur Internet
09/10/2023Freedom House, ONG américaine se chargeant de l’analyse de l’étendue de la démocratie dans le monde, a publié un nouveau rapport. Dans celui-ci, l’association documente la manière dont les gouvernements ont désormais recours à la l’IA générative pour amplifier la censure.
L’IA générative favorise les atteintes contre la liberté sur Internet
L’intelligence artificielle a boosté la répression des États envers les libertés sur Internet au cours de l’année écoulée, indique le rapport de Freedom House.
Dans le monde entier, tant les gouvernements que les politiciens des démocraties et autocraties ont recours à l’intelligence artificielle afin de générer des textes, des images et des vidéos. Leur objectif est la manipulation de l’opinion publique en leur faveur. L’IA les aide également à censurer automatiquement les contenus en ligne de leurs détracteurs.
Dans ce nouveau rapport, des chercheurs ont documenté l’utilisation de l’IA générative dans 16 pays pour semer le doute dans l’opinion publique, pour la diffamation des opposants ou encore pour influencer le public.
Ce document intitulé « Freedom on the Net » a procédé au classement des pays selon leur degré relatif de libertés sur Internet. Pour cela, plusieurs facteurs ont été utilisés tels que les coupures d’Internet, les lois répressives envers l’expression en ligne et les atteintes contre les discours en ligne.
La version 2023 du rapport pointe une diminution de la liberté sur Internet dans le monde. Cette baisse a lieu pour la 13ème année consécutive. La raison principale à cela est la prolifération de l’IA.
Allie Funk, chercheuse ayant participé au rapport, a expliqué que la liberté sur Internet était à son plus bas niveau. Par ailleurs, cette crise est aggravée par la progression de l’IA. Une des découvertes principales du rapport est que dorénavant les gouvernements ont recours à cette technologie pour renforcer l’oppression numérique.
Ce changement se doit à deux facteurs. D’une part, l’abordabilité et l’accessibilité de l’IA générative réduisent les obstacles à l’entrée des campagnes de désinformation en ligne. D’autre part, via les systèmes automatisés, les gouvernements peuvent mener leurs opérations de censure plus précisément et plus subtilement.
Désinformation en ligne et deepfakes
Les outils d’intelligence générative deviennent de plus en plus évolués. Par conséquent, cela permet aux acteurs politiques d’étendre cette technologie pour l’amplification de la désinformation.
Le MIT Technology Review cite plusieurs exemples formulés par le rapport. Par exemple, les médias étatiques du Venezuela procèdent à la diffusion de propagande pro-gouvernementale via des séquences vidéo de présentateurs télévisés générés par IA. Produites par Synthesia, une société concevant des deepfakes personnalisés, ces vidéos sont en outre diffusées sur une chaîne internationale anglophone factice.
Aux États-Unis, les réseaux sociaux pullulent de vidéos et images de représentants politiques créés par l’IA. Dans ces séquences, on peut apercevoir le président Biden faisant des déclarations transphobes ou encore Donald Trump avec dans ses bras, Anthony Fauci.
Parallèlement aux outils d’IA générative, les gouvernements continuent d’employer d’anciennes tactiques telles que l’alliance de campagnes humaines et robotiques pour la manipulation des conversations en ligne. En 2023, 47 gouvernements ont eu recours à des commentateurs pour la diffusion de propagande.
Selon Funk, l’accessibilité de l’IA générative peut freiner la confiance envers les faits véritables. La normalisation des contenus générés par IA permet aux acteurs politiques de douter de la fiabilité des informations. Ce phénomène est baptisé « dividende du menteur ». Selon celui-ci, la méfiance envers la fabrication stimule le scepticisme des personnes à l’égard des informations véridique. C’est principalement le cas en temps de crise ou de conflit politique, périodes propices aux fausses informations.
Chatbots et censure sur Internet
Les régimes autoritaires ont recours à l’IA pour répandre davantage la censure et pour améliorer son efficacité.
Selon les chercheurs de l’association, 22 pays ont promulgué des lois poussant les plateformes à supprimer les contenus en ligne défavorables via l’apprentissage automatique. Par exemple, les chatbots chinois sont programmés pour ne pas fournir d’informations en ce qui concerne les evenements de la place Tiananmen.
En Inde, les responsables du gouvernement ont obligé YouTube et Twitter à limiter le visionnage du documentaire sur la violence ayant eu lieu durant le mandat du Premier ministre Narendra Modi en tant que le ministre en chef de l’Etat du Gujarat.
L’approfondissement de la censure dans le monde est signitificatif. En témoigne le record de 41 gouvernements ayant bloqué les sites internet de discours politiques mais également de contenus sociaux et religieux.
Dans le classement de Freedom House, l’Iran a dégringolé en raison de la fermeture d’Internet, du blocage de WhatsApp et d’Instagram. Ce pays a également renforcé la surveillance en ligne suite aux manifestations antigouvernementales de l’automne 2022. Enfin, la censure internet est la plus restrictive en Chine (9ème année consécutive) et au Myanmar.
Un autre type de censure des IA génératives : le politiquement correct. J’en utilise depuis des années maintenant, dans une démarche artistique personnelle. Et je remarque toujours la même chose quand de nouveaux générateurs arrivent en accès libre. Dans un premier temps, on peut leur demander un peu ce qu’on veut, à part bien sûr du porno. Mais plus le temps passe, plus il devient difficile de générer des images basées sur des émotions négatives. Le visage devient neutre °_°
L’IA désapprend le négatif, ou on le retire. C’est mal vu. Il faut enterntainer.
Pareil, évitons d’autres sujets qui fâchent. Pas de Xi Jinping ou de Vlad Poutine avec certaines IA. Il ne faudrait pas fâcher les grandes démocraties asiatiques, lol.