Le Parlement européen a choisi l’adoption d’une résolution interdisant le concept d’un mécanisme de notation sociale dirigé par les autorités. La Commission européenne le voit également comme inenvisageable.
Il s’agit d’une résolution ayant le mérite de déterminer la position du Parlement européen, avec en vue des possibles débats d’avenir. Par contre, cette dernière n’a aucune valeur juridique contraignante. Lors d’un vote arrivé en séance plénière début octobre de cette année, les eurodéputés ont voté massivement contre l’idée d’une notation sociale des personnes sur une base algorithmique, et cela de façon massive.
L’avis du Parlement européen sur le score social
La résolution, dont l’adoption est faite par 377 voix pour, 248 contre et 62 abstentions, affirme que le Parlement européen « affirme que tout type de notation normative des citoyens à échelle conséquente […] engendre une dégradation d’autonomie, représente un danger du concept de non-discrimination et ne peut être définie comme valide par rapport aux droits fondamentaux, essentiellement à la dignité humaine. »
Les parlementaires européens désirent essentiellement l’interdiction de tout score social étatique, défini par les autorités publiques et essentiellement pour des milieux autant sensibles que le répressif et le judiciaire. Dans ce but, les élus sont en accord avec l’opinion du groupe d’experts de haut niveau sur l’IA que Bruxelles a pensé et conçu en 2018 afin de se pencher sur les enjeux moraux de l’intelligence artificielle.
Une méthode non-envisageable pour Bruxelles
La Commission est du même avis. En avril de cette année, elle a effectué une classification des systèmes offrant la possibilité d’une notation sociale par les pays comme un danger inadmissible – le plus élevé des quatre degrés de dangerosité, où on situe également les jouets munis d’un assistant vocal amenant des personnes mineures à avoir un comportement nocif, la manipulation du comportement et la suppression du libre arbitre.
Signalons qu’il y a déjà des pratiques de notation sur le continent européen. Dans le milieu privé, le public peut être amené déjà à une évaluation d’autrui, cela est notamment le cas pour les chauffeurs de VTC ou livreurs. La clientèle aussi peut être évaluée dans des situations spécifiques. La société Uber envisage par exemple que les conducteurs puissent aussi avoir la possibilité d’effectuer une opinion chiffrée sur les individus transportés.
La résolution choisie par le Parlement pointe également d’autres soucis avec un avis tout aussi négatif, comme les bases de données privées de reconnaissance faciale (avec une référence faite au scandale de Clearview, qui se matérialise par une collecte sauvage de plus de trois milliards de clichés) et la reconnaissance automatique dans les lieux publics et le contrôle aux frontières. Ces méthodes doivent être interdites, affirment les élus, au même titre que la police comportementale.
Une fiction malheureusement réalité en Chine
De façon inévitable, la résolution européenne effectue un rappel de ce que la science-fiction d’anticipation offre avec un épisode devenu réputé provenant de la célèbre série américaine Black Mirror, où on suit une femme qui fait tout son possible afin de sauver sa cote personnelle, qui lui offre droit à une multitude de prestations et lui optimise sa vie quotidienne (si la notation est assez haute). Ce concept trouve une vraie traduction en Chine, avec le mécanisme de crédit social.
Ce dispositif dirigé par le gouvernement de Chine est critiqué pour ses effets négatifs par rapport à l’uniformisation des comportements et sur une exclusion progressive de citoyens. Ainsi, il a été documenté que des millions d’individus n’ont pas pu emprunter de transports à cause de ce mécanisme leur donnant une notation trop basse. Autres impacts : ils n’ont pas pu rentrer dans certains établissements ou effectuer des actes spécifiques de la vie de tous les jours.