IA et forces de l’ordre : le Parlement européen ne veut pas de la surveillance de masse

Les fictions montrent de plus en plus l’intérêt pour les forces de l’ordre de se servir de l’IA et des caméras dans l’espace public dans le but de dénicher des criminels. Le Parlement européen a effectué la demande début octobre de cette année que ce genre de pratiques n’engendrent aucuns abus et aucune discrimination envers un résident de l’Union Européen. Un cadre juridique continental est souhaité. Finalement, le vote de ce rapport d’initiative a offert un résultat partagé dans l’hémicycle bleu. Voici les chiffres : 377 voix pour, 248 contre et 62 abstentions.

La police se sert de plus en plus d’intelligence artificielle

L’utilisation des IA est grande : reconnaissance faciale, plaques minéralogiques, analyse des orateurs et la parole, la possibilité de lire sur les lèvres, surveillance auditive afin de dénicher d’éventuels coups de feu ou encore étude des réseaux sociaux.

Toutes ces possibilités posent un gros souci au niveau de l’éthique. D’autres questions sont également abordées par rapport au respect des droits fondamentaux et celui du droit à la protection de la vie privée. L’usage de grandes quantités de données est au centre des outils se servant de l’intelligence artificielle. Ainsi, il y a un besoin de réglementation se faisant de plus en plus nécessaire. Certains États membres de l’Union Européenne permettent l’utilisation d’applications d’intelligence artificielle, quand d’autres pays ne l’autorisent pas.

Quels sont les plus gros risques d’une telle pratique ?

Les eurodéputés découvrent dans leur texte que l’usage de plus en plus fréquent à l’intelligence artificielle ne tient pas forcément ses promesses, par exemple sur la diminution de certains genres de criminalité. En plus, l’objectivité de la prise de décision n’est pas assurée. D’autant que les outils se servant de l’intelligence artificielle peuvent dévoiler des degrés extrêmement divers et variés de fiabilité, sans respecter la jurisprudence de l’Union européenne par rapport à la protection des informations. En outre, le déploiement continu d’algorithmes, même avec un moindre taux de faux positifs, peut engendrer nettement plus de fausses alertes que de réelles alertes si on se fie aux parlementaires européens.

Les eurodéputés pointent également du doigt la police prédictive. Si elle offre la possibilité d’étudier des séries d’informations par rapport à l’identification de modèles et corrélations, elle ne peut pas offrir une réponse à la question de la causalité et donner une prédiction fiable sur le comportement des individus. Ainsi, elle ne peut pas être une base d’intervention à elle seule.

Autre danger par rapport aux informations recueillies : plus il y en a, plus elles se renforcent d’elles-mêmes de façon progressive et ainsi impacter la hausse des discriminations existantes, essentiellement pour les individus faisant partie de catégories ethniques spécifiques.

Les droits fondamentaux comme guide

Les eurodéputés font la demande que tout usage de l’intelligence artificielle n’étant pas compatible avec les droits fondamentaux ne soit pas autorisé. Respect à la vie privée, non-discrimination et contrôle par la justice de la proportionnalité des solutions dont se sert par la police sont par conséquent mis en avant comme options de prévention face à possibles abus. La prise des décisions finales est toujours assurée par un être humain et les individus subissant des mécanismes nourris par l’intelligence artificielle doivent avoir des solutions de recours. C’est ce qu’ont affirmé les eurodéputés, lors du vote à Strasbourg.

Terminons avec la reconnaissance faciale. Afin de respecter la vie privée et la dignité de l’être humain, les députés font la demande d’une interdiction continuelle de la reconnaissance automatisée des individus dans les lieux publics. Enfin, ils affirment également que les citoyens ne devraient être surveillés que lorsqu’ils sont accusés d’un crime.