Le danger de discrimination en lien avec des décisions se basant sur l’intelligence artificielle n’est que trop vrai. C’est la Haute-commissaire des droits humains de l’Onu qui l’a rappelée en personne.
L’Organisation des Nations Unies a sommé la création et l’imposition d’un moratoire sur des mécanismes spécifiques d’IA tels que par exemple la reconnaissance faciale, le temps de concevoir des garde-fous offrant une protection des droits humains. Les systèmes d’IA peuvent avoir des conséquences extrêmement négatives, voire terribles si on s’en sert sans prendre assez en compte la façon dont ils touchent les droits humains.
Interdiction des technologies les plus nocives
L’ONU somme d’effectuer une évaluation précise et pertinente des dangers des mécanismes se basant sur l’IA pour le droit à la vie privée ou la liberté de circulation et d’expression. La célèbre organisation recommande d’interdire, ou de bien réglementer, celles qui dévoilent les dangers les plus conséquents.
Néanmoins, jusqu’à ce que ces évaluations puissent se finaliser, il est nécessaire que les pays effectuent un moratoire par rapport aux technologies présentant un danger notable. C’est en tout cas ce qu’a déclaré l’ancienne présidente du Chili, durant la présentation d’un nouveau rapport de ses services. Elle a notamment cité en exemple les technologies qui offrent la possibilité de prendre des décisions automatiques ou celles définissant des profils.
On se sert des mécanismes d’intelligence artificielle dans le but de définir qui peut profiter de services publics, pour prendre la décision de qui a une chance d’être embauché pour un emploi ou non. Évidemment, on utilise aussi ces systèmes en tant qu’influence par rapport à l’information que les personnes peuvent lire et partager sur le web.
Arrestations d’innocents via des technologies incorrectement entraînées
C’est le Conseil des droits humains qui avait demandé ce fameux rapport (il s’agit de la plus grande instance de l’Organisation des Nations Unies pour ce milieu). Le groupe s’est attardé sur la façon dont ces technologies ont la plupart du temps été conçues sans que la manière dont elles marchent ou leurs effets n’ait été bien définies.
Les soucis liés à l’intelligence artificielle ont représenté de véritables obstacles pour des personnes. En effet, ces dernières n’ont pas pu recevoir les aides sociales, dénicher un emploi ou encore pire : l’IA a engendré l’arrestation d’innocents à cause de systèmes peu entraînés et ne parvenant pas à effectuer une reconnaissance faciale pertinente des individus. Les individus possédant les traits physiques africains étant les premières victimes de ce système.
Ainsi, il y a un réel danger de discrimination par rapport aux décisions prises par l’IA. Ces dernières peuvent impacter, discriminer et faire du mal à une vie humaine. Le rapport met aussi en avant le fait que l’entraînement de ces IA se fait avec de grandes bases de données, dont la constitution s’effectue la plupart du temps de façon opaque.
Violations des droits humains à une très grande échelle
Le rapport met surtout en avant l’utilisation de plus en plus récurrente des mécanismes se basant sur l’intelligence artificielle par les forces de l’ordre y dont les techniques prédictives. Lorsque l’IA se sert des bases de données biaisées, cela se voit au niveau des prédictions. Ainsi, cela peut impacter directement des zones caractérisées à tort comme à haut danger.
La reconnaissance faciale en temps réel et à distance est aussi de plus en plus populaire à l’international, engendrant une localisation continue des personnes.