L’IA représente une menace pour la santé de millions de personnes

Un article du BMJ Global Health plaide pour l’arrêt du « développement de l’IA générale » en attendant qu’une réglementation soit instaurée, rapporte le quotidien britannique The Guardian.

Une menace existentielle pour l’humanité

L’IA pourrait nuire à la santé de millions de personnes et constituer ainsi une menace existentielle pour l’humanité, ont mis en garde récemment des médecins et des experts en santé publique. Ceux-ci en ont profité pour plaider pour l’arrêt du développement de l’intelligence artificielle générale (IAG) jusqu’à ce que celle-ci fasse l’objet d’une réglementation.

L’IA peut provoquer une révolution des soins de santé de diverses manières. Elle pourrait en effet améliorer le diagnostic des maladies, permettre de trouver des méthodes plus efficaces de traitement et étendre les soins de santé à plus de personnes.

Cependant, le développement de l’IA a également le potentiel de produire des effets négatifs sur la santé, ont expliqué des professionnels de la santé du Royaume-Uni, des États-Unis, d’Australie, du Costa Rica et de Malaisie dans la revue BMJ Global Health.

Risques de l’IA pour la santé

L’IA associée à la médecine et aux soins de santé comprend plusieurs risques. En effet, les erreurs de l’IA peuvent causer des dommages aux patients, des problèmes de confidentialité et de sécurité des données. En outre, son utilisation peut aggraver les inégalités sociales et de santé, ont averti les spécialistes.

Ces derniers ont livré un exemple de préjudice de l’utilisation de l’IA dans le secteur médical. Il s’agit du cas d’un oxymètre de pouls. Piloté par une IA, celui-ci surestimait les taux d’oxygène dans le sang des personnes à la peau plus foncée. Par conséquent, cela aboutissait à un sous-traitement de leur hypoxie, à savoir de leur manque d’apport en oxygène.

Toutefois, les experts ont également mis en garde contre les menaces mondiales plus larges de l’IA pour la santé humaine et même pour l’existence humaine.

L’IA pourrait nuire à la santé de millions de personnes via les déterminants sociaux de la santé au travers :

• du contrôle et la manipulation des personnes ;
• de l’utilisation d’armes létales autonomes ;
• des effets sur la santé mentale du chômage de masse si les systèmes basés sur l’IA provoquent le déplacement d’un volume important de travailleurs.

D’autre part, les experts ont expliqué que les systèmes d’information basés sur l’IA ont la capacité de déformer la réalité. De cette manière, ils peuvent saper la démocratie en provoquant une rupture de confiance ou en entraînant des divisions et des conflits sociaux. Cela aurait bien entendu des impacts sur la santé publique.

Pertes d’emploi

L’IA représente également un risque en termes de pertes d’emplois résultant du déploiement généralisé de cette technologie. Les disparitions d’emplois concerneront des dizaines voire des centaines de millions de personnes durant la prochaine décennie.

Les experts ont expliqué qu’il existait une relation significative entre le chômage et des résultats et comportements néfastes sur le plan de la santé. En outre, pour l’heure, on ne sait pas comment la société réagira psychologiquement et émotionnellement à un monde dans lequel le travail est indisponible ou inutile.

Cette menace est par ailleurs globale, a souligné le groupe d’experts.

« Nous cherchons maintenant à créer des machines plus puissantes et plus intelligentes que les humains. Le potentiel de ces machines à appliquer cette intelligence et ce pouvoir, délibérément ou non et d’une manière qui pourrait nuire ou subjuguer les humains, est réel et doit être pris en compte. »

Réglementation de l’IA

La croissance de la recherche et du développement sur l’IA est exponentielle. Par conséquent, la fenêtre d’opportunité pour éviter des dommages graves et existentiels se rétrécit.

Les experts ont expliqué que des règles efficaces en rapport avec le développement et l’utilisation de l’intelligence artificielle étaient nécessaires afin d’empêcher tout dommage. En attendant la mise en place d’une telle réglementation, il faudrait instituer un moratoire sur le développement de l’intelligence générale artificielle auto-améliorante.

« L’un des principaux moyens de protéger l’avenir des systèmes de santé est de veiller à ce que les sociétés Internet aient des politiques claires sur la manière dont elles identifient les informations erronées sur la santé qui apparaissent sur leurs plateformes, ainsi que des approches cohérentes pour y faire face », a déclaré le groupe.

« Cela offrira aux utilisateurs une protection accrue contre les dommages et améliorera l’environnement de l’information et la confiance dans les institutions publiques. »