Comment l’IA bouleverse déjà la géopolitique

« L’intelligence artificielle (IA) bouleverse déjà la géopolitique », écrivent, sur TechCrunch, Angela Kane, vice-présidente de l’Institut international pour la paix de Vienne et ancienne sous-secrétaire générale des Nations Unies, et Wendell Wallach, bioéthicien, membre du Conseil Carnegie pour l’éthique des affaires internationales, auteur spécialisé dans la gouvernance des technologies émergentes.

L’IA menace déjà la paix et la sécurité dans le monde

La technologie est omniprésente en géopolitique depuis toujours, expliquent les deux auteurs. Kane et Wallach précisent toutefois que l’intelligence artificielle, contrairement à d’autres technologies, est bien plus que d’un simple outil.

« Nous ne voulons pas anthropomorphiser l’IA ou suggérer que cette dernière a ses propres intentions. L’IA n’est pas encore un agent moral. Néanmoins, elle devient rapidement un déterminant primordial de notre destin collectif », avancent les deux experts.

« Nous pensons qu’en raison des caractéristiques uniques de l’IA et de son impact sur d’autres domaines, des biotechnologies aux nanotechnologies, celle-ci menace déjà les fondements de la paix et de la sécurité mondiales. »

L’IA n’est pas assez surveillée

Le rythme rapide du développement technologique de l’IA et de ses nouvelles applications fait en sorte qu’elle est largement déployée sans véritable surveillance juridique et sans considération de ses répercussions sur le plan éthique. Face à cela, les législatures et les organes exécutifs se retrouvent désarmés.

Les répercussions des nouvelles technologies sont souvent difficiles à prévoir. Les réseaux sociaux et smartphones faisaient déjà partie de nos vies avant que nous ne comprenions leur potentiel d’utilisation abusive.  Il nous a également fallu du temps pour nous rendre compte des implications de la technologie de reconnaissance faciale en termes de violations de la vie privée et d’atteinte aux droits de l’homme.

Certains pays ont recours à l’IA pour manipuler l’opinion publique. Ils déterminent les informations auxquelles les utilisateurs ont accès. Ils utilisent en outre la surveillance pour restreindre la liberté d’expression.

« À plus long terme, nous n’avons aucune idée des défis actuellement étudiés susceptibles de conduire à des innovations et de la manière dont celles-ci interagiront les unes avec les autres et avec l’environnement », ajoute Kane.

« Les moyens par lesquels les algorithmes d’apprentissage aboutissent à leurs conclusions sont souvent impénétrables. Lorsque des effets indésirables se manifestent, il peut être difficile, voir impossible, d’en déterminer la cause. Les systèmes d’IA qui apprennent et modifient constamment leur comportement ne peuvent pas être testés et certifiés en vue de démontrer leur sécurité. »

Nos sociétés ne sont pas préparées à l’IA

Les systèmes d’IA peuvent agir avec peu ou pas du tout d’intervention humaine. Par conséquent, ils risquent de saper le principe selon lequel il devrait toujours y avoir un agent humain ou corporatif pouvant être tenu pour responsable de leurs actions dans le monde réel, principalement lorsqu’il s’agit de questions de guerre et de paix.

Il nous est impossible de demander des comptes aux systèmes eux-mêmes. Leurs développeurs diront qu’ils ne sont pas responsables des agissements imprévisibles de leurs créations.

« En bref, nous pensons que nos sociétés ne sont pas préparées à l’IA – politiquement, juridiquement ou éthiquement. Le monde n’est pas non plus préparé à la façon dont l’IA transformera la géopolitique et l’éthique des relations internationales. »

Modification de l’équilibre des pouvoirs entre les nations

L’IA bouleversera la géopolitique et l’éthique des relations internationales de différentes manières.

Premièrement, les développements de l’IA modifient l’équilibre des pouvoirs entre les nations. La technologie façonne le pouvoir géopolitique depuis toujours. Au 19^ème et au début du 20^ème siècle, l’ordre international reposait sur les capacités industrielles. Plus tard, le contrôle des ressources en pétrole et en gaz naturel a pris le dessus.

Toutes les grandes puissances sont conscientes du potentiel de l’IA. Cela leur permet de faire progresser leurs programmes nationaux. En septembre 2017, Vladimir Poutine a expliqué à des écoliers que la personne devenant le leader de l’IA deviendrait le maître du monde.

Les États-Unis dominent actuellement le secteur de l’IA. Toutefois, le secteur technologie chinois progresse rapidement. Les entreprises technologiques chinoises dépassent probablement les entreprises américaines dans le développement et l’application de domaines de recherche spécifiques tels que les logiciels de reconnaissance faciale.

La domination de l’IA par les grandes puissances exacerbera les inégalités structurelles existantes. Elle contribuera en outre à de nouvelles formes d’inégalités. Les pays sans accès à Internet et dépendant des pays plus riches seront laissés pour compte. Par ailleurs, l’automatisation issue de l’IA transformera les modèles d’emplois. Cela aura pour effet d’avantager certaines économies nationales par rapport à d’autres.

L’IA provoque l’émergence de nouveaux acteurs géopolitiques

Deuxièmement, l’IA habilitera un nouvel ensemble d’acteurs géopolitiques au-delà des États-nations. À certains égards, les entreprises leaders de la technologie numérique sont déjà plus puissantes que de nombreux pays.

La récente invasion de l’Ukraine en est un exemple. Les gouvernements nationaux ont réagi en imposant des sanctions économiques à la Russie. Toutefois, ces sanctions sont certainement moins percutantes que les décisions d’entreprises technologiques. IBM, Dell, Meta, Apple et Alphabet ont en effet décidé de cesser leurs activités en Russie.

De même, lorsque l’Ukraine a craint que l’invasion ne perturbe son accès à Internet, elle a sollicité l’aide non pas d’un gouvernement ami, mais celle de l’entrepreneur technologique Elon Musk. Musk a alors activé son service Internet par satellite Starlink en Ukraine. Il a en outre livré des récepteurs, permettant au pays de continuer à communiquer.

L’oligopole numérique, avec ses bases de données volumineuses et croissantes alimentant les algorithmes d’apprentissage automatique, devient rapidement un oligopole de l’IA. Ces systèmes d’apprentissage automatique pourraient être utiles à l’oligopole de l’IA pour contourner les réglementations nationales, avetissent Kane et Wallach.

Nouvelles formes de conflits géopolitiques

Troisièmement, l’IA fera émerger de nouvelles formes de conflit.

Celles-ci vont de l’influence sur l’opinion publique et sur les résultats des élections dans d’autres pays par le biais de faux médias et de publications manipulées sur les réseaux sociaux, à l’interférence avec le fonctionnement des infrastructures essentielles d’autres pays telles que l’électricité, les transports ou les communications.

De telles formes de conflit s’avéreront difficiles à gérer. Cela incitera à repenser complètement les instruments de contrôle des armements inadaptés pour lutter contre les armes de coercition.

« Les négociations actuelles sur le contrôle des armements exigent que les adversaires perçoivent clairement les capacités de l’autre et leur nécessité militaire, mais alors que les bombes nucléaires, par exemple, sont limitées dans leur développement et leur application, presque tout est possible avec l’IA, car les capacités peuvent se développer à la fois rapidement et de manière opaque. »

Solutions pour atténuer les risques géopolitiques de l’IA

Sans traités limitant leur déploiement, les systèmes d’armes autonomes assemblés à partir de composants prêts à l’emploi sont susceptibles d’atterrir dans les mains des terroristes et d’autres acteurs non étatiques. La mauvaise compréhension de systèmes d’armes autonomes pourra involontairement déclencher des conflits ou intensifier les hostilités existantes.

« La seule façon d’atténuer les risques géopolitiques de l’IA et de fournir la surveillance agile et complète dont elle aura besoin est de dialoguer ouvertement sur ses avantages, ses limites et ses complexités. Le G20 est un lieu potentiel. Un nouveau mécanisme de gouvernance internationale pourrait être créé pour impliquer le secteur privé et d’autres parties prenantes clés. »

« Il est largement reconnu que la sécurité internationale, la prospérité économique, le bien public et le bien-être humain dépendent de la gestion de la prolifération des systèmes d’armes mortelles et du changement climatique. Nous pensons qu’ils dépendront de plus en plus au moins autant de notre capacité collective à façonner le développement et la trajectoire de l’IA et d’autres technologies émergentes », concluent les deux experts.