La recherche de la perfection est au centre du développement de l’intelligence artificielle (IA).
« Ce concept pourrait être aussi dangereux pour l’humanité que celui issu des idées philosophiques et pseudoscientifiques du 19ème et du début du 20ème siècle ayant conduit aux horreurs du colonialisme, de la guerre mondiale et de l’Holocauste. Au lieu d’une race des maîtres humaine dirigeante, nous pourrions nous retrouver avec une machine dirigeante », écrit Arshin Adib-Moghaddam, professeur de pensée globale et de philosophie comparée de l’université londonienne SOAS, School of Oriental and African Studies, dans The Conversation.
Perfectionnisme anti-humain
Le perfectionnisme anti-humain est déjà au cœur du marché du travail. Selon Adib-Moghaddam, la technologie de l’IA est la prochaine étape du principe de productivité maximale. Ce principe a remplacé l’artisanat individuel par la production en chaine en usine.
« Ces changements massifs de productivité et de la manière dont nous travaillons ont créé des opportunités et des menaces qui vont maintenant être aggravées par une « quatrième révolution industrielle » dans laquelle l’IA remplace davantage les travailleurs humains », écrit-il.
Selon plusieurs études récentes, l’automatisation remplacera la moitié des emplois actuels d’ici une décennie. Durant cette transition vers une nouvelle économie numérisée, de nombreuses personnes perdront leurs moyens de subsistance.
« Même si nous supposons que cette nouvelle révolution industrielle engendrera une nouvelle main-d’œuvre capable de naviguer et de contrôler ce monde dominé par les données, nous devrons encore faire face à des problèmes socio-économiques majeurs. Les perturbations seront immenses et devront faire l’objet d’un examen précis. »
Cognition humaine
Le but ultime de l’IA, même pour une intelligence artificielle chargée de la gestion de tâches très spécifiques, est de surpasser et de perfectionner toutes les fonctions cognitives humaines. Les systèmes d’apprentissage pourraient finalement être programmés pour être meilleurs que les humaines en tout.
« Cependant, ce qu’ils ne peuvent jamais développer, c’est le contact humain, l’empathie, l’amour, la haine ou l’une des autres émotions de conscience de soi qui nous rendent humains. À moins que nous leur attribuions ces sentiments, ce que certains font déjà avec des dispositifs tels qu’Alexa et Siri. »
Productivité versus contact humain
L’obsession de la perfection et de l’hyper-efficacité a eu un impact profond sur les relations humaines et même sur la reproduction humaine. Les personnes vivent désormais leurs vies dans les réalités virtuelles cloîtrées de leur propre création. Nombreuses sont maintenant les entreprises aux États-Unis et en Chine qui produisent des poupées robotisées qui servent de substitut de partenaire.
« Dans un monde parfaitement productif, les humains seraient considérés sans valeur, certes en termes de productivité mais également en termes de notre faible humanité. À moins de renoncer à cette attitude perfectionniste envers la vie qui place la productivité et la croissance matérielle au-dessus de la durabilité et du bonheur individuel, la recherche sur l’IA pourrait être une autre chaîne dans l’histoire des inventions humaines autodestructrices », estime le professeur.
On assiste déjà à des discriminations de la part des calculs algorithmiques. Pendant ce temps, les armes automatisées programmées pour tuer sont conçues avec des maximes telles que productivité et efficacité. Par conséquent, la guerre est devenue plus durable. La prolifération de la guerre des drones est exemple frappant de ces nouvelles formes de conflit. Ils créent une réalité virtuelle qui presque absente de notre portée.
Intelligence artificielle éthique
Les prédictions dystopiques d’une IA cherchant à effacer la race humaine sont grossières, explique Arshin Adib-Moghaddam. Ces prédictions ne parviennent pas à visualiser l’essence de l’intelligence artificielle et son impact sur notre vie quotidienne.
« Les sociétés peuvent bénéficier de l’IA si cette dernière est développée en gardant à l’esprit le développement économique durable et la sécurité humaine. La confluence du pouvoir et de l’IA qui poursuit, par exemple, des systèmes de contrôle et de surveillance, ne doit pas se substituer à la promesse d’une IA humanisée qui met la technologie d’apprentissage automatique au service des humains et non l’inverse. »
À cette fin, les interfaces IA-homme implémentées rapidement dans les prisons, les soins de santé, le gouvernement, la sécurité sociale et le contrôle aux frontières, par exemple, doivent être réglementées pour favoriser l’éthique et la sécurité humaine par rapport à l’efficacité institutionnelle. Les sciences sociales et humaines ont beaucoup à dire sur ces questions.
« Une chose dont il faut se réjouir est la probabilité que l’IA ne remplacera jamais la philosophie et l’intellectualité humaines. Pour être philosophe, après tout, il faut de l’empathie, une compréhension de l’humanité et de nos émotions et motivations innées. Si nous pouvons programmer nos machines pour comprendre ces normes éthiques, alors la recherche sur l’IA a la capacité d’améliorer nos vies, ce qui devrait être l’objectif ultime de toute avancée technologique. »
« Mais si la recherche sur l’IA aboutit à une nouvelle idéologie centrée sur la notion de perfectionnisme et de productivité maximale, alors ce sera une force destructrice qui conduira à davantage de guerres, de famines et de détresse sociale et économique, en particulier pour les pauvres. À ce stade de l’histoire mondiale, ce choix nous appartient encore », conclut le philosophe.