Elon Musk, le PDG de Tesla, estime que sa startup d’interface neuronale directe Neuralink est l’avenir des interactions humaines avec la technologie. L’entreprise semble d’ailleurs prête à débuter les premiers essais cliniques de son interface cerveau-machine sur des humains, rapportait il y a quelques jours le quotidien britannique The Guardian.
Interviewés par The Daily Beast, plusieurs scientifiques ont fait part de leur sentiment d’horreur face à la volonté et à l’objectif de Musk de connecter les cerveaux humains à des ordinateurs. Ils s’inquiètent principalement des risques de surveillance de l’entreprise, de l’impact potentiel sur les participants aux essais et des enjeux sociétaux de la fusion de la Big Tech avec le cerveau humain.
Neuralink ou l’injection des Big Tech dans l’esprit humain
La crainte principale de ces chercheurs concerne « l’injection des Big Tech » au sein de l’esprit humain.
Selon le Dr Karola Kreitmair, professeure adjoint d’histoire médicale et de bioéthique à l’Université du Wisconsin, il n’y a pas assez de déclarations publiques au sujet des implications et répercussions globales de cette technologie lorsqu’elle devient disponible.
« Je crains que l’on ne soit face à un mariage inconfortable entre une entreprise à but lucratif et des interventions médicales qui, espérons-le, sont conçues pour aider les personnes », a-t-elle ajouté.
L’éthique concernant une technologie telle que Neuralink est un territoire encore inexploré. Nombreuses sont les personnes qui s’inquiètent de la manière dont ces produits, censés aider les personnes handicapées, peuvent finalement faire l’objet d’une exploitation à des fins lucratives.
Le Dr L. Syd Johnson, professeure agrégée au Center for Bioethics and Humanities de la SUNY Upstate Medical University, a expliqué que si l’objectif final est l’utilisation des données cérébrales acquises pour d’autres appareils tels que la conduite des voitures Tesla, alors nous sommes en présence d’un marché beaucoup plus vaste.
Dans ce cas, tous ces sujets de recherche humains, des personnes aux besoins réels, feraient l’objet d’une exploitation et d’une utilisation lors de recherches risquées dans le cadre d’une campagne pour le produit commercial d’autrui.
Kreitmair rejoint ce sentiment. Celle-ci pense en effet que cette technologie pourrait représenter un changement de vie pour les personnes paralysées. Toutefois, elle reconnaît que son utilisation potentielle par les consommateurs soulève de nombreuses questions éthiques.
« Elon Musk est un bonimenteur de carnaval »
Certains experts craignent également que Musk ne soit rien qu’un bonimenteur de carnaval qui dira n’importe quoi et ne reculera devant rien pour gagner de l’argent. Les scientifiques rappellent que Musk est connu pour avoir fait de nobles promesses qui ne se sont finalement jamais concrétisées.
Les chercheurs se demandent par conséquent si Neuralink ne fait pas partie de ses promesses non tenues.
« Avec ces entreprises et ces propriétaires d’entreprises, nous sommes en quelque sorte face à des showmen », a déclaré le Dr Laura Cabrera, chercheuse en neuroéthique à l’Université d’État de Pennsylvanie. Cabrera pense que les affirmations hyperboliques de ces showmen sont dangereuses parce que les personnes ont tendance à y croire parfois aveuglément.
Risques réels de Neuralink
Cabrera fournit un exemple concret des risques réels de Neuralink.
Supposons, par exemple, qu’un participant à un essai clinique d’implants cérébraux change d’avis et souhaite se retirer de l’étude, ou développe des complications indésirables.
« Ce que j’ai vu sur le terrain, c’est que nous sommes vraiment bons pour implanter les dispositifs », explique Cabrera dans The Daily Beast. Toutefois, en cas de complications, les scientifiques n’ont pas vraiment la technologie pour explanter et retirer ces dispositifs en toute sécurité sans endommager le cerveau, reconnaît-elle.
Les universitaires ont également formulé plusieurs questions supplémentaires encore sans réponse. Ils se demandent en effet ce qu’il adviendra des patients qui ont déjà des appareils dans leur cerveau si Neuralink fait faillite.
Les autres interrogations des chercheurs sont :
- Qui peut contrôler les données d’activité cérébrale des utilisateurs ?
- Que deviennent ces données en cas de cession de l’entreprise, notamment à une entité étrangère ?
- Combien de temps dureront les dispositifs implantables et Neuralink couvrira-t-il les mises à niveau pour les participants à l’étude, que les essais réussissent ou non ?
Questions éthiques soulevées par Neuralink
« Cette technologie a le potentiel de changer la vie des personnes paralysées », a déclaré le Dr Kreitmair.
Toutefois, en cas de réussite, on risque d’assister à un appétit des consommateurs pour d’autres types d’utilisations de cette technologie, comme la lecture d’emails ou la conduite d’un véhicule autonome rien qu’avec l’esprit.
« Cela soulève une multitude de préoccupations éthiques. »
Selon le Dr James Giordano, de l’Université de Georgetown, il existe également des dangers de création d’un marché du tourisme médical des implants cérébraux. On ferait alors face à des risques de mauvaise surveillance et de négligence sur le plan du contrôle de la qualité.
D’autres experts évoquent des risques de piratage des implants ou de virus de puce informatique.
« Notre cerveau est notre dernier bastion de liberté, notre dernier endroit de vie privée », a déclaré le Dr Nita Farahany, spécialiste des technologies émergentes à la Duke University School of Law. Selon elle, il existe un risque d’utilisation abusive de cette technologie par les entreprises et par les gouvernements ou par des acteurs malveillants.
« Lorsqu’une entreprise comme Neuralink parle de se lancer dans des essais sur l’homme, je pense que cela devrait vraiment alerter le monde sur le fait qu’il est temps de développer des concepts robustes comme la liberté cognitive. »
« L’entreprise de Musk a un engagement insuffisant sur les questions éthiques, même si elle mérite d’être reconnue à d’autres égards », a déclaré Veljko Dubljević. Dubljević étudie l’éthique de la neurotechnologie et de l’intelligence artificielle à la North Carolina State University.
Enfin, même si le CEO deTesla parvient à concrétiser sa vision et à équiper des pans entiers de l’humanité avec sa technologie Neuralink, il reste plusieurs problèmes d’équité consistant à savoir qui peut transformer son cerveau en superordinateur, conclut The Daily Beast.