De nos jours, dans la société actuelle, l’intelligence artificielle est principalement utilisée pour le bien. « Et si ce n’était pas le cas ? », se sont demandé des chercheurs de Collaborations Phamaceuticals. Ces derniers ont donc peaufiné une IA (initialement développée pour la recherche de médicaments utiles) pour la recherche de molécules d’armes chimiques.
40.000 molécules d’armes chimiques potentiellement mortelles
L’algorithme d’apprentissage automatique développé par les scientifiques a trouvé 40.000 options de molécules d’armes chimiques potentiellement mortelles en seulement six heures, indique un article publié dans la revue Nature Machine Intelligence.
Dans le cadre d’une conférence sur le contrôle des armes chimiques et biologiques, les chercheurs ont modifié leur méthodologie pour rechercher de la toxicité plutôt que de l’éliminer comme lors de la recherche de médicaments utiles.
L’IA a trouvé des dizaines de milliers de nouvelles formules. Certaines de ces formulations sont semblables au gaz VX, l’agent neurotoxique le plus puissant au monde. Ébranlés par leur découverte, les chercheurs ont alors décidé de publier leurs résultats.
Le VX est un inhibiteur de l’acétylcholinestérase. Il agit sur la façon dans les muscles réagissent en fonction des ordres du cerveau. En d’autres termes, chaque fois que les muscles sont sollicités, les neurones utilisent l’acétylcholinestérase en tant que signal pour savoir qu’ils doivent bouger. La létalité du VX vient du fait qu’il empêche le diaphragme et les muscles pulmonaires de pouvoir bouger. Par conséquent, les poumons se paralysent.
Les scientifiques ne savaient pas vraiment ce qu’ils allaient obtenir lors de leur expérience. Ce qui les a surpris, c’est qu’un volume important des composés générés étaient en fait plus toxiques que le VX.
« C’est surprenant car le VX est l’un des composés les plus puissants au monde », explique le responsable principal de l’étude Fabio Urbina, chercheur chez Collaborations Pharmaceuticals, une société active la recherche de traitements médicamenteux pour les maladies rares.
Risques
Dans The Verge, Urbina explique que des personnes malintentionnées maîtrisant la chimie pourrait reproduire cette technique en ayant recours à des bases de données et des logiciels open source.
Urbina ajoute que si lui et son équipe sont capables de réaliser ce type d’opération, un agent adverse quelque part y pense peut-être déjà ou y pensera ultérieurement.
« D’ici là, notre technologie aura peut-être progressé et une partie importante de ce qui est faisable sera simplement open source. »
« Si vous consultez les modèles génératifs de Google, vous pouvez en trouver un certain nombre publiés gratuitement. Et puis, si vous recherchez des ensembles de données sur la toxicité, il existe un grand nombre d’ensembles de données toxicologiques open source. Donc, si vous combinez simplement ces deux choses, et que vous savez comment coder et créer des modèles d’apprentissage automatique, alors vous pouvez facilement reproduire ce que nous avons fait. Et pas seulement pour le VX, mais pour à peu près tous les autres ensembles de données de toxicité open source existants. »
Le chercheur explique toutefois qu’une certaine expertise en chimie est nécessaire. Par ailleurs, il faut également être capable de synthétiser ces molécules.
« Trouver un médicament potentiel ou une nouvelle molécule toxique potentielle est une chose, la prochaine étape de la synthèse, c’est-à-dire créer une nouvelle molécule dans le monde réel, est un autre obstacle. »
Intelligence artificielle et armes chimiques
Dans leur publication, les chercheurs indiquent que leur étude constitue également un signal d’alarme envoyé à leurs collègues.
« Nous voulons simplement que davantage de chercheurs reconnaissent et soient conscients des abus potentiels. Lorsque vous commencez à travailler dans le domaine de la chimie, vous êtes informé de l’utilisation abusive de la chimie, et vous êtes en quelque sorte responsable de vous assurer d’éviter cela autant que possible. Pour l’apprentissage automatique, il n’y a rien de tel. Il n’y a aucune indication sur l’utilisation abusive de la technologie. »
Fabio Urbino précise toutefois qu’il ne veut pas dire que l’IA va commencer à créer des molécules toxiques et qu’il y aura une multitude de nouveaux agents de guerre biochimiques juste au coin de la rue.
« Je ne veux pas être alarmiste en disant qu’il y aura une guerre chimique basée sur l’IA. Je ne crois pas que ce soit le cas maintenant. Cela ne sera pas le cas de sitôt. Toutefois, c’est quelque chose qui commence à devenir une possibilité », avertit-il.