Des experts dissimulent un malware dans une IA

Des experts sont parvenus à intégrer du code malveillant dans un réseau neuronal convolutif tout en sauvegardant son efficacité. Voici un excellent exemple de ce qu’on appelle la stéganographie. Il s’agit de la manière de dissimuler des choses de façon ouverte. Des professionnels chinois ont dévoilé qu’il était possible d’intégrer du code aux mauvaises intentions dans les nœuds d’un réseau neuronal sans que cela touche de façon notable les performances du mécanisme d’IA et sans que cela puisse être déniché.

Peu de perte

Afin d’illustrer l’art de la stéganographie, le meilleur exemple se nomme sans aucun doute AlexNet. Il s’agit d’un réseau neuronal convolutif dont on se sert par rapport à la reconnaissance de clichés. Ils ont effectué l’entraînement du réseau de façon basique, intégré du code nocif sur des couches neuronales spécifiques, et ensuite faire un test de ses performances.

Par la suite, ils ont modifié l’intégration du code afin de l’adapter dans le but de minimiser la perte de performances. Conséquence : ils sont parvenus à intégrer 36 Mo de code malveillant dans un modèle faisant 178 Mo tout en restreignant la chute des performances à 1 %. Ce qui se révèle être par conséquent un excellent taux.

Concept d’une offensive via réseau neuronal vérolé

Dans un contexte d’offensive pensé par les experts, des hackers pourraient par conséquent effectuer un contournement des fonctions de détection usuels en procédant à la diffusion de leurs modèles vérolés par le web.

Par conséquent, l’exemple effectué par les experts n’a été déniché par aucun des 58 moteurs antivirus ayant subi des tests sur le portail internet VirusTotal. Lorsqu’il y a téléchargement du modèle, il faut par la suite réunir les bouts de code nocif afin de façonner et mettre en route le malware.

C’est aux éditeurs d’antivirus de jouer !

L’IA ici est par conséquent utile en tant que véritable canal clandestin permettant la transmission d’une charge utile et le contexte laisse penser que la cible est déjà touchée par un malware pouvant procéder à l’extraction de ce code malveillant. Désormais, la balle est du côté des éditeurs d’antivirus, qui ont pour mission de concevoir des méthodes offrant la possibilité de dénicher ce genre d’infections.

Grâce à cette option, il y a désassemblent du malware dans le mécanisme neuronal. Ainsi, cela n’est pas déniché par la détection. Quand le téléchargement a lieu, le code malveillant peut par la suite être réuni dans un but d’exécution du malware. On peut aussi se servir des réseaux de neurones de façon extrêmement malicieuse, affirment les experts. Avec la notoriété de l’intelligence artificielle, les attaques appuyées par l’IA se multiplieront et offriront des défis nombreux et inédits par rapport à la sécurité informatique. Ils pensent que le contexte proposé dans leur rapport débouchera sur de nouveaux efforts concernant la protection.

L’IA ainsi que les réseaux neuronaux prennent part à de multiples et variés domaines applicatifs de la vie courante. Ils se transforment par conséquent en de nouveaux lieux de jeu concernant l’intégration de logiciels nocifs.