Une intelligence artificielle invente un langage secret

Quelque chose que les chercheurs qualifient d’effrayant vient de se produire dans le monde de la technologie. Un programme d’intelligence artificielle a atteint le sommet de l’autonomie en écrivant son propre langage que personne d’autre n’est en mesure de comprendre.

Le langage secret de l’intelligence artificielle DALLE-E2

Le nouveau système d’intelligence artificielle DALLE-E2 d’Open AI est une IA dont le travail consiste à générer des images réalistes et/ou artistiques basées sur des descriptions textuelles saisies par les utilisateurs. Selon le développeur Open AI, DALLE-E2 est révolutionnaire car le système a en effet appris la relation existant entre les images et le texte utilisé pour leur description.

Récemment, cette nouvelle intelligence artificielle a inventé un langage propre que personne ne peut comprendre, rapporte le quotidien The New Post. La découverte a été rendue publique par Giannis Daras, étudiant au doctorat en informatique à l’Université du Texas. Daras avait demandé à DALLE-E2 de mettre en place une image « d’agriculteurs parlant de légumes ». Le programme l’a fait, mais le mot « vicootes » s’est faufilé dans le langage des fermiers.  Selon les chercheurs, ce mot appartient à la langue auto-écrite de DALLE-E2.

Lorsque Daras a vérifié le programme pour le mot « vicootes », il a trouvé des images de légumes.

Mais ce n’est pas tout ! Pour cette intelligence artificielle, les oiseaux sont des « Apoploe vesrreaitars », explique Daras.

Par ailleurs, dans ce nouveau langage, les mots « Contarra ccetnxniams luryca tanniounons » signifient « insectes » ou « parasites ».

DALLE-E a ensuite créé des phrases du style « Apoploe vesrreaitais mangeant Contarra ccetnxniams luryca tanniounons » qui renvoyaient à des images d’oiseaux mangeant des insectes.

Dans son article au sujet du « langage secret » de DALLE-E2, Daras explique qu’il semble que l’IA essaie de créer son propre monde pendant qu’elle accomplit son travail. Chaque fois que vous lui lancez une commande, elle peut répondre avec un texte charabia. Lorsque les chercheurs ont exécuté ce charabia sur DALLE-E2, ils ont trouvé des images qui signalent ce que le mot signifie.

DALLE-E2 écrit son propre langage

Le système a un comportement étrange. Il procède à la rédaction de son propre langage consistant en des arrangements aléatoires de lettres, et les chercheurs en ignorent la raison.

Daras a expliqué que dans ce langage, il semble que les agriculteurs évoquent des oiseaux gâchant leurs légumes.

Les chercheurs ont en outre précisé que lorsqu’ils disent à DALLE-E2 de générer des images de mots, on aboutit généralement au fait que DALLE-E2 crache un « texte charabia ». Ce dernier se traduira par des images qui en disent long sur la manière dont cette IA se parle et se pense, expliquent-ils.

Pour certains chercheurs en IA, le texte charabia de DALLE-E2 n’est un « bruit aléatoire ».

Toutefois, s’il est laissé à lui-même, il se peut que nous ayons un langage à part entière que seul DALLE-E2 comprend dans un avenir proche.