Australie : quand les magazines scientifiques se mettent aussi à la rédaction par l’IA

En Australie, l’un des principaux magazines scientifiques fait l’objet de vives critiques après avoir publié des articles générés par l’intelligence artificielle. Des experts ont jugé ces contenus trop simplistes voire incorrects. Ces inexactitudes nuisent évidemment à la confiance et à la perception que les gens ont du domaine scientifique.

Les modèles d’IA génératifs de textes vont-ils également gangrener un milieu aussi respectable que la science ? On s’achemine allègrement vers cette sinistre possibilité. En Australie, l’un des principaux magazines scientifiques fait l’objet de vives critiques après avoir publié des articles générés par l’intelligence artificielle. Cosmos –c’est le nom du magazine– a publié pas moins de cinq contenus en août grâce à GPT-4 d’Open AI, le développeur du fameux ChatGPT.

Le magazine scientifique Cosmos critiqué pour les descriptions inexactes et trop simplistes de son IA

Publié par l’Agence scientifique nationale australienne, une organisation soutenue par l’Etat australien, Cosmos s’est rendu coupable de nombreuses inexactitudes et d’affirmations simplistes pour une revue de ce type. Jackson Ryan, président de l’Association des journalistes scientifiques d’Australie, a cité l’exemple de l’article généré par l’IA et intitulé « Qu’arrive-t-il à notre corps après la mort ? ». Il y relève des descriptions de processus scientifiques « incorrectes » ou « considérablement simplifiées ».

Des affirmations sur des sujets non encore tranchés

Jackson Ryan note notamment que l’intelligence artificielle a décrit des signes de rigidité cadavérique trois ou quatre heures après le décès. Or, souligne le journaliste, la recherche scientifique sur ce sujet est beaucoup moins précise. Il consiste aussi un problème au niveau de la description de l’autolyse, un processus dans lequel les cellules sont détruites par leurs enzymes. L’IA rédacteur scientifique parle d’« autodestructeurs ». Selon M. Ryan, il s’agit là d’une « description inappropriée du processus ».

Ces inexactitudes pourraient nuire à l’image du magazine

Fort de ces incohérences, le président de l’Association des journalistes scientifiques d’Australie estime que l’utilisation de l’intelligence artificielle pour la rédaction d’articles scientifiques soulève « de sérieuses inquiétudes ». Il craint à juste titre que ces inexactitudes nuisent à la confiance que les lecteurs accordent à ce magazine et même à la réputation qu’ils portent à la science. Celle-ci aimerait bien se passer de cette perception négative, alors qu’elle fait face à la poussée des complotistes et autres sceptiques assimilés.

D’anciens collaborateurs surpris de l’utilisation de l’IA par Cosmos

Un porte-parole de l’Agence scientifique australienne ne comprend pas les résultats, car le contenu de l’IA aurait été vérifié par un « outil scientifique qualifié » et « édité par l’équipe de publication de Cosmos ». Il rassure cependant que le magazine continue d’évaluer l’utilisation de l’intelligence artificielle pour la rédaction de ses articles. Un ancien rédacteur en chef du magazine, Ian Connellan, a confié pour sa part, à la chaîne ABC, qu’il n’a pas été informé du projet d’IA quand il était en poste. Sinon, il aurait dit c’était une « mauvaise idée ».

On reproche aussi à la revue d’avoir utilisé une subvention de journalisme pour développer son IA

Une autre ancienne rédactrice en chef de Cosmos, Gail MacCallum a déclaré à la même chaîne australienne que même si elle est une « grande partisane de l’exploration de l’IA », elle n’aurait jamais pensé à confier la création d’articles à cette technologie. Mais l’inexactitude des contenus générés par l’IA n’est pas la seule critique adressée au magazine. On lui reproche également d’avoir utilisé une subvention de journalisme pour développer ses capacités d’intelligence artificielle, qui se révèle maintenant problématiques.