Pourquoi les réponses des moteurs de recherche IA sont loin d’être parole d’Évangile

La technologie de moteurs de recherche fonctionnant via IA n’est tout bonnement pas prête à être déployée à grande échelle, écrit Melissa Heikkilä sur The Algorithm.

Moteurs de recherche alimentés par chatbot

A début du mois, la technologie des moteurs de recherche alimentés par chatbot a bénéficié d’un ample battage médiatique. La finalité de ces robots IA consiste en un bouleversement total de notre expérience de recherche sur Internet. Ces outils IA sont censés générés des réponses loquaces aux requêtes des utilisateurs au lieu de simplement renvoyer des listes de liens comme c’est le cas actuellement.

Toutefois, suite à cette annonce, les choses ne se sont pas vraiment déroulées comme prévu. En effet, peu après la décision de Microsoft d’offrir un accès public à son moteur de recherche Bing alimenté par ChatGPT, les utilisateurs ont découvert que ce dernier fournissait parfois des réponses incorrectes ou absurdes reprenant, par exemple, les théories du complot.

Google a également vécu une situation embarrassante lorsque des scientifiques ont repéré une erreur factuelle dans l’annonce de l’entreprise pour son chatbot Bard.

« Cette situation est encore plus surprenante si l’on pense que cela n’a surpris personne s’intéressant aux modèles de langage IA », explique la chroniqueuse Heikkilä.

Une technologie pas prête pour une utilisation massive

La technologie des moteurs de recherche via IA n’est pas prête pour une utilisation à grande échelle, écrit Heikkilä.

« Les moteurs de recherche sont des baratineurs notoires. Ils présentent souvent des mensonges comme des faits. Ils excellent dans l’art de prédire le mot suivant dans une phrase. Cependant, ils n’ont aucune connaissance de sa signification réelle. Par conséquent, il est extrêmement dangereux de les combiner avec la recherche où il est crucial de clarifier les faits. »

OpenAI, créateur du chatbot IA à succès ChatGPT, a souligné à plusieurs reprises que son outil en est encore au stade de projet de recherche. ChatGPT devrait s’améliorer constamment au fur et à mesure qu’il reçoit les commentaires du public.

Cependant, cela n’a pas empêché Microsoft de l’intégrer dans la nouvelle version de Bing. L’entreprise a tout de même insisté sur le fait que les résultats de recherche pourraient présenter un manque de fiabilité. De son côté, Google utilise le traitement du langage naturel depuis plusieurs années. Cette technologie aide les internautes à effectuer des recherches sur Internet en utilisant des phrases entières au lieu de mots clés. Cependant, jusqu’à présent, l’entreprise a hésité à intégrer sa propre technologie de chatbot IA dans son moteur de recherche de signature, explique Chirag Shah, professeur à l’Université de Washington, spécialisé dans la recherche en ligne. En effet, la direction de Google s’est inquiétée du « risque de réputation » de se précipiter sur un outil de type ChatGPT.

Des mensonges présentés comme des faits

Les récentes erreurs de Big Tech ne signifient pas que la recherche basée sur l’IA est une cause perdue. Google et Microsoft ont tenté d’améliorer la précision de leurs résumés de recherche générés par l’IA en incluant des citations.

En reliant de cette manière les résultats aux sources, les utilisateurs comprennent mieux d’où le moteur de recherche obtient ses informations, explique Margaret Mitchell, chercheuse et éthicienne à la startup d’IA Hugging Face, ancienne co-directrice de l’équipe d’éthique de l’IA de Google.

Cela pourrait même aider à donner aux personnes une vision plus diversifiée des choses, explique-t-elle. Cela les inciterait à considérer davantage de sources dans leurs recherches.

Mais on ne résout en rien le problème fondamental de cette manière. Ces modèles d’IA constituent des informations et présentent en toute confiance des mensonges comme des faits. Et lorsque le texte généré par l’IA semble faire autorité et cite des sources, les utilisateurs pourraient encore moins revérifier les informations fournies.

« Beaucoup de personnes ne cherchent pas à vérifier les citations. Avoir une citation donne à quelque chose un air d’exactitude qui pourrait ne pas être là », dit Mitchell.

Google sur la défensive

L’attention se porte principalement sur la startup OpenAI et son patron, Microsoft.

« C’est définitivement embarrassant pour Google. Ils sont maintenant en position défensive. Google ne s’est pas retrouvé dans cette position depuis très longtemps », explique Shah.

Pendant ce temps, Microsoft estime que les attentes autour de Bing sont si faibles que quelques erreurs n’auront pas vraiment d’importance. Microsoft détient moins de 10 % de part de marché pour la recherche en ligne.

« Gagner juste quelques points de pourcentage de plus serait une énorme victoire pour eux », explique Shah.

La recherche n’est que l’un des domaines dans lesquels les deux géants technologiques se battent. Ceux-ci s’affrontent également dans le domaine des services de cloud computing, des logiciels de productivité et des logiciels d’entreprise.

Shah estime que les entreprises vont transformer les premiers ratés des moteurs de recherche IA en opportunités d’apprentissage.

« Plutôt que d’adopter une approche prudente à ce sujet, Ces entreprises avancent de manière très audacieuse. Laissez le système d’IA faire des erreurs, car maintenant le chat est sorti du sac. »

« Essentiellement, nous, les utilisateurs, effectuons actuellement le travail de tester cette technologie gratuitement. Nous sommes tous des cobayes à ce stade », conclut Shah.