On savait que les IA pouvaient “halluciner” et inventer des faits. On apprend désormais que les moteurs de recherche par IA citent des sources incorrectes dans 60% des cas.
Les intelligences artificielles qui s’appuient sur des recherches web pour donner des réponses plus fraîches, plus sourcées, donc en principe, plus justes, semblent avoir un peu de mal avec les sources des articles d’actualité. C’est ce que viennent de découvrir des chercheurs de l’université de Columbia, en ce mois de mars. Ils ont étudié huit moteurs de recherche dopés à l’IA. De ChatGPT Search, à Gemini de Google, en passant par Grok et Deekpseek. Ils leur ont donné une mission assez simple : à partir d’un extrait d’article pioché au hasard sur un site d’information connu, ils devraient retrouver sa source. C’est-à-dire son titre, l’éditeur d’origine et sa date de publication. A priori, rien de complexe. D’autant que la réponse apparaissait, à chaque fois, dans les trois premiers liens d’une recherche classique sur Google. Et pourtant ils se sont trompés dans 60% des milliers de requêtes qu’ont effectué les chercheurs. Perplexity s’en sort le mieux avec, quand même, 37% d’erreurs. Bonnet d’âne pour Grok avec 94% d’erreurs. ChatGPT est dans la moyenne avec 67% d’articles incorrectement identifiés.
Parmi les erreurs, on retrouve des liens qui ne mènent nulle part parce qu’ils ont été tout simplement inventés, ou qui renvoient vers l’article d’un tiers comme Yahoo News plutôt que vers celui d’origine. Pire : ces erreurs persistent même quand la plate-forme a signé un accord avec la publication dont est issu l’article. Ce qui n’est pas très rassurant.
Un algorithme pefectible
On attend encore une explication officielle des plateformes en question. Mais cela semblerait lié à l’algorithme qui va piocher les informations sur internet. La bonne nouvelle, c’est qu’ils ne peuvent que s’améliorer. On rappelle que la plupart de ces outils ont moins de six mois. Là où le moteur de Google a été optimisé pendant plusieurs décennies.
La mauvaise, c’est que ces outils ont tous répondu avec beaucoup d’aplomb, sans faire preuve d’aucune nuance (pas de “peut-être” ni de “il me semble”), même quand c’était totalement faux. Or c’est le problème : ces outils sont loin d’être fiables. Pourtant, beaucoup ont tendance à leur faire confiance les yeux fermés.
Jean-Philippe Behr
