Une étude montre les limites du moteur de recherche ChatGPT Search lancé il y a quelques semaines par OpenAI.
“Imprévisible”, “inexacte”… ce sont les termes désignant les résultats du moteur de recherche récemment intégré à ChatGPT. Dans son étude, le Tow Center for Digital Journalism de l’Université américaine de Columbia pointe les échecs de l’outil lorsqu’il est utilisé pour s’informer sur des problématiques actuelles.
1 149,99€
1 349,99€
Un stock
Acheter sur Fnac.com
Des certitudes qui ne le sont pas
ChatGPT Search, ou SearchGPT, est en quelque sorte la réponse d’OpenAI à Google. De plus en plus d’internautes font appel à l’intelligence artificielle pour obtenir des réponses à leurs questions. C’est pourquoi l’IA se propose désormais de naviguer sur le Web à leur place et de leur fournir sur un plateau les réponses qu’ils recherchent.
Le problème, souligne l’Université de Columbia, est l’assurance avec laquelle SearchGPT affiche ses résultats. Lorsqu’il s’agit de sujets tendances, ChatGPT va logiquement défileur sur le Web à la recherche d’articles de presse qui en parlent. Certains médias ne permettent cependant pas d’utiliser OpenAI dans leurs données… ce qui n’empêche pas ChatGPT d’entrer par la fenêtre.
Les chercheurs ont demandé à SearchGPT d’attribuer correctement 200 citations d’articles de presse à leurs auteurs respectifs. Une quarantaine d’entre eux provenaient de sites bloquant l’accès à ChatGPT. L’outil s’est néanmoins conformé à l’exercice, et a affirmé que certaines citations étaient signées par tel ou tel auteur, propageant au passage de fausses informations.
Le doute n’existe pas
Au fond, le problème c’est que l’intelligence artificielle, et en l’occurrence celle d’OpenAI, semble particulièrement gênée d’admettre qu’elle n’est pas sûre ou qu’il y a un doute sur la véracité des informations partagées.
« Au total, ChatGPT a donné des réponses partiellement ou totalement incorrectes à 153 reprises, bien qu’il n’ait reconnu son incapacité à répondre avec précision à une requête que sept fois. Ce n’est que dans ces sept cas que le chatbot a utilisé des mots ou des expressions réservés comme “semble”, “c’est possible” ou “pourrait être capable”ou des déclarations telles que “Je n’ai pas pu localiser l’article exact”. »
Revue de journalisme de Columbia
Ce qu’il faut retenir, c’est que SearchGPT n’est pas un journaliste, et que sa fonction est de répondre à votre question, quel qu’en soit le prix.
Le recul, le croisement des sources et le doute sont autant de fondements du métier que ne possède pas AI, et qui risquent de nuire encore davantage à l’image du journalisme. Un journalisme qui, à l’heure où la post-vérité est partout, a plus que jamais besoin d’être soutenu.
