Les chatbots IA sont de plus en plus positionnés comme le premier point de passage pour l’information, trônant au sommet des résultats de recherche, intégrés dans les navigateurs et commercialisés comme des conseillers de confiance. Un problème se pose avec cette approche : ces systèmes fabriquent de l’information avec le même ton assuré qu’ils emploient lorsqu’ils disent vrai. Comprendre comment riposter n’est pas une compétence technique. C’est une exigence de culture numérique fondamentale pour quiconque utilise ces outils.
Des citations existent. Cela ne signifie pas qu’elles sont réelles.
L’une des défenses les plus pratiques contre la fabrication par l’IA est d’exiger des sources. Dans ChatGPT, par exemple, les utilisateurs peuvent configurer le système via les Paramètres, sous Personnalisation, pour toujours citer des sources avec des liens lorsqu’ils formulent des affirmations factuelles. Si le chatbot ne le fait pas, cette absence constitue un signal d’alarme qu’il convient d’examiner immédiatement.
Le piège est que les citations peuvent être aussi peu fiables que les affirmations qu’elles sont censées appuyer. Un cas concret l’illustre clairement : une requête demandant pourquoi l’application Apple TV ne peut pas être utilisée sur Roku après un abonnement via la chaîne Roku a produit un résumé d’IA qui donnait une mauvaise réponse. La source citée était un fil de discussion sur un site de code obscur, et le lien lui-même ne fonctionnait pas. Une seconde citation pointait vers un article de CNET qui ne soutenait pas réellement l’affirmation formulée. Les citations existaient. Elles ne remplissaient simplement pas le rôle que les citations sont censées jouer.
Cela signifie que la vérification nécessite deux étapes, et non une. Premièrement, vérifiez que le lien fonctionne. Deuxièmement, lisez la source et confirmez qu’elle appuie effectivement ce que l’IA a dit. Omettre l’une ou l’autre de ces étapes laisse la porte ouverte à de la désinformation habillée en recherche.
Même les documents sources ne garantissent pas l’exactitude
Le problème de la fabrication ne disparaît pas lorsqu’un IA reçoit un document spécifique sur lequel travailler. Un exemple révélateur : lorsqu’il a été demandé à ChatGPT de résumer une proposition de la FCC concernant une nouvelle norme pour la télévision hertzienne, en lui fournissant un lien direct vers un PDF sur le site Web de la FCC, il a tout de même inventé des affirmations. Il a fabriqué toute une série de conclusions sur la manière dont la norme proposée affecterait la couverture des antennes. Pressé de fournir des citations directes du document, il a produit deux paragraphes qui n’existaient pas dans le matériel source. Interrogé sur ces citations, il les a qualifiées de paraphrases. Ce n’est qu’après le téléchargement direct du PDF que le système a reconnu que ses principales affirmations n’avaient aucun fondement dans le document.
C’est le schéma comportemental qu’il est utile de comprendre. Les chatbots IA ne signalent pas l’incertitude de la manière dont un chercheur humain prudent le ferait. Ils ne disent pas “Je ne suis pas sûr” ou “Je n’ai pas trouvé cela dans le document”. Ils comblent le vide avec un contenu qui semble plausible et le présentent sans réserve. La certitude de la sortie n’est pas corrélée à son exactitude.
L’implication pratique est que ces conversations doivent être traitées davantage comme des interrogatoires que comme des consultations. Demandez des citations. Demandez des numéros de page. Demandez au système de confirmer des affirmations spécifiques par rapport à la source. Si les réponses changent ou si le système fait marche arrière, c’est une information précieuse sur la fiabilité de tout ce qu’il a dit auparavant.
La fluidité est le véritable risque
Voici ce que la plupart des couvertures médiatiques de l’exactitude des IA manquent : le danger n’est pas seulement que ces systèmes se trompent. C’est qu’ils sont conçus pour sembler dépourvus de frictions, et l’absence de friction décourage la vérification.
La recherche web traditionnelle nécessitait de cliquer sur des sites Web, de lire au-delà des publicités et du contenu de remplissage, et de porter un jugement sur la qualité des sources. Ce processus était ennuyeux. C’était aussi une forme de scepticisme intégré. Les réponses de l’IA suppriment totalement cette friction. Un utilisateur obtient une réponse directe et confiante et s’en va satisfait, sans incitation naturelle à vérifier davantage.
Google développe cette dynamique. Son AI Mode, qui fournit des réponses dans une fenêtre de chat similaire à ChatGPT ou Gemini, était initialement distinct des AI Overviews qui apparaissent en haut des résultats de recherche standard. Google a depuis ajouté un champ de saisie de texte au bas de ces aperçus, permettant des questions de suivi et dirigeant les utilisateurs vers l’AI Mode pour poursuivre la conversation. La préoccupation est structurelle : plus l’expérience devient conversationnelle et autonome, plus les liens vers des sites Web externes descendent dans la page, et moins les utilisateurs sont susceptibles de les consulter.
La boîte de texte crée tout de même une ouverture utile. Si un aperçu d’IA cite un lien mort, présente un commentaire Reddit comme faisant autorité ou propose des informations indémontrables, les utilisateurs peuvent répliquer directement et exiger une meilleure réponse. C’est un levier modeste mais réel.
Le point le plus large est que la fluidité de la recherche alimentée par l’IA est une fonctionnalité qui peut jouer contre l’utilisateur. La technologie qui supprime les frictions supprime également les moments de pause où la pensée critique a tendance à se produire.
En bref
Les chatbots IA fabriquent de l’information avec assurance et sans signaux évidents d’incertitude. Exiger des citations est un premier pas utile, mais les citations doivent être vérifiées : le lien doit fonctionner, et la source doit réellement appuyer l’affirmation. Même lorsqu’un IA reçoit un document spécifique, il peut tout de même inventer du contenu qui n’apparaît pas dans ce document. La posture appropriée est sceptique et interrogative, non confiante. Et plus une interface d’IA semble fluide, plus les utilisateurs doivent réintroduire délibérément la friction qui évite que la vérification ne soit entièrement passée sous silence.
D’après un reportage de Fast Company - Tech.