The Brief
IA au quotidien 6 min de lecture

L'IA a affirmé que tout allait bien. La montagne n'était pas de cet avis.

NAVION

Partager

Un groupe de trois randonneurs d’une vingtaine d’années a atteint le sommet du mont Shasta, dans le nord de la Californie, à 19h30, bien après le moment où une descente en toute sécurité était encore envisageable. Ils avaient sous-estimé l’ascension, apporté des vivres insuffisants et mal évalué leur propre condition physique. Au matin, ils se trouvaient perdus sur une section dangereuse de la montagne, et l’un d’eux s’était blessé au genou. Lorsqu’ils ont analysé par la suite ce qui avait mal tourné, ils ont en partie pointé du doigt leur recours au chatbot Gemini de Google pour la planification de leur voyage. Il ne s’agit pas d’un incident isolé. C’est un schéma récurrent, et cela soulève des questions qui dépassent largement le cadre de la randonnée.

Les failles spécifiques de l’IA sur le terrain

Les cas du mont Shasta sont instructifs précisément parce qu’ils sont variés. Les trois randonneurs parvenus au sommet trop tard illustrent un premier type d’échec : l’IA fournit des conseils de planification qui semblent complets, mais qui manquent du jugement contextuel qu’un expert local appliquerait automatiquement. Un autre visiteur au même endroit a planté sa tente près d’un panneau interdisant le camping et a refusé de bouger, invoquant l’IA comme son unique autorité. Une troisième personne est arrivée au départ d’un sentier munie d’une carte générée par l’IA qui situait des caractéristiques géographiques importantes du mauvais côté d’une montagne voisine.

Il ne s’agit pas de cas marginaux où des gens ignoreraient de bons conseils. Ce sont des situations où des personnes reçoivent des informations fausses, précises et pleines d’assurance, avant d’agir en conséquence.

En Colombie-Britannique, un adolescent de 16 ans a été secouru par hélicoptère sur une corniche de la crête Widowmaker, sur Crown Mountain. Il avait utilisé le chatbot Claude d’Anthropic pour l’aider à planifier son excursion. L’histoire a largement circulé au Canada et aux États-Unis. Le randonneur a fait remarquer par la suite qu’il avait également consulté Google Maps et l’application de randonnée AllTrails, ce qui complexifie toute explication à cause unique, mais la dynamique sous-jacente demeure : les conseils générés par l’IA faisaient partie d’un processus de planification qui s’est achevé par une opération de sauvetage.

Nick Meyers, responsable de programme au Mount Shasta Wilderness Climbing and Avalanche Center, a décrit les randonneurs qui avaient utilisé Gemini comme des personnes ayant « débranché leur cerveau ». Cette formule est plus précise qu’il n’y paraît.

De 0 à 26 pour cent : la progression est rapide

Le parc national de Grand Teton, dans le Wyoming, offre un point de repère utile. Le surintendant du parc, Chip Jenkins, a indiqué que la proportion de visiteurs affirmant avoir utilisé l’IA pour obtenir des informations de voyage est passée de zéro à 26 pour cent au cours de l’année écoulée. Jenkins a ajouté qu’il ne s’attendait pas à voir cette courbe s’aplatir.

Ce changement de comportement se produit plus rapidement que les institutions gérant les terres publiques ne peuvent s’adapter. Le volume d’appels aux services de recherche et de sauvetage ne montre pas encore de tendance claire à la hausse liée à l’utilisation de l’IA. Nick Meyers a souligné que son bureau enregistre en moyenne une douzaine de sauvetages par an et que 2026 s’annonce comme une année normale. Dans le Wyoming, les appels aux secours ont en réalité diminué par rapport à 2025. Les données ne confirment pas encore l’existence d’une crise. Mais le changement comportemental est bien réel, et le décalage entre la généralisation d’une nouvelle technologie et la mesurabilité de ses conséquences est un phénomène bien connu.

Chris Flathmann, professeur d’informatique axée sur l’humain à l’université de Clemson, qui a étudié l’IA ainsi que les opérations de recherche et de sauvetage, a introduit un concept qui éclaire ce qui se passe réellement : la « capitulation cognitive ». Lorsque les individus travaillent en étroite collaboration avec des systèmes d’IA, ils peuvent progressivement cesser de réfléchir de manière critique par eux-mêmes. Dans un environnement familier, cela peut se corriger. En milieu sauvage, sous l’effet du stress, avec des informations limitées et des risques physiques, cela ne pardonne pas.

Chris Flathmann a également souligné une caractéristique structurelle propre à la communication des chatbots : ils ont tendance à dire aux utilisateurs ce qu’ils ont envie d’entendre, et ils le font avec assurance, peu importe que les sources sous-jacentes soient fiables ou non. Un chatbot peut produire des indications de sentier détaillées et péremptoires assemblées à partir de fils de discussion sur Reddit, de vidéos YouTube obsolètes ou de contenus tout simplement inventés. Le résultat ressemble à de l’expertise. Il n’en est rien.

Ce que cela révèle sur notre manière de déléguer le jugement

Les professionnels de la recherche et du sauvetage ont déjà observé ce type de schéma par le passé. Il y a dix ans, Instagram et d’autres plateformes de réseaux sociaux incitaient les gens à se rendre vers des destinations pour lesquelles ils n’étaient pas préparés, parfois avec des conséquences fatales. Auparavant, une confiance aveugle en Google Maps et en la connectivité des smartphones avait provoqué sa propre catégorie de problèmes. L’IA constitue le nouveau chapitre d’une longue histoire sur ce qui se produit lorsque les individus externalisent leur jugement au profit d’outils qui n’ont pas été conçus pour cela.

La distinction que fait Chris Flathmann entre les réseaux sociaux et l’IA mérite d’être conservée. Des plateformes comme TikTok ou Instagram offrent de l’inspiration. L’IA fournit des instructions, et elle le fait sur un ton autoritaire. Cette différence de registre modifie la façon dont les gens reçoivent et traitent l’information. L’inspiration invite à l’interprétation. Les instructions invitent à la conformité.

Jim Moss, avocat spécialisé dans les loisirs et bénévole dans les équipes de recherche et de sauvetage basé dans le Colorado, l’a formulé sans ambages : il y a plus de monde que jamais en plein air, stimulé par des années d’encouragements médiatiques, et l’on ignore encore comment les conseils générés par l’IA influenceront l’ensemble de ces personnes.

Le consensus des experts sur la conduite à tenir n’a pas varié. Il convient de vérifier les informations auprès de sources officielles : cartes et sites Web des agences gérant les terres publiques, ressources des associations de randonnée, guides récents. Mieux encore, adressez-vous à un garde forestier, à un agent des forêts nationales ou à un guide professionnel. Ce sont des personnes dont les connaissances sont actualisées, ancrées localement et responsables, contrairement aux productions d’un modèle linguistique.

En bref

Les chatbots d’IA peuvent générer des informations erronées, détaillées et pleines d’assurance concernant les environnements extérieurs, et les utilisateurs agissent en conséquence. Le problème ne vient pas d’une malveillance de l’IA. Il réside dans le fait que l’IA communique avec une autorité qu’elle n’a pas méritée, tandis que les utilisateurs, en particulier ceux qui ne connaissent pas le terrain, ne disposent d’aucune méthode fiable pour repérer les erreurs. Le concept de capitulation cognitive met en lumière le risque le plus profond : plus une personne délégue sa planification à un système d’IA, moins elle est armée pour repérer ses erreurs au moment où cela compte le plus. Pour les décisions comportant des conséquences physiques, la vérification par l’expertise humaine n’est pas une option.

D’après un reportage de Wired.

Rédigé par

NAVION