The Brief
Société et éthique 5 min de lecture

L'aide qui nuit: l'IA et l'érosion de la persévérance

NAVION

Partager

Un test court impliquant des fractions et de la compréhension écrite a produit l’une des conclusions les plus troublantes de la recherche récente en IA. Non pas parce qu’il révèle quelque chose de dramatique, mais parce qu’il révèle quelque chose de silencieux: une brève exposition à un assistant IA semble réduire la volonté d’une personne de continuer à essayer une fois cet assistant retiré.

Ce que l’expérience a réellement démontré

Des chercheurs dirigés par Brian Christian de l’Université de Californie à Berkeley ont conçu une étude contrôlée et l’ont présentée lors de la troisième conférence annuelle sur la modélisation du langage. La configuration était simple. Des participants adultes ont été invités à résoudre des équations impliquant des fractions. Un groupe avait accès à une fenêtre ChatGPT en continu, tandis que l’autre travaillait sans assistance. Ensuite, au milieu du test, le chatbot a été entièrement retiré au premier groupe.

Les résultats étaient clairs. Pendant que ChatGPT était disponible, le groupe qui l’utilisait a résolu plus de problèmes et a sauté moins de questions que le groupe témoin. Cette partie est attendue. Le moment révélateur est apparu après la disparition de l’outil. Les deux groupes ont essentiellement inversé leurs positions: ceux qui s’étaient appuyés sur l’IA ont commencé à sauter plus de questions et à en résoudre moins, tandis que le groupe qui avait travaillé seul a maintenu ses performances.

Les chercheurs ont ensuite répété l’expérience en utilisant des questions de compréhension écrite tirées des examens SAT. Le même schéma est apparu. La précision et la persévérance ont chuté dans le groupe assisté par l’IA une fois l’outil retiré.

Le propre résumé de la découverte par Christian mérite d’être noté. Il l’a décrit comme une situation où des systèmes conçus pour être utiles finissent par l’être d’une manière qui ne l’est pas vraiment. Cette tension se trouve au centre de ce vers quoi pointe cette recherche.

Le problème de la “grenouille bouillie” dans l’éducation

Les implications de l’étude sont plus nettes lorsqu’elles sont appliquées aux jeunes apprenants, et les chercheurs eux-mêmes utilisent une expression spécifique pour décrire le risque: le problème de la “grenouille bouillie”. La crainte n’est pas qu’une seule session de test cause des dommages durables. C’est qu’une utilisation soutenue de l’IA, sur des mois et des années, puisse éroder progressivement la motivation et la persévérance qui rendent l’apprentissage à long terme possible. Au moment où ces effets deviennent visibles, préviennent les chercheurs, ils peuvent être difficiles à inverser.

Ce cadrage se connecte directement à une décision politique déjà en cours. Les écoles de New York ont restreint l’accès à l’IA pour environ 600 000 élèves, de la maternelle à la huitième année. La justification offerte par le chancelier des écoles Kamar Samuels était explicite: les enfants apprennent mieux par l’effort productif, en faisant des erreurs et en essayant à nouveau. Aucun outil d’IA, selon lui, ne peut reproduire ce processus.

Ce que l’étude de Berkeley ajoute à cet argument est un poids empirique. La préoccupation n’est plus purement philosophique. Même lors de courtes sessions de test mesurées en minutes, le schéma d’une persévérance réduite est apparu. La question que soulève la recherche n’est pas de savoir si l’IA est utile. Elle l’est clairement, du moins sur l’instant. La question est de savoir ce qu’il advient des habitudes cognitives qui se forment par la difficulté, la répétition et l’échec, lorsque ces expériences sont systématiquement contournées.

Pourquoi cela compte au-delà de la salle de classe

L’étude se concentre sur les étudiants et les conditions de test, mais les implications vont plus loin. Les chercheurs eux-mêmes y font allusion lorsqu’ils soulèvent la question des agents d’IA conçus pour éliminer les frictions dans les tâches quotidiennes, et pas seulement académiques. Si l’effort productif qui bâtit la persévérance est précieux dans l’apprentissage, il est raisonnable de se demander s’il l’est également dans la résolution de problèmes professionnels, le travail créatif et la prise de décision en situation d’incertitude.

C’est ce que la plupart des reportages sur les capacités de l’IA ont tendance à manquer. La conversation autour des outils d’IA est presque entièrement axée sur la qualité du résultat: est-ce que le modèle donne une bonne réponse, est-ce qu’il écrit un paragraphe cohérent, est-ce qu’il résout l’équation. L’étude de Berkeley déplace le cadre. Elle demande ce qui arrive à la personne qui utilise l’outil, non seulement sur le moment, mais après. Les performances pendant les tâches assistées par l’IA semblaient meilleures. Les performances après le retrait de l’outil semblaient pires.

Cette asymétrie importe pour quiconque réfléchit à la manière dont l’IA s’intègre dans les flux de travail, les systèmes éducatifs ou les habitudes individuelles. Un outil qui améliore les résultats à court terme tout en réduisant la capacité sous-jacente qui génère ces résultats n’est pas directement bénéfique. C’est un compromis, et qui a tendance à être invisible jusqu’à ce que l’outil ne soit plus disponible.

L’étude ne soutient pas qu’il faille éviter l’assistance de l’IA. Elle soutient que les effets de cette assistance sur la cognition humaine méritent une attention sérieuse, et que ces effets peuvent s’accumuler d’une manière qui est lente à apparaître et difficile à défaire.

En bref

Une étude contrôlée présentée lors de la conférence sur la modélisation du langage a révélé que les adultes qui ont utilisé ChatGPT lors d’un test sont devenus moins persévérants et moins précis une fois l’outil retiré, par rapport à ceux qui avaient travaillé sans lui. L’effet est apparu à la fois dans les tâches de mathématiques et de compréhension écrite. Les chercheurs décrivent le risque pour les jeunes apprenants comme un problème de “grenouille bouillie”: l’érosion progressive de la motivation et de la persévérance qui stimulent l’apprentissage, s’accumulant sur des années avant de devenir visible. Le problème central n’est pas de savoir si l’IA produit de bons résultats sur le moment. C’est ce que la dépendance répétée à l’égard de ces résultats fait à la capacité humaine qui demeure lorsque l’outil a disparu.

D’après un reportage de Nautilus.

Rédigé par

NAVION