The Brief
Sociedad y ética 5 min de lectura

La ayuda que perjudica: la IA y la erosión de la persistencia

NAVION

Compartir

Una pequeña prueba que involucra fracciones y comprensión lectora ha producido uno de los hallazgos más inquietantes en la investigación reciente sobre IA. No porque revele algo dramático, sino porque revela algo silencioso: una breve exposición a un asistente de IA parece reducir la disposición de una persona a seguir intentándolo una vez que ese asistente ya no está.

Lo que el experimento demostró en realidad

Investigadores liderados por Brian Christian, de la Universidad de California en Berkeley, diseñaron un estudio controlado y lo presentaron en la tercera conferencia anual Conference on Language Modeling. La configuración fue directa. A participantes adultos se les pidió que resolvieran ecuaciones que involucraban fracciones. Un grupo tuvo acceso a una ventana de ChatGPT durante todo el proceso, mientras que el otro trabajó sin asistencia. Luego, a mitad de la prueba, el chatbot fue retirado por completo del primer grupo.

Los resultados fueron claros. Mientras ChatGPT estuvo disponible, el grupo que lo usó resolvió más problemas y omitió menos preguntas que el grupo de control. Esa parte es de esperarse. El momento revelador llegó después de que la herramienta desapareció. Los dos grupos esencialmente intercambiaron posiciones: aquellos que habían dependido de la IA comenzaron a omitir más preguntas y a resolver menos, mientras que el grupo que había trabajado solo mantuvo su desempeño.

Los investigadores luego repitieron el experimento utilizando preguntas de comprensión lectora extraídas de exámenes SAT. El mismo patrón surgió. La precisión y la persistencia disminuyeron en el grupo asistido por IA una vez que la herramienta fue retirada.

El propio resumen de Christian sobre el hallazgo vale la pena señalarse. Lo describió como una situación en la que los sistemas construidos para ser útiles terminan siendo útiles “de formas que son un poco inútiles”. Esa tensión se encuentra en el centro de hacia dónde apunta esta investigación.

El problema de la “rana hirviendo” en la educación

Las implicaciones del estudio son más agudas cuando se aplican a estudiantes más jóvenes, y los investigadores mismos usan una frase específica para describir el riesgo: un problema de la “rana hirviendo”. La preocupación no es que una sola sesión de prueba cause un daño duradero. Es que el uso sostenido de la IA, durante meses y años, podría erosionar gradualmente la motivación y la persistencia que hacen posible el aprendizaje a largo plazo. Para cuando esos efectos se vuelven visibles, advierten los investigadores, pueden ser difíciles de revertir.

Este marco se conecta directamente con una decisión de política que ya está en marcha. Las escuelas de la Ciudad de Nueva York restringieron el acceso a la IA para aproximadamente 600,000 estudiantes desde prejardín de infantes hasta octavo grado. La justificación ofrecida por el canciller escolar Kamar Samuels fue explícita: los niños aprenden mejor a través de la lucha productiva, a través de equivocarse e intentarlo de nuevo. Ninguna herramienta de IA, en su opinión, puede replicar ese proceso.

Lo que el estudio de Berkeley añade a ese argumento es peso empírico. La preocupación ya no es puramente filosófica. Incluso en sesiones de prueba cortas medidas en minutos, apareció el patrón de persistencia reducida. La pregunta que plantea la investigación no es si la IA es útil. Claramente lo es, al menos en el momento. La pregunta es qué sucede con los hábitos cognitivos que se forman a través de la dificultad, la repetición y el fracaso, cuando esas experiencias se omiten constantemente.

Por qué esto importa más allá del aula

El estudio se centra en los estudiantes y las condiciones de prueba, pero las implicaciones se extienden más allá. Los investigadores mismos hacen un gesto hacia esto cuando plantean la cuestión de los agentes de IA diseñados para eliminar la fricción de las tareas cotidianas, no solo las académicas. Si la lucha productiva que construye la persistencia es valiosa en el aprendizaje, es razonable preguntar si también es valiosa en la resolución de problemas profesionales, el trabajo creativo y la toma de decisiones bajo incertidumbre.

Esto es lo que la mayor cobertura sobre la capacidad de la IA tiende a pasar por alto. La conversación en torno a las herramientas de IA se centra casi por completo en la calidad del resultado: ¿da el modelo una respuesta correcta, escribe un párrafo coherente, resuelve la ecuación? El estudio de Berkeley cambia el enfoque. Pregunta qué le sucede a la persona que usa la herramienta, no solo en el momento, sino después. El desempeño durante las tareas asistidas por IA se veía mejor. El desempeño después de que la herramienta fue retirada se veía peor.

Esa asimetría importa para cualquiera que piense en cómo encaja la IA en los flujos de trabajo, los sistemas educativos o los hábitos individuales. Una herramienta que mejora el resultado a corto plazo mientras reduce la capacidad subyacente que genera ese resultado no es directamente beneficiosa. Es un intercambio, y uno que tiende a ser invisible hasta que la herramienta ya no está disponible.

El estudio no argumenta que se deba evitar la asistencia de la IA. Argumenta que los efectos de esa asistencia en la cognición humana merecen seria atención, y que esos efectos pueden acumularse de maneras que tardan en aparecer y son difíciles de deshacer.

En resumen

Un estudio controlado presentado en la Conference on Language Modeling encontró que los adultos que usaron ChatGPT durante una prueba se volvieron menos persistentes y menos precisos una vez que la herramienta fue retirada, en comparación con aquellos que habían trabajado sin ella. El efecto apareció tanto en tareas de matemáticas como de comprensión lectora. Los investigadores describen el riesgo para los estudiantes más jóvenes como un problema de la “rana hirviendo”: la erosión gradual de la motivación y la persistencia que impulsan el aprendizaje, acumulándose durante años antes de volverse visibles. El problema central no es si la IA produce buenos resultados en el momento. Es lo que la dependencia repetida de esos resultados le hace a la capacidad humana que permanece cuando la herramienta ya no está.

Basado en información de Nautilus.

Escrito por

NAVION