Le langage n’est pas seulement un véhicule pour le sens. C’est une empreinte digitale. Les mots précis qu’une personne choisit, la complexité de ses phrases, le rythme de son raisonnement : tout cela transporte des informations sur qui elle est, d’où elle vient, ce qu’elle valorise. Un corpus croissant de recherches suggère maintenant que les grands modèles de langage, lorsqu’ils sont utilisés pour assister ou réécrire du texte humain, effacent discrètement ces empreintes.
C’est ce que la plupart des reportages sur les outils d’écriture par IA manquent. La conversation tend à se concentrer sur la qualité, la vitesse ou la précision. La question de ce qui se perd dans le processus reçoit beaucoup moins d’attention.
La convergence que personne n’a mesurée
Le chercheur Zhivar Sourati a commencé à poser cette question après avoir lu le livre de James Pennebaker, The Secret Life of Pronouns, qui explore comment les valeurs personnelles, les parcours et les croyances façonnent les mots précis que les gens utilisent pour exprimer les mêmes idées. À mesure que les grands modèles de langage ont été plus largement adoptés, Sourati a commencé à se demander si faire transiter du texte par ces systèmes pouvait comprimer cette variation naturelle.
Pour le savoir, son équipe a mené une analyse de séries temporelles s’appuyant sur environ 80 000 articles académiques, 400 000 articles de presse et 300 000 histoires Reddit, en comparant l’écriture produite avant et après le lancement de ChatGPT en novembre 2022. La découverte était cohérente dans les trois jeux de données : après l’adoption des outils d’écriture par IA, la variation de la complexité rédactionnelle a convergé vers des normes stylistiques communes. La tendance s’est maintenue quel que soit le domaine ou le public.
C’est important parce que la convergence n’était pas le résultat de gens choisissant consciemment d’écrire plus simplement ou de manière plus uniforme. Elle a émergé comme le sous-produit du passage de texte à travers des systèmes formés sur les mêmes données sous-jacentes, optimisés pour la même notion de clarté et de correction.
Signaux d’identité, effacés discrètement
L’équipe de Sourati a ensuite mené une expérience plus contrôlée. Ils ont fait réécrire des textes d’origine humaine par GPT-3.5, Gemini et Llama 3 de Meta en utilisant une gamme de prompts. Les modèles ont bien préservé le sens. Ce qu’ils ont réduit, c’est la variation : la complexité rédactionnelle a chuté de 21 % à 50 % selon le modèle et le prompt.
La troisième étape de la recherche est allée plus loin. L’équipe a travaillé avec des textes écrits par des individus dont les traits personnels avaient déjà été identifiés par le biais de questionnaires psychologiques, couvrant la démographie, la personnalité, l’empathie et les valeurs morales. Après que ces textes ont été traités par un grand modèle de langage, des modèles statistiques ont été utilisés pour prédire les traits des auteurs en se basant sur des caractéristiques linguistiques. La précision prédictive a diminué de 6 % en moyenne.
Ce chiffre mérite un moment d’attention. Une baisse moyenne de 6 % signifie que le texte, après le polissage par l’IA, portait des informations mesurablement moindres sur la personne qui l’avait écrit. Les signaux linguistiques qui relient les mots à l’identité avaient été partiellement effacés. Les résultats n’étaient pas uniformes : différents traits personnels ont été affectés de différentes manières, ce qui suggère que l’effet d’homogénéisation n’est pas un bruit aléatoire mais une altération structurée de la façon dont l’identité est encodée dans le langage.
Selon le Pew Research Center, plus d’un tiers de toutes les pages Web Internet publiées depuis le lancement de ChatGPT ont été rédigées par l’IA. L’échelle de ce changement signifie que l’homogénéisation documentée par Sourati n’est pas une curiosité de laboratoire. Elle redessine déjà la texture de la communication écrite à l’échelle d’une population.
Pourquoi la diversité cognitive est le véritable enjeu
La préoccupation de Sourati va au-delà de la linguistique. Son argument est que la diversité linguistique et la diversité cognitive sont liées. Lorsque l’écriture de chacun est filtrée par des systèmes qui convergent vers une notion partagée de ce qui semble crédible ou socialement approprié, la gamme de perspectives qui peuvent être exprimées clairement et distinctement commence à se rétrécir.
C’est la plus profonde implication. Ce n’est pas simplement que l’écriture assistée par IA se ressemble. C’est que les outils ont la capacité de définir à quoi ressemble une perspective légitime et bien exprimée, et de remodeler discrètement le texte vers cette définition. Sourati décrit cela comme la capacité de réécrire ce qui compte comme une manière crédible d’avoir une perspective.
La population que Sourati identifie comme la plus vulnérable est celle des étudiants : des gens qui développent encore leurs capacités de raisonnement et qui peuvent se tourner vers l’aide de l’IA avant d’avoir construit les habitudes cognitives qui rendent la pensée indépendante possible. Le risque n’est pas qu’ils écrivent moins bien. C’est qu’ils ne développent peut-être jamais complètement le processus interne que l’écriture, sous sa forme non assistée, entraîne.
Sa résolution proposée n’est pas d’abandonner ces outils mais de séquencer leur utilisation avec soin. Les personnes qui savent déjà raisonner à travers un problème peuvent utiliser les grands modèles de langage pour gérer des tâches spécifiques sans abandonner le processus sous-jacent. Le danger survient lorsque l’outil se substitue au développement de cette capacité au lieu de l’étendre.
C’est précisément là que le cadrage de NAVION concernant l’IA comme couche d’augmentation, et non comme remplacement du jugement humain, devient structurellement important. Un outil qui gère le volume et le formatage pendant que l’humain conserve le raisonnement est une proposition différente d’un outil qui génère le raisonnement lui-même.
En bref
Les grands modèles de langage, lorsqu’ils sont utilisés pour réécrire ou polir du texte humain, réduisent mesurablement la variation stylistique et érodent les signaux linguistiques qui transportent des informations sur l’identité individuelle. Une recherche menée par Zhivar Sourati, publiée dans Nature Human Behavior, a révélé que les réécritures par l’IA réduisaient la variation de la complexité rédactionnelle de 21 % à 50 %, et réduisaient la précision prédictive des traits liés à l’identité de 6 % en moyenne. La préoccupation n’est pas esthétique. C’est que le langage homogénéisé reflète et renforce une pensée homogénéisée, et que les personnes les plus à risque sont celles qui adoptent ces outils avant d’avoir appris à penser de manière autonome sans eux.
D’après un reportage de Fast Company - Tech.