Les débats sur la régulation de l’IA ont tendance à se concentrer sur une question simple : quelle entreprise doit être tenue pour responsable lorsqu’un problème survient ? Une analyse récente publiée dans les Proceedings of the National Academy of Sciences suggère que cette formulation du problème est complètement erronée. La vraie question est de savoir comment une règle visant une entreprise modifie le comportement de toutes les autres entreprises de la chaîne. La réponse, s’avère-t-il, a des conséquences que la plupart des discussions politiques ne sont pas encore prêtes à gérer.
La chaîne d’approvisionnement que la régulation de l’IA ignore
La plupart des produits d’IA ne sont pas construits par une seule entreprise. Ils sont assemblés par couches. Un modèle à usage général, produit par un grand développeur d’IA tel qu’OpenAI ou Anthropic, sert de fondation. Une seconde entreprise adapte ensuite ce modèle à un usage spécifique, comme le résumé des notes cliniques de médecins ou l’alimentation d’un chatbot de service client. Chaque couche comporte ses propres responsabilités en matière de sécurité : le créateur du modèle gère l’entraînement, l’évaluation et la documentation ; l’entreprise en aval gère la validation clinique, le fine-tuning et la surveillance des erreurs.
Cette structure en couches est précisément ce que la plupart des régulations ne parviennent pas à prendre en compte. L’AI Act de l’UE, que la Commission européenne se prépare à appliquer, impose des exigences différentes en matière de sécurité et de transparence aux fournisseurs de modèles à usage général et aux entreprises qui construisent des applications par-dessus. Cette distinction est un pas en avant. Mais la question essentielle n’est pas seulement de savoir qui est régulé. C’est de comprendre comment une exigence ciblant une couche remodèle les incitations de tous les autres.
Comment de faibles règles peuvent rendre les produits moins sûrs
Benjamin Laufer, chercheur appliqué senior chez Microsoft et futur professeur assistant à la University of Washington Information School, a exploré ce mécanisme aux côtés des coauteurs Jon Kleinberg et Hoda Heidari. Leur modèle de théorie des jeux a examiné ce qui se passe lorsqu’un régulateur fixe une exigence de sécurité minimale pour une entreprise d’application en aval, tout en laissant le créateur du modèle en amont sans contraintes.
La découverte est contre-intuitive. Un plancher de sécurité faible, défini comme une exigence égale ou inférieure au niveau que les entreprises auraient atteint par elles-mêmes, peut en réalité réduire la sécurité globale du produit. L’entreprise en aval se conforme, augmentant son investissement dans la sécurité. Mais le créateur du modèle, sachant qu’un contrôle de sécurité existe plus loin dans la chaîne, réduit son propre investissement d’un montant supérieur à ce que l’entreprise en aval ajoute. Le résultat net est un produit moins sûr, malgré la présence d’une régulation.
L’analogie qu’utilise Laufer est instructive. Imaginez un régime de sécurité alimentaire qui oblige les restaurants à inspecter chaque ingrédient qu’ils servent, tout en n’imposant aucune obligation aux grands fournisseurs. Les restaurants portent une réelle responsabilité, et la règle n’est pas déraisonnable en soi. Mais les fournisseurs, anticipant que les restaurants détecteront les problèmes, ont moins de raisons de maintenir leurs propres contrôles de qualité. La même logique s’applique aux chaînes de développement de l’IA.
La conclusion la plus constructive est le revers de la médaille. Lorsque des exigences correctement calibrées s’appliquent à la fois au créateur du modèle en amont et à l’entreprise d’application en aval, la régulation peut fonctionner comme un mécanisme de coordination. Chaque entreprise investit dans la sécurité avec l’assurance que l’autre doit faire de même. Dans certains scénarios modélisés par les chercheurs, cette double responsabilité a conduit à une plus grande sécurité et de meilleures performances pour les consommateurs, tout en laissant les deux entreprises dans une meilleure situation financière.
Pourquoi cela compte au-delà du débat réglementaire
C’est ce que la plupart des couvertures médiatiques sur la régulation de l’IA manquent. La conversation a tendance à traiter la sécurité comme une quantité fixe qui est attribuée à celui qui est le plus proche de l’utilisateur final. Le cadre de Laufer révèle que la sécurité n’est pas du tout une quantité fixe. C’est une variable stratégique, et les règles régissant un acteur modifient le comportement de tous les autres acteurs.
Les implications s’étendent au-delà d’une seule loi ou d’une seule juridiction. En juin, le gouvernement américain a exigé qu’Anthropic restreigne l’accès à ses deux modèles les plus récents pour les ressortissants étrangers, invoquant des préoccupations de sécurité nationale. Incapable de vérifier la nationalité en temps réel, Anthropic a temporairement retiré l’accès à tous les utilisateurs. Peu de temps après, l’entreprise chinoise Moonshot AI a publié son modèle Kimi K3 et a partagé l’intégralité des poids de son modèle. Ces épisodes illustrent les pressions politiques qui façonnent la régulation de l’IA, mais ils soulignent également les enjeux. Lorsque les gouvernements interviennent au niveau du modèle, les entreprises en aval qui construisent sur ces modèles font face à des perturbations qu’elles n’ont pas provoquées et qu’elles ne peuvent pas contrôler entièrement.
À mesure que les modèles d’IA deviennent plus performants et plus largement déployés, le nombre de telles interventions va probablement augmenter. Chacune d’elles testera si les cadres réglementaires sont conçus pour répartir la responsabilité sur toute la chaîne de développement, ou s’ils permettent de rejeter discrètement la sécurité jusqu’à ce que quelqu’un d’autre paie l’addition.
La question que les régulateurs doivent se poser n’est pas simplement de savoir qui est le mieux placé pour prévenir les préjudices. C’est de savoir qui doit contribuer, à chaque couche, pour rendre le produit final véritablement plus sûr. Une règle qui ne répond qu’à la première question risque de ne répondre à aucune des deux.
En bref
Réguler uniquement la couche en aval du développement de l’IA peut se retourner contre nous. Lorsque les créateurs de modèles savent que les entreprises d’applications doivent respecter des normes de sécurité, ils peuvent réduire leurs propres investissements en sécurité plus que les entreprises en aval n’en ajoutent, rendant le produit final globalement moins sûr. Des recherches publiées dans les Proceedings of the National Academy of Sciences par Benjamin Laufer, Jon Kleinberg et Hoda Heidari montrent que des règles bien calibrées s’appliquant aux acteurs en amont comme en aval peuvent au contraire créer une responsabilité partagée et de meilleurs résultats en matière de sécurité. La leçon pour les décideurs politiques est structurelle : la sécurité de l’IA ne peut pas être sous-traitée à la couche la plus proche de l’utilisateur.
D’après un reportage de Fast Company - Tech.