Les systèmes d’intelligence artificielle se retrouvent de plus en plus souvent dans des situations où leurs résultats ont une portée morale. Un algorithme de recrutement classe des candidats. Un outil de triage médical répartit l’attention. Un système de modération de contenu décide quels propos sont autorisés. Aucune de ces décisions n’est purement technique. Chacune encode un jugement sur ce qui compte, qui compte, et quels compromis sont acceptables. Comprendre comment les systèmes d’IA naviguent ces moments, et ce que cela signifie pour les personnes qu’ils affectent, est l’une des questions les plus importantes de la technologie contemporaine.
Comment les valeurs sont encodées dans les systèmes d’IA
Tout système d’IA reflète les choix faits par ceux qui l’ont conçu. Ce n’est pas une métaphore. C’est une réalité mécanique.
Lorsqu’un système est entraîné, il apprend à partir de données. Ces données ont été collectées, filtrées et étiquetées par des humains opérant dans des contextes institutionnels, culturels et économiques spécifiques. Les objectifs que le système est entraîné à optimiser — qu’il s’agisse de l’engagement, de la précision, de l’efficacité ou d’autre chose — sont choisis par les concepteurs. Les contraintes imposées à son comportement sont rédigées par des ingénieurs et des éthiciens travaillant dans des cadres particuliers de ce à quoi ressemble le « bien ».
Cela signifie que le raisonnement moral n’émerge pas spontanément de l’IA. Il est hérité. Un système entraîné à maximiser l’engagement des utilisateurs se comportera différemment d’un système entraîné à maximiser leur bien-être, même lorsque ces deux objectifs se recoupent la plupart du temps. La divergence apparaît aux marges, précisément dans les situations où le jugement moral compte le plus.
Le domaine qui étudie ce problème s’appelle l’alignement des valeurs : le défi de s’assurer que le comportement d’un système d’IA reflète les valeurs que ses concepteurs, ses utilisateurs et les communautés concernées défendent réellement. C’est plus difficile qu’il n’y paraît. Les valeurs humaines sont souvent contradictoires, dépendantes du contexte, et difficiles à articuler avec suffisamment de précision pour être encodées dans un objectif d’entraînement. L’équité, par exemple, possède plusieurs définitions formelles qui sont mathématiquement incompatibles entre elles. En choisir une est en soi un acte moral.
Le problème du tramway à grande échelle
Les philosophes ont longtemps eu recours à des expériences de pensée pour sonder les intuitions morales. Le problème du tramway demande s’il est acceptable de nuire à une personne pour en sauver cinq. Ces scénarios semblent abstraits dans une salle de cours. Ils deviennent concrets lorsqu’un véhicule autonome doit décider comment réagir lors d’une collision inévitable, ou lorsqu’un algorithme d’allocation des ressources hospitalières doit classer des patients dans des conditions de pénurie.
Ce qui rend l’éthique de l’IA véritablement différente de l’éthique appliquée traditionnelle, c’est l’échelle et la vitesse. Un médecin humain prend rarement des décisions de triage difficiles, dans des conditions de stress, avec une responsabilité professionnelle et une surveillance institutionnelle. Un système d’IA peut prendre des décisions structurellement similaires dans des millions de cas, de manière constante, sans fatigue, et souvent sans qu’aucune décision individuelle ne soit visible ou révisable.
Cela crée un nouveau type de risque moral. Les erreurs humaines individuelles sont visibles et corrigeables. Les erreurs systématiques intégrées dans un système d’IA peuvent se propager invisiblement à travers d’immenses populations avant que quiconque ne remarque le schéma. Un modèle de recrutement biaisé ne prend pas une seule décision injuste. Il prend la même décision injuste, à grande échelle, jusqu’à ce que quelqu’un audite les résultats et remonte le problème jusqu’à sa source.
La réponse à ce risque a donné naissance à un corpus croissant de travaux autour de l’audit de l’IA, des évaluations d’impact algorithmique et des exigences d’explicabilité. L’idée centrale est que les systèmes prenant des décisions importantes doivent être lisibles : leur raisonnement doit être inspectable, leurs erreurs doivent être détectables, et les humains affectés par leurs résultats doivent disposer de recours effectifs. Ce ne sont pas des exigences purement techniques. Ce sont des exigences de gouvernance, qui dépendent autant de la volonté institutionnelle que des capacités d’ingénierie.
Pourquoi cela importe au-delà du secteur technologique
Ce serait une erreur de traiter l’éthique de l’IA comme une préoccupation de niche réservée aux chercheurs et aux régulateurs. Les décisions prises aujourd’hui sur la façon dont les systèmes d’IA gèrent les compromis moraux façonneront des institutions avec lesquelles la plupart des gens interagissent quotidiennement : la santé, l’emploi, le crédit, l’éducation, la justice pénale et les services publics.
Voici ce que la plupart des articles manquent. La question n’est pas de savoir si l’IA prendra des décisions morales. Elle en prend déjà, dans le sens où ses résultats ont des conséquences morales. La vraie question est de savoir qui est responsable de ces conséquences, et si les personnes concernées ont leur mot à dire de manière significative dans la conception des systèmes.
Le jugement humain n’est pas supprimé de ces processus. Il est déplacé. Des décisions qui étaient autrefois prises par un conseiller en crédit, un recruteur ou une commission de libération conditionnelle sont désormais prises par des systèmes conçus par des ingénieurs, approuvés par des chefs de produit et déployés par des institutions. La responsabilité morale ne disparaît pas. Elle se déplace, et devient plus difficile à retracer.
C’est pourquoi la gouvernance des systèmes d’IA est indissociable de leur éthique. Les choix techniques concernant les données d’entraînement, les objectifs d’optimisation et l’architecture des modèles sont aussi des choix politiques sur les valeurs qui sont encodées et les intérêts qui sont protégés. Les traiter comme des questions purement techniques est en soi une posture morale, qui tend à favoriser ceux qui contrôlent la technologie.
En bref
Les systèmes d’IA ne raisonnent pas sur l’éthique comme le font les humains. Ils reflètent les valeurs intégrées dans leur entraînement, leurs objectifs et leurs contraintes. À grande échelle, cela signifie que les choix moraux faits par les concepteurs se propagent à travers des millions de décisions affectant de vraies personnes. Le défi de l’alignement des valeurs — s’assurer que le comportement de l’IA reflète les valeurs de ceux qu’elle affecte — n’est pas un problème résolu. Il exige une surveillance humaine continue, une responsabilité institutionnelle et des structures de gouvernance qui maintiennent les personnes concernées par ces systèmes dans la conversation. La technologie est un outil. La responsabilité morale demeure entre les mains des humains qui la construisent, la déploient et la régulent.