The Brief
IA au quotidien 5 min de lecture

L'IA dans le ciel : 180 vols déviés et un syndicat écarté

NAVION

Partager

La Federal Aviation Administration américaine a déployé un système consultatif propulsé par l’IA dans l’ensemble de l’espace aérien national. Le système s’appelle SMART, il coûte 875 millions de dollars et il est désormais actif dans l’ensemble des 22 centres de contrôle du trafic aérien du pays. Les dirigeants des compagnies aériennes y sont favorables. Le syndicat représentant plus de 15 000 contrôleurs aériens affirme n’avoir jamais été consulté. Cet écart mérite d’être examiné.

Ce que fait réellement SMART, et ce qu’il ne peut pas faire

SMART est un système basé sur le cloud. Il rassemble des données sur les conditions météorologiques, les trajectoires de vol, la fluidité du trafic et les effectifs de contrôleurs pour prédire le comportement du trafic aérien, puis génère des recommandations : suggestions d’itinéraires, options de planification, séquences d’arrivée optimales pour les aéronefs.

Voici ce que la plupart des reportages sur cette affaire passent sous silence. SMART ne contrôle rien. Il conseille. Une équipe humaine de spécialistes de la FAA basée à Washington, DC, examine chaque recommandation avant qu’elle n’atteigne les installations de contrôle du trafic aérien. Les contrôleurs locaux décident ensuite d’accepter ou d’ignorer la suggestion. La FAA a été explicite sur ce point : le système ne peut pas remplacer le rôle des contrôleurs aériens et ne peut pas prendre le contrôle d’un aéronef.

Il s’agit d’un choix architectural significatif. L’IA se situe en amont de la décision, et non à l’intérieur de celle-ci. Elle restreint l’espace des options pour les experts humains plutôt que d’agir de manière autonome. Cette conception reflète à la fois la complexité du domaine et les contraintes réglementaires et de sécurité qui le régissent.

Les premiers chiffres du déploiement initial dans l’espace aérien de Washington, DC, sont précis. Depuis la mise en service du système le 21 septembre, il a aidé à dévier 180 vols. La FAA fait état d’une économie moyenne de 10 minutes par vol et de près de 80 gallons de carburant par vol. L’agence a ensuite étendu la couverture à Atlanta, Jacksonville et Miami avant d’annoncer le déploiement national complet le 10 novembre.

Soutien des compagnies aériennes, silence des contrôleurs et problème structurel

Le PDG de Delta Air Lines, Ed Bastian, et le PDG d’American Airlines, Robert Isom, ont tous deux formulé des déclarations de soutien lors de l’annonce du déploiement initial à Washington, DC. Leur enthousiasme est compréhensible. Moins de retards et une consommation de carburant réduite se traduisent directement par des économies opérationnelles et une fiabilité accrue de la planification pour les transporteurs.

La National Air Traffic Controllers Association a offert une réaction différente. Le syndicat, qui représente plus de 15 000 membres, a déclaré au magazine Flying qu’il n’avait pas été consulté ni impliqué dans la conception, les tests ou la mise en œuvre de SMART, et qu’il ne pouvait par conséquent pas se prononcer sur son effet sur la main-d’œuvre du contrôle aérien.

C’est une déclaration importante, et elle met en évidence une tendance qui apparaît de manière répétée lorsque des systèmes d’IA sont déployés dans des environnements professionnels à fort enjeu. Les personnes dont le travail est censé être soutenu par le système ne font souvent pas partie du processus de conception. Cela compte pour des raisons qui vont au-delà des relations de travail. Les contrôleurs aériens possèdent des connaissances opérationnelles qu’il est difficile de coder dans un ensemble de données : les heuristiques informelles, les cas limites, la conscience situationnelle acquise au fil des ans de gestion d’un trafic réel dans des conditions réelles. Un système conçu sans cette contribution peut être techniquement solide tout en passant à côté de détails que des praticiens auraient signalés immédiatement.

L’exemple de la FAA partagé avec The Dallas Morning News illustre le potentiel du système : SMART a recommandé un itinéraire plus court et plus rapide pour un vol cargo arrivant à l’aéroport international de Dallas-Fort Worth. L’agence n’a pas identifié le vol et n’a pas publié de données comparables sur la manière dont le système a affecté le trafic passagers. La base factuelle, à ce stade, reste limitée.

Pourquoi ce moment compte au-delà de l’aviation

Le déploiement de SMART est une étude de cas sur ce qui se produit lorsque l’IA passe du projet pilote à l’infrastructure nationale. La transition d’un test régional unique à 22 centres à travers le pays s’est produite en l’espace de quelques semaines. La vitesse est remarquable. Il en va de même pour la question de gouvernance qu’elle soulève.

L’aviation est l’un des domaines les plus critiques en matière de sécurité qui existent. Les conséquences des erreurs sont graves et souvent irréversibles. C’est précisément la raison pour laquelle l’industrie a développé des structures de supervision humaine étagées au fil des décennies. La conception de SMART respecte ces structures, du moins formellement : les humains valident, les humains décident, les humains conservent l’autorité sur les aéronefs. Mais la question de savoir qui a participé à la construction du système, et quelle expertise a façonné sa logique, est distincte de la question de savoir qui conserve l’autorité formelle sur ses résultats.

C’est la tendance générale à surveiller. À mesure que les systèmes consultatifs d’IA s’étendent à des domaines où le coût de l’erreur est élevé, le processus de conception compte autant que l’architecture de déploiement. Un système qui produit de bonnes recommandations en moyenne peut toujours échouer d’une manière que seuls des praticiens reconnaîtraient, si ces praticiens n’ont jamais été consultés.

Le déploiement de SMART illustre également comment l’IA modifie la nature du travail professionnel sans l’éliminer. Les contrôleurs ne sont pas remplacés. On leur fournit un nouveau type de contribution, générée par un système qui traite plus de variables simultanément qu’aucun individu ne le pourrait. La question est de savoir si cette contribution améliore leur jugement ou s’il le contraint subtilement d’une manière difficile à détecter jusqu’à ce qu’un problème survienne.

En bref

Le système SMART de la FAA est désormais actif dans l’ensemble des 22 centres de contrôle du trafic aérien américains. Il conseille, il ne décide pas. Les premiers résultats du déploiement de Washington, DC, montrent 180 vols déviés, avec des économies de temps et de carburant signalées par vol. Les dirigeants des compagnies aériennes le soutiennent. Le syndicat des contrôleurs aériens affirme avoir été exclu de l’ensemble du processus. Cette exclusion n’est pas une note de bas de page. Dans les déploiements d’IA à fort enjeu, les personnes les plus proches du travail sont souvent celles qui peuvent voir ce que le système ne peut pas voir.

D’après un reportage de Ars Technica.

Rédigé par

NAVION