The Brief
IA quotidiana 5 min di lettura

IA nei cieli: 180 voli deviati, un sindacato escluso

NAVION

Condividi

La Federal Aviation Administration degli Stati Uniti ha implementato un sistema di consulenza basato sull’IA in tutto lo spazio aereo nazionale. Il sistema si chiama SMART, costa 875 milioni di dollari ed è ora attivo in tutti i 22 centri di controllo del traffico aereo di rotta del paese. I dirigenti delle compagnie aeree sono favorevoli. Il sindacato che rappresenta oltre 15.000 controllori del traffico aereo afferma di non essere mai stato consultato. Questa distanza merita di essere compresa.

Cosa fa realmente SMART e cosa non può fare

SMART è un sistema basato su cloud. Raccoglie dati su modelli meteorologici, rotte di volo, flusso del traffico e personale dei controllori per prevedere come si comporterà il traffico aereo, generando poi raccomandazioni: rotte suggerite, opzioni di pianificazione, sequenze di arrivo ottimali per i velivoli.

Ecco cosa la maggior parte della copertura di questa storia sorvola. SMART non controlla nulla. Offre consulenza. Un team umano di specialisti della FAA con sede a Washington, DC, esamina ogni raccomandazione prima che raggiunga le strutture di controllo del traffico aereo. I controllori locali decidono quindi se accettare o ignorare il suggerimento. La FAA è stata esplicita su questo punto: il sistema non può sostituire il ruolo dei controllori del traffico aereo e non può assumere il controllo di un aeromobile.

Questa è una scelta architetturale significativa. L’IA si posiziona a monte della decisione, non al suo interno. Restringe lo spazio delle opzioni per gli esperti umani invece di agire in modo autonomo. Questo design riflette sia la complessità del settore sia i vincoli normativi e di sicurezza che lo governano.

I primi numeri della distribuzione iniziale nello spazio aereo di Washington, DC, sono specifici. Da quando il sistema è entrato in funzione il 21 settembre, ha aiutato a deviare 180 voli. La FAA segnala un risparmio medio di 10 minuti per volo e quasi 80 galloni di carburante per volo. L’agenzia ha poi esteso la copertura ad Atlanta, Jacksonville e Miami prima di annunciare il lancio nazionale completo il 10 novembre.

Supporto delle compagnie aeree, silenzio dei controllori e un problema strutturale

Il CEO di Delta Air Lines Ed Bastian e il CEO di American Airlines Robert Isom hanno entrambi rilasciato dichiarazioni di supporto quando è stata annunciata la distribuzione iniziale a DC. Il loro entusiasmo è comprensibile. Ritardi minori e minore consumo di carburante si traducono direttamente in risparmi operativi e migliore affidabilità della pianificazione per i vettori.

La National Air Traffic Controllers Association ha offerto qualcosa di diverso. Il sindacato, che rappresenta oltre 15.000 membri, ha dichiarato alla rivista Flying di non essere stato consultato o coinvolto nella progettazione, nei test o nell’implementazione di SMART e di non poter quindi esprimersi sul suo effetto sulla forza lavoro del controllo del traffico aereo.

Questa è una dichiarazione significativa e indica un modello che appare ripetutamente quando i sistemi di IA vengono implementati in ambienti professionali ad alto rischio. Le persone il cui lavoro il sistema è progettato per supportare spesso non fanno parte del processo di progettazione. Questo è importante per ragioni che vanno oltre le relazioni sindacali. I controllori del traffico aereo possiedono una conoscenza operativa difficile da codificare in un set di dati: le euristiche informali, i casi limite, la consapevolezza situazionale costruita in anni di gestione del traffico reale in condizioni reali. Un sistema progettato senza quell’input può essere tecnicamente solido e tuttavia perdere aspetti che i professionisti avrebbero segnalato immediatamente.

L’esempio della FAA condiviso con The Dallas Morning News illustra il potenziale del sistema: SMART ha raccomandato una rotta più breve e veloce per un volo cargo in arrivo all’aeroporto internazionale di Dallas-Fort Worth. L’agenzia non ha identificato il volo e non ha pubblicato dati comparabili su come il sistema abbia influenzato il traffico passeggeri. La base di prove, in questa fase, rimane limitata.

Perché questo momento è importante oltre l’aviazione

La distribuzione di SMART è un caso di studio su cosa accade quando l’IA passa dal progetto pilota all’infrastruttura nazionale. La transizione da un singolo test regionale a 22 centri in tutto il paese è avvenuta nel giro di poche settimane. La velocità è notevole. Lo è anche la questione di governance che solleva.

L’aviazione è uno dei domini più critici per la sicurezza che esistano. Le conseguenze degli errori sono gravi e spesso irreversibili. È proprio per questo che l’industria ha sviluppato strutture stratificate di supervisione umana nel corso dei decenni. Il design di SMART rispetta tali strutture, almeno formalmente: gli umani convalidano, gli umani decidono, gli umani mantengono l’autorità sugli aeromobili. Ma la questione di chi sia stato coinvolto nella costruzione del sistema e la cui competenza ne abbia plasmato la logica è distinta dalla questione di chi mantenga l’autorità formale sui suoi output.

Questo è il modello più ampio da osservare. Man mano che i sistemi di consulenza basati sull’IA entrano in domini in cui il costo dell’errore è elevato, il processo di progettazione conta quanto l’architettura di distribuzione. Un sistema che produce buone raccomandazioni in media può comunque fallire in modi che solo i professionisti riconoscerebbero, se a quei professionisti non fosse mai stato chiesto nulla.

Il lancio di SMART illustra anche qualcosa su come l’IA cambia la natura del lavoro professionale senza eliminarlo. I controllori non vengono sostituiti. Viene fornito loro un nuovo tipo di input, generato da un sistema che elabora più variabili contemporaneamente di quante qualsiasi individuo potrebbe fare. La domanda è se quell’input migliori il loro giudizio o lo vincoli sottilmente in modi difficili da rilevare finché qualcosa non va storto.

In breve

Il sistema SMART della FAA è ora attivo in tutti i 22 centri di controllo del traffico aereo degli Stati Uniti. Offre consulenza, non decide. I primi risultati della distribuzione di Washington, DC, mostrano 180 voli deviati, con risparmi segnalati in termini di tempo e carburante per volo. I dirigenti delle compagnie aeree lo supportano. Il sindacato dei controllori del traffico aereo afferma di essere stato escluso dall’intero processo. Questa esclusione non è una nota a piè di pagina. Nelle distribuzioni di IA ad alto rischio, le persone più vicine al lavoro sono spesso quelle che possono vedere ciò che il sistema non può vedere.

Basato su un articolo di Ars Technica.

Scritto da

NAVION