The Brief
Società ed etica 5 min di lettura

Il braccialetto da 75 dollari che non dimentica mai

NAVION

Condividi

Una nuova categoria di hardware per i consumatori sta emergendo, e la sua caratteristica principale non è uno schermo, una fotocamera o un altoparlante. È un microfono che non smette mai di ascoltare. La sussidiaria Bee di Amazon ha recentemente introdotto un braccialetto chiamato Bee Frontier, al prezzo di 75 dollari, progettato per registrare conversazioni e generare trascrizioni e riassunti accessibili su un telefono o un computer. Il dispositivo sembra un fitness tracker senza schermo. Il suo scopo è risolvere la dimenticanza. Questa impostazione, modesta e pratica a giudicare da come suona, oscura un cambiamento molto più grande nel modo in cui la vita pubblica e privata potrebbe funzionare in futuro.

Un mercato costruito attorno ai limiti della memoria umana

Amazon non è sola in questo spazio. Apple ha introdotto una funzione chiamata Siri Recap per i recenti modelli di Apple Watch, capace di riassumere le conversazioni che l’orologio ascolta. Un marchio chiamato Vonder sta costruendo occhiali intelligenti che tracciano la parte di conversazione di chi li indossa. I dispositivi di registrazione incentrati sul lavoro vengono già commercializzati per gli uffici. La proposta di vendita di tutti questi prodotti è coerente: gli umani dimenticano le cose, e l’IA può ricordarle al loro posto.

Questo è un problema reale a cui si sta dando risposta. I dettagli delle riunioni svaniscono, le telefonate si confondono e il carico cognitivo del lavoro moderno è reale. La domanda non è se il problema esista. La domanda è a cosa si rinuncia per risolverlo.

Amazon ha fatto sforzi visibili per affrontare la preoccupazione più ovvia. L’audio catturato dai dispositivi Bee viene elaborato in tempo reale e poi cancellato. Trascrizioni e riassunti sono archiviati in un ambiente cifrato a cui i dipendenti di Amazon non possono accedere. Una luce LED si attiva ogni volta che il dispositivo sta registrando. Queste sono scelte di progettazione significative, e riflettono la consapevolezza che il prodotto opera in un territorio sensibile.

Il problema della luce LED, e ciò che c’è oltre

Ecco cosa la maggior parte della copertura mediatica di questi dispositivi tralascia: l’indicatore LED, il segnale sulla privacy più comune tra i dispositivi indossabili con IA, è una soluzione debole a un problema strutturale.

Sara Geoghegan, consulente legale senior presso l’Electronic Privacy Information Center, ha fatto notare che una luce LED può essere visibile ad alcuni astanti ma non riconoscibile da tutti loro come un segnale che la registrazione è attiva. È piccola. Le persone potrebbero non notarla. In stati come la California e la Florida, dove le leggi sul consenso di entrambe le parti richiedono che tutti i partecipanti a una conversazione privata acconsentano a essere registrati, una luce lampeggiante potrebbe non costituire un consenso legale.

Il problema va oltre. Alcuni utenti degli occhiali IA Ray-Ban di Meta avrebbero manomesso i loro LED per registrare gli altri a loro insaputa, il che ha portato Meta a disabilitare da remoto migliaia di paia di occhiali. Questo non è un rischio ipotetico. È già successo.

Alcuni produttori hanno cercato di andare oltre i LED. Gli occhiali intelligenti Vive Eagle di HTC smettono di registrare quando un astante dice “smetti di registrare”. Limitless, un produttore di ciondoli con IA, richiedeva il consenso udibile da parte degli astanti prima di catturare le loro voci quando ha lanciato il suo dispositivo nel 2024. Da allora Limitless è stata acquisita da Meta, che non ha portato quella funzione di consenso nei suoi prodotti.

Gli occhiali IA senza fotocamera di Meta presentano un diverso tipo di sfida. Non hanno alcun LED, risultando visivamente indistinguibili da occhiali ordinari. La funzione di traduzione sui Ray-Ban di Meta mantiene il LED spento mentre è attiva, e i server di Meta potrebbero conservare le trascrizioni delle conversazioni tradotte fino a un anno a meno che gli utenti non le cancellino manualmente.

Cosa fa la registrazione pervasiva allo spazio pubblico

La preoccupazione più profonda, sollevata dal professore dell’Università di Oxford Viktor Mayer-Schönberger, non riguarda una singola conversazione catturata. Riguarda ciò che scompare quando ogni conversazione potrebbe essere catturata.

Gli spazi pubblici hanno storicamente offerto una specie di dimenticanza incorporata. Una brutta battuta, una parola pronunciata male, un’osservazione casuale: queste cose svanivano. Le persone che le hanno ascoltate sono andate avanti. Quella fugacità non era un difetto della vita pubblica. Era una caratteristica. Permetteva alle persone di essere imperfette, spontanee e senza filtri in modi che sono fondamentali per il modo in cui gli umani interagiscono realmente.

Mayer-Schönberger sostiene che questa fugacità abbia già iniziato a evaporare. Se ogni parola pronunciata in un bar, un museo o un luogo di lavoro potrebbe essere conservata e analizzata a tempo indeterminato, la risposta razionale è parlare meno liberamente. Traccia un parallelo diretto con il comportamento nelle società autoritarie, dove le persone si autocensurano in pubblico sapendo di essere osservate. Nelle democrazie liberali, sostiene, la partecipazione alla vita pubblica è fondamentale per il funzionamento della società. Un ritiro da quella partecipazione, guidato non dalla sorveglianza governativa ma dall’hardware per i consumatori, sarebbe una grave perdita.

La via da seguire, a suo avviso, non è una correzione tecnica ma un negoziato sociale. Le società hanno rinegoziato il comportamento pubblico in passato: un tempo il pubblico urlava contro gli attori durante le rappresentazioni teatrali, una pratica ora considerata impensabile. Le norme sull’uso del telefono nei contesti sociali sono cambiate nel giro di una generazione. Le norme sulla registrazione tramite IA non sono ancora definite, ed è proprio questo il momento di modellarle deliberatamente. Senza quel processo, avverte Mayer-Schönberger, la regolamentazione arriverà solo dopo che qualcosa sarà andato storto, e probabilmente sarà drastica e sproporzionata.

In breve

I dispositivi indossabili con IA progettati per registrare e riassumere le conversazioni sono già sul mercato, a prezzi accessibili e supportati da grandi aziende tecnologiche. I meccanismi di privacy integrati in questi dispositivi, principalmente indicatori LED e cifratura, affrontano alcune preoccupazioni ma ne lasciano altre irrisolte, in particolare per quanto riguarda il consenso in ambienti affollati o pubblici. Il problema più ampio non è la sorveglianza nel senso tradizionale. È la graduale erosione della dimenticanza informale da cui la vita pubblica è sempre dipesa. Il modo in cui le società sceglieranno di negoziare i confini della memoria potenziata dall’IA conterrà molta più importanza di qualsiasi singolo lancio di prodotto.

Basato su un articolo di Fast Company.

Scritto da

NAVION