Une nouvelle catégorie de matériel grand public émerge, et sa principale caractéristique n’est ni un écran, ni un appareil photo, ni un haut-parleur. C’est un microphone qui ne s’arrête jamais d’écouter. La filiale Bee d’Amazon a récemment présenté un bracelet nommé Bee Frontier, vendu 75 dollars, conçu pour enregistrer des conversations et générer des transcriptions et des résumés accessibles sur un téléphone ou un ordinateur. L’appareil ressemble à un tracker de fitness sans écran. Son objectif est de résoudre les oublis. Cette formulation, aussi modeste et pratique qu’elle paraisse, occulte un changement beaucoup plus vaste dans la manière dont la vie publique et privée pourrait fonctionner à l’avenir.
Un marché bâti autour des limites de la mémoire humaine
Amazon n’est pas seul sur ce marché. Apple a introduit une fonction appelée Siri Recap pour les récents modèles d’Apple Watch, capable de résumer les conversations que la montre écoute. Une marque nommée Vonder fabrique des lunettes intelligentes qui suivent la part de chaque conversation qui revient à celui ou celle qui les porte. Des appareils d’enregistrement destinés au milieu professionnel sont déjà commercialisés pour les bureaux. Le discours marketing de tous ces produits est cohérent : les humains oublient des choses, et l’IA peut s’en souvenir à leur place.
Il s’agit d’un vrai problème auquel on apporte une solution. Les détails des réunions s’envolent, les appels téléphoniques se confondent, et la charge cognitive du travail moderne est réelle. La question n’est pas de savoir si le problème existe. La question est de savoir ce que l’on perd en essayant de le résoudre.
Amazon a fait des efforts visibles pour répondre à la préoccupation la plus évidente. L’audio capturé par les appareils Bee est traité en temps réel, puis supprimé. Les transcriptions et les résumés sont stockés dans un environnement chiffré auquel les employés d’Amazon eux-mêmes ne peuvent prétendument pas accéder. Un voyant LED s’allume chaque fois que l’appareil enregistre. Ce sont des choix de conception significatifs, et ils témoignent d’une prise de conscience du fait que le produit évolue dans un domaine sensible.
Le problème du voyant LED et ce qui se cache au-delà
Voici ce que la plupart des articles sur ces appareils oublient : l’indicateur LED, le signal de confidentialité le plus courant sur les objets connectés dotés d’IA, est une solution faible face à un problème structurel.
Sara Geoghegan, avocate principale au Electronic Privacy Information Center, a souligné qu’un voyant LED peut être visible pour certains témoins, mais pas reconnu par tous comme le signal d’un enregistrement actif. Il est petit. Les gens peuvent ne pas le remarquer. Dans des États comme la Californie et la Floride, où les lois sur le consentement des deux parties exigent que toutes les personnes impliquées dans une conversation privée acceptent d’être enregistrées, une lumière clignotante peut ne pas constituer un consentement légal.
Le problème va plus loin. Certains utilisateurs des lunettes AI Ray-Ban de Meta auraient altéré leurs LED pour enregistrer d’autres personnes à leur insu, ce qui a poussé Meta à désactiver à distance des milliers paires de lunettes. Ce n’est pas un risque hypothétique. C’est déjà arrivé.
Certains fabricants ont essayé d’aller plus loin que les LED. Les lunettes intelligentes Vive Eagle de HTC s’arrêtent d’enregistrer lorsqu’un tiers prononce la phrase « arrêter l’enregistrement ». Limitless, un fabricant de pendentifs dotés d’IA, exigeait le consentement audible des tiers avant de capturer leur voix lors du lancement de son appareil en 2024. Limitless a depuis été racheté par Meta, qui n’a pas intégré cette fonction de consentement dans ses propres produits.
Les lunettes IA sans caméra de Meta présentent un autre type de défi. Elles n’ont aucune LED, ce qui les rend visuellement impossibles à distinguer de lunettes ordinaires. La fonction de traduction des Ray-Ban de Meta maintient la LED éteinte pendant qu’elle est active, et les serveurs de Meta peuvent conserver les transcriptions des conversations traduites pendant une période pouvant aller jusqu’à un an, à moins que les utilisateurs ne les suppriment manuellement.
Ce que l’enregistrement omniprésent fait à l’espace public
La préoccupation plus profonde, soulevée par Viktor Mayer-Schönberger, professeur à l’Université d’Oxford, ne concerne pas la capture d’une conversation en particulier. Elle concerne ce qui disparaît lorsque chaque conversation peut être capturée.
Les espaces publics ont historiquement offert une forme d’oubli intégré. Une mauvaise blague, un mot mal prononcé, une remarque en passant : ces choses s’effaçaient. Les gens qui les avaient entendues passaient à autre chose. Cette éphémérité n’était pas un défaut de la vie publique. C’était une fonctionnalité. Elle permettait aux gens d’être imparfaits, spontanés et sans filtre d’une manière qui est fondamentale pour la façon dont les humains interagissent réellement.
Mayer-Schönberger soutient que cette éphémérité a déjà commencé à s’évaporer. Si chaque mot prononcé dans un bar, un musée ou un lieu de travail risque d’être conservé et analysé indéfiniment, la réaction rationnelle consiste à parler moins librement. Il établit un parallèle direct avec le comportement dans les sociétés autoritaires, où les gens s’autocensurent en public en sachant qu’ils sont observés. Dans les démocraties libérales, soutient-il, la participation à la vie publique est fondamentale pour le fonctionnement de la société. Un recul par rapport à cette participation, motivé non pas par la surveillance gouvernementale, mais par le matériel grand public, constituerait une perte sérieuse.
La voie à suivre, selon lui, n’est pas une correction technique, mais une négociation sociale. Les sociétés ont déjà renégocié les comportements publics : le public criait autrefois sur les acteurs pendant les représentations théâtrales, une pratique aujourd’hui jugée impensable. Les normes concernant l’utilisation du téléphone dans les contextes sociaux ont évolué en l’espace d’une génération. Les normes relatives à l’enregistrement par IA ne sont pas encore fixées, et c’est précisément le moment de les façonner délibérément. Sans ce processus, prévient Mayer-Schönberger, la réglementation n’arrivera qu’après qu’un grave problème sera survenu, et elle sera probablement brutale et disproportionnée.
En bref
Les objets connectés dotés d’IA conçus pour enregistrer et résumer des conversations sont déjà sur le marché, proposés à des prix accessibles et soutenus par de grandes entreprises technologiques. Les mécanismes de confidentialité intégrés à ces appareils, principalement les indicateurs LED et le chiffrement, répondent à certaines préoccupations mais en laissent d’autres sans réponse, en particulier en ce qui concerne le consentement dans les contextes bondés ou publics. Le problème plus large n’est pas la surveillance au sens traditionnel. C’est l’érosion progressive de l’oubli informel dont la vie publique a toujours dépendu. La manière dont les sociétés choisiront de négocier les limites de la mémoire alimentée par l’IA comptera bien plus que n’importe quel lancement de produit.
D’après un reportage de Fast Company.