Está surgiendo una nueva categoría de hardware de consumo, y su característica definitoria no es una pantalla, una cámara o un altavoz. Es un micrófono que nunca deja de escuchar. La subsidiaria Bee de Amazon presentó recientemente una pulsera llamada Bee Frontier, con un precio de 75 dólares, diseñada para grabar conversaciones y generar transcripciones y resúmenes accesibles en un teléfono o computadora. El dispositivo parece un rastreador de actividad física sin pantalla. Su propósito es resolver el olvido. Ese encuadre, por modesto y práctico que parezca, oscurece un cambio mucho mayor en cómo la vida pública y privada podría funcionar en el futuro.
Un mercado construido en torno a los límites de la memoria humana
Amazon no está sola en este espacio. Apple introdujo una función llamada Siri Recap para los modelos recientes de Apple Watch, capaz de resumir las conversaciones que el reloj escucha. Una marca llamada Vonder está construyendo gafas inteligentes que rastrean la parte de cada conversación que le corresponde a quien las lleva puestas. Ya se comercializan dispositivos de grabación orientados al lugar de trabajo en las oficinas. La propuesta de todos estos productos es coherente: los humanos olvidan las cosas y la IA puede recordarlas en su lugar.
Este es un problema real que se está abordando. Los detalles de las reuniones se desvanecen, las llamadas telefónicas se difuminan y la carga cognitiva del trabajo moderno es real. La pregunta no es si el problema existe. La pregunta es qué se sacrifica al resolverlo.
Amazon ha hecho esfuerzos visibles para abordar la preocupación más obvia. El audio capturado por los dispositivos Bee se procesa en tiempo real y luego se elimina. Las transcripciones y los resúmenes se almacenan en un entorno cifrado al que los propios empleados de Amazon supuestamente no pueden acceder. Una luz LED se enciende siempre que el dispositivo está grabando. Estas son decisiones de diseño significativas y reflejan la conciencia de que el producto opera en un terreno delicado.
El problema de la luz LED y lo que hay más allá
Esto es lo que la mayor parte de la cobertura de estos dispositivos pasa por alto: el indicador LED, la señal de privacidad más común en los dispositivos portátiles de IA, es una solución débil para un problema estructural.
Sara Geoghegan, asesora jurídica principal en el Electronic Privacy Information Center, ha señalado que una luz LED puede ser visible para algunos transeúntes, pero no reconocible para todos ellos como una señal de que la grabación está activa. Es pequeña. Es posible que la gente no la note. En estados como California y Florida, donde las leyes de consentimiento de dos partes exigen que todas las partes en una conversación privada acepten ser grabadas, una luz parpadeante puede no constituir un consentimiento legal.
El problema va más allá. Algunos usuarios de las gafas de IA Ray-Ban de Meta supuestamente han manipulado sus LED para grabar a otros sin su conocimiento, lo que llevó a Meta a desactivar remotamente miles de pares de gafas. Este no es un riesgo hipotético. Ya ha sucedido.
Algunos fabricantes han intentado ir más allá de los LED. Las gafas inteligentes Vive Eagle de HTC dejan de grabar cuando un transeúnte dice “dejar de grabar”. Limitless, un fabricante de colgantes de IA, exigía el consentimiento audible de los transeúntes antes de capturar sus voces cuando lanzó su dispositivo en 2024. Desde entonces, Limitless ha sido adquirida por Meta, que no ha incorporado esa función de consentimiento en sus propios productos.
Las propias gafas de IA sin cámara de Meta presentan un tipo de desafío diferente. No tienen ningún LED, lo que las hace visualmente indistinguibles de las gafas ordinarias. La función de traducción en las Ray-Ban de Meta mantiene el LED apagado mientras está activa, y los servidores de Meta pueden conservar las transcripciones de las conversaciones traducidas hasta por un año a menos que los usuarios las eliminen manualmente.
Lo que la grabación omnipresente le hace al espacio público
La preocupación más profunda, planteada por el profesor de la Universidad de Oxford Viktor Mayer-Schönberger, no es sobre ninguna conversación individual que sea capturada. Es sobre lo que desaparece cuando cada conversación puede ser capturada.
Los espacios públicos han ofrecido históricamente una especie de olvido integrado. Un mal chiste, una palabra mal pronunciada, un comentario al pasar: estas cosas se desvanecían. Las personas que las escucharon seguían adelante. Esa efimeridad no era un defecto en la vida pública. Era una característica. Permitía a las personas ser imperfectas, espontáneas y despreocupadas de maneras que son fundamentales para cómo los humanos interactúan en realidad.
Mayer-Schönberger argumenta que esta efimeridad ya ha comenzado a evaporarse. Si cada palabra dicha en un bar, un museo o un lugar de trabajo puede ser preservada y analizada indefinidamente, la respuesta racional es hablar con menos libertad. Él establece un paralelo directo con el comportamiento en las sociedades autoritarias, donde la gente se autocensura en público consciente de que está siendo observada. En las democracias liberales, argumenta, la participación en la vida pública es fundamental para el funcionamiento de la sociedad. Un retiro de esa participación, impulsado no por la vigilancia gubernamental sino por el hardware de consumo, sería una pérdida grave.
El camino a seguir, en su opinión, no es un arreglo técnico sino una negociación social. Las sociedades ya han renegociado el comportamiento público: el público solía gritar a los actores durante las actuaciones teatrales, una práctica que ahora se considera impensable. Las normas sobre el uso del teléfono en entornos sociales cambiaron en el transcurso de una generación. Las normas en torno a la grabación por IA aún no están asentadas, y ese es precisamente el momento de moldearlas deliberadamente. Sin ese proceso, advierte Mayer-Schönberger, la regulación llegará solo después de que algo salga muy mal, y probablemente será contundente y desproporcionada.
En resumen
Los dispositivos portátiles de IA diseñados para grabar y resumir conversaciones ya están en el mercado, a precios accesibles y respaldados por importantes empresas tecnológicas. Los mecanismos de privacidad integrados en estos dispositivos, principalmente indicadores LED y cifrado, abordan algunas preocupaciones pero dejan otras sin resolver, particularmente en torno al consentimiento en entornos concurridos o públicos. El problema más amplio no es la vigilancia en el sentido tradicional. Es la erosión gradual del olvido informal del que la vida pública siempre ha dependido. Cómo las sociedades deciden negociar los límites de la memoria impulsada por la IA importará mucho más que cualquier lanzamiento de producto individual.
Basado en información de Fast Company.