Está a surgir uma nova categoria de hardware de consumo, e a sua principal característica não é um ecrã, uma câmara ou um altifalante. É um microfone que nunca para de ouvir. A subsidiária Bee da Amazon apresentou recentemente uma pulseira chamada Bee Frontier, ao preço de 75 dólares, concebida para gravar conversas e gerar transcrições e resumos acessíveis num telemóvel ou computador. O dispositivo parece um monitor de fitness sem ecrã. O seu propósito é resolver o esquecimento. Essa abordagem, por mais modesta e prática que pareça, esconde uma mudança muito maior na forma como a vida pública e privada poderá funcionar daqui para a frente.
Um Mercado Construído Em Torno Dos Limites da Memória Humana
A Amazon não está sozinha neste espaço. A Apple introduziu uma funcionalidade chamada Siri Recap para os modelos recentes de Apple Watch, capaz de resumir conversas que o relógio escuta. Uma marca chamada Vonder está a construir óculos inteligentes que acompanham a perspetiva de quem os usa em cada conversa. Dispositivos de gravação focados no local de trabalho já estão a ser comercializados para escritórios. O argumento de venda em todos estes produtos é consistente, os humanos esquecem as coisas e a IA pode lembrá-las em seu lugar.
Este é um problema real que está a ser abordado. Os detalhes das reuniões escapam-se, as chamadas telefónicas misturam-se e a carga cognitiva do trabalho moderno é real. A questão não é saber se o problema existe. A questão é o que se perde ao resolvê-lo.
A Amazon tem feito esforços visíveis para resolver a preocupação mais óbvia. O áudio capturado pelos dispositivos Bee é processado em tempo real e depois apagado. As transcrições e os resumos são armazenados num ambiente encriptado a que os próprios funcionários da Amazon alegadamente não conseguem aceder. Uma luz LED acende-se sempre que o dispositivo está a gravar. Estas são escolhas de design significativas e refletem a consciência de que o produto opera num território sensível.
O Problema da Luz LED e O Que Está Para Além Dela
Eis o que a maioria das notícias sobre estes dispositivos deixa escapar, o indicador LED, o sinal de privacidade mais comum nos dispositivos portáteis de IA, é uma solução fraca para um problema estrutural.
Sara Geoghegan, conselheira sénior no Electronic Privacy Information Center, apontou que uma luz LED pode ser visível para alguns transeuntes, mas não reconhecível por todos como um sinal de que a gravação está ativa. É pequena. As pessoas podem não dar por ela. Em estados como a Califórnia e a Florida, onde as leis de consentimento de ambas as partes exigem que todas as partes numa conversa privada concordem em ser gravadas, uma luz intermitente pode não constituir consentimento legal.
O problema vai mais longe. Alguns utilizadores dos óculos de IA Ray-Ban da Meta alegadamente adulteraram os seus LED para gravar os outros sem o seu conhecimento, o que levou a Meta a desativar remotamente milhares de pares de óculos. Este não é um risco hipotético. Já aconteceu.
Alguns fabricantes tentaram ir mais além do que os LED. Os óculos inteligentes Vive Eagle da HTC param de gravar quando um transeunte diz “parar de gravar”. A Limitless, uma fabricante de pendentes de IA, exigia o consentimento audível dos transeuntes antes de capturar as suas vozes quando lançou o seu dispositivo em 2024. A Limitless foi entretanto adquirida pela Meta, que não transportou essa funcionalidade de consentimento para os seus próprios produtos.
Os próprios óculos de IA sem câmara da Meta apresentam um tipo de desafio diferente. Não têm qualquer LED, o que os torna visualmente indistinguíveis de óculos comuns. A funcionalidade de tradução nos Ray-Bans da Meta mantém o LED apagado enquanto está ativa, e os servidores da Meta podem reter transcrições de conversas traduzidas até um ano, a não ser que os utilizadores as apaguem manualmente.
O Que a Gravação Pervasiva Faz Ao Espaço Público
A preocupação mais profunda, levantada pelo professor da Universidade de Oxford Viktor Mayer-Schönberger, não diz respeito a nenhuma conversa individual a ser capturada. Diz respeito ao que desaparece quando todas as conversas puderem ser capturadas.
Historicamente, os espaços públicos ofereceram um tipo de esquecimento integrado. Uma piada infeliz, uma palavra mal pronunciada, um comentário casual, estas coisas desvaneciam-se. As pessoas que as ouviram seguiam em frente. Essa efemeridade não era uma falha na vida pública. Era uma característica. Permitía que as pessoas fossem imperfeitas, espontâneas e despreocupadas de maneiras fundamentais para a forma como os humanos realmente interagem.
Mayer-Schönberger argumenta que esta efemeridade já começou a evaporar. Se cada palavra dita num bar, num museu ou num local de trabalho puder ser preservada e analisada indefinidamente, a resposta racional é falar menos livremente. Ele traça um paralelo direto com o comportamento em sociedades autoritárias, onde as pessoas se autocensuram em público por terem a consciência de que estão a ser observadas. Nas democracias liberais, argumenta, a participação na vida pública é fundamental para o funcionamento da sociedade. Um afastamento dessa participação, impulsionado não pela vigilância governamental, mas sim por hardware de consumo, seria uma perda grave.
O caminho a seguir, na sua opinião, não é uma correção técnica, mas sim uma negociação social. As sociedades já renegociaram o comportamento público antes, o público outrora gritava com os atores durante as apresentações teatrais, uma prática hoje considerada impensável. As normas em torno do uso de telemóveis em contextos sociais mudaram no espaço de uma geração. As normas em torno da gravação por IA ainda não estão definidas, e esse é precisamente o momento de moldá-las deliberadamente. Sem esse processo, avisa Mayer-Schönberger, a regulação só chegará depois de algo correr muito mal, e provavelmente será direta e desproporcionada.
Em Resumo
Os dispositivos portáteis de IA concebidos para gravar e resumir conversas já estão no mercado, a preços acessíveis, e contam com o apoio de grandes empresas tecnológicas. Os mecanismos de privacidade integrados nestes dispositivos, principalmente os indicadores LED e a encriptação, resolvem algumas preocupações, mas deixam outras por resolver, particularmente no que diz respeito ao consentimento em locais cheios de gente ou públicos. O problema mais amplo não é a vigilância no sentido tradicional. É a erosão gradual do esquecimento informal de que a vida pública sempre dependeu. A forma como as sociedades decidem negociar os limites da memória potenciada por IA vai importar muito mais do que qualquer lançamento de produto individual.
Com base em reportagem de Fast Company.