Uma empresa que treina trabalhadores em competências de inteligência artificial está agora a usar inteligência artificial para monitorizar as pessoas que fazem o treino. Essa tensão está no centro de um relato recente de um denunciante da Multiverse, uma empresa de tecnologia do Reino Unido avaliada em 1,6 milhão de libras, onde os instrutores dizem que um sistema de monitorização de IA recentemente introduzido os fez perder o sono, procurar terapia e questionar cada palavra que dizem na sala de aula.
Um Sistema Que Nunca Desvia o Olhar
Antes da chegada do novo sistema, os instrutores da Multiverse eram observados por um gerente humano cerca de uma vez por mês. Agora, IA models analisam transcrições das suas sessões online durante várias horas por dia. A mudança não é apenas quantitativa. É qualitativa.
A IA atribui a cada instrutor um “estado de risco” e uma “pontuação de percentagem de confiança”, gerando depois comentários escritos para os gerentes analisarem. O sistema sinaliza comportamentos específicos: usar palavras de preenchimento como “tipo” ou “meio que”, não resolver uma interrupção de conexão em aproximadamente um minuto, dar respostas vagas a perguntas de alunos ou envolver-se numa troca prolongada de um para um que deixa o resto do grupo de fora. Se um instrutor se autocorrigir enquanto dá instruções, essa autocorreção é contabilizada como evidência de fraca preparação, mesmo que a explicação tenha sido eventualmente esclarecida.
O sistema está instruído a procurar padrões em transcrições inteiras, e não em momentos isolados. A sua própria documentação distingue entre hesitação ocasional, que tolera, e o que chama de “padrão repetido invasivo”, que penaliza. A lógica parece ponderada no papel. Na prática, os instrutores dizem que produziu algo mais próximo da paragem total. Um deles descreveu deixar de conseguir concentrar-se no aluno à sua frente, passando a monitorizar o seu próprio discurso em tempo real, perguntando a si mesmo se a IA vai sinalizar o que acabou de dizer.
A Lacuna Entre a Abordagem da Empresa e a Experiência dos Trabalhadores
A resposta da Multiverse à controvérsia merece ser examinada com atenção, porque ilustra um padrão comum à implementação de IA nos locais de trabalho. A empresa afirma que a IA não substitui o julgamento humano, mas sim “direciona o tempo humano para onde ele é mais necessário”. Apenas gerentes humanos escrevem avaliações de desempenho formais. A ação mais séria que o sistema pode tomar, de acordo com um porta-voz, é recomendar que um humano analise pessoalmente uma sessão.
Esta abordagem posiciona a IA como uma ferramenta de triagem, um filtro que traz problemas à tona para que a atenção humana possa ser aplicada de forma eficiente. É uma descrição razoável do que a tecnologia faz mecanicamente. O que não aborda é como a escrutinação automatizada contínua é sentida a partir de dentro.
Vários instrutores, falando sob anonimato, descreveram a experiência como “implacável” e “perturbadora”. Um disse que o estresse tinha prejudicado o sono. Outro disse que o sistema foca a atenção inteiramente no que foi feito de errado, criando um ambiente mental de perpétua antecipação de falhas. Um terceiro descreveu ter sido sinalizado por gerentes por aparentes “desvios” que eram, na verdade, respostas a perguntas de alunos: a IA tinha interpretado mal o ensino adaptativo como um desvio do roteiro.
Existe também um problema de transparência. Durante o lançamento, os instrutores não tiveram acesso às avaliações da IA das suas próprias sessões. Os gerentes conseguiam ver o painel; os professores não. A empresa diz que o acesso será fornecido a seu tempo. Mas a assimetria durante o período de introdução significava que os trabalhadores estavam a ser avaliados por um sistema cujos resultados não conseguiam ver ou contestar.
A Multiverse usa uma mistura de IA models, incluindo produtos da Anthropic e da OpenAI. A empresa foi cofundada por Euan Blair, que detém uma grande participação minoritária e cujo património líquido pessoal estimado é de 350 milhões de libras. A firma reportou um volume de negócios de 118 milhões de libras e prejuízos de 28 milhões de libras no seu ano fiscal mais recente. Em fevereiro, a Ofsted, a inspetoria de educação do Reino Unido, concluiu que a Multiverse não cumpriu os padrões esperados em várias áreas, enquanto elogiou especificamente os seus instrutores como “professores qualificados e eficazes”.
O Que Este Caso Revela Sobre a IA no Trabalho
A Multiverse não está sozinha. O Burger King usou IA para monitorizar interações de clientes em restaurantes. A Meta suspendeu um programa que monitorizava os toques no teclado dos empregados após preocupações com a privacidade de dados e resistência interna. O padrão é consistente: ferramentas de monitorização de IA estão a ser introduzidas em vários setores, frequentemente mais rápido do que as estruturas para gerir as suas consequências humanas.
O caso da Multiverse é particularmente marcante devido ao que a empresa faz. Ela treina trabalhadores em IA e competências digitais, financiados em grande parte através da taxa de aprendizagem do governo do Reino Unido, servindo o NHS, conselhos locais, universidades e empregadores do setor privado. Os instrutores que levantam preocupações estão eles próprios a ensinar a força de trabalho do futuro a trabalhar lado a lado com a IA. A ironia não é subtil.
O que o caso traz à tona é uma distinção que frequentemente se perde nas discussões sobre IA no local de trabalho. Há uma diferença entre IA que potencializa o julgamento humano e IA que substitui a textura da observação humana. Uma avaliação mensal por um gerente que conhece o contexto da sala de aula, o grupo de alunos específico, a pergunta inesperada que descarrilou um plano, transporta informação que a pontuação de uma transcrição não consegue capturar. Quando a pontuação se torna o sinal principal, algo se perde, não apenas no bem-estar do trabalhador, mas na qualidade da própria avaliação.
O oficial nacional de tecnologia do Communication Workers Union apelou a uma nova regulamentação para garantir que a IA seja implementada de maneiras socialmente responsáveis. Esse apelo reflete uma lacuna mais ampla: a tecnologia está a avançar mais rápido do que as estruturas de governação desenhadas para a gerir.
Em Resumo
A monitorização de trabalhadores por IA não é nova, mas o caso da Multiverse torna os riscos excecionalmente visíveis. Um sistema desenhado para melhorar a qualidade do ensino está, segundo os relatos dos próprios professores, a degradar as condições em que um bom ensino pode acontecer. A ferramenta sinaliza palavras de preenchimento e autocorreções. Não consegue sinalizar o custo de fazer com que cada instrutor tenha medo de pensar em voz alta. Essa lacuna entre o que uma IA consegue medir e o que realmente importa é a verdadeira lição aqui.
Com base em reportagem de The Guardian - Technology.