Um novo relatório independente veio trazer provas de que os sistemas de IA estão agora a acelerar de forma significativa o seu próprio desenvolvimento, não como um cenário futuro teórico, mas como algo já mensurável dentro de um dos principais laboratórios de IA do mundo. As conclusões vêm do METR, uma organização de investigação em segurança da IA que passou onze semanas a investigar os processos de investigação e desenvolvimento da Anthropic. O que o relatório mostra, e o que deliberadamente não pode mostrar, é igualmente importante.
Dois Anos de Progresso num Só: A Descoberta da Aceleração
O número principal da investigação do METR é impressionante. Os modelos da Anthropic estão a melhorar cerca de duas vezes mais rapidamente do que há um ano. Os investigadores do METR descreveram isto como tendo feito “cerca de dois anos de progresso histórico ao longo do último ano”, com base em resultados de testes de desempenho.
O que torna esta descoberta significativa é a explicação por trás dela. Historicamente, o progresso da IA tem sido impulsionado em grande parte pela escala, ao colocar mais poder computacional no treino. Os investigadores do METR afirmaram estar confiantes de que esse não é o principal motor aqui. Desde outubro, a maior parte da aceleração é atribuída à própria IA, e esse contributo tem vindo a crescer com o tempo.
A prova disto vem em parte de inquéritos internos. Os funcionários da Anthropic relataram por iniciativa própria serem cerca de 12 vezes mais produtivos ao utilizar o modelo interno mais capaz da empresa, em comparação com o trabalho sem a assistência da IA. Esse valor foi sensivelmente o dobro do que a equipa tinha relatado poucos meses antes, quando utilizava um modelo interno anterior chamado Mythos 5. Estes são números reportados pelos próprios, que trazem limitações inerentes, mas a direção e a magnitude da mudança são notáveis.
Para já, a avaliação do METR é que a maior parte desta aceleração provém da IA a auxiliar investigadores humanos, em vez de a IA operar de forma autónoma. Os investigadores não encontraram sinais claros de diminuição de retornos ou estrangulamentos óbvios. Também avisaram que “existem alguns sinais de que os contributos totalmente autónomos vão desempenhar um papel maior em breve”.
O Problema das Supressões: O Que o Público Não Consegue Ver
A Anthropic deu ao METR acesso a investigação confidencial, dados de desempenho de modelos e entrevistas a funcionários. O METR reconheceu que isto excedeu o que tinha sido acordado inicialmente. Essa transparência, contudo, tem um asterisco significativo.
A Anthropic reservou o direito de suprimir partes do relatório final antes da publicação, e exerceu esse direito de forma extensa. O METR enviou um relatório de aproximadamente 100 páginas. Numa publicação no X, o METR afirmou que a Anthropic suprimiu “a maior parte das provas que considerámos mais informativas”. Os investigadores notaram que muito do material suprimido podia ter “múltiplas interpretações plausíveis”, o que significa que o público não consegue avaliar as provas ou as incertezas em redor das mesmas. Como o relatório referiu, o público fica dependente do julgamento do METR “muito mais do que seria ideal, dado o peso das questões aqui respondidas”.
O cofundador da Anthropic, Sam McCandlish, reconheceu as supressões numa publicação pública, enquadrando-as como um compromisso deliberado. A sua razão declarada: divulgar os motores específicos da aceleração seria comercialmente sensível e poderia entregar aos concorrentes um mapa de caminho para avançar mais rapidamente, o que argumentou tornaria os riscos piores, e não melhores. A Anthropic disse que planeia publicar o seu próprio relatório sobre o progresso da IA nas próximas semanas.
A questão das supressões importa para além deste relatório específico. As avaliações independentes carregam peso reputacional para as empresas que as encomendam ou permitem. Quando essas avaliações são substancialmente suprimidas pelo sujeito da investigação, a independência da conclusão torna-se mais difícil de avaliar. O METR assinalou esta tensão diretamente.
O Que a Auto-Melhoria Recursiva Significa Realmente para Todos
Isto é o que a maior parte da cobertura do relatório desvaloriza. O conceito no centro das descobertas do METR é a auto-melhoria recursiva: a ideia de que os sistemas de IA poderiam desenvolver de forma autónoma sistemas sucessores cada vez mais capazes, sem intervenção humana significativa, comprimindo potencialmente décadas de mudança tecnológica em anos ou até meses.
Até recentemente, isto era sobretudo uma preocupação teórica. O relatório do METR fornece provas concretas, ainda que parciais, de que as fases iniciais desta dinâmica já estão em curso dentro de pelo menos um grande laboratório de IA. A Anthropic não está sozinha: a OpenAI afirmou em setembro que está a “fazer fortes progressos” no sentido de construir um investigador de IA capaz de fazer avançar a investigação em aprendizagem profunda e alinhamento até março de 2028.
A implicação mais vasta diz respeito ao ritmo da mudança em relação ao ritmo do trabalho de segurança. Se os sistemas de IA estão a acelerar o seu próprio desenvolvimento mais depressa do que os investigadores conseguem avaliar os riscos, o fosso entre a capacidade e a compreensão alarga-se. O METR não encontrou estrangulamentos observáveis que abrandassem isto de forma natural.
Existe também uma tensão estrutural que vale a pena nomear. A Anthropic tem sido um dos defensores mais vocais do desenvolvimento responsável da IA, e o seu diretor executivo, Dario Amodei, apelou publicamente para que os laboratórios abrande o ritmo. O relatório do METR descreve uma empresa que está, ao mesmo tempo, a utilizar a IA para avançar mais depressa do que nunca. Isso não é necessariamente hipocrisia: pode refletir a crença genuína de que estar na linha da frente é mais seguro do que ceder esse lugar. Mas é uma tensão que o público merece compreender claramente.
Em Resumo
A IA já está a acelerar o seu próprio desenvolvimento de formas mensuráveis, e não apenas na teoria. A investigação de onze semanas do METR dentro da Anthropic concluiu que os modelos da empresa estão a melhorar cerca de duas vezes mais depressa do que há um ano, com a própria IA a ser identificada como o principal motor. Todas as provas por trás dessa conclusão foram substancialmente suprimidas. O que permanece visível é suficiente para levantar sérias questões sobre se os quadros de segurança do campo estão a acompanhar o ritmo da tecnologia que se supõe regularem.
Com base em reportagem de The Verge.