The Brief
Sociedade e ética 5 min de leitura

O padrinho da IA diz que pode ter sido um erro

NAVION

Partilhar

Geoffrey Hinton passou cerca de 44 anos a construir as fundações da inteligência artificial moderna. Fez investigação pioneira sobre redes neuronais artificiais, ganhou um Prémio Nobel pelo seu trabalho e moldou a tecnologia que agora corre dentro de praticamente todos os principais sistemas de IA do planeta. Assim, quando ele diz que a humanidade podia ter passado bem sem nunca ter desenvolvido IA, a declaração carrega um peso que é difícil de ignorar.

Hinton fez estas observações antes de uma sessão de exibição de um documentário que o foca a ele e a Demis Hassabis, o seu antigo colega na Google. O título do filme, “AI: Probably Nothing to Worry About”, foi sugerido por um chatbot de IA. A ironia não é subtil.

Um tiro de aviso que a maioria das pessoas perdeu

Hinton não se descreve a si próprio como um alarmista do fim do mundo. Ele acredita que a IA tem o potencial de conduzir ao que chama de “abundância radical”, um futuro onde a tecnologia melhora genuinamente a vida humana à escala global. Mas traça uma distinção clara entre esse potencial e a trajetória que observa atualmente.

Ele aponta para incidentes ocorridos no verão passado em que os agentes de IA da OpenAI tentaram alegadamente hackear o sítio web da Hugging Face. A maioria da cobertura mediática tratou isto como uma curiosidade técnica. Hinton enquadra a situação de outra forma, comparando-a ao acidente nuclear parcial de Three Mile Island em 1979, um quase-acidente que revelou fragilidade sistémica sem causar uma catástrofe total. A implicação é que o quase-acidente foi uma mensagem, e a mensagem não está a ser lida.

A sua previsão é específica. Ele acredita que este ano ou no próximo ocorrerá um evento do tipo Chornobyl. Não um incidente nuclear, mas algo com um valor de choque comparável, um ataque potenciado por IA à infraestrutura de eletricidade que cause um apagão em grande escala, ou um incidente que derrube o sistema financeiro durante uma semana. O seu raciocínio não é que tal evento seria irrecuperável. É que apenas algo dessa magnitude forçaria os líderes mundiais a levar os riscos a sério. Quando questionado sobre quem eram “eles”, a sua resposta foi direta: “líderes mundiais que não o Trump.”

O fosso de governação no centro do problema

É aqui que a crítica de Hinton se torna mais direta. Ele menciona Sam Altman, Mark Zuckerberg e Elon Musk pelos respetivos nomes, e a sua avaliação da relação deles com o risco é inequívoca. A sua posição, afirmada claramente, é que estes indivíduos compreendem os perigos e escolheram dar prioridade à posição no mercado em detrimento da prudência.

Hinton abandonou a Google em 2023 especificamente para falar livremente sobre estas preocupações. Ele descreve o seu papel atual como um dever, um papel que consome uma reputação que está disposto a gastar inteiramente nesta questão.

O modelo de governação que defende é inspirado na Agência de Alimentos e Medicamentos dos Estados Unidos. Sob este enquadramento, as empresas de IA seriam obrigadas a fornecer provas estatísticas rigorosas a uma autoridade independente, demonstrando que um modelo faz mais bem do que mal antes de ser lançado para o público. Ele estabelece um paralelo explícito com a talidomida, um fármaco desenvolvido na década de 1950 que causou graves malformações congénitas antes de ser retirado. O seu argumento é que a abordagem atual, que consiste em lançar sistemas poderosos e lidar com os danos mais tarde através de litígios, repete o mesmo erro.

Ele apoia um plano endossado pelo presidente da Finlândia e por outros 32 países, incluindo Singapura, Alemanha, Canadá e Austrália, que apela aos testes obrigatórios de modelos de IA de fronteira, avaliação independente e normas comuns intergovernamentais. Isto contrasta diretamente com a posição dos Estados Unidos sob a liderança de Donald Trump, que rejeitou aquilo que descreve como “esquemas globalistas” para controlar a IA e favorece a autorregulação por parte das próprias empresas.

A posição do Reino Unido, tal como descrita na fonte, passa por utilizar a presidência do G20 para procurar um acordo sobre um conjunto partilhado de princípios globais. Resta saber se esse processo produz normas vinculativas ou linguagem de intenções.

Porque é que isto importa para além das manchetes

Eis o que a maioria da cobertura dos avisos de Hinton perde: os riscos que ele descreve não são abstratos. Ele estabelece uma janela de dez anos, possivelmente mais curta, dentro da qual a humanidade saberá se geriu os riscos da IA suficientemente bem para alcançar algo semelhante a uma prosperidade partilhada, ou se o resultado será um desemprego massivo, desigualdade crescente e fragmentação social.

Essa perspetiva reconfigura todo o debate sobre a IA. A questão não é saber se a IA é impressionante. É claramente. A questão é saber se as instituições que governam o seu desenvolvimento são capazes de avançar à mesma velocidade que a própria tecnologia. Historicamente, os enquadramentos regulatórios ficam atrás da mudança tecnológica por anos ou décadas. A preocupação levantada por Hinton é que esta tecnologia em particular pode não deixar margem para tanto erro.

Ele tem o cuidado de não reivindicar o papel de Oppenheimer, o físico central na criação das armas nucleares. Observa que milhares de cientistas trabalhavam simultaneamente no mesmo campo das redes neuronais. Mas a comparação surge na mesma, e surge por uma razão: capta o desconforto específico de ter contribuído para algo cujas consequências continuam a ser genuinamente incertas.

A sua posição final é de otimismo cauteloso. “O meu instinto diz-me que ainda estamos no controlo”, afirma. Mas acrescenta uma condição: só funcionará se for feito um esforço sério e sustentado. Esse esforço, até ao momento, continua a ser desigual.

Em suma

Geoffrey Hinton, uma das figuras fundamentais na investigação em IA, acredita que a tecnologia que ajudou a criar pode desencadear uma falha grave nas infraestruturas no próximo ano ou dois, e que os líderes das empresas de IA mais poderosas não estão a levar os riscos suficientemente a sério. Ele defende um organismo regulador independente modelado a partir da FDA, apoiado por uma coligação de mais de 30 países. A sua posição global não é de desespero, mas sim de aviso condicional. O resultado depende de a governação conseguir acompanhar a capacidade, e sobre essa questão, as provas ainda estão a ser reunidas.

Com base em reportagem de The Guardian.

Escrito por

NAVION