Os debates sobre a regulamentação de IA tendem a se concentrar em uma pergunta simples: qual empresa deve ser responsabilizada quando algo dá errado? Uma análise recente publicada no Proceedings of the National Academy of Sciences sugere que esse enquadramento está completamente equivocado. A verdadeira questão é como uma regra direcionada a uma empresa altera o comportamento de todas as outras na cadeia. O resultado, ao que parece, traz consequências que a maioria das discussões políticas ainda não está preparada para gerenciar.
A Cadeia de Suprimentos que a Regulamentação de IA Ignora
A maioria dos produtos de IA não é construída por uma única empresa. Eles são montados em camadas. Um modelo de propósito geral, produzido por um grande desenvolvedor de IA como OpenAI ou Anthropic, serve como base. Uma segunda empresa então adapta esse modelo para um uso específico, como resumir prontuários clínicos de médicos ou alimentar um chatbot de atendimento ao cliente. Cada camada carrega suas próprias responsabilidades de segurança: o criador do modelo lida com treinamento, avaliação e documentação; a empresa downstream lida com validação clínica, fine-tuning e monitoramento de erros.
Essa estrutura em camadas é justamente o que a maioria das regulamentações falha em considerar. O EU AI Act, que a Comissão Europeia está se preparando para aplicar, impõe diferentes requisitos de segurança e transparência aos fornecedores de modelos de propósito geral e às empresas que constroem aplicações sobre eles. Essa distinção é um passo adiante. Mas a questão crítica não é apenas quem é regulado. É como uma exigência direcionada a uma camada remodela os incentivos de todos os outros.
Como Regras Fracas Podem Tornar os Produtos Menos Seguros
Benjamin Laufer, pesquisador aplicado sênior na Microsoft e futuro professor assistente na University of Washington Information School, explorou esse mecanismo junto com os coautores Jon Kleinberg e Hoda Heidari. O modelo de teoria dos jogos deles examinou o que acontece quando um regulador define um requisito mínimo de segurança para uma empresa de aplicação downstream, enquanto deixa o criador do modelo upstream sem restrições.
A constatação é contraintuitiva. Um piso de segurança fraco, definido como um requisito no nível ou abaixo do nível que as firmas teriam alcançado por conta própria, pode de fato reduzir a segurança geral do produto. A empresa downstream cumpre a regra, aumentando seu investimento em segurança. Mas o criador do modelo, sabendo que existe uma verificação de segurança mais adiante na cadeia, reduz seu próprio investimento em uma proporção maior do que a adicionada pela empresa downstream. O resultado líquido é um produto menos seguro, apesar da presença de uma regulamentação.
A analogia que Laufer usa é instrutiva. Imagine um regime de segurança alimentar que exija que os restaurantes inspecionem todos os ingredientes que servem, sem impor obrigações aos grandes fornecedores. Os restaurantes assumem uma responsabilidade real, e a regra não é desarrazoada à primeira vista. Mas os fornecedores, antecipando que os restaurantes pegarão qualquer problema, têm menos motivos para manter seus próprios controles de qualidade. A mesma lógica se aplica às cadeias de desenvolvimento de IA.
A constatação mais construtiva é o outro lado da moeda. Quando requisitos adequadamente calibrados se aplicam tanto ao criador do modelo upstream quanto à empresa de aplicação downstream, a regulamentação pode funcionar como um mecanismo de coordenação. Cada firma investe em segurança com a garantia de que a outra deve fazer o mesmo. Em alguns cenários modelados pelos pesquisadores, essa dupla responsabilidade levou a maior segurança e melhor desempenho para os consumidores, deixando ambas as firmas em melhor situação financeira.
Por Que Isso Importa Além do Debate Regulatório
Isso é o que a maior parte da cobertura sobre a regulamentação de IA deixa passar. A conversa tende a tratar a segurança como uma quantidade fixa que é atribuída a quem estiver mais próximo do usuário final. O arcabouço de Laufer revela que a segurança não é uma quantidade fixa de forma alguma. É uma variável estratégica, e as regras que governam um ator mudam a forma como todos os outros atores se comportam.
As implicações vão além de qualquer lei ou jurisdição específica. Em junho, o governo dos EUA exigiu que a Anthropic restringisse o acesso aos seus dois modelos mais recentes para estrangeiros, citando preocupações de segurança nacional. Incapaz de verificar a nacionalidade em tempo real, a Anthropic retirou temporariamente o acesso para todos os usuários. Pouco depois, a empresa chinesa Moonshot AI lançou seu modelo Kimi K3 e publicou os pesos completos do seu modelo. Esses episódios ilustram as pressões políticas que moldam a regulamentação de IA, mas também sublinham os riscos. Quando os governos intervêm no nível do modelo, as empresas downstream que constroem sobre esses modelos enfrentam disrupções que não causaram e não podem controlar totalmente.
À medida que os modelos de IA se tornam mais capazes e amplamente implantados, o número dessas intervenções tende a crescer. Cada uma delas testará se os arcabouços regulatórios foram desenhados para distribuir a responsabilidade por toda a cadeia de desenvolvimento, ou se permitem que a segurança seja silenciosamente transferida até que alguém pague a conta.
A pergunta que os reguladores precisam fazer não é simplesmente quem está melhor posicionado para prevenir danos. É quem deve contribuir, em cada camada, para tornar o produto final genuinamente mais seguro. Uma regra que responde apenas à primeira pergunta pode acabar respondendo a nenhuma das duas.
Em Resumo
Regular apenas a camada downstream do desenvolvimento de IA pode sair pela culatra. Quando os criadores de modelos sabem que as empresas de aplicações precisam atender a padrões de segurança, eles podem reduzir seus próprios investimentos em segurança em um valor superior ao adicionado pelas empresas downstream, deixando o produto final menos seguro no geral. Pesquisas publicadas no Proceedings of the National Academy of Sciences por Benjamin Laufer, Jon Kleinberg e Hoda Heidari mostram que regras bem calibradas aplicadas a atores tanto upstream quanto downstream podem, em vez disso, criar responsabilidade compartilhada e melhores resultados de segurança. A lição para os formuladores de políticas é estrutural: a segurança de IA não pode ser terceirizada para a camada mais próxima do usuário.
Com base em reportagem de Fast Company - Tech.