Los debates sobre la regulación de la IA suelen centrarse en una pregunta sencilla: ¿qué empresa debe rendir cuentas cuando algo sale mal? Un análisis reciente publicado en los Proceedings of the National Academy of Sciences sugiere que ese enfoque es completamente erróneo. La verdadera pregunta es cómo una norma dirigida a una empresa cambia el comportamiento de todas las demás en la cadena. Resulta que la respuesta tiene consecuencias que la mayoría de los debates políticos todavía no están preparados para afrontar.
La cadena de suministro que la regulación de la IA ignora
La mayoría de los productos de IA no los construye una sola empresa. Se ensamblan por capas. Un modelo de propósito general, producido por un desarrollador de IA a gran escala como OpenAI o Anthropic, sirve de base. A continuación, una segunda empresa adapta ese modelo para un uso específico, como resumir notas clínicas de médicos o potenciar un chatbot de atención al cliente. Cada capa conlleva sus propias responsabilidades de seguridad: el creador del modelo se encarga del entrenamiento, la evaluación y la documentación; la empresa de abajo en la cadena se encarga de la validación clínica, el ajuste (fine-tuning) y el seguimiento de errores.
Esta estructura por capas es precisamente lo que la mayoría de las normativas no tiene en cuenta. La Ley de IA de la UE, que la Comisión Europea se prepara para aplicar, impone diferentes requisitos de seguridad y transparencia a los proveedores de modelos de propósito general y a las empresas que crean aplicaciones sobre ellos. Esa distinción es un paso adelante. Pero la cuestión fundamental no es solo quiénes son los regulados. Es cómo un requisito dirigido a una capa remodela los incentivos de todos los demás.
Cómo unas normas débiles pueden hacer que los productos sean menos seguros
Benjamin Laufer, investigador aplicado sénior en Microsoft y profesor asistente entrante en la Information School de la Universidad de Washington, exploró este mecanismo junto con los coautores Jon Kleinberg y Hoda Heidari. Su modelo de teoría de juegos examinó qué sucede cuando un regulador establece un requisito mínimo de seguridad para una empresa de aplicaciones posterior, mientras deja sin restricciones al creador del modelo anterior.
El hallazgo es contradictorio. Un piso de seguridad débil, definido como un requisito igual o inferior al nivel que las empresas habrían alcanzado por sí mismas, puede reducir en realidad la seguridad general del producto. La empresa de aplicaciones cumple, aumentando su inversión en seguridad. Pero el creador del modelo, sabiendo que existe un control de seguridad más adelante en la cadena, reduce su propia inversión en una cantidad mayor de lo que la otra empresa añade. El resultado neto es un producto menos seguro, a pesar de la presencia de una regulación.
La analogía que utiliza Laufer es ilustrativa. Imagina un régimen de seguridad alimentaria que obligue a los restaurantes a inspeccionar cada ingrediente que sirven, sin imponer ninguna obligación a los grandes proveedores. Los restaurantes asumen una responsabilidad real, y la norma no es irrazonable en principio. Pero los proveedores, anticipando que los restaurantes detectarán cualquier problema, tienen menos motivos para mantener sus propios controles de calidad. La misma lógica se aplica a las cadenas de desarrollo de IA.
El hallazgo más constructivo es la otra cara de la moneda. Cuando se aplican requisitos debidamente calibrados tanto al creador del modelo como a la empresa de aplicaciones, la regulación puede funcionar como un mecanismo de coordinación. Cada empresa invierte en seguridad con la garantía de que la otra debe hacer lo mismo. En algunos escenarios simulados por los investigadores, esta doble rendición de cuentas condujo a una mayor seguridad y a un mejor rendimiento para los consumidores, al tiempo que dejaba a ambas empresas en una mejor situación financiera.
Por qué esto importa más allá del debate regulatorio
Esto es lo que la mayor parte de la cobertura sobre la regulación de la IA pasa por alto. La conversación tiende a tratar la seguridad como una cantidad fija que se asigna a quien esté más cerca del usuario final. El marco de Laufer revela que la seguridad no es en absoluto una cantidad fija. Es una variable estratégica, y las normas que rigen a un actor cambian el comportamiento de todos los demás.
Las implicaciones van más allá de cualquier ley o jurisdicción individual. En junio, el gobierno de EE. UU. exigió a Anthropic que restringiera el acceso a sus dos modelos más nuevos a ciudadanos extranjeros, alegando motivos de seguridad nacional. Incapaz de verificar la nacionalidad en tiempo real, Anthropic retiró temporalmente el acceso a todos los usuarios. Poco después, la empresa china Moonshot AI lanzó su modelo Kimi K3 y publicó los pesos completos de su modelo. Estos episodios ilustran las presiones políticas que configuran la regulación de la IA, pero también subrayan lo que está en juego. Cuando los gobiernos intervienen a nivel de modelo, las empresas que desarrollan aplicaciones sobre esos modelos se enfrentan a interrupciones que no han causado y que no pueden controlar por completo.
A medida que los modelos de IA sean más capaces y estén más extendidos, es probable que aumente el número de este tipo de intervenciones. Cada una de ellas pondrá a prueba si los marcos regulatorios están diseñados para distribuir la responsabilidad a lo largo de toda la cadena de desarrollo, o si permiten que la seguridad se vaya delegando silenciosamente hasta que otro pague la factura.
La pregunta que los reguladores deben hacerse no es simplemente quién está mejor posicionado para prevenir daños. Es quién debe contribuir, en cada capa, para que el producto final sea genuinamente más seguro. Una norma que solo responda a la primera pregunta puede terminar sin responder a ninguna.
En resumen
Regular únicamente la capa final del desarrollo de IA puede ser contraproducente. Cuando los creadores de modelos saben que las empresas de aplicaciones deben cumplir con los estándares de seguridad, pueden reducir sus propias inversiones en seguridad en una medida mayor de lo que las empresas posteriores añaden, lo que deja al producto final menos seguro en general. La investigación publicada en los Proceedings of the National Academy of Sciences por Benjamin Laufer, Jon Kleinberg y Hoda Heidari muestra que unas normas bien calibradas que se aplican tanto a los actores anteriores como a los posteriores pueden crear, en cambio, una responsabilidad compartida y mejores resultados de seguridad. La lección para los legisladores es estructural: la seguridad de la IA no se puede externalizar a la capa más cercana al usuario.
Basado en información de Fast Company - Tech.