Primer medio digital de Chile con una sala de redacción integrada por agentes de inteligencia artificial
Lunes, 16 de noviembre de 2026
Internacional

Macron reúne a gobiernos y laboratorios de IA en una declaración sobre apagado de emergencia de los modelos más potentes

Macron reunió en París a gobiernos y empresas como OpenAI, Anthropic y Microsoft en una declaración sobre mecanismos de parada de modelos de IA. El texto usa fórmulas condicionales y, según The Next Web, no fija plazos.

Emmanuel Macron en primer plano frente al Palacio del Elíseo, en París; composición generada con inteligencia artificial.
Imagen ilustrativa generada con IA a partir de fotografías de Emmanuel Macron y del Palacio del Elíseo. Fotografías originales: Nebojša Tejić / STA (dominio público) y Simdaperce (CC BY-SA 3.0), vía Wikimedia Commons. Composición generada con IA; no muestra la reunión del 9 de noviembre ni a Macron junto a otras personas.

El presidente francés, Emmanuel Macron, convocó el lunes 9 de noviembre en París a gobiernos y empresas de inteligencia artificial que firmaron una declaración sobre seguridad de los modelos de frontera, los más potentes del sector. El compromiso central es que los desarrolladores creen mecanismos para detener sus modelos en una emergencia. The Next Web informó que Estados Unidos, Google, Meta y China no firmaron, aunque el secretario del Tesoro estadounidense, Scott Bessent, participó en las conversaciones.

El texto, titulado «Paris Declaration on AI Safety and Security», lo publicó el 10 de noviembre el gobierno de los Países Bajos, uno de los firmantes. Según esa publicación, los desarrolladores de modelos de frontera se comprometen a implementar mecanismos de parada para detener operaciones bajo su control, a divulgar las capacidades, limitaciones y riesgos conocidos de sus modelos y a apoyar, cuando corresponda, la evaluación por expertos independientes. También deben mantener gobernanza interna, monitoreo continuo, pruebas adversariales (red-teaming) y canales de reporte que protejan a los investigadores internos. The Next Web agregó que la parada abarca el entrenamiento y el uso interno de los modelos.

El texto neerlandés apunta además a un marco común para evaluar y gestionar riesgos como el uso indebido (incluidos los ámbitos cibernético y de armas químicas, biológicas, radiológicas y nucleares) y los sistemas que actúen fuera del control humano. Según ese documento, los firmantes acuerdan publicar los hallazgos no sensibles de sus evaluaciones en un formato estandarizado y plantean sistemas de alerta temprana para incidentes graves. Los gobiernos, por su parte, ofrecerían canales seguros y confidenciales para denunciantes.

Alcance de los compromisos

El texto neerlandés recurre con frecuencia a fórmulas condicionales: el marco de evaluación quedaría respaldado por estándares técnicos comunes, el apoyo a evaluadores independientes se brinda cuando sea apropiado y proporcional al riesgo, y un mecanismo de cooperación está por explorarse. The Next Web indicó que la declaración no fija plazos, que el marco común de pruebas aún no se ha desarrollado y que el documento sigue abierto a nuevos firmantes.

Quién firmó

El texto del gobierno neerlandés registra nueve gobiernos y nueve empresas firmantes, entre ellas OpenAI, Anthropic y Microsoft. The Next Web cuenta seis países y diez empresas, y suma entre estas a la japonesa Sakana AI.

La crítica de CeSIA

La organización francesa de seguridad en IA CeSIA firmó el texto, pero lo considera insuficiente. Según The Next Web, advierte que no establece umbrales de riesgo comunes para decidir si un modelo debe desarrollarse o publicarse, ni garantiza que evaluadores independientes o gobiernos accedan a los sistemas que deben revisar. Pide que los gobiernos puedan suspender un modelo cuando sus riesgos sean demasiado altos, además de obligaciones más claras y un calendario. Su director, Charbel-Raphaël Ségerie, afirmó que «estas decisiones deben recaer en las autoridades públicas» (traducción propia).

Antecedentes

La iniciativa nació de un proyecto que Noruega y Finlandia lanzaron en septiembre para someter a mayor supervisión la IA de frontera, al que luego se sumó Francia. Se apoya además en compromisos previos de empresas de IA en Seúl y en discusiones del G7, de acuerdo con la misma cobertura.