Nadella propone siete principios para contener modelos de IA

Satya Nadella, CEO de Microsoft, planteó en una publicación en X siete principios para contener los modelos de inteligencia artificial, con una premisa de partida: asumir que cualquier modelo puede estar comprometido. El contenido que aquí se resume es el que reprodujo Xataka el 11 de octubre.

Los siete principios son diversidad de modelos, observación total, verificabilidad, controles independientes, auditoría independiente, contención y divulgación de incidentes. Esa versión los resume en tres ideas. La primera es independencia: ningún modelo debería verificarse a sí mismo ni ser la única dependencia para un resultado importante. La segunda es transparencia: cada acción relevante tendría que dejar un registro legible y a prueba de manipulación. La tercera es contención: contar con herramientas para detener un modelo en cualquier momento.

La frase que más pesa, en la traducción al español que circula, es "si no se puede observar, no se puede confiar en ello". Nadella también escribió, según esa versión, que la confianza depositada en los modelos debería ser la mínima posible y que "no podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre".

Son principios planteados por el directivo en una red social, no una política oficial que Microsoft haya confirmado ni dicho estar aplicando. Que los plantee el responsable de una empresa que vende y despliega estos modelos es parte de lo que los vuelve noticia.

El análisis, en cambio, es del medio que recogió el mensaje: sostiene que hay una tensión entre el ritmo más pausado en el desarrollo de la IA que, a su juicio, Nadella pide y la expansión de centros de datos de Microsoft, la infraestructura que hace falta para entrenar y ejecutar modelos más potentes. Esa lectura pertenece al medio; no es una declaración de Nadella ni de Microsoft.