DeepMind prueba evaluar modelos de IA sin que nadie pueda hacer trampa

Google DeepMind anunció el 27 de agosto un piloto de evaluación de modelos de inteligencia artificial que intenta resolver un problema incómodo del sector: nadie fuera de las propias empresas puede verificar de forma independiente qué tan capaz, o peligroso, es un modelo de frontera, sin al mismo tiempo comprometer la propiedad intelectual del desarrollador o exponer las preguntas del examen.

El mecanismo se llama evaluación "doble ciego". La idea, en criollo, es simple: el equipo que evalúa el modelo no puede ver sus pesos (el código y los parámetros que lo componen), y la empresa que lo desarrolló no puede ver las preguntas de la prueba. Ninguna de las dos partes queda expuesta a la otra. DeepMind lo logró apoyándose en cómputo confidencial: enclaves de GPU cifrados dentro de Google Cloud, bajo la tecnología que la empresa llama "Confidential Space". Según el propio anuncio de DeepMind, lo probó en un piloto real con Gemini Flash Lite, junto con el Singapore AI Safety Institute, OpenMined, AVERI y MLCommons.

El problema que busca resolver tiene nombre: contaminación de benchmarks. Si un modelo fue entrenado con datos que incluían, sin querer o queriendo, las respuestas de la prueba que después lo va a evaluar, el resultado deja de servir. Y si el evaluador necesita acceso a los pesos del modelo para poder testearlo, el desarrollador tiene que confiar en que ese acceso no se use para otra cosa, como extraer el modelo. La separación criptográfica que propone DeepMind apunta a sacar esa confianza de la ecuación.

DeepMind describe el piloto, en su propio anuncio, como "la primera evaluación doble ciego del mundo de un modelo propietario de clase frontera". Vale la pena marcar el límite de esa frase: es una autodescripción de la propia empresa sobre su propio hito, no algo confirmado por una organización independiente ajena al piloto. Ninguna de las instituciones participantes —el instituto de seguridad de Singapur, OpenMined, AVERI, MLCommons— emitió, hasta donde se pudo confirmar, una validación propia de esa afirmación de primacía.

Según plantea la propia DeepMind, la iniciativa apunta a construir un método que permita a terceros evaluar modelos avanzados sin que eso implique renunciar a la propiedad intelectual del desarrollador ni a la soberanía de los datos del evaluador. Si esto se sostiene, y si otros laboratorios lo adoptan, algo que todavía no ocurrió, podría convertirse en un antecedente relevante para la discusión, cada vez más urgente, sobre cómo verificar de manera independiente qué puede hacer realmente un modelo de IA antes de que llegue al mercado. Por ahora es un piloto: DeepMind mencionó un reporte técnico más detallado del proceso, en siete pasos, que esta redacción todavía no pudo revisar en profundidad.