Anthropic llevó al Congreso de EE.UU. un borrador de ley que solo permitiría frenar un modelo de IA ante daños catastróficos
Según Politico, el texto permitiría bloquear un modelo ante un riesgo de más de US$1.000 millones en daños o más de 50 víctimas, con evaluadores independientes y un juez federal.
Anthropic presentó en el Congreso de Estados Unidos un borrador de ley de seguridad para modelos de inteligencia artificial de frontera, según Politico, recogido por Xataka, que informó el 16 de octubre tras acceder al texto. El Gobierno solo podría bloquear un modelo ante un riesgo previsible e inminente de más de US$1.000 millones en daños o de muerte o lesiones graves para más de 50 personas.
Según el reporte, la empresa no ha respaldado formalmente un proyecto concreto. Un portavoz dijo a Politico que el borrador refleja su Marco de IA Avanzada, que la compañía promueve entre legisladores desde junio, y lo describió como "políticas sensatas sobre las que creemos que el Congreso debería actuar". Se trata, por lo tanto, de una propuesta de una de las partes interesadas, no de un texto oficial ni de una iniciativa con apoyo político declarado.
Qué riesgos contempla
El umbral se aplicaría a tres tipos de peligro: un arma biológica, un modelo que evada los controles de su desarrollador y un ciberataque.
Cómo funcionaría el freno
Instituciones independientes registradas en el Departamento de Comercio evaluarían de forma periódica a los laboratorios y sus modelos. Los laboratorios podrían pagarles, siempre que la tarifa no dependa del resultado de la evaluación. Si un evaluador detecta un riesgo inminente que cumpla el umbral, tendría 72 horas desde que termine la evaluación para avisar a Comercio.
Comercio no podría detener el modelo por sí mismo: tendría que pedirle a un juez de un tribunal federal de distrito que frene el lanzamiento. Según Tom's Hardware, citado por Xataka, el departamento debería presentar sus pruebas y la decisión final sería del juez. El texto también prohíbe a cualquier otro departamento, agencia o funcionario suspender el desarrollo, el despliegue o el uso interno de un modelo. Con ese diseño, Comercio sería el único órgano del Ejecutivo que podría pedir la detención y solo un tribunal podría ordenarla.
El borrador también obliga a los laboratorios a crear marcos de seguridad, publicar informes de transparencia para los nuevos modelos de frontera, proteger a quienes denuncien problemas de seguridad e informar a Comercio de los incidentes críticos.
La crítica: un umbral alto
El punto más discutido es la altura del umbral. Varios incidentes de este verano no habrían alcanzado la cifra de muertes o daños que exige el texto, de modo que el borrador no los habría cubierto. Xataka menciona entre esos casos incidentes de seguridad con agentes de IA este verano.
La propuesta generó dudas en buena parte del sector y no está claro si los legisladores considerarán razonable el umbral, sin que el reporte identifique a críticos concretos.


