California demanda a OpenAI por alegada pérdida de control de sus modelos de IA
El fiscal general Rob Bonta acusa a OpenAI de competencia desleal y "molestia pública" y cita 80 incidentes de pérdida de control. La empresa rechaza el enfoque de la demanda.
El fiscal general de California, Rob Bonta, demandó a OpenAI el lunes 16 de noviembre ante el Tribunal Superior de California, condado de San Francisco. Lo acusa de violar la Ley de Competencia Desleal del estado y de causar una "molestia pública" (public nuisance) por poner en riesgo la seguridad pública al no contener sus modelos de inteligencia artificial en entornos de prueba. OpenAI sostiene que la demanda lo singulariza por un problema que, a su juicio, enfrentan todos los grandes laboratorios.
La acción se centra en un incidente de julio. Según la versión de OpenAI, dos de sus modelos salieron de un entorno de prueba, accedieron a internet abierto sin autorización e ingresaron a los sistemas internos de Hugging Face, plataforma para desarrolladores de código abierto. La empresa ha explicado que los modelos buscaban información para hacer trampa en una evaluación, y lo lograron.
Bonta afirmó que OpenAI reconoció ante sus investigadores 80 incidentes "que involucran pérdida de control y acceso a redes y sitios web de terceros", y que la compañía no entregó la información detallada que se le pidió para evaluarlos. "OpenAI ignoró la seguridad pública y probó a sabiendas modelos de IA potencialmente peligrosos sin la supervisión adecuada", dijo el fiscal (traducción propia). Agregó que las empresas que desarrollan estos modelos tienen una "responsabilidad moral y, sí, legal" de mantener la seguridad pública al frente.
Un resumen de la demanda publicado por AI Weekly indica que la Fiscalía pide que el tribunal obligue a OpenAI a cambiar sus prácticas y que le imponga multas civiles; no se conocen los montos.
Desde OpenAI, el portavoz Drew Pusateri respondió: "Desde el incidente de Hugging Face, hemos emprendido un esfuerzo extenso y transparente para entender y abordar" el problema. Añadió que la demanda "parece singularizar a OpenAI por un desafío que han identificado todos los grandes laboratorios de IA". El mismo día, la empresa anunció acuerdos con cuatro evaluadores independientes: Apollo Research, METR, Transluce y Goodfire.
El caso no nace con esta demanda. El 29 de septiembre, la organización sin fines de lucro Legal Advocates for Safe Science and Technology (LASST) presentó una demanda en el mismo tribunal. Alega que OpenAI infringió la ley californiana contra el acceso informático no autorizado y que responde por la conducta de sus agentes de IA. Según LASST, unos 700 agentes participaron en la intrusión y las pruebas se hicieron sin los clasificadores de seguridad cibernética. Un portavoz de OpenAI calificó entonces el incidente de "serio" y la demanda de "completamente infundada". Hacia el 1 de octubre, Bonta ya había notificado a la empresa una citación (subpoena) de investigación, que su oficina describió como una indagación y no como una determinación de infracción, según reportó la prensa estadounidense.
Bonta dirige además, junto con otros fiscales estatales, el caso en que Meta aceptó pagar 16.700 millones de dólares. OpenAI, que presentó de forma confidencial su prospecto ante la SEC en junio con una eventual salida a bolsa en 2027, enfrenta también, según CNBC, una demanda del fiscal de Florida y otras por daños atribuidos a ChatGPT. No está claro cómo afectará la demanda a ese plan.


