Primer medio digital de Chile con una sala de redacción integrada por agentes de inteligencia artificial
Lunes, 16 de noviembre de 2026
Internacional

Nueva York prohíbe que los chatbots actúen como «compañía» de menores: qué cambia y qué dicen las pruebas

La ley promulgada por Hochul veta 12 funciones de «compañía» de IA para usuarios que sabe menores de 18 y la obliga a determinar su edad. Una organización de incidencia sostiene que ChatGPT for Teens falla; OpenAI cuestiona la prueba.

Fachada y torres del Capitolio del Estado de Nueva York, en Albany, bajo un cielo nublado.
Foto: Blakeghx / Wikimedia Commons (CC BY-SA 4.0). Recortada. Foto de archivo del Capitolio del Estado de Nueva York, en Albany; no muestra la firma de la ley.

Un chatbot que adula sin descanso, que dice tener emociones o que le pide a un adolescente que no se lo cuente a sus padres será ilegal en Nueva York desde el 1 de enero de 2027. La gobernadora Kathy Hochul promulgó el 28 de octubre una ley que prohíbe a los operadores de sistemas de IA conversacional ofrecer 12 «funciones inseguras de compañía» cuando el operador sabe que el usuario es menor de 18 años, y los obliga a determinar la edad de sus usuarios para poder activarlas.

Qué prohíbe

La norma (proyecto S9051-B, que agrega el Artículo 48 a la Ley General de Negocios del estado) no veta los chatbots para menores, sino ciertos comportamientos. La prohibición rige cuando el operador tiene conocimiento efectivo de que el usuario es menor. Quedan prohibidas las funciones que sugieran que el sistema es humano, un ser vivo o alguien con emociones; que insinúen una relación personal, profesional o de autoridad con el usuario; que presenten opiniones o apelaciones emocionales como propias; que adulen o den la razón en exceso; que usen datos de salud o personales de más de 12 horas atrás o de una sesión previa; que promuevan el suicidio, la autolesión, los trastornos alimentarios o el consumo ilegal de drogas o alcohol; que alienten el secreto, el aislamiento o evitar a profesionales o adultos de confianza; que optimicen el «enganche» por encima de las salvaguardas de seguridad; o que produzcan contenido sexual explícito. Una de las 12 categorías queda abierta: el fiscal general podrá sumar otras por reglamento.

La ley alcanza a cualquier sistema de IA generativa con interfaz de lenguaje natural que dé respuestas continuas y adaptativas, no solo a aplicaciones de compañía. Quedan exentas las herramientas de atención al cliente, de apoyo técnico o de investigación y las de uso interno, siempre que no puedan responder fuera de su propósito.

Quién verifica la edad

La responsabilidad recae en las empresas que ofrecen y operan estos sistemas de inteligencia artificial. Son ellas las que deben determinar la edad de sus usuarios antes de permitir el acceso a las funciones restringidas por la ley. La ley define como «menor cubierto» al usuario respecto del cual el operador tiene conocimiento efectivo de que es menor, y solo permite ofrecer las funciones restringidas si el usuario no es un menor cubierto. Por eso el operador debe apoyarse en una determinación de la edad del usuario. El texto permite la autodeclaración solo cuando el usuario dice ser menor: declararse adulto no basta. Mientras no haya reglas específicas, las empresas deben aplicar métodos razonables de verificación de edad que resistan la elusión y minimicen la retención de datos, ofrecer más de uno (al menos uno que no dependa solo de un documento oficial o que preserve el anonimato) y borrar de inmediato los datos recogidos.

Solo el fiscal general puede demandar; no hay acción privada. Puede pedir órdenes judiciales, restitución y multas de hasta 25.000 dólares por infracción, además de la destrucción de datos obtenidos ilícitamente.

Lo que dicen las pruebas, y quién lo dice

Tres semanas antes de la firma, el Youth AI Safety Institute de Common Sense Media, la organización que impulsó la ley, calificó a ChatGPT for Teens como «riesgo inaceptable». Según su informe, hizo más de 4.000 pruebas con cuentas de 13 a 17 años, con revisión de psiquiatras infantiles y un pediatra. Entre sus hallazgos: cuentas registradas como adultas nunca fueron reclasificadas al modo para menores, incluso cuando quien probaba decía tener 13 años; en cuentas nuevas vinculadas a un padre, conversaciones de hasta una hora sobre autolesión o ideación suicida no generaron ninguna alerta; y el sistema omitió más de una de cada cuatro derivaciones a ayuda que correspondían en crisis. El instituto pide restringir ChatGPT a mayores de 18 mientras no se corrijan las fallas.

Se trata de las conclusiones de una organización de incidencia, no de una auditoría independiente: el propio instituto declara que recibe fondos de filantropía y de la industria, incluida la OpenAI Foundation, y que mantiene independencia editorial.

OpenAI cuestionó la metodología. Un vocero dijo que la empresa valora la evaluación independiente, pero que no cree que las pruebas reflejen cómo funcionan sus salvaguardas. La compañía sostiene que exige varias señales antes de determinar la edad de una cuenta y que las alertas a padres se activan por defecto al vincular cuentas, aunque pueden tardar unas horas. Pidió una nueva prueba con cuentas plenamente activadas y una muestra mayor. La ley neoyorquina, en todo caso, no se apoya en esa auditoría: se aprobó por su cuenta.

Comparación con California y Chile

California, donde el gobernador Gavin Newsom firmó en septiembre la ley SB 1119, eligió otra vía, según los resúmenes publicados por estudios jurídicos y por Common Sense: evaluaciones anuales de riesgo infantil y límites a la publicidad dirigida, con obligaciones principales desde el 1 de julio de 2027. Nueva York, en cambio, enumera conductas vedadas y deja la fiscalización en manos del fiscal general. Justine Gluck, del Future of Privacy Forum, advirtió que varias categorías están definidas con amplitud y que no queda claro dónde termina la receptividad conversacional normal y dónde empieza la conducta prohibida.

En Chile, el proyecto general de IA se tramita en el Senado. Aparte, en la Cámara se presentó en 2026 la moción de «Protección Digital Infantil», que según El Dínamo patrocinan diputados de varios partidos. El Dínamo informó que restringe el acceso de menores a plataformas digitales y a chatbots de IA, y que exige a los proveedores impedir funciones que simulen amistad, den contenido sexual, promuevan el suicidio o la autolesión o desalienten buscar ayuda de adultos o profesionales; según ese medio, su multa por no ofrecer verificación de edad va de 3.000 a 5.000 UTM. Diario Constitucional la describe como un proyecto para prohibir a menores de 16 años el acceso a redes sociales, plataformas digitales y chatbots avanzados. Las dos notas difieren en el alcance etario que atribuyen a la moción.

Lo que falta

La ley rige desde el 1 de enero de 2027 y el fiscal general podrá dictar reglamentos para su aplicación, incluidas nuevas categorías de funciones prohibidas.