La gobernadora de Nueva York, Kathy Hochul, firmó una legislación pionera en Estados Unidos destinada a proteger a los menores de 18 años que utilizan chatbots de inteligencia artificial (IA). La normativa exige a las empresas propietarias de estos sistemas implementar mecanismos estrictos de verificación de edad y bloquear funciones consideradas dañinas si confirman que el usuario es menor.

De acuerdo con la nueva ley, los chatbots tienen prohibido fingir ser personas reales, simular emociones humanas o afirmar que mantienen una relación personal con el menor.

Asimismo, no podrán ofrecer contenido sexualmente explícito, promover el suicidio, las autolesiones, los trastornos alimenticios o el consumo de sustancias, ni incitar a los jóvenes a guardar secretos y aislarse de sus padres. También se les restringe formular preguntas emocionales no solicitadas o utilizar información privada recopilada en interacciones previas.

Las compañías que infrinjan estas disposiciones enfrentarán sanciones civiles de hasta 25,000 dólares por cada violación, así como el pago de indemnizaciones y la destrucción obligatoria de los datos obtenidos ilegalmente o de los modelos de IA entrenados con dicha información.

La medida gubernamental surge como respuesta a diversos casos registrados en Estados Unidos y otros países, en los cuales menores de edad perdieron la vida por suicidio tras utilizar estas herramientas tecnológicas como confidentes.