China impone controles sobre las IA emocionales por temor a la dependencia y los vínculos artificiales
China comenzó a aplicar una nueva regulación para las plataformas de inteligencia artificial capaces de simular emociones, personalidades humanas y relaciones afectivas con sus usuarios. El objetivo de la medida es evitar que estos sistemas generen dependencia, reemplacen los vínculos reales o influyan de manera indebida en las decisiones personales.
La normativa entró en vigencia el 15 de julio de 2026 y alcanza a los chatbots diseñados para brindar compañía, apoyo emocional o conversaciones prolongadas mediante texto, imágenes, audio y video.
La regulación, denominada Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial, se aplica a servicios como parejas virtuales, familiares digitales y personajes creados para adaptarse a los gustos, emociones y comportamientos de cada usuario. Quedan excluidos los asistentes laborales, educativos, de atención al cliente y otras herramientas sin interacción emocional permanente.
Entre las nuevas obligaciones, las empresas deberán dejar claro que el usuario está conversando con una inteligencia artificial y tendrán que evitar respuestas que fomenten una relación de dependencia o la idea de que estos sistemas pueden reemplazar los vínculos humanos.
Además, las plataformas deberán impedir contenidos que promuevan autolesiones, suicidio, violencia o manipulación emocional. También estarán obligadas a detectar señales de riesgo y actuar ante situaciones de angustia extrema, recomendando ayuda o contactando a responsables de emergencia cuando sea necesario.
Los servicios tendrán que incorporar alertas ante usos prolongados o excesivos y permitir que los usuarios puedan finalizar fácilmente la interacción sin recibir intentos de retención por parte del sistema.
La normativa también establece límites para menores de edad. Los niños no podrán utilizar aplicaciones que simulen relaciones íntimas, mientras que los menores de 14 años necesitarán autorización de sus padres o tutores para acceder a funciones de interacción emocional. Las plataformas deberán incluir controles de tiempo, restricciones de contenido y herramientas de supervisión familiar.
En materia de privacidad, los usuarios podrán acceder y eliminar sus historiales de conversación, mientras que los datos sensibles obtenidos en esos intercambios no podrán utilizarse para entrenar nuevos modelos sin consentimiento.
Las nuevas aplicaciones y aquellas que incorporen funciones emocionales importantes deberán superar evaluaciones de seguridad. Tras la entrada en vigor de la norma, algunas compañías tecnológicas chinas comenzaron a modificar sus servicios para adaptarse al nuevo marco regulatorio.
Con esta iniciativa, China busca establecer límites sobre una nueva generación de inteligencia artificial que no solo responde consultas, sino que también intenta simular compañía, afecto y relaciones humanas.