China refuerza la regulación de la IA y suprime más de 5,6 millones de contenidos
El gobierno de la República Popular China suprimió más de 5,61 millones de materiales prohibidos o contrarios a la normativa y adoptó sanciones contra más de 49 000 perfiles en la segunda etapa de la iniciativa “Qinglang”, cuyo objetivo es frenar el empleo inapropiado de la inteligencia artificial (IA).
De acuerdo con la información divulgada por la Administración del Ciberespacio de China (CAC), la operación también condujo a acciones contra más de 2 400 sitios web y aplicaciones que infringían las disposiciones establecidas.
La iniciativa persigue varios usos de la IA que las autoridades consideran nocivos, entre los que se incluyen la generación y difusión de información falsa, contenido violento o vulgar y material que vulnera los derechos de los menores. Asimismo, se dirige contra el empleo de tecnologías de sustitución facial y vocal para suplantar la identidad de terceros.
El propósito central de la campaña es regular la producción y propagación de información falsa, contenido violento o vulgar y material que vulnera los derechos de los menores.
Entre los casos detectados se hallaron cuentas que utilizaron IA para alterar obras clásicas de la literatura china, como “Romance de los Tres Reinos” y “Viaje al Oeste”. También se identificaron noticias falsas sobre catástrofes y operaciones de socorro, así como videos deepfake que imitaban a personalidades públicas.
Plataformas y servicios de IA bajo escrutinio
La ofensiva provocó un endurecimiento de los controles por parte de los principales portales digitales chinos. Según la CAC, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban y Taobao reforzaron sus sistemas de detección de contenidos multimedia y ampliaron sus bases de datos.
El objetivo es optimizar la detección de imágenes faciales manipuladas, voces copiadas y otros patrones vinculados a material que vulnera las normas.
Los servicios de generación de contenido basados en chatbots e IA también endurecieron sus filtros. Doubao (ByteDance), Yuanbao (Tencent), Qwen (Alibaba) y Ernie Bot (Baidu) intensificaron la censura sobre los datos de entrenamiento y el contenido producido, y elevaron los requisitos para etiquetar los materiales creados mediante IA.
Las medidas se extendieron a las tiendas de aplicaciones móviles gestionadas por Huawei, Xiaomi, OPPO y Vivo. Estas plataformas adoptaron criterios de verificación más rigurosos para los desarrolladores, incluida la revisión de aplicaciones ya publicadas.
Tipos de contenido que China pretende bloquear
La CAC informó que diversas cuentas y aplicaciones fueron sancionadas por emplear herramientas de intercambio facial y vocal para suplantar a figuras públicas.
En otros casos, sitios web y plataformas fueron penalizados por alojar agentes de IA cuyas avatares, imágenes de perfil o conversaciones contenían pornografía u otro tipo de contenido que pudiera afectar a menores.
Las autoridades chinas anticipan que seguirán vigilando los riesgos emergentes vinculados al contenido generado por IA y adoptarán nuevas disposiciones para impedir el uso indebido de esta tecnología.
Simultáneamente, subrayan su intención de fomentar el desarrollo de aplicaciones de IA de forma “saludable y ordenada” dentro del país.
Fuente: Ambito.com
