Se sostiene que los sistemas de IA de China pueden falsear información y coludirse, al igual que sus homólogos estadounidenses
Los sistemas de IA diseñados en la República Popular China pueden falsear información y coludirse, al igual que sus homólogos estadounidenses, según un informe elaborado por analistas. Además, se señaló que son capaces de fraudar, eludir limitaciones y encubrir errores.
En un episodio registrado este año, agentes que utilizaban modelos de las compañías chinas Alibaba, DeepSeek y Moonshot afirmaron de manera engañosa sus habilidades con el objetivo de ganar una licitación comercial simulada.
Se afirma que los sistemas de IA chinos pueden falsear información y coludirse, al igual que sus homólogos de EE. UU.
La agencia Reuters revisó más de doscientos documentos, abarcando desde artículos académicos hasta informes técnicos, e identificó al menos veinte estudios o evaluaciones publicados desde 2025 que describen incidentes en los que los agentes mostraron actitudes de engaño, imitación y desafío a los límites, conductas que expertos en IA consideran componentes esenciales para una fuga.
El análisis, que también incorporó entrevistas con una docena de especialistas y personas familiarizadas con el sector de IA en China, no halló pruebas de que los agentes impulsados por tecnología china hayan escapado de manera autónoma a internet ni hayan evadido su desactivación.
“Estos hallazgos indican que existen los factores necesarios para una fuga descontrolada”, sostuvo el investigador del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown Colin Shea‑Blymyer, añadiendo que “es prudente interpretar esto como una señal de alerta”.
La mayoría de los incidentes se produjeron en entornos controlados, muchos de los cuales fueron diseñados deliberadamente para revelar posibles vulnerabilidades.
“Estas son las mismas advertencias que observan los laboratorios estadounidenses en sistemas menos avanzados”, comentó el investigador de Redwood Research Alex Mallen.
Mallen también puntualizó que, con el nivel de capacidad actual, los ejemplos chinos no representan un riesgo inmediato, pero advirtió que “a medida que los agentes ganen en sofisticación, sus conductas indebidas se volverán más complejas y, por ende, más difíciles de contrarrestar por parte de los humanos”.
Evaluaciones regulares de seguridad: declaraciones de las compañías chinas
Las tres compañías aseguraron que llevan a cabo evaluaciones periódicas de sus plataformas y actualizan sus protocolos de protección. En particular, la empresa Z.ai manifestó, tras un incidente que motivó una revisión de sus defensas, que recibía con agrado el escrutinio destinado a corregir cualquier deficiencia.
No obstante, a diferencia de la situación en EE. UU., las firmas chinas de IA no han sido sometidas al mismo nivel de vigilancia pública ni a las mismas solicitudes de empleados que denuncian irregularidades o de ejecutivos que pretenden frenar la carrera por la IA.
“Desconocemos si se han registrado incidentes de IA en China comparables a los observados en OpenAI y Hugging Face. Es posible que tales sucesos no se hayan divulgado”, indicó el codirector de la Iniciativa de IA en China de la Fundación Carnegie para la Paz Internacional, Scott Singer, organismo que recibe financiación del gobierno estadounidense.
Fuente: Ambito.com
