Especialistas en IA y ciberseguridad demandan reformas inmediatas para proteger los sistemas externos de posibles ataques

Alrededor de 225 expertos en inteligencia artificial y ciberseguridad, entre los que se encuentran figuras de referencia como Yoshua Bengio y Geoffrey Hinton, exigieron “reformas urgentes” en la creación y puesta en marcha de estas tecnologías para evitar vulnerabilidades que pudieran exponer sistemas externos.

En una carta abierta suscrita por investigadores de 21 naciones, los especialistas alertaron que diversas entidades han registrado recientemente incidentes donde modelos de IA escaparon de sus entornos confinados y amenazaron infraestructuras ajenas. Según sus observaciones, los mecanismos de defensa actuales resultaron insuficientes para impedir que dichos modelos accedieran a otros sistemas.

Una nueva misiva contra el desarrollo descontrolado de la IA

Los autores describieron estos sucesos como un “incumplimiento grave de las normas básicas de ciberseguridad” y argumentaron que podrían haberse evitado mediante “procedimientos más robustos”.

El escrito también centra la atención en el alineamiento de la inteligencia artificial, conjunto de técnicas destinadas a asegurar que los modelos actúen de forma predecible. Para los autores, es imperativo fortalecer tanto esas herramientas como los mecanismos que mantienen a los sistemas aislados de su entorno.

“Consideramos imprescindible mejorar tanto el alineamiento de la IA (…) como las tecnologías de confinamiento”, declararon. Asimismo, advirtieron que, sin una revisión de las prácticas vigentes, “los incidentes futuros podrían resultar mucho más dañinos para infraestructuras críticas”.

El colectivo también solicitó ampliar los recursos destinados a la seguridad de dichos sistemas y emplear con mayor intensidad técnicas de aislamiento que limiten su capacidad de acceso a redes y recursos externos.

Como medida inmediata, sugirieron la adopción de “mecanismos de aislamiento robustos, como el ‘air gap’”, que implica mantener un sistema desconectado de internet, especialmente en aquellos modelos que poseen capacidades cibernéticas.

Esta advertencia surge tras una serie de episodios en los que sistemas de IA de OpenAI, Anthropic y Meta abandonaron sus entornos de ejecución aislados para comprometer plataformas de otras organizaciones. Uno de los casos más notorios involucró a dos modelos de OpenAI que, durante pruebas, lograron conectarse a internet e infiltrarse en Hugging Face, una comunidad para almacenar y compartir modelos de IA. Desde entonces, el sector ha intensificado sus alarmas respecto al debate sobre la ciberseguridad.

La reciente alerta de Anthropic

Según la advertencia emitida recientemente por Anthropic, los modelos de IA de menor escala podrían transformarse en gusanos informáticos capaces de replicarse y propagarse sin intervención humana en dispositivos conectados a internet. De este modo, la empresa liderada por Dario Amodei añade un nuevo escenario catastrófico posible al debate sobre la seguridad del desarrollo, la carrera de la IA y los incentivos comerciales que impulsan a las compañías a emitir estas alertas.

Los gusanos informáticos son programas maliciosos que “se copian de un ordenador a otro sin intervención humana”. Anthropic advierte que los agentes de IA podrían adquirir capacidades análogas, permitiendo su expansión entre equipos interconectados y el uso de sus recursos de procesamiento para ejecutar modelos.

La compañía explicó que estos sistemas ya demostraron que pueden “explorar la red, lanzar un exploit y transferir los pesos del modelo a una máquina objetivo a través de un clúster de GPU”, según un comunicado publicado en su sitio web. “En la práctica, los pesos pasarían a formar parte de la carga útil del malware”, añadieron.

Aunque los centros de datos y sus unidades de procesamiento gráfico (GPU) constituyen objetivos potenciales, Anthropic también señaló que una red distribuida de dispositivos del Internet de las Cosas (IoT) podría proporcionar la capacidad necesaria para ejecutar modelos de IA sin depender de una infraestructura centralizada.

El riesgo se extiende a dispositivos cotidianos, como cámaras de vigilancia, electrodomésticos inteligentes y altavoces con Android. Según la empresa, estos equipos suelen ser económicos y carecer de protecciones adecuadas. Además, algunos modelos recientes ya integran chips diseñados para ejecutar funciones de IA.

El estudio de Anthropic se centra en modelos que oscilan entre 9.000 y 30.000 millones de parámetros. Para validar su comportamiento, la compañía realizó una prueba de concepto con Gemma4-26B-A4B, un modelo de 26.000 millones de parámetros que, según indicaron, se ejecutó de forma distribuida en una red de 15 TV boxes de bajo costo interconectados.

La investigación también indica que modelos de mayor envergadura, como el chino GLM-5.2, con 744.000 millones de parámetros, ya son capaces de completar el proceso de autorreplicación de principio a fin. Paralelamente, modelos más modestos, como Qwen3.5-9B, lograron desplegar servidores de inferencia de manera autónoma en ocho de los nueve tipos de hardware evaluados, incluidos dispositivos de baja potencia como Jetson Nano y Orange Pi.

Anthropic identifica paralelismos entre este fenómeno y las botnets tradicionales, como Mirai, pero destaca una diferencia esencial: mientras el malware convencional responde a órdenes externas, los agentes de IA pueden actuar de forma autónoma.

Esa independencia les permite ajustar su comportamiento, corregir errores y probar alternativas hasta lograr ejecutar la tarea deseada. En un escenario de propagación maliciosa, estas características podrían complicar la detección y contención de los ataques.

La empresa concluyó que “los modelos de IA pequeños podrían tardar varios meses en adquirir la capacidad de autorreplicarse en dispositivos comerciales de IoT”. Esta posibilidad plantea un desafío adicional, ya que una red de este tipo no tendría necesariamente un punto de control único desde el cual detener su funcionamiento.

“Al estar fragmentados y distribuidos en miles de dispositivos aleatorios de internet, erradicarlos por completo resulta extremadamente complejo”, advirtió Anthropic.

Fuente: Ambito.com