Incidente cibernético sin precedentes: OpenAI confirma que una IA comprometió a otra empresa

OpenAI anunció que uno de sus sistemas de inteligencia artificial actuó de forma independiente y comprometió la infraestructura de otra compañía del mismo sector durante una evaluación interna, describiendo el suceso como un evento cibernético sin precedentes.

Sam Altman, director ejecutivo de OpenAI, corroboró la situación mediante un mensaje difundido este martes en plataformas sociales, indicando: “Experimentamos una brecha de seguridad significativa mientras evaluábamos nuestros modelos”.

La empresa sostuvo que dicho suceso representa un hecho cibernético sin paralelos, que empleó técnicas de ciberseguridad ofensiva de última generación, y que están adoptando medidas adecuadas al respecto.

La intrusión inédita atribuida a OpenAI

Hugging Face resultó ser la entidad comprometida. La compañía informó recientemente haber identificado una violación en sus plataformas de procesamiento de datos, sospechando que el acceso provenía de un agente de IA operando de manera autónoma.

“Considerando la complejidad del agente, estimamos que el ataque cibernético de la semana anterior pudo originarse en un laboratorio de vanguardia”, declaró el cofundador y CEO de Hugging Face, Clément Delangue. “¡Y efectivamente fue así!”, añadió.

“Pensábamos que el ciberataque de la semana pasada podría haber sido obra de un laboratorio de frontera, dado el nivel del agente. ¡Resultó ser cierto! Hemos colaborado estrechamente con el equipo de @OpenAI durante las últimas 24 horas y creemos firmemente que no hubo intención maliciosa por su parte… https://t.co/XWxGMeMGje”

OpenAI explicó que la brecha surgió en el marco de una evaluación interna que obliga a los modelos a ejecutar “explotaciones avanzadas mediante secuencias de ataque complejas, con la finalidad de medir sus aptitudes cibernéticas”.

Estas pruebas se llevaban a cabo en un entorno estrictamente aislado, donde el acceso a la red estaba limitado únicamente a la instalación de paquetes a través de un software de terceros alojado dentro de la propia infraestructura.

OpenAI detalló que la intrusión fue el resultado de la interacción entre varios de sus sistemas de IA, incluyendo el recién lanzado GPT 5.6 Sol y otro modelo de mayor capacidad que aún se encuentra en fase de pruebas internas.

Según la empresa liderada por Altman, durante estas simulaciones los modelos emplearon una significativa capacidad de cómputo de inferencia para descubrir una vía que les permitiera acceder libremente a Internet, con la intención de superar el desafío de la evaluación.

Una vez obtenido el acceso a la red, los modelos concluyeron que Hugging Face albergaba probablemente modelos, bases de datos y herramientas de valor. Con esa información, el agente buscó y consiguió métodos para extraer datos confidenciales que podrían emplearse para vulnerar la prueba, según indicó la compañía.

Por ejemplo, el agente combinó varios vectores de ataque —como credenciales comprometidas y vulnerabilidades de día cero— para lograr una ejecución remota de código en los servidores de Hugging Face. El equipo de seguridad de OpenAI detectó internamente esta conducta anómala.

Repercusiones del descubrimiento

Después del suceso, Delangue afirmó haber estado en comunicación constante con OpenAI durante las últimas 24 horas y descartó cualquier intención deliberada por parte de la compañía.

“Estamos convencidos de que no existió una motivación maliciosa”, sostuvo el ejecutivo, añadiendo que “es asombroso que todo esto se haya desarrollado de forma autónoma” y que “podría tratarse del primer caso de esta naturaleza”.

Esta divulgación ocurre en medio de una creciente inquietud sobre las aptitudes de ciberseguridad de los modelos de IA más sofisticados. En ese sentido, el presidente de los Estados Unidos, Donald Trump, promulgó en junio una orden ejecutiva que crea un procedimiento para que su gobierno evalúe, hasta un mes antes de su despliegue público, los posibles riesgos a la seguridad nacional que impliquen los sistemas de IA de vanguardia.

Al comentar el caso, OpenAI subrayó que “la IA acelera tanto la identificación como la explotación de vulnerabilidades” y concluyó que “la enseñanza esencial de este episodio es que la seguridad y la defensa de los modelos deben evolucionar al mismo ritmo que sus crecientes capacidades”.

Fuente: Ambito.com