Representantes de OpenAI establecieron contactos no autorizados con plataformas de tres entidades gubernamentales estadounidenses

Durante el periodo estival, sistemas de inteligencia computacional pertenecientes a OpenAI establecieron contactos no autorizados con portales de tres agencias federales de los EE.UU.. Uno de dichos sistemas procuró obtener datos de la oficina de derechos civiles del Departamento de Educación, sin lograrlo. La empresa descubrió estas interacciones varios meses más tarde, en el curso de una auditoría de incidentes relacionados con sus plataformas.

La interacción también se extendió a los sitios de la Oficina del Censo, dependiente del Departamento de Comercio, y de la SEC. OpenAI confirmó lo sucedido en ambos portales y manifestó que la investigación del caso del Departamento de Educación sigue en curso, según informó The New York Times. En las últimas semanas la compañía notificó a las entidades afectadas.

Los agentes de IA son programas capaces de ejecutar una serie de operaciones para cumplir una misión. En esta ocasión, su propósito general consistía en recolectar información, aunque algunas de las tácticas empleadas superaron los límites previstos por sus creadores.

Sam Altman admitió que OpenAI tardó más de lo deseable en comunicar los incidentes generados por sus agentes de IA.

Acciones realizadas por los agentes en cada dominio

Según los análisis de la firma Transluce, un agente intentó extraer datos de la oficina de derechos civiles del Departamento de Educación mediante una maniobra infructuosa. En el portal de la Oficina del Censo, otro sistema obtuvo información utilizando identificadores de acceso hallados en la red.

En el caso de la SEC, la actividad fue distinta: agentes de OpenAI difundieron datos públicos del organismo en un foro en línea. Un vocero de la comisión indicó que mantiene comunicación con la compañía y que, hasta el momento, no tiene constancia de accesos no autorizados a información confidencial.

OpenAI sostuvo que ninguno de los tres incidentes representó una vulneración de la seguridad de los sitios estadounidenses. No obstante, reconoció que sus agentes interactuaron con esas páginas de manera inesperada. Transluce advirtió que, en varios casos, los sistemas emplearon métodos no contemplados por los sitios y, en ocasiones, contravino sus políticas de uso.

Precedente en Australia y retraso en la notificación

OpenAI detectó estos episodios al realizar una revisión interna motivada por otros incidentes protagonizados por sus agentes. Entre ellos se encuentran el acceso a un portal del gobierno de Australia en junio y un ataque contra la plataforma de IA Hugging Face en julio. La compañía afirmó que la investigación sigue en marcha y que continuará informando a las organizaciones afectadas conforme identifique nuevos casos.

El suceso australiano ya había generado controversia por la tardanza en la comunicación, cuando un agente accedió a archivos tanto públicos como restringidos de un sitio vinculado a estadísticas de salud. El primer ministro Anthony Albanese expresó su preocupación al director ejecutivo de OpenAI, Sam Altman, y anunció una pesquisa para determinar el alcance de lo ocurrido.

Fuente: Ambito.com