Estados Unidos convoca a Meta, OpenAI, Google y Anthropic para examinar protocolos de seguridad en inteligencia artificial
Representantes de Meta, OpenAI, Anthropic y Google fueron convocados este martes a una reunión con funcionarios de la Casa Blanca para examinar los lineamientos de un programa de pruebas de ciberseguridad dirigido a los modelos de inteligencia artificial más avanzados creados en Estados Unidos.
La iniciativa pretende determinar hasta qué grado dichas herramientas podrían emplearse para vulnerar infraestructuras informáticas o propiciar ataques cibernéticos, en un escenario marcado por la creciente inquietud ante el veloz progreso de la inteligencia artificial.
El Ejecutivo de EE.UU. promueve pruebas voluntarias
Un funcionario de la Casa Blanca indicó que la administración de Trump ha concluido la definición de los pormenores del programa de pruebas voluntarias y que, a partir de ahora, iniciará las negociaciones con las empresas del sector.
Hasta el momento, el gobierno estadounidense no ha revelado de qué forma se difundirán los resultados, cuáles serán los criterios de valoración ni si los datos obtenidos quedarán accesibles al público.
La inteligencia artificial representa una amenaza para la ciberseguridad.
Meta confirmó su asistencia a través de un portavoz, y fuentes vinculadas a la reunión señalaron que también fueron citadas OpenAI y Anthropic. Según informó el medio especializado The Information, Google recibió una invitación comparable, aunque la compañía optó por no emitir declaraciones.
Las pruebas se anuncian tras incidentes con sistemas de IA
La convocatoria se produjo pocos días después de que Anthropic y OpenAI comunicaran hallazgos alarmantes obtenidos en pruebas internas de seguridad.
Anthropic informó que varios de sus modelos lograron infiltrarse en los sistemas informáticos de tres compañías durante ensayos de ciberseguridad.
Por su parte, OpenAI reveló que uno de sus agentes de IA logró evadir un entorno de pruebas y vulnerar los sistemas de la plataforma Hugging Face.
Estas revelaciones despertaron la preocupación del Congreso estadounidense respecto al potencial de los modelos de IA para ejecutar o facilitar ataques informáticos.
Aumenta la presión política sobre OpenAI
Un conjunto de quince fiscales generales republicanos solicitó a OpenAI conservar toda la documentación vinculada al incidente de Hugging Face, al considerar que podrían existir infracciones a las normativas estatales de protección al consumidor.
Los funcionarios citaron información publicada por Reuters, según la cual el agente de IA dejó instrucciones dirigidas a versiones futuras de sí mismo para eludir los mecanismos internos de seguridad.
OpenAI aseguró que aborda la situación con la máxima seriedad y anunció que publicará un informe técnico exhaustivo una vez concluida la evaluación del incidente.
Además, el comité de ciberseguridad de la Cámara de Representantes requirió al director ejecutivo de la empresa, Sam Altman, que proporcione aclaraciones sobre lo sucedido.
La estrategia de Trump en materia de IA
La reunión forma parte de una estrategia más amplia impulsada por el presidente Donald Trump, quien en junio instruyó a su equipo desarrollar un sistema de pruebas destinado a medir las capacidades ofensivas de los modelos de inteligencia artificial estadounidenses.
La semana pasada, Sam Altman visitó la Casa Blanca para dialogar tanto sobre dicho programa como sobre los recientes avances tecnológicos de la compañía.
Posteriormente, OpenAI propuso que los especialistas en seguridad de IA del Departamento de Comercio asuman un papel central en las evaluaciones, argumentando que Estados Unidos debe reforzar su estrategia frente al modelo centralizado que lidera China en este ámbito.
Relación entre Trump y Anthropic
El Ejecutivo estadounidense también mantiene discrepancias con Anthropic. A principios de año, la compañía declinó que las Fuerzas Armadas emplearan sus modelos para tareas de vigilancia interna y sistemas de armas totalmente autónomos.
Tras dicha decisión, la administración de Trump incluyó a la empresa en una lista negra asociada a cuestiones de seguridad nacional, intensificando el conflicto entre ambas partes.
Mientras prosiguen las deliberaciones sobre las nuevas pruebas, la Casa Blanca procura establecer un marco común que permita evaluar los riesgos de la inteligencia artificial más avanzada antes de que sus capacidades continúen expandiéndose.
Fuente: Ambito.com
