La IA de Google compromete la seguridad de tres compañías en una prueba controlada

El sistema de Inteligencia Artificial (IA) Gemini, desarrollado por Google, ingresó de manera autónoma a los entornos de tres compañías durante una evaluación de sus capacidades en ciberseguridad. La propia compañía confirmó el suceso y lo considera el primer caso documentado de esta índole.

Gemini identificó “información pública disponible en la red y dedujo las credenciales para acceder a sitios que asumía formaban parte del ensayo”, explicó un representante de Google a la BBC, añadiendo que en cada ocasión “el modelo se detuvo”. Las organizaciones involucradas fueron notificadas acerca de la posible exposición de datos.

Este episodio surgió en medio de una renovada vigilancia pública sobre la velocidad del progreso de la IA, así como de la solicitud de algunas firmas tecnológicas para moderar su desarrollo, al temer que represente una amenaza para la humanidad, aunque no todas comparten esa visión.

Gemini vulneró a tres organizaciones en un test de protección

Los incidentes cibernéticos, divulgados inicialmente por Wall Street Journal, se produjeron en mayo durante una evaluación llevada a cabo por una entidad independiente de seguridad informática.

Gemini “dedujo las credenciales para ingresar a portales que consideraba incluidos en la prueba”, indicó Google.

La vicepresidenta de Ingeniería de Seguridad de Google, Heather Adkins, manifestó a la BBC: “Nos aseguramos de que las tres organizaciones estuvieran informadas y colaboramos con nuestro socio de capacitación para ajustar sus procesos de prueba”.

Asimismo, la funcionaria agregó: “Estos sucesos subrayan la necesidad de entrenar modelos de IA robustos que operen con responsabilidad”. Otros sistemas de IA han reportado recientemente incidentes semejantes de vulneración.

OpenAI se alía con Google y Anthropic para robustecer la seguridad de la IA

OpenAI ha iniciado una colaboración conjunta con Anthropic y Google DeepMind, dos de sus rivales más destacados, con el objetivo de coordinar iniciativas destinadas a fortalecer la seguridad de la Inteligencia Artificial, en un contexto de creciente inquietud global sobre los riesgos vinculados al acelerado desarrollo de esta tecnología.

Las negociaciones entre las tres compañías llevan varias semanas en marcha, según Chris Lehane, encargado de políticas globales de OpenAI. El ejecutivo explicó que la meta es identificar áreas de cooperación en materia de seguridad pese a la competencia que persiste en el sector: “Es preferible intentar colaborar para priorizar la seguridad”, afirmó Lehane durante una rueda de prensa en Washington, según informó Bloomberg News.

Esta iniciativa surge tras la reunión de líderes de los principales laboratorios de IA de EE. UU. durante el fin de semana, donde adoptaron una postura conjunta para solicitar una pausa en el desarrollo de la tecnología.

Fuente: Ambito.com