OpenAI colabora con Google y Anthropic para fortalecer la seguridad de la IA

OpenAI ha iniciado una colaboración con Anthropic y Google DeepMind, entidades que habitualmente compiten con ella, con el fin de articular acciones orientadas a robustecer la seguridad de la Inteligencia Artificial (IA), en el contexto de una creciente inquietud global respecto a los peligros vinculados al vertiginoso avance de esta tecnología.

Según Chris Lehane, director de políticas globales de OpenAI, los diálogos entre las tres firmas se han sostenido durante varias semanas. El funcionario indicó que la meta consiste en identificar áreas de colaboración en materia de seguridad, aun cuando las compañías compiten en el mismo sector: “Resulta más prudente colaborar para colocar la seguridad en primer plano”, afirmó Lehane en una conferencia de prensa en Washington, informó Bloomberg News.

Motivaciones detrás de la coordinación

La propuesta surgió tras la reunión del fin de semana entre dirigentes de los principales laboratorios de IA de EE. UU., quienes adoptaron una postura colectiva solicitando una interrupción temporal en el progreso de esta tecnología.

Las tres firmas compiten en la carrera mundial por crear sistemas de IA cada vez más sofisticados.

La reunión tuvo lugar en medio de una intensificada alarma global respecto a los posibles riesgos existenciales asociados a sistemas de IA de creciente complejidad. La alianza entre rivales persigue, precisamente, diseñar instrumentos que mitiguen amenazas de gran magnitud.

Lehane sostuvo que OpenAI, Anthropic y Google no precisan una exención de la legislación antimonopolio para colaborar en aspectos exclusivamente vinculados a la seguridad de sus plataformas.

OpenAI apoyaría una normativa bipartidista

El director de políticas globales de OpenAI estaba en Washington para sostener encuentros con legisladores estadounidenses y discutir, entre otros temas, posibles regulaciones del desarrollo de la IA.

El informe indica que Lehane afirmó que OpenAI apoyaría una legislación bipartidista orientada a atenuar los peligros catastróficos de la IA, lo que permitiría una participación más activa de la empresa en los debates regulatorios en EE. UU.

OpenAI estima que la colaboración en temas de seguridad no requeriría una exención de la normativa antimonopolio.

Este acuerdo resulta relevante al congregar a tres de los principales creadores de modelos avanzados de IA, quienes simultáneamente disputan el liderazgo de un mercado en rápida expansión.

Hasta la fecha, OpenAI, Alphabet y Anthropic no han respondido a los requerimientos de comentarios de Reuters. La agencia añadió que no pudo corroborar de forma independiente la información inicialmente difundida por Bloomberg News.

No obstante, los diálogos evidencian una mayor proximidad entre empresas que usualmente compiten por crear los sistemas más avanzados. La seguridad se erige ahora como una de las áreas donde los principales laboratorios intentan alcanzar consenso, al tiempo que la presión política y social se intensifica para fijar límites frente a los posibles riesgos tecnológicos.

Fuente: Ambito.com