Mark Zuckerberg descarta detener el progreso de la IA, subrayando que la clave es preservar el equilibrio
El director ejecutivo de Meta Platforms, Mark Zuckerberg afirmó que los laboratorios dedicados al desarrollo de Inteligencia Artificial (IA) disponen de los incentivos necesarios para operar de forma segura. Subrayó que, lejos de obstaculizar el progreso de dichos modelos, lo esencial es conservar el equilibrio en el sector.
Sus declaraciones surgieron en medio de una etapa de incertidumbre para la industria tecnológica, después de que diversos especialistas alertaran sobre los posibles peligros que estas herramientas podrían acarrear para la humanidad.
Una divergencia entre los dirigentes del sector y las autoridades estadounidenses se hace evidente en torno a la posible imposición de regulaciones, tras el rechazo del gobierno republicano a ejercer control sobre estas tecnologías.
Zuckerberg asegura que los centros de IA poseen incentivos suficientes para operar con prudencia
En una publicación en la red X, el ejecutivo de Meta indicó el martes que “cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo requerido y entrenar sus modelos de manera segura, contando además con la capacidad de adoptar las medidas que considere necesarias para garantizarlo”.
Sus comentarios coincidieron con la reciente exhortación del director ejecutivo de Anthropic, Dario Amodei, quien pidió a las compañías de IA que reduzcan la velocidad de mejora de sus modelos, a raíz de los riesgos existenciales señalados por varios investigadores.
El mes pasado escribí sobre cómo podemos construir un futuro positivo y seguro para todos: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
Zuckerberg también puntualizó que, entre varios aspectos, “la realidad es que las personas no querrán utilizar agentes que no estén alineados con sus intereses y que no cumplan sus demandas”. Aunque reconoce que existe “un amplio debate sobre la necesidad de frenar” el desarrollo de la IA, resaltó que la confianza y la alineación se están convirtiendo en “las capacidades más relevantes que distinguirán a los agentes y modelos”.
En esa línea, advirtió que cualquier laboratorio que ignore la importancia de dicha alineación “quedará rezagado” y deberá impedir que sus sistemas ocasionen perjuicios. “Considero que la clave para forjar un futuro positivo para todos radica en mantener el equilibrio adecuado de poder. Está en nuestras manos lograrlo”, concluyó en su mensaje.
El presidente Donald Trump minimizó este lunes las inquietudes del sector, asegurando que Estados Unidos “ya dispone de medidas de protección” y que las dudas sobre el desarrollo de la IA podrían resultar ventajosas para China.
OpenAI colabora con Google y Anthropic para reforzar la seguridad de la IA
OpenAI ha iniciado una cooperación con Anthropic y Google DeepMind, dos de sus principales competidores, con el objetivo de coordinar esfuerzos destinados a fortalecer la seguridad de la Inteligencia Artificial, en medio de una creciente preocupación global por los riesgos vinculados al rápido avance de esta tecnología.
Las negociaciones entre las tres compañías se llevan a cabo desde varias semanas, según explicó Chris Lehane, responsable de políticas globales de OpenAI. El ejecutivo indicó que la meta es identificar áreas de colaboración en materia de seguridad a pesar de la rivalidad que existe en el sector: “Es preferible intentar trabajar conjuntamente para priorizar la seguridad”, afirmó Lehane durante una rueda de prensa en Washington, citada por Bloomberg News.
Este encuentro se produce en un contexto de creciente inquietud mundial por los riesgos existenciales que podrían generar los sistemas de inteligencia artificial cada vez más avanzados. La alianza entre empresas competidoras apunta precisamente a establecer mecanismos que reduzcan amenazas de gran magnitud.
Fuente: Ambito.com
