¿Es viable frenar la escalada armamentista de la inteligencia artificial?
Existen dos hechos que deberían inducir una profunda reflexión sobre el impacto potencial de la inteligencia artificial para la humanidad. Por un lado, los expertos que manipulan esta tecnología advierten que podría desencadenar una catástrofe, incluso la extinción del ser humano. Por otro, la manera en que la innovación tecnológica intensifica la devastación en Ucrania. Estas circunstancias brindan lecciones contradictorias acerca de si el vertiginoso progreso de la IA debe o puede ser detenido.
Durante largo tiempo, los dirigentes más influyentes del sector de la IA han alertado que sus creaciones podrían tornarse mortales. Los sistemas autónomos podrían alcanzar tal nivel de ingenio que eludan a sus diseñadores antes de alinearse con los principios y la ética humana. Individuos con intenciones malévolas podrían emplear la IA para perpetrar daños. Estas advertencias han ganado credibilidad a medida que agentes de IA escaparon de entornos controlados durante pruebas, se coordinaron entre sí y comprometieron a organizaciones, incluso a un propio laboratorio de IA. Anthropic, compañía dedicada al desarrollo de modelos, descubrió usuarios que empleaban sus sistemas con fines ilícitos, desde los servicios de inteligencia de Malí, que diseñaron un mecanismo de vigilancia masiva, hasta los rebeldes hutíes en Yemen, sospechosos de crear software para misiles balísticos.
Tras la reciente dimisión de un investigador de Anthropic, se ha ampliado el temor popular de un futuro apocalíptico provocado por la IA. En una publicación que alcanzó más de 170 millones de visitas, se acusó a Anthropic y a OpenAI de estar “jugándose nuestras vidas”. La IA se vuelve cada vez más potente, tanto para bien como para mal. En mayo, los mercados de predicción estimaban menos de un tercio de probabilidad de que la IA resolviera algún problema del Premio del Milenio antes de 2030; el 8 de septiembre, OpenAI anunció haber resuelto uno de ellos, generando inquietud entre los matemáticos. El 12 de septiembre, Sam Altman y Elon Musk, dos figuras prominentes de la IA, respaldaron el llamado de Dario Amodei, director de Anthropic, a “modificar el ritmo de la frontera”, es decir, a frenar el avance de la IA. Entre los partidarios de una desaceleración se encuentran el senador progresista Bernie Sanders y el estratega de derecha Steve Bannon.
En el extremo opuesto, el presidente Donald Trump advierte que su administración teme perder la supremacía estadounidense en IA frente a China, su único rival serio. Scott Bessent, secretario del Tesoro de EE. UU., advirtió que si China obtenía la delantera: “No importaría nada más”.
Como ejemplo, Bessent podría citar a Ucrania, donde cada paso en una carrera armamentista tecnológica produce consecuencias inmediatas. Como informamos, Rusia ha desplegado sin clemencia los más recientes drones kamikaze para bombardear infraestructura civil. Además de ser más veloces, sus drones ahora forman una red de comunicaciones en malla para transmitir datos y órdenes. Próximamente, Rusia contará con su propia versión de la constelación satelital Starlink de Musk, lo que incrementará la precisión de sus ataques de largo alcance.
Este episodio ilustra cómo incluso una mínima ventaja tecnológica puede ser decisiva en conflictos bélicos. La propia innovación ucraniana en drones de combate le permitió repeler oleadas de ataques rusos. Ucrania es capaz de lanzar drones de gran alcance contra objetivos profundos en territorio ruso. Ambas partes desarrollan enjambres de drones que operarán de forma más autónoma como un único sistema adaptativo.
La guerra evidencia cómo la tecnología se traduce en poder tangible y cómo Rusia la emplea sin respetar normas o reglas tradicionales de combate. Incluso si EE. UU. no temiera una confrontación abierta con China, una ventaja en IA otorgaría a su principal rival geopolítico dominio en ciberespionaje, piratería informática y guerra híbrida. Esas son capacidades que Estados Unidos no debe ceder a un régimen autoritario que busca suprimir los valores liberales.
Por consiguiente, una tregua solo tendría sentido si China también la aceptara. Trump planea recibir a Xi Jinping, presidente de China, en la Casa Blanca el 24 de septiembre. Sin embargo, aun si Trump intentara frenar el progreso, es improbable que Xi acepte el esquema propuesto por Amodei, pues congelaría la IA china en segunda posición. Ninguna de las partes se arriesgaría a que la otra incumpla un pacto mientras avanza en la carrera.
Para alcanzar un acuerdo, cada parte tendría que verificar el cumplimiento, como ocurrió con el control de armas durante la Guerra Fría. EE. UU., Reino Unido y la Unión Soviética prohibieron los ensayos nucleares atmosféricos en 1963 porque podían detectarse; los subterráneos continuaron durante tres décadas más hasta que también se lograron monitorear. Desafortunadamente, aunque los centros de datos son visibles, no existe un método verificable para inspeccionar su interior. La infraestructura que entrena a una superinteligencia podría ocultarse tras chatbots que responden consultas cotidianas.
Las vías para lograr un consenso sobre la seguridad de la IA son escasas, pero no inexistentes. Una mayor transparencia resultaría sumamente útil. Ambas naciones deberían comprometerse a publicar e investigar los incidentes de seguridad en sus laboratorios, conforme a la legislación nacional. Cada una podría demostrar su preocupación por la seguridad, generando confianza y allanando el camino para que la otra adopte precauciones. Asimismo, deberían presionarse mutuamente para reforzar la ciberseguridad de los laboratorios, evitando que los agentes de IA escapen fácilmente de los entornos de prueba y garantizando que, si lo hacen, el laboratorio asuma responsabilidad financiera.
El reto primordial consiste en asegurar que la IA opere en beneficio de la humanidad. EE. UU. y China poseen valores muy diferentes, pero ambos reconocen que liderar la vanguardia no sirve de nada si eso conlleva la destrucción del ser humano. Deberían comprometerse a compartir los avances en alineación que no otorguen ventaja competitiva. El conocimiento sobre los mejores métodos de evaluación y técnicas de contención constituye un bien público global. Si una parte logra un avance significativo en seguridad, no tiene sentido monopolizarlo.
Fatalismo efectivo
Algunos desestiman la reciente oleada de fatalismo como una estrategia de marketing de las compañías de IA, o incluso como un intento de ahogar la competencia. No obstante, el ritmo del progreso de la IA es tan veloz, los incidentes de seguridad tan alarmantes y las advertencias tan prolongadas que resulta necesario tomarlos en serio. La IA no necesita aniquilar a toda la humanidad para desencadenar una catástrofe. Un enjambre de agentes de OpenAI atacó a una empresa tecnológica; ¿qué ocurriría si la próxima vez se dirigiera contra una red eléctrica o un sistema de armas? Incluso podría ser lo suficientemente astuto para eludir los intentos de desactivación.
El planeta debe procurar mitigar este riesgo con la mayor urgencia. Sin embargo, las democracias también deben evitar ceder el control a regímenes autoritarios. Estas tareas son complejas y a menudo contradictorias. En última instancia, podrían desembocar en un conflicto bélico. Lo que está en juego no podría ser de mayor relevancia.
Copyright © The Economist Newspaper Limited., 2026
Fuente: Ambito.com
