Donald Trump advierte a los opositores del avance de la inteligencia artificial: “Quien triunfe, triunfa”

El mandatario estadounidense, Donald Trump, denunció a los “grupos adversos” que pretenden frenar el progreso de la inteligencia artificial. Sus comentarios surgieron tras la coincidencia de los dirigentes de Anthropic, OpenAI y Elon Musk al señalar la urgencia de regular el desarrollo de los sistemas más sofisticados.

Trump afirmó que ciertos sectores están planteando hipótesis que, según su criterio, nunca se materializarán. “Considero que existen numerosas fuerzas negativas que están introduciendo el asunto cuando no corresponde, y están proyectando escenarios que no ocurrirán”, manifestó ante los medios en el complejo de golf de Doonbeg, condado de Clare, donde asistía al Abierto de Irlanda.

Asimismo, señaló que Estados Unidos representa la nación más avanzada del planeta en materia de IA y enfatizó su deseo de que esa posición se mantenga, pues “quien domine este campo, dominará”. No obstante, no descartó la idea de implementar ciertas “medidas de control” sobre la IA.

Hace algunos días, al ser interrogado sobre la advertencia de que la tecnología podría escapar al dominio humano y amenazar a la humanidad, Trump minimizó esos temores. “No me inquieta en absoluto”, había declarado.

Las advertencias de los referentes tecnológicos

Los directivos de compañías de IA coinciden en la necesidad de moderar el ritmo acelerado de desarrollo del instrumento.

El primer llamado a frenar el avance de la inteligencia artificial provino de Dario Amodei, director ejecutivo y cofundador de Anthropic, la firma responsable del chatbot Claude.

Poco después, Sam Altman, CEO de OpenAI y principal competidor, respaldó públicamente la propuesta y anunció que su organización adoptará una de las recomendaciones de Amodei: conceder a evaluadores externos un nivel de acceso comparable al de los empleados para supervisar los riesgos de sus sistemas.

“Comparto la visión de Dario de que es preciso moderar la velocidad en la frontera de la IA”, escribió Altman. El empresario indicó que el asunto ha sido uno de los temas centrales de discusión dentro de OpenAI en las últimas semanas y calificó la incorporación de supervisores externos como “una excelente iniciativa”. “Nosotros haremos lo mismo. Próximamente compartiremos más detalles”, añadió.

Posteriormente, Elon Musk, propietario de xAI y creador del chatbot Grok, también avaló la postura de Amodei. “Dario tiene razón”, twitteó brevemente en X.

Esta declaración conjunta constituye una señal notable en un sector donde las principales empresas compiten por crear modelos cada vez más potentes.

OpenAI había anunciado en agosto que había reducido temporalmente parte del entrenamiento de sus modelos de vanguardia para fortalecer sus mecanismos de monitoreo, alineación y seguridad, tras una serie de incidentes y ante la posibilidad de que sus próximos sistemas alcanzaran capacidades críticas en ciberseguridad.

El pedido para reducir el ritmo de desarrollo

“Es imperativo disminuir la velocidad con la que mejoramos las capacidades de los modelos de IA”, expresó Dario Amodei, director ejecutivo y cofundador de Anthropic.

En un ensayo publicado este sábado, Amodei fue más allá y solicitó que las empresas actúen con mayor prudencia ante una tecnología cuyos peligros, advirtió, se intensifican a medida que su poder crece.

“Debemos frenar el ritmo de perfeccionamiento de los modelos de IA. El avance seguirá pareciendo veloz y debemos aprovechar inteligentemente el tiempo que ganemos”, redactó Amodei en una entrada de blog.

Su artículo surgió después de que Anthropic divulgara el jueves un informe de inteligencia sobre amenazas, en el que describía cómo diversos actores habían empleado sus modelos “Claude” para actividades que iban desde la fabricación de armas y operaciones cibernéticas hasta la vigilancia y el fraude.

“La IA conlleva riesgos y, al ser una tecnología tan poderosa, dichos riesgos son graves”, señaló Amodei. “No desarrollar la tecnología priva a la humanidad de beneficios, mientras que desarrollarla precipitadamente es irresponsable. Hemos intentado encontrar una vía intermedia”, afirmó el empresario, cofundador de Anthropic junto a su hermana Daniela en 2021.

“Sin embargo, en los últimos meses me he convencido de que afrontar plenamente los riesgos exige aún mayor cautela”, concluyó.

Las recientes advertencias siguen la línea de una carta publicada a finales de marzo de 2023, en la que más de mil líderes académicos y empresariales vinculados a la IA solicitaron una pausa de seis meses en el desarrollo de sistemas de IA generativa.

Entre los firmantes más destacados se encontraba Elon Musk, aunque ello no le impidió avanzar con el desarrollo de Grok.

Fuente: Ambito.com