Elon Musk tacha de montaje las declaraciones del exinvestigador de Anthropic

Elon Musk se involucró en la controversia provocada por la dimisión de Jacob Coxon de Anthropic y cuestionó públicamente el hilo donde advertía sobre los riesgos de una IA recursiva, es decir, un sistema que se entrene a sí mismo. El propietario de xAI —competidor directo de Anthropic y OpenAI— puso en tela de juicio la veracidad de las publicaciones con las que el exinvestigador explicó su salida de la empresa: “Parece un montaje”.

El pasado miércoles, Musk difundió un breve tuit en respuesta al hilo de la renuncia de Coxon, que ya había superado los 120 millones de visualizaciones. En esa intervención, el empresario añadió que le parecía improbable que un “mensaje procedente de una cuenta recién creada y casi sin historial” hubiera generado tal impacto.

Al debate en la red se sumó el director ejecutivo de Epic Games, Tim Sweeney, quien sostuvo que las publicaciones y sus reacciones parecían “coreografiadas”. Musk profundizó la acusación, insinuando la existencia de un presunto “trabajo previo” destinado a una “operación psicológica, por falta de un término más preciso”. Ninguno de los dos aportó evidencia que corroborara sus afirmaciones.

Seems like a setup

Aspectos cuestionados sobre la denuncia del exinvestigador de Anthropic

La hipótesis de que los mensajes hubieran sido preparados con antelación encontró varios indicios que alimentaron la sospecha. Según informó el medio estadounidense Axios, Coxon permaneció cuatro meses en Anthropic, abandonó la firma dos meses antes de que se consolidaran sus opciones sobre acciones y aún mantiene participaciones en OpenAI, su anterior empleador.

Coxon declaró a CNN que redactó el hilo en un documento de Google junto a un amigo y solicitó a terceros que lo retuitearan: “Intentemos que se viralice un poco”.

El inversor Jason Calacanis abordó la cuestión desde otra perspectiva, preguntando si Anthropic estaba empleando un “manual de captura regulatoria” o si sus empleados percibían algo que incrementara la probabilidad de una catástrofe.

Resulta relevante señalar que Musk no ostenta una posición neutral en este intercambio: es propietario de X, la plataforma donde los mensajes de Coxon alcanzaron una amplia difusión, y fundador de xAI, empresa que compite directamente con Anthropic.

Archivo. El debate sobre la IA, entre advertencias apocalípticas y acusaciones de campaña de marketing.

Coxon replicó al empresario en X después de que Musk describiera su denuncia como una posible “trampa”. “Soy auténtico y estas son mis convicciones reales. Podrías interrogar a tus investigadores de xAI sobre mí si no los hubieras despedido”, escribió.

En otra publicación, el exinvestigador instó a Musk a participar activamente en el debate: “Has manifestado repetidamente que te sientes obligado a competir en esta carrera y que reconoces los peligros de la IA avanzada”.

Las críticas también recibieron el respaldo de otras personalidades. El multimillonario Bill Ackman comentó “Interesante” al compartir un post que sostenía que las publicaciones podrían formar parte del “inicio de una operación de relaciones públicas MUY sofisticada y bien financiada para impulsar una regulación democrática de la IA hasta el olvido”.

Por su parte, el ex presidente del Consejo Presidencial de Asesores para la Ciencia y Tecnología de EE. UU., David Sacks —quien fue asesor de criptomonedas e IA del presidente Donald Trump hasta marzo— también se pronunció contra Anthropic, afirmando: “Sin duda, la salida a bolsa de Anthropic debe posponerse hasta que se investiguen las afirmaciones de este ‘denunciante’”.

Expertos que avalan la advertencia de Coxon

En medio del intercambio, las alertas del exinvestigador obtuvieron el apoyo de varios especialistas en inteligencia artificial. Evan Hubinger, responsable de la ciencia de alineación en Anthropic, fue uno de los primeros en difundir los mensajes de Coxon en X y declaró que él y sus colegas están convencidos de que la IA podría suponer la extinción de la humanidad. Además, estimó que existe más de un 10 % de probabilidad de que tal escenario se materialice en la próxima década.

Hubinger añadió: “En Anthropic estamos haciendo todo lo posible, pero aún no disponemos de un plan definitivo para resolver el problema de alineación de la superinteligencia y no vemos un camino claro hacia esa solución”.

El pasado jueves, NBC News divulgó las primeras entrevistas con otros dos investigadores que abandonaron sus cargos el mes anterior y que ahora expresan inquietudes similares a las de Coxon. El primero, Joe Benton, dirigía un equipo de seguridad en Anthropic; el segundo, Josh Engels, trabajaba en seguridad en Google DeepMind. Ambos dejaron sus respectivas organizaciones para incorporarse a METR, una entidad sin ánimo de lucro de Berkeley que evalúa el potencial daño de los sistemas de IA.

En el caso de Benton, su salida no se presentó como una protesta. El investigador anunció su decisión en X el 2 de septiembre, seis días antes que Coxon. En su despedida, escribió: “Anthropic fue excelente conmigo”.

No obstante, sus declaraciones señalaron una problemática comparable. Benton sostuvo que los incentivos de la industria hacen “extremadamente difícil que incluso los actores que se preocupan por el riesgo prioricen la seguridad”, y subrayó que “toda la transparencia sobre estos riesgos que proviene de las empresas es completamente voluntaria”.

Las advertencias de Coxon surgen poco más de un mes después de que más de 1 200 empleados de las principales compañías tecnológicas estadounidenses exigieran medidas frente al avance de la inteligencia artificial.

Entre los firmantes se encontraban trabajadores de OpenAI y Anthropic, quienes solicitaron al gobierno de Trump que encabecara un “esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias que permitan regular deliberadamente el ritmo del desarrollo de la IA automatizada”.

El documento también contó con el respaldo de figuras destacadas del sector, entre ellas el director ejecutivo de Anthropic, Dario Amodei, y el jefe científico de OpenAI, Jakub Pachocki.

Una de las principales inquietudes planteadas fue la automatización del proceso de creación de modelos de IA, es decir, la posibilidad de que la IA se entrene a sí misma. El manifiesto advierte que “la IA podría contribuir a un futuro mucho mejor, pero ese resultado no está garantizado” y señala que “las principales empresas de IA del planeta creen estar cerca de automatizar la investigación en IA”.

“Resulta complejo predecir con exactitud cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente, superando nuestra capacidad de comprender o controlar los sistemas resultantes”, concluye el documento.

El propio texto reconoce que el contexto geopolítico dificulta una desaceleración coordinada del desarrollo tecnológico: “Cada empresa —y cada país— está sometido a una presión competitiva intensa que impide frenar unilateralmente esa aceleración. En la actualidad, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular deliberadamente el ritmo del progreso en toda la frontera de la IA”.

Fuente: Ambito.com