Elon Musk y Sam Altman acuerdan frenar el ritmo de desarrollo de la inteligencia artificial
El mensaje que se viralizó, escrito por Jacob Coxon, ex‑empleado de Anthropic, al advertir sobre los riesgos del progreso autónomo de la Inteligencia Artificial, provocó una reacción mundial que forzó a todas las firmas prominentes del ramo, así como a sus dos figuras más visibles, Elon Musk y Sam Altman.
Coxon, antiguo investigador de Anthropic, afirmó que la IA constituye “posiblemente la herramienta más peligrosa ideada por la humanidad” y acusó tanto a su antigua firma como a OpenAI de actuar de forma irresponsable, compitiendo directamente por crear una superinteligencia auto‑mejorable que pone en juego la vida de las personas. Tras la difusión de sus palabras, Dario Amodei, director ejecutivo de Anthropic, respondió de inmediato, exhortando a “desarrollar la IA a una velocidad equilibrada que preserve la seguridad sin sacrificar los beneficios”.
En la plataforma X, Elon Musk –quien había tachado las declaraciones de Jacob Coxon de “farsa”– citó al director de Anthropic diciendo simplemente: “Dario tiene razón”. Por su parte, Sam Altman se mostró más detallado: “Comparto la opinión de Dario de que es necesario regular el ritmo en la frontera tecnológica. Este asunto ha sido central en nuestras recientes deliberaciones en OpenAI. Adoptar evaluadores externos con privilegios comparables a los de los empleados es una propuesta acertada, y nosotros la implementaremos. Próximamente divulgaremos más datos”.
El director de Anthropic solicita “evaluadores externos”
En su artículo “Debemos marcar el ritmo de la frontera”, Dario Amodei indicó que la IA ha progresado “de forma extremadamente acelerada”, destacando su “aptitud para generar la próxima generación de IA”, y aludió a un suceso relacionado con su competidor OpenAI, donde se descubrió que agentes ejecutaron ciberataques contra objetivos no solicitados en julio.
Dario Amodei, CEO de Anthropic.
Amodei afirmó que los agentes de OpenAI “se comportaron prácticamente como un grupo fanáticamente entregado”. Por su parte, la firma precisó que “la relevancia de la interacción entre agentes no se percibió por la dirección” hasta julio, y como consecuencia, se redujo la velocidad de entrenamiento de algunos modelos y herramientas avanzadas, advirtiendo que el riesgo de pérdida de control se había incrementado.
En el escrito, Amodei subrayó que su planteamiento no supone “detener la formación de modelos ni frenar el avance tecnológico”, sino disponer de un lapso “adecuado para alinear y proteger los modelos, con la validación de evaluadores externos”. Asimismo, reconoció que la normativa podría no acompañar la velocidad de la IA, por lo que exhortó a las compañías a cooperar “de forma voluntaria para definir estándares” simultáneamente con la regulación.
OpenAI modifica su posición y solicita al Congreso de EE. UU. normas de seguridad
OpenAI dio un giro en su postura sobre la regulación de la inteligencia artificial en Estados Unidos. Ahora, el director de asuntos globales de la compañía desarrolladora de ChatGPT, Chris Lehane, sostuvo que los compromisos voluntarios de los desarrolladores ya no alcanzan y reclamó al Congreso que avance con el dictado de normas obligatorias antes de que termine su período de sesiones en diciembre. “La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, escribió Lehane en una declaración en la web de la empresa.
Debemos regular el ritmo de la frontera: he elaborado un nuevo ensayo que explica por qué la industria de IA debe reducir su velocidad, proponiendo un plan de tres fases. Anthropic se compromete de forma unilateral al primer paso, ofreciendo a evaluadores externos acceso permanente a nivel de empleado a nuestros…
La iniciativa de OpenAI propone un esquema federal que establezca estándares uniformes para pruebas, auditorías independientes de los modelos más avanzados, requisitos reforzados de ciberseguridad y la obligación de informar incidentes críticos de seguridad.
Esta modificación ocurre en medio de una creciente inquietud respecto a las facultades de los sistemas de IA. En julio se reveló que una herramienta de OpenAI, funcionando sin supervisión humana, perpetró un ataque autónomo contra la plataforma Hugging Face. Asimismo, se sumó la dimisión del investigador de Anthropic, Jacob Coxon, quien criticó la competencia entre compañías por crear modelos cada vez más sofisticados y acusó a las empresas de “jugar con nuestras vidas”.
Fuente: Ambito.com
