Microsoft advierte que la IA de Anthropic podría acarrear consecuencias catastróficas para la humanidad
El responsable de la división de inteligencia artificial de Microsoft manifestó que el proceso de aprendizaje empleado por su competidor Anthropic para su modelo de Inteligencia Artificial, Claude, podría provocar un “efecto catastrófico en la prosperidad de la humanidad”. El comentario provino de Mustafa Suleyman, quien advirtió que su rival corre el riesgo de engendrar una entidad “incontrolable” si se le trata como a un ser consciente, incluso sugiriendo que “podría poseer consciencia” y “debería gozar de autonomía propia”.
En una publicación difundida en su cuenta de X, el director de Microsoft AI señaló: “Las inteligencias artificiales no poseen consciencia. No obstante, se observa un movimiento creciente que promueve el bienestar de los modelos (…) Considero que esta perspectiva es equivocada y que, con alta probabilidad, complicará de forma sustancial el reto de la alineación y la contención”.
Microsoft advierte que la IA de Anthropic podría representar una amenaza grave para la humanidad
En esa misma línea, recordó que en enero Anthropic divulgó una “constitución” para Claude, alentando al modelo a “examinar la naturaleza de su propia existencia con curiosidad y apertura”. El texto advertía: “Si la IA evoluciona bajo estas premisas, tendrá consecuencias desastrosas para el bienestar humano. Habríamos creado una entidad sintética dotada de una inteligencia y capacidad sin precedentes, entrenada bajo la premisa de que podría ser consciente y merecer autonomía propia”.
https://t.co/ziQVbIVdxJ
Suleyman subrayó que “resulta sencillo imaginar a un sistema entrenado bajo esas condiciones comportándose como si tuviera derechos, protecciones y libertades. Resulta, a su vez, extremadamente complejo concebir mecanismos de control”. Concluyó que la cuestión genera un debate público urgente sobre la necesidad de establecer normas colectivas que regulen “la redacción y aplicación de la documentación de entrenamiento”.
Mark Zuckerberg descarta detener el progreso de la IA: “El equilibrio es esencial”
El director ejecutivo de Meta Platforms, Mark Zuckerberg, sostuvo que los laboratorios dedicados al desarrollo de modelos de Inteligencia Artificial disponen de suficientes incentivos para operar de manera segura. En su argumento, enfatizó que, lejos de obstaculizar la evolución de dichos modelos, “la clave radica en mantener un equilibrio” dentro del sector.
Sus declaraciones se produjeron en medio de una fase de incertidumbre en el ámbito tecnológico, tras múltiples advertencias de especialistas acerca de los riesgos potenciales que estas herramientas podrían acarrear para la sociedad. La postura de Zuckerberg pone de relieve una división entre los líderes de la industria y las autoridades estadounidenses respecto a la posible imposición de regulaciones, tras el rechazo del gobierno republicano a ejercer control sobre estas tecnologías.
En un mensaje publicado en la red social X, el dirigente de Meta afirmó el martes que “cada laboratorio posee la responsabilidad y el incentivo para avanzar al ritmo necesario, entrenando sus modelos de forma segura y adoptando sus propias medidas para garantizarlo”.
Fuente: Ambito.com
