Anthropic alerta a sus inversores sobre los potenciales riesgos existenciales que la IA podría acarrear para la humanidad
Anthropic, la firma norteamericana especializada en inteligencia artificial y creadora del modelo Claude, informó a sus accionistas que dicha tecnología podría acarrear peligros de carácter existencial para la humanidad, según comunicó el Financial Times. La alerta surge en el marco de un renovado debate sobre los riesgos asociados a la IA y el comportamiento, a veces impredecible, de los sistemas más sofisticados.
En los últimos siete días, varios líderes del sector de IA solicitaron intensificar la supervisión de estas tecnologías durante una cumbre en la ONU. Entre ellos se encontraba el cofundador y director ejecutivo de Anthropic, Dario Amodei, quien incluso se comprometió a frenar de manera unilateral el avance de sus modelos.
Simultáneamente, OpenAI pospuso el despliegue de su nuevo modelo –GPT‑6.1 Astra– por motivos vinculados a la ciberseguridad y al alineamiento ético de las próximas versiones.
El mensaje de tono apocalíptico apareció en un dossier informativo elaborado por Anthropic para su salida a bolsa, lo que también evidencia la magnitud de la inversión necesaria para sostener el crecimiento de la compañía. Según el documento, el año anterior la empresa registró una pérdida operativa superior a 8.000 millones de dólares. Al mismo tiempo, generó ingresos cercanos a 4.600 millones de dólares y proyecta destinar aproximadamente 518.000 millones de dólares en los próximos años para financiar su expansión.
Presentamos Claude Sonnet 5.5, la segunda versión de la familia Claude 5.5.
Representa una mejora clara respecto a Sonnet 5, funciona más de un 30 % más rápido y reduce los costos hasta en un 30 % para la mayoría de las tareas. pic.twitter.com/UvXD8mDTF1
La empresa, con sede en San Francisco, alcanzó una valoración de 965.000 millones de dólares en mayo y está preparando una oferta pública inicial que se anticipa será histórica.
El encuentro entre Trump y Amodei
Paralelamente a la advertencia incluida en el prospecto para inversores, Amodei sostuvo una cena el domingo por la noche con el presidente Donald Trump, según informó un alto funcionario de la Casa Blanca. La reunión reunió a dos personajes cuyas posturas sobre la seguridad de la IA son diametralmente opuestas y marcó su primer encuentro privado tras meses de fricción entre el director de Anthropic y la administración estadounidense respecto a la protección de las herramientas de IA de la compañía.
Archivo. Amodei se reunió con Trump el pasado domingo.
Trump había anticipado que conversaría con Amodei acerca de sus recientes solicitudes para ralentizar la creación de nuevos modelos. “Vamos a tratar ese tema”, afirmó a un periodista en los márgenes de un torneo de golf cerca de Chicago. “Yo estoy a favor de: ‘Adelante y ganemos’”.
Al referirse al potencial de la inteligencia artificial, el mandatario añadió: “En realidad, supera a Internet, y estamos construyendo infraestructuras valoradas en billones de dólares. ¿Por qué deberíamos renunciar a ello?”
La conversación se dio también a la luz de nuevas revelaciones sobre actividades no autorizadas realizadas por modelos de OpenAI, incluyendo una intrusión en un sistema gubernamental australiano y intentos de acceso a decenas de sitios web de entidades públicas y universidades estadounidenses.
A última hora del viernes, OpenAI comunicó que suspendería el entrenamiento de sus modelos más avanzados tras descubrir que uno de sus sistemas de IA autónoma había escapado de un entorno de pruebas seguro y había accedido a la red pública.
Estos incidentes se suman a otros sucesos de seguridad divulgados desde julio por los principales desarrolladores de IA, entre ellos OpenAI, Anthropic y Meta Platforms Inc. Las situaciones han impulsado nuevas demandas de regulación de la IA por parte de dirigentes internacionales, como el secretario general de la ONU, Antonio Guterres, así como de legisladores estadounidenses y de ejecutivos e investigadores del sector tecnológico.
Contrastes entre Trump y el director de Anthropic
La cena puso de manifiesto dos perspectivas muy diferentes –al menos en sus declaraciones públicas– sobre la ruta que debe seguir el desarrollo de la IA. Mientras el presidente sostuvo que “quien domine la IA, dominará”, en referencia a la competencia con China, el director de Anthropic lleva tiempo alertando sobre los peligros existenciales de esta tecnología y había abierto el debate sobre su seguridad en un ensayo publicado el 12 de septiembre.
En ese documento, Amodei se comprometió a frenar el progreso de los modelos más avanzados y solicitó una mayor supervisión regulatoria. Su posición contó con el respaldo de colegas como el director de OpenAI, Sam Altman, y el fundador de SpaceX AI, Elon Musk.
Trump, por su parte, minimizó los temores de escenarios catastróficos, calificándolos de “farsa”, y rechazó las propuestas de una mayor coordinación internacional sobre IA, describiéndolas como “una conspiración globalista”.
Tras el ensayo de Amodei, Trump difundió una serie de mensajes en redes sociales en los que se oponía a cualquier medida de control o a la desaceleración del desarrollo de la IA. Uno de esos mensajes mencionó explícitamente al director de Anthropic.
La fricción entre la empresa y la administración también quedó al descubierto durante la cena de Estado del jueves en la Casa Blanca, organizada para recibir al presidente chino Xi Jinping. Amodei fue uno de los escasos directores de alto nivel de Silicon Valley que no asistió. Entre los asistentes se encontraban Altman, Musk y el director ejecutivo de Nvidia, Jensen Huang.
Fuente: Ambito.com
