El director ejecutivo de J.P. Morgan alerta que la IA ha incrementado diez veces los riesgos en ciberseguridad
El director ejecutivo de J.P. Morgan, Jamie Dimon, manifestó que la expansión de los modelos avanzados de inteligencia artificial incrementó notablemente los peligros de ciberseguridad a nivel global y tomó como referencia el incidente Mythos, creado por Anthropic: “La IA ha introducido vulnerabilidades que desconocíamos, y siempre nos había inquietado la seguridad informática antes de que aparecieran estos problemas”.
En una entrevista concedida a Bloomberg TV, el mandatario aseguró que “los riesgos vinculados a la inteligencia artificial se multiplicaron por diez tras el episodio Mythos”.
En abril del presente año, Anthropic presentó Claude Mythos Preview como una herramienta con habilidades sobresalientes en desarrollo de código, capaz de superar a cualquier profesional, salvo a los programadores más experimentados, en la identificación y explotación de fallas de software.
Mythos Preview ha descubierto miles de vulnerabilidades críticas, incluidas algunas en los principales sistemas operativos y navegadores web, señaló Anthropic en un comunicado oficial.
La destreza del modelo para localizar defectos en el software generó alarma internacional y provocó una reacción de la administración de Donald Trump. Dos semanas después de ordenar la retirada de los modelos de ciberseguridad Claude Mythos 5 y Fable 5, el gobierno de EE. UU. comenzó a relajar parcialmente las restricciones impuestas a Anthropic.
Introducing Project Glasswing: an urgent initiative to help secure the world’s most critical software.
It’s powered by our newest frontier model, Claude Mythos Preview, which can find software vulnerabilities better than all but the most skilled humans. https://t.co/NQ7IfEtYk7
Finalmente, la compañía puso a disposición del público Fable 5 en junio, un modelo derivado de Mythos que incorpora mecanismos de protección diseñados para evitar su uso en áreas catalogadas como de alto riesgo, entre ellas la ciberseguridad.
La advertencia de J.P. Morgan respecto a los peligros de la IA
En este marco, Dimon subrayó que los peligros vinculados a los agentes de IA y a sistemas como Mythos no son meras suposiciones, sino una realidad que demanda respuestas concretas: “Lo negativo es, evidentemente, lo que se lee sobre los agentes, Mythos y demás tecnologías que pueden generar problemas, y esa inquietud es legítima, es algo tangible”.
Archivo. La explotación de vulnerabilidades de día cero, uno de los riesgos más acuciantes en la ola de la IA.
“No me pondré a debatir si constituye una amenaza existencial o no. Lo que haremos será actuar con diligencia para mitigarlo”, afirmó respecto a los actuales debates sobre esta tecnología.
En la misma entrevista, Dimon también abordó la necesidad de expandir la infraestructura requerida para desarrollar IA, señalando que los centros de datos deberían erigirse en ubicaciones que cuenten con el apoyo de las comunidades locales.
Fuente: Ambito.com
