Anthropic informa haber identificado intentos de emplear su IA en la fabricación de armas biológicas
En el contexto de las polémicas y la discusión sobre la seguridad de la inteligencia artificial – entre alertas y señalamientos de una posible campaña promocional – Anthropic publicó su informe de riesgos de septiembre de 2026. En él, la compañía afirmó haber desmantelado diversas operaciones en las que individuos asociados a redes delictivas intentaron emplear su modelo Claude para ejecutar actividades nocivas, entre ellas investigaciones vinculadas a armas biológicas y a campañas de destilación no autorizada.
El documento revisa incidentes registrados entre diciembre de 2025 y agosto de 2026 y, según Anthropic, recopila “ejemplos de las amenazas más relevantes e innovadoras” detectadas hasta la fecha. Uno de los capítulos más inquietantes se centró en el uso biológico indebido, que engloba intentos de aprovechar sus modelos para concebir o perfeccionar armas basadas en biología, actividad prohibida por sus condiciones de uso.
Anthropic, IA y “armas biológicas”
Según la empresa, los perpetradores pretendían explotar las facultades de Claude en investigación científica bajo el concepto que denominó «doble uso de la biología»: descubrimientos legítimos que pueden ser reorientados para crear patógenos más peligrosos.
We are releasing our most comprehensive threat‑intelligence dossier to date.
It details how actors attempted to abuse Claude—for cyber‑attacks, influence campaigns, surveillance, biology, and weaponisation—and how we detected and halted each attempt.
We intervened in every operation described,…
Anthropic señaló que versiones anteriores, como Claude Opus 4 y Claude Sonnet 4.5, carecían de la potencia necesaria para “asistir de forma sustancial a un usuario avanzado en investigaciones biológicas peligrosas”. La situación evolucionó con sus últimos modelos, entre los que se encuentran Claude Fable y Mythos, los cuales fueron sometidos a un riguroso examen por parte del gobierno de EE. UU. antes de su lanzamiento comercial, lo que motivó la incorporación de controles adicionales que «limitaban el acceso a una amplia variedad de consultas de investigación biológica de doble uso».
La publicación coincidió con una semana marcada por el testimonio de Jacob Coxon, un ex‑investigador británico que colaboró durante casi tres años en la fase de pre‑entrenamiento de los modelos de OpenAI antes de incorporarse a Anthropic. Tras pocos meses en su nuevo cargo, el profesional presentó su dimisión, dejando una carta con duras críticas al actual proceso de desarrollo de modelos.
«Probablemente sea la tecnología más peligrosa que la humanidad haya creado», y «Los creadores de IA parecen convencidos de que podrían acabar con la vida humana antes de que termine la década», fueron algunas de sus advertencias. La compañía quedó entonces en el ojo del huracán, con dudas sobre si las alertas reflejan una amenaza real o forman parte de una estrategia de marketing para competir con OpenAI, que es percibida como menos restrictiva en cuanto a salvaguardas y límites.
El reporte describe cinco incidentes en los que actores emplearon los modelos de Anthropic como apoyo para actividades relacionadas con la creación de armas biológicas. La empresa aclaró que «no se llegó a producir armas biológicas de manera directa».
Uno de los casos detectados consistió en denegar una solicitud para usar Claude en la elaboración de una propuesta de financiación destinada a investigar mecanismos que aumenten la transmisibilidad o virulencia del virus del chikungunya, transmitido por mosquitos. En otro episodio, Anthropic identificó consultas y planes de investigación que pretendían estudiar de qué forma ciertas cepas de gripe aviar H5N1 podrían adaptarse biológicamente para propagarse eficazmente entre mamíferos.
El documento también menciona intentos de modificar estructuras de toxinas conocidas con el fin de mejorar su estabilidad, resistencia a tratamientos o capacidad de penetrar células.
Otro conjunto de consultas buscaba identificar proveedores de síntesis de ADN y ARN, así como laboratorios con procesos de detección poco rigurosos o vulnerabilidades en sus sistemas de verificación de pedidos.
Finalmente, la firma encontró peticiones de asistencia para optimizar protocolos de cultivo, aislamiento y manipulación de patógenos peligrosos sin contar con la acreditación institucional adecuada.
Tras detectar estas operaciones, Anthropic bloqueó las cuentas implicadas y revocó sus claves API. Además, afirmó haber incorporado clasificadores y filtros más restrictivos en sus modelos avanzados para reducir el acceso a un rango más amplio de consultas de investigación biológica de doble uso.
Las acusaciones de destilación no autorizada contra compañías chinas
El informe también advierte sobre actividades de destilación ilícita llevadas a cabo por empresas competidoras. Esta práctica consiste en aprovechar las respuestas de un modelo avanzado para entrenar, afinar o replicar los conocimientos incorporados en otro sistema.
«La destilación ilícita permite a laboratorios no autorizados extraer e imitar de forma clandestina capacidades de modelos de vanguardia, reduciendo drásticamente el tiempo, la potencia computacional y el costo que implicaría desarrollarlos de forma independiente», declaró Anthropic.
En esta sección, la compañía describió casos vinculados a laboratorios de inteligencia artificial de China y citó explícitamente a DeepSeek, Xiaomi, Moonshot y Alibaba. Según Anthropic, actores asociados a esta última protagonizaron «el mayor ataque de destilación» detectado hasta la fecha por la empresa.
La campaña tuvo como objetivo las transcripciones del razonamiento de la cadena de pensamiento de Claude Opus 4.6 y 4.7 para entrenar modelos Qwen e incorporar nuevas funcionalidades en Qwen 3.5, 3.6 y 3.7. Anthropic informó que entre mayo y julio de 2026 identificó más de 151 millones de transacciones, con picos diarios cercanos a los 3 millones, originadas desde más de 3 500 cuentas fraudulentas.
Fuente: Ambito.com
