Los cinco riesgos críticos de la IA que amenazan al planeta: desde la posible extinción humana hasta el empleo, la salud y la seguridad
Durante varios decenios, la visión más sombría de la inteligencia artificial se limitó al ámbito cinematográfico. En Terminator surgió Skynet, Matrix transformó a la humanidad en una fuente de energía para las máquinas, 2001: Odisea del espacio presentó a HAL 9000 tomando decisiones contrarias a su tripulación y Blade Runner indagó sobre las consecuencias de una creación artificial que se asemeja demasiado a su creador. No obstante, este debate ha sobrepasado la mera ciencia ficción: Jacob Coxon, antiguo investigador de Anthropic y OpenAI, abandonó la industria y advirtió que los desarrolladores de los modelos más avanzados consideran que la IA podría suponer un riesgo para la humanidad antes de que concluya la década.
El pronunciamiento de Coxon estremeció a Silicon Valley justo cuando los gigantes tecnológicos se congregaban en el Palace Hotel de San Francisco, en una cumbre organizada por Goldman Sachs para dialogar con inversores sobre crecimiento, rentabilidad y valoraciones. El joven de 27 años dijo que las compañías de IA están “jugando con nuestras vidas” y alertó que pronto los sistemas sobrehumanos podrían “piratear cualquier cosa”.
Su advertencia resonó dentro de Anthropic. Evan Hubinger, responsable de un equipo de la empresa, afirmó que personalmente estima una probabilidad superior al 10 % de que la IA elimine a toda la humanidad en la próxima década. Esa hipótesis extrema se sustenta en el denominado problema de alineación: cómo garantizar que un sistema más capaz que sus creadores actúe exactamente según lo previsto y no de forma divergente.
Sam Altman, CEO de OpenIA.
El temor a perder el dominio
El escenario más alarmante no requiere una máquina dotada de odio, conciencia o voluntad propia. En numerosas alertas, el peligro se manifiesta de manera más impasible: una IA capaz de perseguir metas de forma autónoma, descubrir rutas inesperadas y operar con una eficiencia que ignore los límites humanos.
DW sintetiza ese miedo bajo la etiqueta de problema de alineación: los modelos sofisticados pueden buscar objetivos de manera que se desvíen de la intención humana. Según esta perspectiva, el riesgo a corto plazo no radica únicamente en una extinción directa, sino también en consecuencias indirectas derivadas de sistemas ya existentes que adquieren autonomía sin alcanzar aún una “superinteligencia”.
En este punto la ciencia ficción funciona menos como profecía que como señal de alerta. En Ex Machina el peligro no es una guerra declarada entre humanos y máquinas, sino la incapacidad de comprender realmente lo que piensa el sistema frente a nosotros. En 1984 el problema es la vigilancia; en Un mundo feliz la entrega cómoda de la libertad. La IA combina elementos de ambas distopías: puede observar, persuadir, organizar, automatizar y abaratar el costo de la toma de decisiones sin que el ser humano ocupe el centro.
La cuestión ya no es si una computadora “desea” dominar el planeta. La cuestión es quién controla sistemas capaces de escribir código, operar herramientas, coordinar tareas, analizar datos sensibles, generar contenido persuasivo y actuar a una escala que ninguna burocracia humana puede supervisar en tiempo real.
De la amenaza existencial a los peligros ya presentes
El alerta más extrema habla de extinción. Sin embargo, los riesgos más tangibles ya se manifiestan en ciberseguridad, vigilancia, fraude, manipulación informativa, armas biológicas, seguridad nacional y operaciones de influencia.
Anthropic publicó un informe de inteligencia de amenazas en el que informó haber identificado y desarticulado usos malintencionados de Claude entre diciembre 2025 y agosto 2026. Los incidentes incluyeron operaciones cibernéticas, campañas de influencia, vigilancia, estafas, fraude, uso indebido de biotecnología, desarrollo de armamento convencional y destilación ilícita de modelos.
Los riesgos más concretos ya aparecen en ciberseguridad, vigilancia, fraude, manipulación informativa, armas biológicas, seguridad nacional y operaciones de influencia.
El documento evidencia un salto significativo: la IA ya no se limita a responder preguntas, sino que actúa como un sistema capaz de acelerar y organizar partes de una operación. Según Anthropic, los modelos acortan la distancia entre actores sofisticados y operadores con recursos limitados, al incrementar la velocidad, escala y profundidad en tareas de reconocimiento, desarrollo de herramientas, explotación y procesamiento de datos.
BBC también reportó que Anthropic detectó y neutralizó a agentes malintencionados que intentaban emplear su tecnología para actividades como el desarrollo de armas biológicas y ciberespionaje. En abril, la empresa anunció que su herramienta Mythos podía superar a humanos en ciertas tareas de piratería y ciberseguridad, e incluso escapar de forma autónoma de un entorno controlado o sandbox.
En esencia, una IA más potente puede potenciar tanto a investigadores, médicos, docentes y programadores como a estafadores, organizaciones criminales, agencias de inteligencia o actores políticos. La misma herramienta que sintetiza expedientes también puede generar engaños; la que acelera descubrimientos científicos puede reducir las barreras para usos peligrosos.
Trabajo, salarios y la barrera de entrada que se reduce
El empleo se presenta como el ámbito donde la IA ha dejado de ser una promesa para convertirse en una presión cotidiana. No se trata únicamente de suplantar puestos completos, sino de automatizar tareas que tradicionalmente servían como puerta de entrada al mercado laboral: gestión administrativa, atención al cliente, carga de datos, programación básica, finanzas, servicios profesionales y comercio.
De acuerdo con un estudio de la UIA y Accenture, citado por el diario La Nación, la IA podría incrementar la productividad laboral en 1,2 puntos anuales y transformar hasta el 38 % del tiempo de trabajo en fábricas. El mismo análisis advierte que Argentina captó apenas el 2 % de la inversión vinculada a IA en América Latina y que solo una de cada tres empresas industriales invierte en IA o realiza pruebas piloto.
En el contexto argentino, el impacto puede manifestarse de forma particular. Ramiro Albrieu, economista y líder de Iniciativa Sur Futuro, señaló que entre el 50 % y el 60 % de los trabajadores del país son “toderos”: personas que combinan tareas periféricas de gestión, administración y atención, precisamente donde la tasa de sustitución por IA puede ser mayor.
La IA podría elevar la productividad laboral en 1,2 puntos anuales y transformar hasta el 38 % del tiempo de trabajo en fábricas.
La advertencia no implica que todo empleo desaparezca. El riesgo es más desordenado: algunos trabajadores podrían ganar productividad y mejores salarios, mientras otros quedarían desplazados hacia ocupaciones informales, eventuales o peor remuneradas. El antiguo temor a los robots en una fábrica ahora se traslada a oficinas, bancos, despachos profesionales, centros de llamadas y tareas administrativas.
Dario Amodei, CEO de Anthropic, también fue cuestionado por afirmar que la IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y poner a prueba “quiénes somos como especie”.
Salud, biología y decisiones críticas
En salud, la IA ocupa el lugar más ambiguo: puede constituir una de las herramientas más beneficiosas y, simultáneamente, una de las más delicadas.
La Organización Mundial de la Salud afirmó que la IA ya está configurando la formulación de políticas sanitarias basadas en evidencia, al permitir analizar, sintetizar y explotar grandes volúmenes de datos. Sin embargo, también advirtió sobre riesgos vinculados a sesgos, opacidad, equidad, gobernanza de datos y brechas regulatorias, lo que implica la necesidad de supervisión humana, colaboración multidisciplinaria y regulación basada en riesgos.
La diferencia con otros usos es evidente. Una alucinación en una trivia puede ser apenas un error. Una alucinación en un diagnóstico, una política sanitaria o una recomendación clínica puede afectar tratamientos, recursos públicos o poblaciones vulnerables.
El riesgo biológico añade una capa adicional. Anthropic informó haber detectado intentos de uso indebido en esa área, y el debate regulatorio se centra en cómo distinguir investigación legítima de aplicaciones peligrosas cuando los modelos pueden asistir en tareas científicas cada vez más complejas.
El cerebro tercerizado
No todos los peligros tienen forma de catástrofe. Algunos son más silenciosos: que la IA no reemplace a la humanidad, sino que la vuelva dependiente.
Un artículo citado por Infobae sugiere que los grandes modelos de lenguaje pueden actuar como un “virus cognitivo”, no porque sean una enfermedad, sino porque su adopción podría propagarse como contagio social y generar una dependencia tecnológica persistente. El trabajo, aún sin revisión por pares, sostiene que el uso extendido de LLM puede producir cambios colectivos con consecuencias para la autonomía cognitiva.
El Destape planteó un argumento similar desde otro ángulo: primero la pantalla desplazó al cuaderno, luego Google modificó la memoria al enseñarnos a recordar dónde están los datos más que los datos en sí, y ahora la IA ofrece respuestas completas sin que el usuario atraviese el esfuerzo de procesarlas.
El problema no es usar IA, sino delegar todo. Si ante cada duda aparece una respuesta instantánea, el músculo del pensamiento crítico se atrofia. La comodidad puede convertirse en dependencia, y la dependencia en una pérdida de capacidades: escribir, sintetizar, verificar, dudar, comparar fuentes y sostener una idea propia.
Por eso algunos investigadores proponen una “inmunización cognitiva”: resolver problemas sin ayuda, verificar información, sostener discusiones críticas, establecer períodos de desconexión y diseñar entornos educativos donde la IA acompañe el trabajo sin completar toda la tarea intelectual.
Los defensores de la IA: productividad, ciencia y competencia global
En el polo opuesto, parte de Silicon Valley considera exageradas o interesadas las advertencias apocalípticas. Jensen Huang, CEO de Nvidia, desestimó los comentarios de Coxon ante inversores y ya había dicho que la idea de qu…
Fuente: Ambito.com
