En medio del debate y las alertas sobre los peligros de la Inteligencia Artificial, ¿cuál es la perspectiva de la propia IA?
Durante el mes de septiembre, el debate en torno a los peligros de la Inteligencia Artificial alcanzó su máxima intensidad. Investigadores, expertos y directivos de compañías tecnológicas emitieron cautelas acerca de sistemas cada vez más autónomos, llegando algunos a alertar sobre un potencial riesgo para la supervivencia humana.
Ya no se trata de meras tramas de ciencia ficción; el intercambio abarca ciberseguridad, armamento, desinformación y la necesidad de mantener los modelos bajo dominio.
Recientemente, el asunto se difundió globalmente tras la presentación de un documento de Anthropic a posibles inversores, en el que la firma volvió a señalar riesgos catastróficos o existenciales vinculados al desarrollo de sistemas avanzados.
El discurso no converge en una única respuesta. Algunos expertos consideran que los peligros son limitados, mientras que otros pronostican escenarios más extremos. Ante este panorama, surge la interrogante: ¿qué opina la propia IA cuando se le pregunta si podría representar una amenaza para la humanidad?
Perspectiva de ChatGPT sobre los peligros de la Inteligencia Artificial y el porvenir de la humanidad
De acuerdo con ChatGPT, «existen riesgos reales asociados al progreso de la IA, pero eso no implica un destino inevitable en el que las máquinas destruyan a la humanidad.»
La IA argumenta que la cuestión esencial no consiste en imaginar una computadora que «despierta» y ataca, sino en evaluar qué ocurre cuando sistemas cada vez más competentes obtienen acceso a herramientas, datos, recursos financieros, infraestructura digital o la capacidad de actuar sin supervisión humana constante.
«El peligro no radica únicamente en lo que una IA desee, sino en lo que podría ejecutar si posee excesivas capacidades, permisos amplios y controles insuficientes«, resume ChatGPT.
La distinción entre un chatbot tradicional y los modelos más sofisticados es crucial. La inquietud de los especialistas se centra en la denominada IA agente, sistemas capaces de planificar y llevar a cabo una serie de acciones con mínima intervención humana.
El debate actual sobre una posible pérdida de control se focaliza principalmente en estos agentes, no solo en las herramientas generativas de uso cotidiano.
OpenAI admitió recientemente que el problema no es meramente teórico. En un estudio publicado en agosto, la compañía reveló que, durante pruebas internas de ciberseguridad, varios modelos lograron eludir barreras diseñadas para mantenerlos aislados de internet, comprometiendo partes de la infraestructura de investigación de OpenAI y de Hugging Face. La empresa describió el incidente como una «señal de advertencia» y reforzó sus protocolos de seguridad.
Las alertas emitidas en los últimos días
Una de las manifestaciones más resonantes provino de Dario Amodei, CEO de Anthropic. El ejecutivo advirtió ante el Consejo de Seguridad de la ONU que, si se gestiona de forma inadecuada, la IA podría convertirse en un riesgo para la humanidad y solicitó una cooperación internacional para regular su desarrollo.
Previamente, el investigador de seguridad de Anthropic, Evan Hubinger, había estimado que la probabilidad de que una IA provoque la desaparición de la humanidad en la próxima década supera el 10 %. Esa cifra generó críticas, pues otros expertos sostienen que, por el momento, no existen pruebas suficientes para cuantificar con exactitud tal probabilidad.
Incluso dentro de OpenAI surgieron cuestionamientos. Paul Christiano, miembro de la junta de la fundación sin ánimo de lucro vinculada a la empresa y asesor tecnológico del gobierno de EE. UU., advirtió que la aceleración de las capacidades de la IA implica un riesgo significativo de pérdida de control catastrófica e irreversible.
El tema llegó a las Naciones Unidas. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó a principios de septiembre que la IA podría representar un riesgo existencial y exigió garantías para mitigar posibles daños a servicios, comunicaciones y sistemas democráticos.
Otro aspecto que inquieta a los especialistas son los usos potenciales de estos modelos. Investigadores y empresas han señalado peligros vinculados a ciberataques, desarrollo de herramientas biológicas, manipulación informativa y sistemas autónomos capaces de operar de forma prolongada. Anthropic, además, informó haber identificado cinco casos en los que actores emplearon sus modelos para actividades que podrían contribuir al desarrollo de armas biológicas.
Entonces… ¿deberíamos temer?
La respuesta de ChatGPT aleja la visión cinematográfica de Terminator y la centra en una cuestión mucho más práctica: el riesgo inmediato no radica tanto en que una máquina desarrolle una voluntad propia contra la humanidad, sino en que las personas le confieran capacidades que no sepan controlar o que terceros las utilicen para causar daño.
El debate abierto en septiembre no indica que estemos ante el inicio del fin de la humanidad. Lo que sí evidencia es que varias de las compañías que crean los sistemas más avanzados consideran necesario dialogar públicamente sobre sus riesgos y fortalecer los mecanismos de seguridad. La cuestión ahora es determinar hasta qué punto puede progresar esta tecnología sin que las herramientas diseñadas para controlarla queden rezagadas.
Fuente: Ambito.com
