El rey Carlos III advierte sobre los peligros existenciales de la inteligencia artificial
El monarca Carlos III manifestó este jueves los peligros “existenciales” que la inteligencia artificial podría acarrear si sus facultades se emplean con propósitos nocivos o escapan a la supervisión humana.
Sus inquietudes fueron expuestas en una cumbre celebrada en Dumfries House, su residencia escocesa, donde convocó a dirigentes de importantes firmas tecnológicas, autoridades y expertos en ética.
Participaron representantes de OpenAI, Anthropic, Nvidia y Google DeepMind, así como el ministro británico de Inteligencia Artificial, Kanishka Narayan, y Paolo Benanti, consejero del Vaticano en materia de esta tecnología.
Al inaugurar el foro, Carlos III señaló que los propios desarrolladores manifiestan una creciente preocupación por las habilidades que podrían adquirir los modelos más sofisticados, e insistió en que el progreso del sector vaya acompañado de salvaguardas adecuadas.
El soberano argumentó que las empresas no deben enfocarse exclusivamente en expandir el poder de sus sistemas, sino también asegurar que la tecnología siga estando “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.
El encuentro congregó en Escocia a delegados de OpenAI, Anthropic, Nvidia y Google DeepMind.
Los líderes del sector tecnológico solicitaron que la seguridad sea prioritaria
Entre los asistentes se encontraba el director ejecutivo de Nvidia, Jensen Huang, quien afirmó que la protección debe ocupar un lugar central en la agenda empresarial. Además, sostuvo que una compañía debería posponer el lanzamiento de un producto cuando no cuente con garantías suficientes sobre su desempeño.
Por su parte, el cofundador de Google DeepMind, Demis Hassabis, advirtió que la consecución de una inteligencia artificial general podría materializarse en los próximos años. Según sus palabras, dicha innovación tendría un impacto “hasta diez veces mayor que el de la Revolución Industrial”, aunque mantuvo que aún existe espacio para mitigar sus riesgos potenciales.
La directora financiera de OpenAI, Sarah Friar, también reconoció que las nuevas habilidades de los modelos generan dudas sobre su control y su seguridad.
El objetivo del encuentro fue avanzar en la definición de principios compartidos que guíen un desarrollo responsable de la inteligencia artificial. No obstante, no se presentaron compromisos vinculantes ni nuevas normativas para las empresas participantes.
La reunión se dio en medio de una discusión cada vez más intensa dentro del sector respecto al ritmo de avance de los modelos y la efectividad de los mecanismos de autorregulación. Simultáneamente, algunos expertos cuestionan que el debate se centre excesivamente en amenazas futuras, relegando a un segundo plano problemáticas actuales como el consumo energético de los centros de datos y su repercusión medioambiental.
Fuente: Ambito.com
