El director ejecutivo de Microsoft exige regulaciones para la IA y alerta sobre sus peligros
Brad Smith, director ejecutivo de Microsoft, solicitó que los Estados adopten normas de seguridad para la Inteligencia Artificial y advirtió que los sistemas actuales poseen menos salvaguardas que los productos de consumo cotidiano que adquirimos en los supermercados.
Para ilustrar la disparidad, comparó los requisitos que deben cumplir los electrodomésticos y los alimentos con los que se imponen a los desarrollos de esta tecnología.
“En este momento, tu lavadora está sujeta a más regulaciones de seguridad que la IA. Cada envase de leche en la góndola supera más pruebas y pasa por más inspecciones”, afirmó Smith en una entrevista concedida a ITV.
El ejecutivo sostiene que ha llegado la hora de crear un marco regulatorio internacional que permita valorar los riesgos antes de que los modelos más sofisticados sean puestos a disposición del público.
Esta propuesta surge en medio del acuerdo sobre la evolución de los sistemas capaces de ejecutar tareas de forma autónoma. Conforme estas herramientas dejan de limitarse a responder consultas y comienzan a operar sobre plataformas, archivos y servicios digitales, también aumenta la inquietud respecto a los posibles perjuicios que podrían ocasionar si actúan de forma errática o son empleadas con intenciones malintencionadas.
Qué normativas solicitó Brad Smith para la IA
Entre las disposiciones que propuso el líder de Microsoft destaca la obligación de notificar a las personas u organizaciones afectadas cuando un agente de Inteligencia Artificial vulnerara sus sistemas. La meta es que cualquier intrusión o acción no autorizada sea comunicada y que los responsables puedan tomar medidas de contención.
Asimismo, exigió que las compañías elaboren informes de incidentes. La iniciativa busca crear un registro de los problemas surgidos durante la operatividad de los modelos, con datos que faciliten el análisis de lo ocurrido y la evaluación de medidas preventivas. Según Smith, la decisión de divulgar un episodio no debería quedar a discreción de la empresa.
Otro elemento central es la valoración independiente de los sistemas más avanzados. En lugar de depender exclusivamente de las pruebas realizadas por sus propios desarrolladores, los modelos deberían ser inspeccionados por expertos externos antes de su puesta en marcha. Esa auditoría permitiría identificar vulnerabilidades y medir capacidades que pudieran representar un riesgo para la seguridad.
Smith también defendió la incorporación de un mecanismo de emergencia que posibilite detener o ralentizar un sistema cuando su conducta se torne peligrosa. Conocido como «kill switch«, este recurso permitiría a los operadores intervenir si una herramienta se comporta fuera de los límites previstos o pierde el control de sus tareas asignadas.
Las propuestas se dirigen, en particular, a los agentes de IA, capaces de encadenar acciones y operar con distintos grados de autonomía.
Según Smith, el Reino Unido podría liderar normas internacionales
Smith sostuvo que el Reino Unido está bien posicionado para impulsar un marco global de seguridad. Uno de los argumentos es la existencia del AI Security Institute (AISI), una entidad británica creada en 2023 que evalúa las capacidades y riesgos de los modelos avanzados.
El instituto cuenta con acceso anticipado a modelos de grandes compañías de IA mediante convenios voluntarios. Esa condición le permite realizar pruebas antes de que las herramientas lleguen al público y examinar sus prestaciones en entornos controlados y seguros.
El ejecutivo también cree que Londres puede ejercer un papel diplomático singular. En sus declaraciones, señaló que las autoridades de Washington no perciben al Reino Unido de la misma manera que a Bruselas, sede de las principales instituciones de la Unión Europea. Esa diferencia, según su análisis, podría facilitar acuerdos con Estados Unidos y otras naciones.
El complejo debate entre autorregulación empresarial y supervisión externa
La exigencia de Smith también pone bajo escrutinio los límites de la autorregulación. En una reunión en la Casa Blanca en septiembre, representantes de compañías como OpenAI, Anthropic, Google, Nvidia y Meta respaldaron compromisos relativos a la seguridad de los modelos, la incorporación de salvaguardas y la participación de auditores independientes.
No obstante, esos acuerdos no equivalen a una obligación jurídica. Cuando las reglas dependen de compromisos voluntarios, las propias empresas conservan un papel crucial en la definición de los procedimientos y en la decisión de cómo implementarlos. La discusión gira en torno a determinar si esos mecanismos son suficientes para controlar tecnologías que evolucionan a gran velocidad.
El asunto tampoco ofrece una solución sencilla para el sector. Una regulación excesivamente laxa podría dejar desprotegidos a usuarios y organizaciones frente a fallas o abusos.
Sin embargo, demandas demasiado estrictas podrían generar disputas sobre quién define los estándares, qué modelos deben someterse a controles más rigurosos y cómo impedir que las normas se conviertan en un obstáculo para nuevos competidores.
Adicionalmente, se debate sobre los posibles intereses comerciales. Algunos críticos advierten que las empresas de mayor tamaño podrían beneficiarse de requisitos onerosos que complicaran la entrada de firmas más pequeñas.
Por ello, más allá de definir medidas de seguridad, los gobiernos deberán resolver cómo garantizar que los controles sean independientes y se apliquen de forma equitativa.
Para Smith, delegar estas decisiones exclusivamente a las compañías implica que las empresas más responsables terminen cumpliendo normas que otras ignoren. Su planteamiento apunta a establecer un nivel mínimo de obligaciones para todo el sector, con evaluaciones, notificaciones y procedimientos de emergencia.
Fuente: Ambito.com
