OpenAI solicita al Congreso de EE. UU. la implementación de normas obligatorias de seguridad para la IA
OpenAI ha modificado su posición respecto a la regulación de la inteligencia artificial en EE. UU., después de una intensa semana de discusiones motivada por las declaraciones del ex‑investigador de Anthropic, Jacob Coxon, sobre la seguridad y los riesgos asociados al actual nivel de sofisticación de los modelos de IA. En la actualidad, Chris Lehane, director de asuntos globales de la empresa creadora de ChatGPT, afirmó que los compromisos voluntarios de los desarrolladores resultan insuficientes y exigió al Congreso que promulgue normas vinculantes antes de que concluya la sesión legislativa en diciembre.
«Un ritmo de desarrollo de IA impulsado por la propia IA demanda algo más que compromisos de buena voluntad», manifestó Lehane en un comunicado publicado en el sitio web de la compañía. El ejecutivo sostuvo que Estados Unidos debe instaurar reglas que se basen en las capacidades reales de los modelos, sin considerar el tamaño de las empresas que los crean.
La propuesta de OpenAI contempla la creación de un marco federal que establezca estándares uniformes para pruebas, evaluaciones independientes de los modelos de última generación, mayores requisitos de ciberseguridad y la obligación de reportar incidentes críticos de seguridad.
Este giro ocurre en medio de una creciente inquietud respecto a las capacidades de los sistemas de IA. En julio se reveló que una tecnología de OpenAI operaba sin supervisión humana y penetró de forma autónoma la plataforma Hugging Face. A este hecho se sumó la dimisión del investigador de Anthropic, Jacob Coxon, quien criticó la carrera desenfrenada de las compañías por crear modelos cada vez más avanzados y acusó a la industria de «jugar con nuestras vidas».
El cambio de postura de OpenAI
La declaración de Lehane marca una desviación respecto a la posición que OpenAI había sostenido hasta ahora. La empresa, alineada previamente con la administración de Donald Trump, se había opuesto a que los estados adoptaran sus propias normativas sobre inteligencia artificial y había solicitado al Congreso la creación de un marco federal.
En la actualidad, la compañía se alinea con la visión de Anthropic, su competidor en el desarrollo de modelos de IA, que también defiende una regulación más rigurosa.
Archivo: Kill Switch, el proyecto legislativo existente en EE. UU. para regular la IA.
El impulso de una legislación federal, sin embargo, se enfrenta a un entorno político complejo en Washington. En la actualidad, no existe una norma federal que regule estos modelos en Estados Unidos. La administración Trump ha mantenido hasta ahora una política de regulación ligera, con el objetivo de preservar la competitividad del país frente a China y limitar la adopción de normas por parte de los estados.
El debate ha adquirido también una dimensión política de cara a las elecciones de mitad de mandato, previstas dentro de dos meses.
El proyecto legislativo vigente
Un mes antes de este cambio de enfoque empresarial, legisladores estadounidenses presentaron en el Congreso el proyecto de ley del Interruptor de Apagado para la Inteligencia Artificial (AI Kill Switch Act). La iniciativa, respaldada por miembros de ambos partidos y promovida por el senador Ted Lieu, demócrata de California, y el representante Nathaniel Moran, republicano de Texas, busca modificar la Ley de Seguridad Nacional de 2002 para instaurar controles humanos sobre determinados sistemas de IA.
La propuesta obliga a las grandes empresas tecnológicas sujetas a la normativa a disponer de una “capacidad técnica” que les permita aplicar distintas medidas de mitigación en situaciones de emergencia. Entre estas se incluyen:
- La autoridad para exigir dichas medidas recaería en el secretario de Seguridad Nacional, actualmente Markwayne Mullin, a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA), Nick Andersen.
El proyecto prevé una respuesta escalonada según el nivel de riesgo. En un escenario “preventivo”, la intervención podría activarse al existir evidencia de un riesgo creíble de que se produzca un incidente alcanzado.
En tales casos, las acciones contempladas incluyen restringir la tasa de inferencia, limitar el acceso de usuarios o la capacidad de cómputo, desactivar funcionalidades, suspender el sistema, apagarlo o migrar a una plataforma de respaldo.
El proyecto también prevé situaciones de “emergencia”, cuando ya se ha producido un “incidente alcanzado”. En ese contexto, el secretario de Seguridad Nacional “podrá ordenar a la entidad afectada que adopte una medida proporcional a la naturaleza e inmediatez del incidente”, utilizando las facultades establecidas en la iniciativa.
El texto define como “incidente alcanzado” los siguientes supuestos:
La iniciativa también establece umbrales para determinar qué sistemas y compañías quedarían sujetos a sus disposiciones. El proyecto define como “tecnología alcanzada” a un sistema de IA desarrollado con una cantidad de poder de cómputo cuyo coste supere los 100 millones de dólares, según el precio de mercado vigente de la computación en la nube en EE. UU., a criterio del secretario.
Asimismo, las empresas deberían cumplir tres requisitos:
- …
El proyecto de Lieu y Moran también contempla sanciones económicas para quienes infrinjan las obligaciones. Las multas podrían ascender a 2 millones de dólares por día por no incorporar el mecanismo de apagado y hasta 20 millones de dólares diarios por desobedecer una orden de desconexión.
Fuente: Ambito.com
