OpenAI solicita al Congreso de EE. UU la implementación de normas regulatorias vinculantes para la inteligencia artificial
OpenAI ha modificado su enfoque respecto a la regulación de la inteligencia artificial en Estados Unidos, tras una semana de intensos debates provocados por las declaraciones del antiguo investigador de Anthropic sobre la seguridad y los riesgos asociados al actual nivel de desarrollo de los modelos de IA. En la actualidad, Chris Lehane, director de asuntos globales de la firma creadora de ChatGPT, afirma que los compromisos voluntarios de los desarrolladores resultan insuficientes y exige al Congreso que promulgue normas vinculantes antes de que concluya la sesión legislativa en diciembre.
“Una evolución de la IA impulsada por la propia IA demanda algo más que compromisos espontáneos”, manifestó Lehane en una nota publicada en el sitio web de la compañía. Según el ejecutivo, es imprescindible que Estados Unidos establezca directrices basadas en las capacidades reales de los sistemas, y no en el tamaño de las empresas que los generan.
La propuesta de un marco federal que adopte estándares unificados para pruebas, evaluaciones independientes de los sistemas de última generación, exigencias reforzadas de ciberseguridad y la obligación de reportar incidentes críticos constituye el núcleo de la iniciativa de OpenAI.
Este giro se produce en medio de una creciente alarma respecto a las capacidades de los sistemas de IA. En julio se reveló que una solución de OpenAI operando sin supervisión humana penetró de forma autónoma la plataforma Hugging Face. A ello se sumó la dimisión del investigador de Anthropic, Jacob Coxon, quien criticó la carrera desenfrenada de las empresas por crear modelos cada vez más avanzados, acusándolas de “jugar con nuestras vidas”.
El cambio de posición de OpenAI
La postura expresada por Lehane representa una ruptura con la línea que la compañía había sostenido hasta ahora. La entidad, que había coincidido con la administración de Donald Trump, se había opuesto a que los estados adoptaran sus propias normativas sobre IA y había solicitado al Congreso la creación de un marco regulatorio federal.
En la actualidad, la empresa se alinea con la visión de Anthropic, su competidor en el ámbito del desarrollo de modelos de IA, que también apoya la implantación de una regulación más rigurosa.
Archivo. Kill Switch, el proyecto legislativo que ya existe en EE. UU. para regular la IA.
El impulso de una legislación federal, sin embargo, se enfrenta a un entorno político complejo en Washington. Por el momento, no se ha aprobado ninguna normativa federal que regule estos sistemas en Estados Unidos. La administración Trump ha adoptado hasta ahora una política de regulación ligera, con el objetivo de mantener la competitividad del país frente a China y limitar la proliferación de normas estatales.
El debate también ha adquirido mayor relevancia política de cara a las elecciones legislativas de mitad de mandato, programadas dentro de dos meses.
El proyecto legislativo existente
Un mes antes de este cambio de postura corporativa, legisladores estadounidenses introdujeron en el Congreso el proyecto de ley del Interruptor de Apagado para la Inteligencia Artificial (AI Kill Switch Act). La iniciativa, respaldada por un amplio bipartidismo y presentada por los senadores Ted Lieu, demócrata de California, y Nathaniel Moran, republicano de Texas, pretende modificar la Ley de Seguridad Nacional de 2002 para instaurar controles humanos sobre determinados sistemas de IA.
La propuesta obliga a las grandes corporaciones tecnológicas alcanzadas por la normativa a conservar una “capacidad técnica” que les permita aplicar diversas medidas de mitigación en situaciones de emergencia. Entre las acciones previstas se encuentran:
La autoridad para exigir estas medidas recaería en el secretario de Seguridad Nacional, actualmente Markwayne Mullin, a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA), Nick Andersen.
El proyecto establece una respuesta escalonada según los niveles de riesgo. En un escenario “preventivo”, la intervención podría activarse cuando exista evidencia de un riesgo creíble de que ocurra un incidente alcanzado.
En tales casos, las medidas contempladas incluyen reducir la tasa de inferencia, limitar el acceso de usuarios o la capacidad de cómputo, desactivar funcionalidades, suspender el sistema, apagarlo o migrar a una solución de respaldo.
El proyecto también considera situaciones de “emergencia”, cuando ya se ha producido un “incidente alcanzado”. En este contexto, el secretario de Seguridad Nacional “podrá ordenar a la entidad afectada que adopte una acción proporcional a la naturaleza e inmediatez del incidente”, utilizando las facultades previstas por la iniciativa.
El texto define como “incidente alcanzado” los siguientes supuestos:
La iniciativa también fija umbrales para determinar qué sistemas y compañías quedarían sujetos a sus disposiciones. Se entiende por “tecnología alcanzada” a un sistema de IA desarrollado con una capacidad de cómputo cuyo coste supere los 100 millones de dólares al precio de mercado vigente de la computación en la nube en Estados Unidos, según lo establezca el secretario.
Asimismo, las empresas tendrían que cumplir tres requisitos:
El proyecto de Lieu y Moran prevé sanciones económicas para quienes incumplan las obligaciones. Las multas podrían ascender a 2 millones de dólares por día por no incorporar el mecanismo de apagado y hasta 20 millones de dólares diarios por desobedecer una orden de desconexión.
Fuente: Ambito.com
