Microsoft revela su normativa de conducta para la IA: ausencia de personalidad jurídica, apagado mandatorio y supervisión humana permanente
El suceso de Hugging Face, la acusación formulada por el antiguo investigador de OpenAI y Anthropic, Jacob Coxon, y el consenso preliminar entre los directores ejecutivos de las principales compañías tecnológicas reactivaron la discusión mundial sobre la seguridad de la IA. Dentro de ese marco, Microsoft tomó la delantera y difundió un borrador inicial de su Código de Conducta para la creación de modelos de IA, basado en un principio fundamental: «El ser humano prevalece sobre la IA».
«Los últimos episodios de vulnerabilidad vinculados a ataques cibernéticos masivos, altamente orquestados y continuos contra sistemas de IA evidencian la urgencia de actuar. Los riesgos son considerables y la coyuntura sólo tenderá a deteriorarse», señala la introducción del informe.
Con esa intención, se describieron los propósitos fundamentales de la versión inicial del reglamento: garantiza que los sistemas de IA multi‑agente nunca se opongan a la interrupción, corrección o desactivación por parte humana. Asimismo, prohíbe que amplíen su propio alcance, adopten metas no establecidas por personas o encubran su proceso de razonamiento a los auditores. Se establecen Restricciones Absolutas, conductas que los modelos deben evitar, abarcando ámbitos como armamento de destrucción masiva, protección infantil y manipulación nociva a gran escala.
El informe, que consta de 40 páginas, surge en un contexto de intensificado debate sobre la seguridad de la IA. Hace apenas una semana, una larga serie de publicaciones de Jacob Coxon se difundió ampliamente en la red, reanimando el diálogo acerca de los peligros de la tecnología, incluyendo advertencias severas sobre la capacidad de la IA para desencadenar la desaparición de la humanidad «en la próxima década».
Así se presenta la versión preliminar del Código de Conducta de Microsoft.
El documento resume diez principios esenciales de su normativa. Destacan la necesidad de que los modelos sean susceptibles de ser apagados o detenidos por operadores humanos, la exigencia de que sus procesos de razonamiento sean auditables, y una postura que difiere radicalmente de la propuesta de Javier Milei y Federico Sturzenegger: la IA no debe poseer derechos ni personería jurídica.
Diez pilares fundamentales del Código de Conducta de Microsoft
Fuente: Ambito.com
