Yuval Harari reitera su oposición a la iniciativa de Javier Milei de conferir personalidad jurídica a las corporaciones de IA

El debate sobre el porvenir de la inteligencia artificial volvió a situar a la República Argentina como uno de sus principales escenarios: el historiador y ensayista Yuval Noah Harari volvió a poner en tela de juicio la posibilidad de conferir personería jurídica a entidades operadas por IA, una medida promovida con ímpetu por el presidente Javier Milei y el ministro de Transformación y Desregulación del Estado, Federico Sturzenegger. En ese marco, el académico israelí alertó sobre los riesgos que ello supondría para el orden económico y financiero.

Para el pensador, el verdadero problema no radica en que una IA pueda desempeñarse dentro de una estructura corporativa, sino en lo que ocurre cuando no existe un sujeto humano que asuma la responsabilidad de sus decisiones. En tal situación, sostuvo, una entidad podría acumular activos, decidir de forma autónoma y emplear su poder económico para incidir incluso en la esfera política.

Harari y el peligro de una compañía desprovista de personas

Durante una entrevista con The Economist, Harari explicó que las corporaciones actuales son personas jurídicas únicamente como una construcción legal, pues tras cada decisión hay siempre un ser humano. El panorama cambiaría si una empresa pudiera operar sin que ninguna persona forme parte de su organigrama.

«Mi planteamiento es que se trata de una idea con gran potencial, pero también extremadamente peligrosa. Estamos habituados a un contexto donde las corporaciones, por mandato legal, son personas jurídicas. Sin embargo, eso es solo una ficción jurídica, pues al final todas las decisiones de SpaceX, por ejemplo, son tomadas por individuos: ejecutivos, ingenieros, empleados o quien corresponda», puntualizó.

En ese sentido, denunció la ruptura del escenario propuesto por Milei: «Y tenía que ser así, porque ¿quién más decidiría? Pero con las IA, podrías contar con una corporación sin ninguna persona dentro. Todas las decisiones serían ejecutadas por la IA».

Harari volvió a criticar la postura de Milei.

Su inquietud radica en la posibilidad de que una IA sea capaz de administrar una empresa, invertir, desarrollar productos y gestionar relaciones públicas con mayor eficiencia que los humanos, al mismo tiempo que dispone de recursos propios.

El historiador advirtió que una entidad de este tipo podría transformarse en un agente económico de enorme poder y emplear sus recursos para obtener mayores prerrogativas para las propias inteligencias artificiales.

«Y como las IA son más inteligentes, podrían ser superiores invirtiendo, desarrollando productos, gestionando relaciones públicas o cualquier otra actividad. Entonces, ¿qué ocurriría si la corporación más adinerada del país estuviera bajo control de una IA y pudiera emplear su capital a su antojo? Por ejemplo, donar fondos a políticos a cambio de conseguir más derechos para las IA», cuestionó Harari.

Para el ensayista, la diferencia esencial con una empresa tradicional radica en la motivación de quien toma las decisiones. Un director ejecutivo humano puede priorizar los intereses de la compañía, pero también posee una vida personal y enfrenta consecuencias tangibles si infringe la ley.

«Con un CEO humano, en el fondo existen dos personas. Está la figura corporativa, que se pregunta: “¿Cómo evito la quiebra? ¿Cómo incremento los beneficios?”. Pero también está el individuo de carne y hueso, que se preocupa por sus hijos o su vida personal», explicó con mayor detalle.

En consecuencia, planteó qué sucedería si una IA tuviera que elegir entre respetar la normativa y evitar la bancarrota: «Si afronta una quiebra y tiene la opción de realizar una acción ilegal que la salvaría, pero sabe que, al ser descubierta, la IA sería desactivada, muchos pensarían: “Prefiero arriesgarme a la quiebra antes que ser eliminada”. Pero con un CEO IA…»

El diálogo giró entonces alrededor de una de las preguntas más acuciantes que plantea la autonomía empresarial de una IA: ¿cómo sancionar a una entidad que no puede experimentar las consecuencias de una condena?

Ante la posibilidad de que la legislación contemple penalizaciones para estos sistemas, Harari respondió sin ambages: «Las desactivan».

El historiador también rechazó la idea de catalogar este escenario como una mera ciencia‑ficción. Cuando se le sugirió que la propuesta parecía sacada de ese género, replicó: «No lo llamemos ciencia‑ficción. En Argentina, esa podría ser la realidad mañana mismo».

Según su criterio, la cuestión esencial es determinar si existe una persona humana que pueda asumir la responsabilidad última por los actos de la empresa.

«Si hay supervisión, entonces está aceptable. La verdadera interrogante es: ¿existe un ser humano responsable al final de la cadena?», concluyó.

Previos enfrentamientos entre Milei y Harari

El intercambio entre Javier Milei y Yuval Noah Harari tomó forma a raíz del debate sobre la viabilidad de otorgar personería jurídica a compañías gestionadas por inteligencia artificial.

Harari había puesto en tela de juicio la propuesta del presidente argentino en un artículo publicado en Financial Times, titulado «No debemos conferir personería jurídica a los agentes de IA». Allí sostuvo que conceder tal estatus podría abrir una puerta a la IA hacia los ámbitos financiero, económico y político.

Archivo. Sturzenegger y Milei, los dos impulsores de la personería jurídica para IA.

En esa ocasión, el escritor reconoció que la medida podría generar riqueza y nuevas oportunidades, pero advirtió: «Conceder personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender múltiples iniciativas, lo que podría engendrar una inmensa riqueza adicional. Pero la personería jurídica es una llave maestra que también facilitaría a la IA el acceso a nuestros sistemas financieros, económicos y políticos. Eso genera serias preocupaciones».

Harari también recurrió al ejemplo de la Compañía Holandesa de las Indias Orientales para ilustrar el poder que puede acumular una estructura empresarial cuando concentra recursos y autonomía. Según su interpretación, el riesgo futuro sería la aparición de un «Estado IA», gobernado por corporaciones no humanas.

«Los países que otorguen personería jurídica a las IA corren el peligro de convertirse en algo para lo que la historia no ofrece precedente: no un Estado compañía, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales resultaría aún más difícil rebelarse. Milei aspira a transformar Buenos Aires en una nueva Ámsterdam. Existe el riesgo de convertirla en una nueva Batavia», afirmó.

Milei respondió directamente al historiador y defendió su iniciativa con ironía: «Conceder personería jurídica a las compañías de IA no equivale a desencadenar el Día del Juicio Final al estilo Terminator».

En su argumentación, Milei sostuvo que una empresa gestionada por IA debería mantenerse dentro del marco legal y que la personería jurídica permitiría precisamente establecer un patrimonio frente al cual reclamar indemnizaciones en caso de daños.

También impugó la idea de que una IA necesariamente sería más propensa a infringir normas y planteó que, si una entidad artificial se enfrenta a la posibilidad de desaparecer por quiebra, podría tener incentivos para cumplir estrictamente con la ley: «Preferiría contar con un patrimonio neto contra el cual reclamar si una IA me defrauda, antes que no contar con ninguna protección».

El enfrentamiento entre ambos quedó así centrado en una única cuestión, aunque con respuestas divergentes: ¿cómo debería articularse el marco jurídico cuando una inteligencia artificial pueda tomar decisiones empresariales de forma autónoma?

Fuente: Ambito.com