El director ejecutivo de Nvidia advierte que podría suspender la venta de chips a compañías que diseñen IA sin garantías de seguridad

El director ejecutivo de Nvidia, Jensen Huang, declaró que la empresa podría interrumpir el aprovisionamiento de microprocesadores a aquellas firmas que empleen su tecnología para desarrollar sistemas de inteligencia artificial sin las debidas garantías de seguridad. Añadió, no obstante, que una medida de esa magnitud solo se adoptaría tras un diálogo previo con el cliente y subrayó los límites de la responsabilidad del fabricante respecto al uso que terceros hacen de sus productos.

“Se trata de una hipótesis”, sostuvo Huang en una entrevista concedida a Bloomberg en Londres cuando se le preguntó sobre la eventualidad de dejar de proveer a una compañía que produzca software de forma irresponsable. Más allá de la definición, el ejecutivo matizó su posición: “Antes de proceder, sería necesario mantener una conversación. No controlamos a las demás empresas, y existen fronteras al juzgar el empleo que hacen de nuestra tecnología. Nuestro hardware está pensado para un uso general”.

El debate se enmarca en la creciente preocupación por los riesgos que plantea una IA cada vez más sofisticada y la posibilidad de que sus sistemas se vuelvan incontrolables. Nvidia se sitúa en el epicentro de esta discusión como principal suministrador de aceleradores para IA, los chips indispensables para entrenar y ejecutar dichos modelos.

Archivo. A pesar del surgimiento de nuevos competidores, Nvidia sigue ocupando una posición clave en la creación de procesadores para modelos de IA.

En el mismo sector, figuras como el director de Anthropic, Dario Amodei, han abogado por una desaceleración del desarrollo de la inteligencia artificial para mitigar los peligros asociados a su progreso. Huang, por el contrario, considera que las inquietudes actuales están sobredimensionadas y afirma que es viable diseñar e implementar estos sistemas de forma segura.

Durante su gira europea, previo a un evento de Nvidia en Berlín, el empresario atribuyó parte de los retos a la rapidez con que avanza la industria y a las dificultades que enfrentan las startups al escalar sus operaciones: “Muchas compañías emergentes están atravesando los problemas típicos de su crecimiento, y lo hacen a una velocidad asombrosa”, señaló Huang en la entrevista. “Crear empresas conlleva una responsabilidad, especialmente cuando esas mismas organizaciones están en proceso de maduración”.

El ejecutivo también cuestionó la manera en que el sector comunica los beneficios de la tecnología. Según él, una fracción de la preocupación pública es “autoimpuesta”, mientras que las empresas del ramo están realizando un “trabajo pésimo” al explicar las ventajas de la inteligencia artificial.

Nvidia asignará 250 millones de dólares a la investigación de la seguridad en IA

Como parte de sus iniciativas en este ámbito, Nvidia aportará 250 millones de dólares durante cinco años para financiar estudios sobre la seguridad de la inteligencia artificial en el Reino Unido. La contribución se materializará mediante el suministro de tiempo de cómputo en máquinas de alto rendimiento.

Entre las entidades académicas que participarán figuran la Universidad de Oxford y el University College London. Los equipos de investigación abordarán mecanismos de protección y explorarán alternativas para supervisar y controlar a los agentes de IA.

Huang también argumentó que la propia tecnología puede ayudar a mitigar los riesgos derivados de su desarrollo. En este sentido, defendió la necesidad de acelerar la creación de herramientas de supervisión y contención integradas en los sistemas.

“Deberíamos apresurar la incorporación de estas tecnologías de contención en los sistemas de IA”, afirmó. “Es imperativo impulsar con mayor velocidad las soluciones de supervisión, y la inteligencia artificial puede ser ese supervisor. Por consiguiente, debemos acelerar el avance de la IA”.

El análisis de Huang sobre la supuesta “burbuja de la IA”

Las declaraciones del CEO de Nvidia coincidieron con una jornada en la que las acciones de la compañía y de otros fabricantes de semiconductores lideraron las caídas en los mercados estadounidenses. A pesar del retroceso bursátil, Huang volvió a descartar la hipótesis de que el mercado atraviese una burbuja vinculada a la inteligencia artificial.

Su razonamiento se sustenta en la demanda de infraestructura necesaria para desarrollar y operar dichos sistemas. Según el ejecutivo, las necesidades del sector continuarán superando la oferta de componentes durante varios años.

“Con el tiempo, la oferta y la demanda tenderán a equilibrarse”, declaró en un evento en Londres. “Pero no hoy”, concluyó.

Fuente: Ambito.com