Más de 1200 profesionales del sector IA suscriben un llamado a la regulación de su desarrollo
Expertos del sector de la IA reiteraron su preocupación ante la expansión descontrolada de la Inteligencia Artificial. Un colectivo de más de 1 200 empleados de las principales compañías tecnológicas estadounidenses —incluidas OpenAI y Anthropic— suscribió un documento en el que solicitan al gobierno de Donald Trump que encabece una “iniciativa internacional para crear los instrumentos técnicos y de gobernanza imprescindibles que permitan regular deliberadamente el ritmo del desarrollo de la IA automatizada”.
El escrito cuenta con la firma de figuras destacadas del sector como Dario Amodei, director ejecutivo de Anthropic, y Jakub Pachocki, jefe científico de OpenAI.
Una de las inquietudes centrales señaladas por los profesionales es el inicio de la automatización del desarrollo de modelos de IA: la propia IA se entrena a sí misma.
Contenido del comunicado que advierte sobre la evolución no supervisada de la IA
El preámbulo del documento admite que la IA posee el potencial de contribuir a un futuro mucho mejor, aunque ese desenlace no está garantizado. Asimismo, indica que, en la actualidad, las principales empresas de IA del mundo consideran estar próximas a automatizar la investigación en IA.
Amodei, cofundador de Anthropic, es uno de los firmantes más relevantes del texto.
Resulta complejo estimar con precisión la velocidad con la que este fenómeno podría impulsar el progreso de la IA; sin embargo, el documento advierte que existe una amenaza tangible de que el desarrollo de capacidades se acelere rápidamente, superando nuestra capacidad para comprender o controlar los sistemas resultantes.
En este sentido, el escrito centra su atención en la gobernanza de los modelos, señalando que, para capitalizar el potencial de la IA, la industria, los gobiernos y la sociedad en general podrían necesitar tiempo adicional para abordar los riesgos emergentes, diseñar medidas de seguridad y reforzar la supervisión.
No obstante, los líderes del sector reconocen que el contexto geopolítico dificulta la posibilidad de llevar a cabo un desarrollo consciente: “Cada empresa —y cada país— está sometida a una fuerte presión competitiva para no ralentizar unilateralmente esa aceleración. Además, en la actualidad el mundo carece de los instrumentos técnicos y de gobernanza necesarios para regular deliberadamente el ritmo del progreso a lo largo de toda la frontera de la IA”.
Perspectivas más relevantes respecto al avance de la IA
El documento se publicó en la página pacingthefrontier.com, donde también se incluyeron opiniones personales de los distintos profesionales que participan en el desarrollo de esta tecnología.
Por ejemplo, la directora científica de Meta AI, Sengjia Zhao, manifestó: “La IA progresa a una velocidad para la cual nuestra sociedad quizá no esté preparada. Los laboratorios de vanguardia están muy cerca de lograr una IA capaz de superar incluso a las personas más brillantes en casi todos los indicadores de inteligencia. Esto generará riesgos sociales y de seguridad sin precedentes. Para asegurar un futuro positivo, debemos desarrollar la IA de forma responsable y reflexiva”.
El jefe científico de Thinking Machines, John Schulman, explicó: “Firmé porque esta declaración ayuda a establecer un consenso sobre la posible necesidad de mecanismos de coordinación a medida que la investigación automatizada en IA acelere el progreso. También me gustaría que los laboratorios comenzaran a diseñar voluntariamente estos mecanismos, incluso antes de que intervenga el gobierno de Estados Unidos”.
Desde Google, el científico senior de investigación avanzada en IA, Danny Sawyer, afirmó: “Considero que intentar regular deliberadamente el ritmo del desarrollo de la IA será extremadamente difícil y podría causar más daño que beneficio si se lleva a cabo sin la debida cautela. No obstante, apoyo esta declaración porque, si se intenta regular ese ritmo, sería preferible que el proceso haya sido investigado y planificado metódicamente, en lugar de implementarlo de forma abrupta como reacción a una crisis”.
Finalmente, el técnico de Anthropic, Nicholas Joseph, describió su responsabilidad al frente del área de preentrenamiento, encargada de entrenar los modelos base que sustentan a Claude. Señaló que, mes a mes, los propios modelos asumen una mayor carga de trabajo, abarcando la implementación de infraestructura, la optimización de código y el diseño y análisis de experimentos. Este fenómeno ha transformado radicalmente su forma de trabajar y ha acelerado notablemente su ritmo de progreso. Aunque desconoce si existe un límite para este proceso ni cuál podría ser, advierte que una aceleración rápida de las capacidades podría resultar peligrosa para la sociedad, por lo que considera prudente disponer de la posibilidad de frenar deliberadamente dicho avance.
Fuente: Ambito.com
