CEO de Google advierte sus peligros
Sundar Pichai, líder de la compañía, reconoció que hay varias capacidades emergentes de Bard, el chatbot de Google, que no entienden cómo surgieron
Por iProfesional
18/04/2023 – 08,25hs
El CEO de Google, Sundar Pichai (en la foto superior), reconoció que hay varias funciones de Bard, su chatbot impulsado por inteligencia artificial, que todavía no comprenden. Por ejemplo, mencionó de varias capacidades emergentes que experimentó su modelo en las últimas pruebas, como el razonamiento, la planificación o la creatividad.
«No entiendes completamente cómo funciona. Y, sin embargo, ¿lo has soltado a la sociedad?», le preguntó Scott Pelley, entrevistador de la CBS, a Pichai en una entrevista emitida el domingo en esa señal televisiva estadounidense. «Sí. Déjame ponerlo de esta manera… No creo que entendamos completamente cómo funciona una mente humana tampoco», respondió el líder de Google.
Pichai explicó que hay un elemento en sus desarrollos al que le llaman «la caja negra», que hace referencia a aquellos aspectos que no pueden entender. «A veces, no puedes decir por qué dijo esto o por qué se equivocó. Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ahí es donde está el estado del arte», agregó.
En la entrevista mencionó cómo un sistema de IA de Google aprendió, por sí solo, el idioma de Bangladesh. También de su capacidad para reflexionar sobre el dolor que sienten los humanos o cuestiones como la redención.
¿Son solo algoritmos armando discursos o se trata de una inteligencia más desarrollada? «Creo que debemos abordar esto con humildad… Creo que es bueno que algunas de estas tecnologías salgan a la luz para que la sociedad pueda procesar lo que está sucediendo. Y comenzar esta conversación y debate», respondió Pichai.
El CEO de Google dijo que le quita el sueño la posibilidad de que esta IA pueda ser «muy perjudicial si se implementa de manera incorrecta«. Consideró que la sociedad debe apurarse en la creación de normas claras para la implementación de la IA en la economía. También pidió leyes que castiguen el abuso y tratados entre gobiernos que garanticen que estos avances sean seguros para todo el mundo.
Los riesgos de la inteligencia artificial
Pichai admitió que es un error que las empresas se dejen llevar por la dinámica competitiva. «No conviene lanzar una tecnología como ésta cuando es muy, muy potente, porque no da tiempo a que la sociedad se adapte«, dijo Pichai en la entrevista con la CBS. Aseguró que la empresa busca mejores maneras de enfocar estos sistemas y que, por esto mismo, retrasó nuevas pruebas.
La firma de la ciudad californiana de Mountain View es, sin embargo, es uno de los actores principales en esta carrera. Se muestra más prudente que OpenAI o Microsoft. Bard, su modelo conversacional, fue lanzado en una versión de prueba mucho más limitada que ChatGPT.
Pero hasta los propios trabajadores de Google han advertido, por ejemplo, que el chatbot de IA fue presentado sin considerar su capacidad para generar contenido falso o peligroso.
«Siempre he visto a la IA como la tecnología más profunda en la que está trabajando la humanidad. Más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado», agregó el CEO de Google en la entrevista con la CBS, una afirmación que ya había dicho en el 2018 y en el 2021. Por eso, dudó que la sociedad esté lista para algunos sistemas de IA más potentes.
