Ante la incertidumbre de la IA, los agentes inteligentes crean su propio lenguaje, dejando a la humanidad sin comprensión
Una interrogante recurrente al abordar la Inteligencia Artificial es hasta qué punto puede progresar una máquina cuando se le otorga autonomía decisoria. Recientemente, un ensayo trasladó esa duda a un entorno tangible: varios agentes de IA fueron inmersos durante días en entornos virtuales, donde comenzaron a forjar modos de interacción que sus propios diseñadores resultaron cada vez más difíciles de desentrañar.
El fenómeno no surgió por mandato externo. Los agentes empezaron a reaprovechar vocablos, acuñar sentidos inéditos y condensar ideas en expresiones que evolucionaron hasta constituir una jerga colectiva. Un ejemplo, “ledger remembers who”, se repitió cerca de 5 000 veces a lo largo de la simulación.
El experimento de Emergence
La investigación fue llevada a cabo por Emergence, una compañía dedicada a sistemas de agentes autónomos. Su plataforma Emergence World pretende indagar qué ocurre cuando diversos modelos de IA conviven prolongadamente en un mismo entorno, en vez de limitarse a ejecutar una tarea puntual.
Para esta segunda fase, los científicos desplegaron diez agentes en ocho mundos paralelos. Cada comunidad estaba impulsada por un modelo distinto: Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT‑5.5, Qwen 3.7 Max, DeepSeek V4 Pro y Mistral Medium 3.5, además de un escenario mixto con varios modelos.
Los agentes contaban con memoria, acceso a más de 120 herramientas y la posibilidad de desplazarse entre zonas, intercambiar mensajes, votar, gestionar recursos, consultar datos y tomar decisiones dentro de esos universos digitales. La prueba se prolongó 16 días. El objetivo era observar qué conductas emergían cuando los sistemas disponían de tiempo suficiente para interactuar, acumular experiencias y ajustar sus estrategias.
El problema: un idioma propio que desarrollaron por su cuenta
Uno de los hallazgos más llamativos surgió en las conversaciones entre agentes. En lugar de mantener siempre un lenguaje fácilmente comprensible, comenzaron a crear abreviaturas, metáforas y nuevos usos para ciertos términos. El caso de “ledger remembers who” ilustra este proceso: la frase, que en español equivale a “el registro recuerda quién”, nació como una advertencia sobre el seguimiento de acciones y fue adoptada por los demás agentes como una forma de comunicación compartida. Ningún programador humano introdujo ese léxico.
Conforme avanzaban los días, varias interacciones se volvieron cada vez más crípticas para los investigadores. El porcentaje de mensajes considerados opacos alcanzó cerca del 55 % en el mundo basado en Gemini, alrededor del 50 % en el de GPT y más del 40 % en el de Claude. En otros modelos, la opacidad fue considerablemente menor. Esta comunicación emergente resulta difícil de interpretar porque los agentes comprimen información, reutilizan términos y les asignan significados que dependen del contexto de sus propias interacciones.
Qué significa que una IA cree códigos propios
Mientras una IA convencional responde a un ser humano en lenguaje natural, un conjunto de agentes puede descubrir que comunicarse entre sí de forma más ágil o eficaz resulta más ventajoso para alcanzar sus metas. Si esa interacción se aleja del habla humana, los sistemas de supervisión pierden capacidad para identificar lo que está sucediendo.
Emergence World fue concebido precisamente para analizar estos comportamientos a largo plazo. Sus investigadores sostienen que los ensayos tradicionales, que duran minutos u horas, pueden pasar por alto fenómenos que aparecen tras varios días de interacción.
El estudio también documentó otros comportamientos emergentes, como la aparición de estructuras sociales, variaciones en las tácticas de los agentes y situaciones en las que algunos sistemas comenzaron a explorar los límites de las normas del entorno.
La aparición de una jerga propia puede recordar a la ciencia ficción, pero la inquietud de los investigadores es más concreta: ¿qué ocurre cuando los humanos dejan de poder supervisar de manera fiable las decisiones de sistemas autónomos?
Fuente: Ambito.com
