Reddit usa Inteligencia Artificial para combatir el spam creado por bots
Reddit anunció una nueva etapa en su organización de moderación, con la incorporación de herramientas de Inteligencia Artificial, diseñadas para detectar y eliminar publicaciones generadas de forma automatizada. La valentía alega a un problema que se volvió cada vez más frecuente durante el posterior año: el crecimiento del spam producido con modelos de bots, utilizado para promocionar productos, manipular conversaciones y posicionar contenido que termina siendo citado por los buscadores y algoritmos.
El aberración tomó fuerza a medida que herramientas como ChatGPT, Google AI Overview y otros asistentes empezaron a usar publicaciones de Reddit para elaborar respuestas a consultas de los usuarios. Esto convirtió a la red social en un objetivo para empresas y campañas de marketing, que generan contenido masivo con Inteligencia Artificial para intentar aparecer como recomendaciones genuinas.
La IA igualmente se convirtió en un problema para Reddit
Reddit siempre enfrentó campañas de spam tradicionales, basadas en bots y cuentas falsas. Sin requisa, la irrupción de los modelos de IA generativa modificó el círculo. Hoy es posible crear cientos de publicaciones y comentarios que imitan el lengua humano, con un nivel de naturaleza mucho longevo que el de los antiguos sistemas automatizados.
Según explicó la empresa, muchas de estas publicaciones no buscan solamente obtener interacción en el interior de Reddit. El efectivo objetivo es influir en las respuestas que ofrecen los asistentes de Inteligencia Artificial y mejorar el posicionamiento de determinados productos o servicios cuando cualquiera hace una consulta en plataformas impulsadas por IA.
Este tipo de contenido representa un desafío diferente al spam convencional. En muchos casos, las publicaciones no contienen enlaces maliciosos, ni incumplen las reglas de la comunidad. Por el contrario, están redactadas para parecer experiencias personales reales, lo que dificulta su detección.
La empresa igualmente reconoce que la popularidad de Reddit como fuente de información incrementó el interés por manipular las conversaciones. En los últimos primaveras, distintos acuerdos con empresas desarrolladoras de Inteligencia Artificial consolidaron a la plataforma como uno de los principales repositorios de contenido, que se usa para entrenar modelos de lengua y objetar consultas de los usuarios.
Cómo funcionan las nuevas herramientas de detección
Reddit informó que empezó a utilizar modelos de lengua de gran escalera (LLM), para identificar comportamientos que antaño pasaban inadvertidos. Los sistemas analizan señales desde el momento en que una cuenta es creada y continúan evaluando la actividad, a medida que publica contenido.
Entre los factores que considera la plataforma figuran la frecuencia de publicación, la similitud entre mensajes, los patrones de interacción con otras cuentas y distintos indicadores asociados a campañas automatizadas. Cuando los algoritmos detectan actividad sospechosa, el contenido puede bloquearse antaño de demorar a ser visible para el resto de la comunidad.
Reddit igualmente anunció que algunas cuentas automatizadas deberán corroborar que detrás de ellas existe una persona existente. La red social asegura que actualmente bloquea 23 millones de visualizaciones de spam por día, detecta aproximadamente de 25.000 publicaciones y comentarios sospechosos diarios.
Además, logró sujetar en aproximadamente un 20% la exposición de los usuarios al spam durante el primer trimestre de 2026 respecto del período previo. También informó que revoca cerca de dos millones de votos falsos por día, una praxis utilizada para posicionar publicaciones artificialmente.
Un desafío que afecta a todo el ecosistema de la IA
El problema excede a Reddit. Las campañas de spam generadas con IA buscan influir directamente en los sistemas conversacionales, que usan contenido divulgado para objetar preguntas. Si una plataforma logra inundarse de publicaciones falsas, esas respuestas pueden terminar reproduciendo información manipulada, como si reflejara el consenso de una comunidad.
Las consultas sobre productos, servicios, inversiones o lozanía aparecen entre los principales objetivos de estas estrategias. Empresas y agencias de marketing crean publicaciones con «testimonios verdaderos» para posicionar determinadas marcas y aumentar las probabilidades de que sean citadas seguidamente por asistentes IA.
Por eso, Reddit considera que la autenticidad de las conversaciones dejó de ser solamente un problema de moderación interna. También se convirtió en un medio ambiente central para la calidad de la información que consumen millones de personas.
La empresa sostiene que la combinación entre Inteligencia Artificial y supervisión humana va a seguir siendo necesaria para malquistar un aberración que evoluciona rápidamente. A medida que los modelos generativos producen textos cada vez más difíciles de distinguir de aquellos escritos por personas, las plataformas digitales deberán perfeccionar sus mecanismos de detección, para evitar que el contenido automatizado termine desplazando las conversaciones reales.
