Transformación digital: Métodos para identificar videos generados mediante Inteligencia Artificial

En la actualidad, los videos producidos mediante Inteligencia Artificial ya no constituyen una excepción. En las plataformas sociales aparecen secuencias que parecen auténticas, pero en realidad han sido creadas o alteradas digitalmente. La capacidad de diferenciarlos se ha reducido a medida que las herramientas de generación han evolucionado. Por ello, servicios como YouTube y Meta han implementado mecanismos para reconocer y señalar este tipo de material.

YouTube, por ejemplo, obliga a los autores a declarar el uso de IA cuando producen escenas verosímiles o modifican de forma sustancial imágenes de personas, hechos o lugares reales. No obstante, dichas etiquetas no siempre están presentes. Existen indicios visuales y auditivos que pueden asistirnos en la identificación de manipulaciones, aunque ninguno garantiza por sí solo que el contenido haya sido generado con Inteligencia Artificial.

¿Cómo reconocer un video generado por IA?

Uno de los primeros aspectos a inspeccionar son las manos, los dedos y los rostros. Los sistemas de creación de video aún presentan fallos en estos detalles, sobre todo cuando la persona realiza movimientos rápidos o interactúa con objetos. Cambios de forma en los dedos, accesorios que aparecen y desaparecen, dientes extraños o rasgos faciales que varían entre fotogramas pueden constituir pistas.

Asimismo, es relevante observar los desplazamientos corporales. En ciertos videos sintéticos, el cuerpo se mueve de manera plausible, pero la relación entre el sujeto y el entorno resulta extraña. Objetos que no respetan la perspectiva, sombras que no coinciden con la fuente lumínica o movimientos excesivamente fluidos pueden delatar una producción artificial.

El sonido constituye otro aspecto a evaluar. Una voz clonada puede aproximarse mucho a la de una persona real, pero pueden detectarse variaciones bruscas en la entonación, respiraciones artificiales, timbre robótico o desincronización entre labios y palabras. Esto resulta crítico cuando el video pretende hacer creer que una persona pronunció algo que nunca dijo.

Los textos también pueden revelar la intervención de un generador. Carteles, marcas, nombres de establecimientos o subtítulos con tipografía distorsionada, palabras que cambian o símbolos incoherentes son señales de alerta. Si el material presenta errores en estos componentes, es prudente sospechar.

Cabe señalar que no existe una señal visual única. Los modelos actuales pueden corregir muchos de esos fallos y una observación superficial puede inducir a error. Por ello, resulta esencial combinar la inspección visual con la información disponible sobre el origen del archivo.

Etiquetas que indican la procedencia de IA en un video

Diversas plataformas han comenzado a integrar herramientas para informar el origen de los contenidos. En YouTube, los autores deben declarar el empleo de IA cuando un video realista ha sido generado o alterado de manera significativa. Cuando corresponde, la plataforma muestra una etiqueta que avisa al espectador sobre el uso de material sintético o modificado. YouTube también puede asignar una etiqueta de forma automática.

Para ello emplea, entre otros recursos, los metadatos C2PA, sus propios algoritmos de detección y la información de contenidos creados con herramientas de IA propias. C2PA es un estándar diseñado para proporcionar datos sobre la procedencia y el historial de un activo digital. Sus Credenciales de Contenido permiten incrustar información verificable acerca de cómo fue creado o modificado un archivo.

En las plataformas de Meta también existe un sistema de identificación. Facebook e Instagram pueden mostrar una etiqueta de “Información de IA” cuando detectan indicios asociados con herramientas de Inteligencia Artificial o cuando el propio usuario indica haber utilizado IA. Meta colabora con estándares como C2PA para perfeccionar la detección de estos contenidos.

Google adopta mecanismos análogos. En agosto permitió ocultar marcas de agua visibles de los contenidos generados con Gemini y Flow, manteniendo señales invisibles como SynthID y metadatos C2PA para facilitar su identificación.

Un aspecto crucial es que la ausencia de etiqueta no garantiza autenticidad. Las plataformas pueden no detectar una alteración, sobre todo si el contenido se produce con una herramienta que no inserta señales identificables o si perdió sus metadatos al ser descargado y editado.

Un fenómeno que ha inundado las redes sociales

Así como la expansión de los videos generados por IA ha transformado la circulación de contenidos en las plataformas, también debería modificar nuestro criterio frente a dichos materiales. Una escena artificial puede descargarse, recortarse, republicarse y difundirse innumerables veces sin que el receptor conozca su procedencia.

El riesgo se intensifica cuando el material muestra a una persona real realizando o diciendo algo que nunca ocurrió. Por ello, es fundamental mantenerse bien informado.

Meta reconoce que el crecimiento de estos recursos ha dificultado cada vez más distinguir lo auténtico de lo sintético. En julio, la empresa señaló que el contenido generado por IA es cada vez más realista y que colabora con otras compañías para desarrollar mecanismos de identificación útiles y compatibles entre distintas plataformas.

Por consiguiente, antes de compartir un video, conviene verificar su origen, localizar la publicación original, revisar las etiquetas de IA y corroborar si medios o cuentas de confianza han publicado información sobre el mismo hecho.

Fuente: Ambito.com