Definición:
Un deepfake es una imagen, un vídeo o un audio generado o alterado mediante inteligencia artificial para representar de forma verosímil a personas o situaciones que no se corresponden con la grabación de un hecho real. Puede hacer que alguien aparente decir o hacer algo que no dijo ni hizo, o construir una identidad ficticia.
El término combina deep learning, aprendizaje profundo, y fake, falso. Describe el contenido sintético o manipulado, no una única técnica. Su uso puede ser creativo y consentido, o servir para engañar y suplantar identidades.
Índice de contenidos
Historia y evolución de los deepfakes
La manipulación de fotografías, películas y grabaciones existe desde antes de la inteligencia artificial. El aprendizaje profundo amplió la capacidad de aprender rasgos visuales y sonoros a partir de ejemplos y utilizarlos para generar nuevas representaciones.
Durante la segunda mitad de la década de 2010 se popularizaron herramientas de intercambio de rostros y vídeos manipulados difundidos en foros y redes sociales. Entre sus usos estuvieron los montajes con celebridades y la creación de contenido íntimo sin consentimiento.
La evolución de la IA generativa extendió estas posibilidades a la clonación de voz, la sincronización de labios y la generación de imágenes y vídeos. No existe una única arquitectura responsable de todos los deepfakes: se han utilizado autoencoders, redes generativas antagónicas y modelos de difusión, entre otras técnicas.
Cómo funcionan los deepfakes
Los sistemas aprenden patrones a partir de datos y los utilizan para sintetizar o transformar contenido. El resultado depende del modelo, del material de referencia y del procesamiento posterior; no todos necesitan las mismas cantidades de datos ni un entrenamiento específico para cada persona.
En una red generativa antagónica, o GAN, un generador produce muestras y un discriminador aprende a distinguirlas de las reales durante el entrenamiento. El discriminador no es un editor que corrija directamente cada imperfección del vídeo. Otros sistemas emplean procesos distintos y no incorporan esa pareja de componentes.
Entre las transformaciones habituales se encuentran el intercambio de rostros, la recreación de expresiones, la clonación de una voz y la sincronización de movimientos labiales con un audio. Pueden combinarse, pero modificar un rostro no implica reproducir también la voz de esa persona.
Los deepfakes forman parte del ámbito de la IA generativa, aunque no todo contenido generado por IA es un deepfake. Un gráfico sintético o una voz artificial genérica no suponen necesariamente una suplantación ni una representación que pueda confundirse con una grabación real.
Aplicaciones de los deepfakes
Las técnicas de síntesis y modificación de identidades pueden utilizarse en distintos ámbitos. Su consideración depende del contenido, del consentimiento y de cómo se presenta al público:
- Entretenimiento y cine: modificación de la apariencia de intérpretes, recreaciones y doblaje audiovisual. No todo efecto visual constituye un deepfake.
- Videojuegos: reproducción de apariencias o voces con autorización. Crear un personaje completamente estilizado no equivale por sí solo a generar un deepfake.
- Publicidad y marketing: adaptación de piezas a otros idiomas o mercados y uso autorizado de imágenes o voces. No debe confundirse una recreación con un testimonio real del producto.
- Educación y formación: reconstrucciones audiovisuales y simulaciones, identificadas como tales para no atribuirles valor documental.
- Atención al cliente: reproducción autorizada de una identidad vocal en interfaces conversacionales. Una voz sintética que no imita a una persona concreta no es necesariamente un deepfake.
- Investigación: creación de muestras manipuladas para estudiar la percepción o evaluar detectores. No todos los conjuntos de datos sintéticos pertenecen a esta categoría.
Las mismas capacidades pueden emplearse para desinformar, acosar o cometer fraudes. La técnica utilizada no determina por sí sola si un uso es legítimo.
Cómo identificar deepfakes
No existe una señal visual o una herramienta que permita resolver todos los casos. La comprobación puede combinar distintas fuentes de evidencia:
- Origen y contexto: localizar la publicación inicial, revisar quién la difunde y contrastar el supuesto hecho con otras fuentes independientes.
- Metadatos y procedencia: examinar la información disponible sobre creación y edición. Los metadatos pueden perderse o modificarse; su ausencia no demuestra que un archivo sea falso.
- Imagen y movimiento: observar inconsistencias entre rostro, iluminación, contornos o movimientos. La compresión y otros procesos legítimos también pueden producir anomalías.
- Audio y sincronización: revisar cortes, cambios de voz o desajustes labiales. El doblaje y los problemas de transmisión pueden explicar algunos de ellos.
- Detectores automáticos: utilizar sus resultados como indicios, considerando falsos positivos, falsos negativos y diferencias entre los materiales con los que se entrenaron y los que analizan.
- Análisis combinado: reunir resultados técnicos, fuentes originales y revisión especializada cuando la importancia del caso lo justifique.
Las credenciales de contenido basadas en C2PA permiten asociar información firmada sobre la procedencia y las modificaciones de un archivo. Aportan trazabilidad, pero no certifican por sí solas que lo representado haya sucedido realmente. Tampoco la ausencia de credenciales demuestra manipulación.
Un parpadeo extraño o una voz poco natural pueden justificar una revisión, pero no son pruebas concluyentes. Del mismo modo, que un vídeo parezca convincente no acredita su autenticidad.
Impacto de los deepfakes en la sociedad y la cultura
Los deepfakes pueden afectar a la reputación, la privacidad y la confianza en las pruebas audiovisuales. Entre los usos perjudiciales se encuentran la difusión de declaraciones inventadas, la suplantación en llamadas o videollamadas y la creación de imágenes íntimas sin consentimiento.
En los fraudes, una voz o un rostro reconocible pueden utilizarse para dar credibilidad a una petición de dinero o información. La apariencia de familiaridad no demuestra quién controla realmente la comunicación.
También existe el riesgo de que una grabación auténtica se desacredite alegando que fue generada por IA. Por ello, la evaluación no debe partir de que todo contenido sea falso ni de que toda imagen convincente sea verdadera.
El consentimiento de las personas representadas, la identificación del contenido sintético y la posibilidad de contrastar su procedencia son aspectos relevantes para valorar estos usos. Las obligaciones legales dependen del territorio y del contexto; la mera existencia de una herramienta no autoriza cualquier utilización de la imagen o la voz ajenas.