¿Cómo funciona un deepfake?
Los deepfakes se crean con redes neuronales generativas. Entre ellas destacan los autoencoders y las GANs (Generative Adversarial Networks).
El proceso tiene 3 pasos:
- Recopilación de datos: Se alimenta al modelo con cientos o miles de imágenes o vídeos de la persona en cuestión (como un político o una celebridad).
- Entrenamiento del modelo: Un modelo de deep learning aprende a replicar expresiones, movimientos faciales y la voz de la persona.
- Generación del deepfake: El sistema sustituye el rostro o la voz de alguien por la de otra persona, logrando una sincronización labial y gestual muy precisa.
Tipos de Deepfakes
- Vídeo: El más popular. Se intercambia el rostro de una persona por el de otra en movimiento.
- Audio: Imitan la voz de alguien para hacer que diga cosas que nunca pronunció.
- Imagen estática: Se crean fotos falsas, como selfies o retratos que no existen.
- Clonación de voz y avatar 3D: Utilizados para asistentes virtuales, IA conversacional o incluso engaños telefónicos (vishing).
¿Para qué se usan los deepfakes?
Usos legítimos:
- Cine y entretenimiento: rejuvenecimiento de actores, doblaje más realista.
- Educación e historia: recreaciones de personajes históricos.
- Marketing y videojuegos: avatares digitales o influencers virtuales.
Usos maliciosos:
- Estafas y fraudes: suplantación de identidad para engañar a empresas o individuos.
- Fake news: creación de vídeos falsos para manipular la opinión pública.
- Pornografía no consentida: uno de los usos más perjudiciales, especialmente hacia las mujeres.
- Extorsión: chantajes utilizando vídeos o audios manipulados.
¿Por qué son peligrosos los deepfakes?
- Suplantación de identidad
- Fraudes económicos y estafas empresariales
- Difusión de noticias falsas o manipulación política
- Extorsiones y chantajes con vídeos falsos
- Contenido sexual no consentido
¿Cómo podemos detectar un deepfake?
Aunque estos videos se están volviendo cada vez más sofisticados, hay algunas señales que nos pueden ayudar a identificarlos:
- Un parpadeo que parece anormal o poco natural.
- Inconsistencias en la iluminación o las sombras.
- Artefactos digitales que aparecen alrededor de la cara o el cabello.
- Desincronización entre los movimientos de los labios y el audio.
- Expresiones faciales que se ven forzadas o que se repiten.
Además, existen herramientas especializadas para la detección, muchas de las cuales utilizan inteligencia artificial para analizar patrones que son invisibles a simple vista.
¿Por qué representan una amenaza?
Los deepfakes representan una amenaza creciente para la privacidad, la seguridad y la verdad. Pueden:
- Dañar la reputación de personas o empresas.
- Influir en procesos electorales.
- Engañar a directivos o empleados (hay casos reales de fraude empresarial).
- Aumentar la desinformación a gran escala.
¿Está regulado el uso de los deepfakes?
En algunos países, como EE.UU, China y la UE, ya existen leyes o propuestas legislativas que sancionan el uso malicioso de deepfakes. En España, esto podría implicar delitos de suplantación de identidad, fraude o contra el honor, dependiendo de cómo se utilicen.
