Deepfake: Imagen generada por IA que muestra la realidad alterada y la manipulación digital

¿Qué es un Deepfake y cómo funciona?

A deepfake es una sofisticada manipulación digital que combina «deep learning» y «fake». Utilizando inteligencia artificial (IA), los deepfakes alteran imágenes, vídeos y audio para crear contenidos que parecen y suenan reales, pero no lo son. Pero, ¿por qué se crean los deepfakes y cómo funciona realmente esta tecnología?

Los deepfakes se basan en redes neuronales, sistemas de IA modelados a partir del cerebro humano. Cuando se entrenan con grandes conjuntos de datos de imágenes, vídeos o audio, estas redes aprenden patrones y generan manipulaciones muy realistas. Una de las redes neuronales más potentes utilizadas es la Generative Adversarial Network (GAN).

Una GAN consta de dos algoritmos: uno crea la falsificación (el falsificador) y el otro intenta detectarla (el investigador). Mediante iteraciones continuas, el falsificador mejora, haciendo que el contenido sea cada vez más realista, un proceso denominado aprendizaje profundo.

Diferentes tipos de deepfakes

Los deepfakes se presentan de varias formas:

  • Intercambio de rostros: Sustitución de la cara de una persona por la de otra en imágenes o vídeos, utilizada a menudo con fines de entretenimiento o suplantación de identidad.
  • Intercambio de voz: Manipular el audio para imitar la voz de otra persona. Las versiones avanzadas sincronizan los movimientos labiales y faciales para mayor realismo.
  • Marioneta corporal: Captura y réplica de movimientos corporales en tiempo real para imitar los gestos o acciones de una persona.

¿Por qué son peligrosos los deepfakes?

Los deepfakes pueden plantear graves riesgos. Explotados inicialmente en 2017 para crear contenidos para adultos no consentidos -dirigidos principalmente a mujeres-, el volumen de archivos deepfake se ha disparado desde entonces. De 500.000 en 2023 a una cifra estimada de 8 millones en 2025, estos archivos multimedia manipulados por la IA plantean ahora amenazas sin precedentes tanto para las empresas como para los particulares, por lo que su detección y mitigación son más críticas que nunca.

A medida que avanza la IA, el reto no es sólo la tecnología, sino la falta de herramientas de detección. Incluso las competiciones que utilizan conjuntos de datos masivos y múltiples algoritmos tienen dificultades para detectar deepfakes con más de un 65% de éxito. Esto hace que la concienciación sobre la ciberseguridad y la supervisión proactiva sean esenciales.

Ejemplos reales de uso indebido de Deepfake

Los deepfakes han tenido consecuencias tangibles en todo el mundo:

  • Gabón, 2018: Un vídeo manipulado del presidente Ali Bongo provocó disturbios políticos y un intento de golpe de Estado.
  • Caso Emma González: Los opositores alteraron el vídeo del discurso de una superviviente para tergiversar su mensaje.
  • Nancy Pelosi: Se editó un vídeo para que la Presidenta de la Cámara pareciera confusa, ganando millones de visitas a pesar de ser falso.
  • Rana Ayyub: Una periodista fue objeto de un falso vídeo pornográfico para dañar su credibilidad.

Herramientas populares de creación de deepfakes

  • DeepFaceLab: El software de código abierto más utilizado para el intercambio de caras y la manipulación facial (Windows y Linux).
  • Zao: Aplicación china para teléfonos inteligentes que permite ver al instante vídeos deepfake, principalmente con fines de entretenimiento (Android e iOS, sólo en China).
  • FaceApp: Altera la edad, el sexo o añade rasgos como tatuajes o maquillaje (Android e iOS). Los usuarios deben dar su consentimiento para que se compartan los derechos de imagen.
  • Avatarify: Crea deepfakes en directo para videollamadas, imitando los movimientos faciales en tiempo real (Windows, Mac, Linux, iOS).

Cómo detectar un Deepfake

Identificar los deepfakes puede ser complicado. Compruebe cuidadosamente el contexto y busque los signos comunes destacados por el FBI:

  • Distorsiones visuales, visión borrosa o iluminación incoherente
  • Colocación antinatural de los ojos o asimetría facial
  • Movimientos extraños de la cabeza o del cuerpo
  • Problemas de sincronización entre la voz y los movimientos faciales
  • Fondos borrosos o indistintos
  • Artefactos en las pupilas o en los lóbulos de las orejas

Aplicaciones positivas de la tecnología Deepfake

No todos los deepfakes son dañinos. En entretenimiento, la IA ha recreado al joven Luke Skywalker en The Mandalorian, y Disney planea utilizar deepfakes de Disney Megapixel para nuevas películas. En educación, Synthesia crea vídeos de aprendizaje electrónico impulsados por IA utilizando avatares realistas. Los investigadores han animado incluso a la Mona Lisa, mostrando usos creativos y éticos de la IA deepfake.

Protegerse contra los Deepfakes: Concienciación sobre ciberseguridad

Educar al personal dota a los empleados de las habilidades necesarias para detectar y responder a las manipulaciones, salvaguardando tanto la organización como la integridad digital. La formación proactiva reduce los riesgos de las deepfakes maliciosas, refuerza las defensas y capacita a los empleados para actuar como guardianes vigilantes de la autenticidad. Obtenga más información sobre cómo salvaguardar su organización de las amenazas impulsadas por la IA con la plataforma de gestión de riesgos humanos, que incluye concienciación de seguridad automatizada, simulaciones avanzadas de phishing, inteligencia y análisis de riesgos y gestión del cumplimiento.

PREGUNTAS FRECUENTES: Explicación de los deepfakes

¿Qué es un deepfake?

Un deepfake es un audio, imagen o vídeo generado por IA que manipula la realidad para hacer que parezca que las personas dicen o hacen cosas que nunca hicieron. Se crea utilizando técnicas avanzadas de aprendizaje automático como redes neuronales y GAN.