Deepfake: Imagem gerada por IA que mostra uma realidade alterada e manipulação digital

O que é um Deepfake e como funciona?

A O deepfake é uma manipulação digital sofisticada que combina “aprendizagem profunda” e “falso”. Utilizando inteligência artificial (IA), os deepfakes alteram imagens, vídeos e áudio para criar conteúdos que parecem e soam reais – mas não são. Mas porque é que os deepfakes são criados e como é que esta tecnologia funciona realmente?

Os deepfakes baseiam-se em redes neurais, sistemas de IA modelados com base no cérebro humano. Quando treinadas com grandes conjuntos de dados de imagens, vídeos ou áudio, estas redes aprendem padrões e geram manipulações altamente realistas. Uma das redes neurais mais poderosas utilizadas é a Generative Adversarial Network (GAN).

Uma GAN consiste em dois algoritmos: um cria a falsificação (o falsificador) e o outro tenta detectá-la (o investigador). Através de iterações contínuas, o falsificador melhora, tornando o conteúdo cada vez mais realista – um processo designado por aprendizagem profunda.

Diferentes tipos de Deepfakes

As falsificações profundas assumem várias formas:

  • Troca de rosto: Substitui o rosto de uma pessoa por outro em imagens ou vídeos, muitas vezes para fins de entretenimento ou personificação.
  • Troca de voz: Manipula o áudio para imitar a voz de alguém. As versões avançadas sincronizam os movimentos labiais e faciais para maior realismo.
  • Fantoches corporais: Captura e replica os movimentos do corpo em tempo real para imitar os gestos ou acções de uma pessoa.

Porque é que os Deepfakes são perigosos?

Os deepfakes podem representar sérios riscos. Inicialmente explorados em 2017 para criar conteúdo adulto não consensual – principalmente visando mulheres – o volume de arquivos deepfake disparou desde então. De 500.000 em 2023 para uma estimativa de 8 milhões em 2025, esses arquivos de mídia manipulados por IA agora representam ameaças sem precedentes para empresas e indivíduos, tornando a deteção e a mitigação mais críticas do que nunca.

À medida que a IA avança, o desafio não é apenas a tecnologia – é a falta de ferramentas de deteção. Mesmo as competições que utilizam conjuntos de dados maciços e vários algoritmos têm dificuldade em detetar deepfakes com uma taxa de sucesso superior a 65%. Isto torna essencial a sensibilização para a cibersegurança e a monitorização proactiva.

Exemplos reais de utilização indevida do Deepfake

Os deepfakes tiveram consequências tangíveis em todo o mundo:

  • Gabão, 2018: Um vídeo manipulado do presidente Ali Bongo provocou agitação política e uma tentativa de golpe de Estado.
  • Caso Emma González: Os opositores alteraram o vídeo do discurso de uma sobrevivente para deturpar a sua mensagem.
  • Nancy Pelosi: Um vídeo foi editado para fazer com que a Presidente da Câmara parecesse confusa, ganhando milhões de visualizações apesar de ser falso.
  • Rana Ayyub: Uma jornalista foi alvo de um falso vídeo pornográfico para prejudicar a sua credibilidade.

Ferramentas populares de criação de Deepfake

  • DeepFaceLab: O software de código aberto mais utilizado para troca e manipulação facial (Windows e Linux).
  • Zao: Aplicação chinesa para smartphone para vídeos deepfake instantâneos, principalmente para entretenimento (Android e iOS, apenas na China).
  • FaceApp: Altera a idade, o sexo ou adiciona caraterísticas como tatuagens ou maquilhagem (Android e iOS). Os utilizadores têm de autorizar a partilha dos direitos de imagem.
  • Avatarify: Cria deepfakes ao vivo para chamadas de vídeo, imitando movimentos faciais em tempo real (Windows, Mac, Linux, iOS).

Como detetar um Deepfake

Identificar deepfakes pode ser complicado. Verifica cuidadosamente o contexto e procura os sinais comuns destacados pelo FBI:

  • Distorções visuais, desfocagem ou iluminação inconsistente
  • Colocação não natural dos olhos ou assimetria facial
  • Movimentos estranhos da cabeça ou do corpo
  • Problemas de sincronização labial entre a voz e os movimentos faciais
  • Fundos desfocados ou indistintos
  • Artefactos nas pupilas ou nos lóbulos das orelhas

Aplicações positivas da tecnologia Deepfake

Nem todos os deepfakes são prejudiciais. No domínio do entretenimento, a IA recriou o jovem Luke Skywalker em The Mandalorian e a Disney planeia utilizar deepfakes Disney Megapixel para novos filmes. No sector da educação, a Synthesia cria vídeos de e-learning orientados para a IA, utilizando avatares realistas. Os investigadores chegaram mesmo a animar a Mona Lisa, demonstrando as utilizações criativas e éticas da IA deepfake.

Proteger-se contra Deepfakes: Sensibilização para a cibersegurança

A formação do pessoal dota os funcionários das competências necessárias para detetar e responder a manipulações, salvaguardando a organização e a integridade digital. A formação proactiva reduz os riscos de deepfakes maliciosos, reforça as defesas e capacita os funcionários para agirem como guardiões vigilantes da autenticidade. Sabe mais sobre como proteger a tua organização contra ameaças impulsionadas por IA com a Human Risk Management Platform, que inclui Automated Security Awareness, Advanced Phishing Simulations, Risk Intelligence & Analytics e Compliance Management.

FAQ: Explicação sobre Deepfakes

O que é um deepfake?

Um deepfake é um áudio, imagem ou vídeo gerado por IA que manipula a realidade para fazer com que as pessoas pareçam dizer ou fazer coisas que nunca fizeram. É criado utilizando técnicas avançadas de aprendizagem automática, como redes neurais e GANs.