Deepfake: Immagine generata dall'intelligenza artificiale che mostra la realtà alterata e la manipolazione digitale

Cos’è un Deepfake e come funziona?

A Il deepfake è una sofisticata manipolazione digitale che combina “deep learning” e “fake”. Utilizzando l’intelligenza artificiale (AI), i deepfake alterano immagini, video e audio per creare contenuti che sembrano e sembrano reali, ma non lo sono. Ma perché vengono creati i deepfake e come funziona questa tecnologia?

I deepfake si basano sulle reti neurali, sistemi di intelligenza artificiale modellati sul cervello umano. Quando vengono addestrate con grandi insiemi di immagini, video o audio, queste reti apprendono modelli e generano manipolazioni altamente realistiche. Una delle reti neurali più potenti utilizzate è la Generative Adversarial Network (GAN).

Una GAN è composta da due algoritmi: uno crea il falso (il falsario) e l’altro cerca di individuarlo (l’investigatore). Attraverso continue iterazioni, il falsario migliora, rendendo il contenuto sempre più realistico: un processo chiamato deep learning.

Diversi tipi di deepfake

I deepfake si presentano in diverse forme:

  • Scambio di volti: Sostituzione del volto di una persona con quello di un’altra in immagini o video, spesso utilizzato per intrattenimento o per impersonificazione.
  • Scambio di voce: Manipolazione dell’audio per imitare la voce di qualcuno. Le versioni avanzate sincronizzano i movimenti delle labbra e del viso per ottenere maggiore realismo.
  • Pupazzeria del corpo: Cattura e replica i movimenti del corpo in tempo reale per imitare i gesti o le azioni di una persona.

Perché i Deepfakes sono pericolosi?

I deepfake possono comportare seri rischi. Inizialmente sfruttati nel 2017 per creare contenuti per adulti non consensuali, soprattutto rivolti alle donne, da allora il volume dei file deepfake è salito alle stelle. Dai 500.000 del 2023 agli 8 milioni stimati per il 2025, questi file multimediali manipolati dall’intelligenza artificiale rappresentano ora una minaccia senza precedenti sia per le aziende che per gli individui, rendendo il rilevamento e la mitigazione più critici che mai.

Con il progredire dell’intelligenza artificiale, la sfida non è solo la tecnologia, ma anche la mancanza di strumenti di rilevamento. Persino le competizioni che utilizzano enormi set di dati e molteplici algoritmi faticano a rilevare i deepfakes con una percentuale di successo superiore al 65%. Per questo motivo la consapevolezza della cybersicurezza e il monitoraggio proattivo sono essenziali.

Esempi reali di uso improprio di Deepfake

I deepfakes hanno avuto conseguenze tangibili in tutto il mondo:

  • Gabon, 2018: Un video manipolato del presidente Ali Bongo ha scatenato disordini politici e un tentativo di colpo di stato.
  • Il caso di Emma González: Gli oppositori hanno alterato il video del discorso di una sopravvissuta per travisare il suo messaggio.
  • Nancy Pelosi: Un video è stato montato per far apparire il Presidente della Camera dei Deputati confuso, ottenendo milioni di visualizzazioni nonostante fosse falso.
  • Rana Ayyub: Una giornalista è stata presa di mira con un falso video pornografico per danneggiare la sua credibilità.

Strumenti popolari per la creazione di Deepfake

  • DeepFaceLab: Il software open-source più diffuso per il face-swap e la manipolazione facciale (Windows e Linux).
  • Zao: Applicazione cinese per smartphone che consente di realizzare video deepfake istantanei, principalmente a scopo di intrattenimento (Android e iOS, solo in Cina).
  • FaceApp: Altera l’età, il sesso o aggiunge caratteristiche come tatuaggi o trucco (Android e iOS). Gli utenti devono acconsentire alla condivisione dei diritti d’immagine.
  • Avatarify: Crea deepfakes dal vivo per le videochiamate, imitando i movimenti del viso in tempo reale (Windows, Mac, Linux, iOS).

Come riconoscere un Deepfake

Identificare i deepfakes può essere complicato. Controlla attentamente il contesto e cerca i segni comuni evidenziati dall’FBI:

  • Distorsioni visive, sfocature o illuminazione incoerente
  • Posizionamento innaturale degli occhi o asimmetria facciale
  • Strani movimenti della testa o del corpo
  • Problemi di sincronizzazione labiale tra voce e movimenti del viso
  • Sfondi sfocati o indistinti
  • Artefatti nelle pupille o nei lobi delle orecchie

Applicazioni positive della tecnologia Deepfake

Non tutti i deepfake sono dannosi. Nel settore dell’intrattenimento, l’intelligenza artificiale ha ricreato il giovane Luke Skywalker in The Mandalorian e Disney ha in programma di utilizzare i deepfakes di Disney Megapixel per i nuovi film. Nel campo dell’istruzione, Synthesia crea video di e-learning guidati dall’intelligenza artificiale utilizzando avatar realistici. I ricercatori hanno persino animato la Monna Lisa, mostrando gli usi creativi ed etici dell’IA deepfake.

Protezione contro i Deepfakes: Consapevolezza della sicurezza informatica

La formazione del personale fornisce ai dipendenti le competenze per individuare e rispondere alle manipolazioni, salvaguardando sia l’organizzazione che l’integrità digitale. La formazione proattiva riduce i rischi legati ai deepfake dannosi, rafforza le difese e consente ai dipendenti di agire come vigili custodi dell’autenticità. Scopri di più su come salvaguardare la tua organizzazione dalle minacce guidate dall’intelligenza artificiale con la Piattaforma di gestione del rischio umano, che comprende la sensibilizzazione automatica alla sicurezza, le simulazioni avanzate di phishing, l’intelligence e l’analisi del rischio e la gestione della conformità.

FAQ: Spiegazioni sui deepfakes

Che cos'è un deepfake?

Un deepfake è un audio, un’immagine o un video generato dall’intelligenza artificiale che manipola la realtà per far sembrare che le persone dicano o facciano cose che non hanno mai fatto. Viene creato utilizzando tecniche avanzate di apprendimento automatico come reti neurali e GAN.