Ricordate ancora le parole di Barack Obama: "Il presidente Trump è un totale e completo idiota!"? Una provocazione, non si è abituati a simili dichiarazioni da parte dell'ex presidente degli Stati Uniti. Ma l'ha detto davvero? Certo che no. Questo video è un cosiddetto deepfake ed è stato creato da Jordan Peele per mostrare quanto possa essere pericoloso un fake di questo tipo.1 Ma andiamo un po' più a fondo nella questione.
Deepfake è un neologismo composto da "deep learning" e "fake". Descrive un metodo di manipolazione di immagini, video o formati audio (con l'aiuto dell'intelligenza artificiale) in modo tale che l'occhio o l'orecchio umano possano difficilmente percepire i falsi. Ma qual è esattamente lo scopo di un deepfake e come viene generato?
Per creare un deepfake si utilizzano le cosiddette reti neurali. Queste reti agiscono in modo simile al cervello umano e, dato un set di dati elevato, sono in grado di prevedere come potrebbero apparire altri dati dello stesso tipo. Pertanto, se si alimentano queste reti con un numero sufficiente di immagini, video e contenuti audio, diventano sempre più brave e creano manipolazioni di qualità superiore.
Una rete neurale molto efficace è la GAN. È stata menzionata per la prima volta in un articolo scientifico di Ian Goodfellow nel 2014. Nel corso degli anni, diversi ricercatori hanno continuato a espandere queste reti e a combinarle tra loro. Di conseguenza, i falsi sono diventati di qualità superiore e più credibili. Ma prima definiamo cos'è una GAN.
Una GAN - acronimo di Generative Adversarial Networks - è una rete composta da due algoritmi. Un algoritmo falsifica un'immagine (falsario), mentre l'altro algoritmo cerca di individuare la falsificazione (investigatore). Se l'investigatore riesce a identificare il falso, il falsario impara da esso e migliora costantemente. Questo processo è chiamato anche apprendimento profondo.
Quali tipi di deepfake esistono?
Il primo tipo, probabilmente il più diffuso, è lo scambio di volti in immagini o video, il cosiddetto face-swapping. In questo caso, le teste di personaggi famosi vengono solitamente prese e inserite in un contesto diverso.
Un metodo simile è il voice swapping. Come suggerisce il nome, le voci o i contenuti audio generali vengono manipolati per sembrare una persona specifica. Questo metodo può essere ulteriormente sviluppato con la manipolazione delle espressioni facciali, in modo che le parole pronunciate corrispondano al movimento delle labbra e ai movimenti del viso.
Infine, c'è il body puppetry. Qui i movimenti del corpo vengono analizzati e possono essere imitati in tempo reale.
Perché i deepfake sono così pericolosi?
Quando la tecnologia è stata avviata nel 2014, è stata costantemente ampliata e migliorata. Nel 2017, la tecnologia ha raggiunto il punto in cui è stato possibile produrre i primi video. Questo ha portato gli utenti di Internet a sfruttare i deepfake per la manipolazione di contenuti pornografici, resi disponibili per la prima volta sulla piattaforma Internet Reddit. Questi video consistevano in celebrità ritratte in pose compromettenti. Secondo uno studio di Sensity (allora noto come Deeptrace), il 96% di tutti i video deepfake del 2019 erano pornografici e riguardavano esclusivamente donne.2
"Lo sviluppo di un'intelligenza artificiale completa potrebbe segnare la fine della razza umana"
- Stephen Hawking
Con il tempo e il continuo sviluppo del processo di deep learning, sono stati creati sempre più canali YouTube per ingannare. I falsi di politici, attori e altri personaggi pubblici hanno iniziato a vedere la luce. Dal 2018 al 2020, il numero di video falsi è raddoppiato ogni sei mesi, raggiungendo più di 85.000 nel dicembre 2020.3
Hao Li, un esperto di deepfake, ha avvertito che presto non saremo più in grado di identificare i deepfake come falsi. Il problema, tuttavia, non è la tecnologia in sé, ma la mancanza di mezzi per riconoscere questi falsi. "I deepfake saranno perfetti tra due o tre anni", ha dichiarato Li.4
La verità di questa affermazione è rivelata da un concorso di programmazione avviato da Facebook AI nel 2019. Il gruppo ha sviluppato un set di dati di 124.000 video, 8 algoritmi di modifica dei volti e documenti di ricerca associati. Ma anche i migliori concorrenti hanno raggiunto un tasso di rilevamento di poco superiore al 65%.
"Questo risultato rafforza l'importanza di imparare a generalizzare ad esempi imprevisti quando si affrontano le sfide del rilevamento di deepfake", ha spiegato un portavoce di Facebook AI.5
Esempio di uso improprio dei deepfake
L'entità dei danni che i deepfakes possono causare può essere illustrata, tra gli altri esempi, da un caso avvenuto in Gabon nel 2018. Il presidente Ali Bongoche non era più sotto gli occhi di tutti da molto tempo e che alcuni ritenevano morto, ha pubblicato un video di un discorso. Gli oppositori politici hanno definito il video un deepfake, scatenando un tentativo di colpo di Stato da parte dei militari.
TW: Violenza su bambini/ragazzi
Un altro caso spaventoso è raccontato da X Gonzálesuna convinta sostenitrice di leggi più severe sulle armi negli Stati Uniti. Gonzáles è una sopravvissuta al massacro della scuola di Parkland e si è guadagnata il riconoscimento internazionale per il suo emozionante discorso alla cerimonia commemorativa seguita all'evento. Gli oppositori di ulteriori leggi sulle armi hanno diffamato Gonzáles in un video che la ritrae mentre strappa la Costituzione americana. Nel video originale, la Gonzáles strappa un bersaglio.
Un video prodotto sulla democratica statunitense, Nancy Pelosidimostra l'abilità del voice swapping. I sostenitori di Trump, e quindi i concorrenti della presidente della Camera dei Rappresentanti, hanno montato un video per farla apparire ubriaca e un po' confusa. Il fake è stato cliccato milioni di volte, nonostante Nancy Pelosi non beva alcolici.
TW: Voci sessualizzate
Il prossimo scandalo in questione Rana Ayyub. La giornalista indiana ha fatto un commento sul partito nazionalista BJP, accusandolo di difendere i pedofili. Di conseguenza, nel tentativo di minare la sua credibilità, è stato girato un falso film porno su di lei da parte di chi criticava le sue azioni.
Quali sono le app disponibili per creare deepfakes?
DeepFaceLab: Probabilmente l'applicazione open-source più conosciuta è DeepFaceLab. Secondo gli sviluppatori dell'applicazione, il 95% di tutti i video deepfake sono generati con DeepFaceLab. L'applicazione consente di scambiare volti o intere teste, di modificare l'età di una persona o di regolare i movimenti delle labbra di estranei. DeepFaceLab è disponibile per Windows e Linux.
Zao: A differenza di DeepFaceLab, Zao è un'applicazione per smartphone. Originaria della Cina, l'applicazione estremamente popolare crea video deepfake in pochi secondi ed è orientata all'intrattenimento. Finora, tuttavia, l'applicazione è disponibile solo in Cina (o per chi ha un numero di telefono cinese) su Android e iOS. Recentemente l'app è stata criticata per la sua discutibile politica sulla privacy. Gli utenti rinunciano a tutti i diritti sulle proprie immagini e sui propri video quando utilizzano l'app.
FaceApp: L'applicazione ha guadagnato sempre più popolarità nel 2019. Offre numerose funzioni come il ringiovanimento o l'invecchiamento, l'aggiunta di barba, trucco, tatuaggi, acconciature o persino la possibilità di cambiare il proprio sesso. Tuttavia, proprio come Zao, anche FaceApp è stata oggetto di numerose critiche per le sue politiche sulla privacy. Anche in questo caso vengono ceduti i diritti sulla propria immagine e sui propri video. L'applicazione è disponibile per Android e iOS.
Avatarify: Infine, abbiamo Avatarify. Con questa applicazione, gli utenti possono creare deepfakes dal vivo nelle chat video. La tecnologia è in grado di ricreare in tempo reale i movimenti del viso, come i battiti delle palpebre e i movimenti della bocca, ottenendo così imitazioni estremamente realistiche. Tuttavia, i requisiti di base non sono privi di difficoltà. È necessaria una scheda grafica potente e altri strumenti aggiuntivi per poter effettuare l'installazione. È disponibile per Windows, Mac e Linux o in forma ridotta per iOS.
Come si riconosce un deepfake?
Smascherare un deepfake non è sempre un compito facile. Innanzitutto, bisogna sempre controllare il contesto del video o dell'immagine e valutare se il contesto ha senso. L'FBI ha anche pubblicato un elenco6 in cui evidenzia le caratteristiche dei deepfake. Questo elenco include, ma non si limita a:
- Indicatori visivi come distorsioni, deformazioni o incongruenze.
- Spaziatura/posizione distinta degli occhi
- Notevoli movimenti della testa e del corpo
- Problemi di sincronizzazione tra i movimenti del viso e delle labbra e i suoni associati
- Distorsioni visive distinte, di solito nelle pupille e nei lobi delle orecchie
- Sfondi indistinti o sfocati
- Artefatti visivi nell'immagine o nel video
Il DeepFake-o-meter può essere utilizzato anche per analizzare e smascherare i file video.
Ma i deepfake sono solo negativi?
I deepfake non sono esclusivamente negativi. Un impatto positivo può essere osservato nel mondo del cinema. Ad esempio, nella serie Mandalorian, Luke Skywalker è stato falsificato artificialmente. Disney sta inoltre progettando altri film deepfake utilizzando la sua tecnologia Disney Megapixel deepfakes. In futuro sarà possibile realizzare film con attori già morti.
Si stanno facendo progressi anche nel campo della formazione elettronica. La società di software Synthesia ha sviluppato un'intelligenza artificiale che genera video a partire da testi. I video contengono persone create artificialmente che possono riprodurre il contenuto desiderato. Nel caso di Synthesia, questa tecnologia viene utilizzata per creare corsi di e-learning, presentazioni, video personalizzati o chatbot.
Un altro esempio dell'uso innovativo della tecnologia deepfake è dimostrato da un gruppo di ricerca di Mosca. È riuscito a dare vita alla Monna Lisa. È possibile ammirare il dipinto a olio in movimento su YouTube.
1 https://www.youtube.com/watch?v=cQ54GDm1eL0
2 https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
3 https://sensity.ai/how-to-detect-a-deepfake/
4 https://www.cnbc.com/2019/09/20/hao-li-perfectly-real-deepfakes-will-arrive-in-6-months-to-a-year.html
5 https://ai.facebook.com/datasets/dfdc
6 https://www.ic3.gov/Media/News/2021/210310-2.pdf
