Minns ni fortfarande Barack Obamas ord: "President Trump är en total och fullständig skitstövel!"? Ganska provocerande, man är inte van vid sådana uttalanden från den före detta amerikanska presidenten. Men sa han verkligen det? Naturligtvis gjorde han inte det. Den här videon är en så kallad deepfake och skapades av Jordan Peele för att visa hur farlig en sådan fejk kan vara.1 Men låt oss gräva lite djupare i frågan.
Deepfake är en neologism som består av "deep learning" och "fake". Det beskriver en metod för att manipulera bilder, videor eller ljudformat (med hjälp av artificiell intelligens) på ett sådant sätt att det mänskliga ögat eller örat knappast kan uppfatta förfalskningarna. Men vad är egentligen syftet med en deepfake och hur skapas den överhuvudtaget?
För att skapa en deepfake används så kallade neurala nätverk. Dessa nätverk fungerar på samma sätt som den mänskliga hjärnan och kan, givet en stor datamängd, förutsäga hur andra data av samma typ kan komma att se ut. Om du matar dessa nätverk med tillräckligt många bilder, videor och ljudinnehåll blir de därför bättre och bättre och skapar manipuleringar av högre kvalitet.
Ett mycket effektivt neuralt nätverk är GAN. Det nämndes för första gången i en vetenskaplig artikel av Ian Goodfellow 2014. Under årens lopp har olika forskare fortsatt att utveckla dessa nätverk och kombinera dem med varandra. Som ett resultat blev förfalskningarna av högre kvalitet och mer trovärdiga. Men låt oss först definiera vad ett GAN är.
Ett GAN - förkortning för Generative Adversarial Networks - är ett nätverk som består av två algoritmer. Den ena algoritmen förfalskar en bild (forger) medan den andra algoritmen försöker upptäcka förfalskningen (investigator). Om utredaren lyckas identifiera förfalskningen lär sig förfalskaren av detta och förbättras hela tiden. Denna process kallas även djupinlärning.
Vilka typer av deepfakes finns det?
Den första och förmodligen mest utbredda typen är utbytet av ansikten i bilder eller videor, så kallad face-swapping. Här brukar man ta kända personers huvuden och placera dem i ett annat sammanhang.
En liknande metod är röstbyte. Som namnet antyder manipuleras röster eller allmänt ljudinnehåll så att det låter som en viss person. Denna metod kan vidareutvecklas med manipulering av ansiktsuttryck så att de ord som sägs matchar läpparnas rörelser och ansiktsrörelserna.
Slutligen finns det kroppslig dockteater. Här analyseras kroppsrörelser och kan till och med imiteras i realtid.
Varför är deepfakes så farliga?
När tekniken började användas 2014 utökades och förbättrades den kontinuerligt. År 2017 hade tekniken nått den punkt där de första videorna kunde produceras. Detta ledde till att internetanvändare började använda deepfakes för att manipulera pornografiskt innehåll, som först gjordes tillgängligt på internetplattformen Reddit. Dessa videor bestod av kändisar som avbildades i komprometterande poser. Enligt en studie av Sensity (då känt som Deeptrace) var 96% av alla deepfake-videor under 2019 pornografiska och handlade uteslutande om kvinnor.2
"Utvecklingen av fullständig artificiell intelligens kan innebära slutet för den mänskliga rasen."
- Stephen Hawking
Med tiden och den kontinuerliga vidareutvecklingen av deep learning-processen skapades allt fler YouTube-kanaler för att lura folk. Förfalskningar av politiker, skådespelare och andra offentliga personer började se dagens ljus. Från 2018 till 2020 fördubblades antalet falska videor var sjätte månad och nådde mer än 85 000 i december 2020.3
Hao Li, en expert på deepfake, har varnat för att vi snart inte längre kommer att kunna identifiera deepfakes som förfalskningar. Problemet är dock inte tekniken i sig utan bristen på metoder för att känna igen dessa förfalskningar. "Deepfakes kommer att vara perfekta om två till tre år", säger Li.4
Sanningen i detta påstående avslöjas i en programmeringstävling som initierades av Facebook AI 2019. Gruppen utvecklade ett dataset med 124 000 videor, 8 algoritmer för ansiktsmodifiering och tillhörande forskningsrapporter. Men även de bästa konkurrenterna uppnådde bara en detekteringsgrad på drygt 65%.
"Detta resultat förstärker vikten av att lära sig att generalisera till oförutsedda exempel när man tar itu med utmaningarna med att upptäcka deepfake.", förklarade en talesperson för Facebook AI.5
Exempel på missbruk av deepfakes
Omfattningen av den skada som deepfakes kan orsaka kan bland annat illustreras av ett fall i Gabon 2018. President Ali Bongosom inte hade synts i offentligheten på mycket länge och av vissa ansågs vara död, publicerade en video av ett tal. Politiska motståndare kallade videon för en deepfake, vilket utlöste ett kuppförsök från militären.
TW: Våld mot barn/ungdomar
Ett annat skrämmande fall berättas av X Gonzálesen stark förespråkare för strängare vapenlagar i USA. Gonzáles överlevde skolmassakern i Parkland och fick internationellt erkännande för sitt känslosamma tal vid en minnesstund efter händelsen. Motståndare till ytterligare vapenlagstiftning smutskastade Gonzáles i en video där hon river sönder den amerikanska konstitutionen. I den ursprungliga videon river hon sönder en måltavla.
En video som producerades om den amerikanska demokraten, Nancy Pelosivisar på möjligheten att byta röst. Trumps anhängare, och därmed konkurrenter till talmannen i representanthuset, redigerade en video för att få henne att se berusad och något förvirrad ut. Förfalskningen klickades miljontals gånger, trots att Nancy Pelosi inte dricker alkohol.
TW: Sexualiserad voilence
Nästa skandal som berörs Rana Ayyub. Den kvinnliga indiska journalisten uttalade sig om det nationalistiska partiet BJP och anklagade det för att försvara barnmisshandlare. Som ett resultat av detta, och i ett försök att undergräva hennes trovärdighet, gjordes en falsk porrfilm av henne av dem som var kritiska till hennes handlingar.
Vilka appar finns tillgängliga för att skapa deepfakes?
DeepFaceLab: DeepFaceLab är förmodligen den mest kända applikationen med öppen källkod. Enligt appens utvecklare genereras 95% av alla deepfake-videor med DeepFaceLab. Appen gör det möjligt att byta ut ansikten eller hela huvuden, ändra en persons ålder eller justera läpprörelserna hos främlingar. DeepFaceLab är tillgänglig för Windows och Linux.
Zao: Till skillnad från DeepFaceLab är Zao en app för smartphones. Den extremt populära applikationen kommer ursprungligen från Kina och skapar deepfake-videor på några sekunder och är inriktad på underhållningsändamål. Än så länge är appen dock endast tillgänglig i Kina (eller för personer med ett kinesiskt telefonnummer) på Android och iOS. På senare tid har appen kritiserats för sin tveksamma integritetspolicy. Användarna avsäger sig alla rättigheter till sina egna bilder och videor när de använder appen.
FaceApp: Applikationen blev allt populärare under 2019. Den erbjuder många funktioner som föryngring eller åldrande, lägga till skägg, smink, tatueringar, frisyrer eller till och med möjligheten att ändra sitt kön. Men precis som Zao har FaceApp också fått utstå mycket kritik för sin integritetspolicy. Även här avstår man från rätten till sin egen bild och video. Appen finns tillgänglig för Android och iOS.
Avatarify: Slutligen har vi Avatarify. Med den här applikationen kan användare skapa live deepfakes i videochattar. Tekniken kan återskapa ansiktsrörelser som ögonblinkningar och munrörelser i realtid och uppnår därmed extremt realistiska imitationer. De grundläggande kraven är dock inte utan svårigheter. Du behöver ett kraftfullt grafikkort och andra extra verktyg för att kunna genomföra installationen. Det finns tillgängligt för Windows, Mac och Linux eller i en bantad form för iOS.
Hur känner jag igen en deepfake?
Att avslöja en deepfake är inte alltid en lätt uppgift. Kontrollera först alltid sammanhanget för videon eller bilden och fundera på om sammanhanget är meningsfullt. FBI har också publicerat en lista6 där de lyfter fram kännetecken för deepfakes. Denna lista inkluderar, men är inte begränsad till:
- Visuella indikatorer såsom distorsioner, deformationer eller inkonsekvenser.
- Distinkt avstånd mellan ögonen/placering av ögonen
- Märkbara huvud- och kroppsrörelser
- Synkroniseringsproblem mellan ansikts- och läpprörelser och tillhörande ljud
- Tydliga visuella förvrängningar, vanligtvis i pupiller och örsnibbar
- Otydliga eller suddiga bakgrunder
- Visuella artefakter i bilden eller videon
Den djupa DeepFake-o-meter kan också användas för att analysera och avslöja videofiler.
Men är deepfakes bara negativa?
Deepfakes är inte enbart negativa. En positiv inverkan som de har kan ses i filmvärlden. Luke Skywalker var till exempel artificiellt deepfakad i serien Mandalorian. Disney planerar också fler deepfake-filmer med hjälp av sin Disney Megapixel deepfakes-teknik. I framtiden kommer det att bli möjligt att göra filmer med skådespelare som redan har dött.
Framsteg görs också på området e-utbildning. Programvaruföretaget Synthesia har utvecklat en AI som genererar videor från text. Videorna innehåller artificiellt skapade människor som kan återge det önskade innehållet. I Synthesias fall används denna teknik för att skapa e-learningkurser, presentationer, personliga videor eller chatbots.
Ett annat exempel på innovativ användning av deepfake-teknik är ett forskarlag från Moskva. De har lyckats blåsa liv i Mona Lisa. Du kan förundras över den rörliga oljemålningen på YouTube.
1 https://www.youtube.com/watch?v=cQ54GDm1eL0
2 https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
3 https://sensity.ai/how-to-detect-a-deepfake/
4 https://www.cnbc.com/2019/09/20/hao-li-perfectly-real-deepfakes-will-arrive-in-6-months-to-a-year.html
5 https://ai.facebook.com/datasets/dfdc
6 https://www.ic3.gov/Media/News/2021/210310-2.pdf
