Kunstig intelligens og maskinlæring kan gøre underværker, lige fra at lave kunst til automatisering af administratorjob. Men de er også en risiko, da de kan styrke dårlige skuespillere med tricks som deepfake.
Efterhånden som denne særlige teknologi udvikler sig, er det en god idé at lære, hvordan deepfakes faktisk fungerer, og hvem der overhovedet vil bruge dem – både lovligt og ulovligt.
Hvorfor det er vigtigt at forstå, hvordan og hvorfor Deepfakes bruges
Mainstream-applikationer af deepfake-teknologi kredser hovedsageligt om sjove, pornografiske eller filmiske materialer, men en undersøgelse viste, at deepfakes kan narre ansigtsgenkendelse. Alene dette er en grund til at bekymre sig og være på vagt.
Jo mere teknologien bruges i hverdagen og i storskalaprojekter, jo bedre lærer dens udviklere at skabe sømløse falske videoer af mennesker, uanset om det er berømtheder eller familiemedlemmer.
Forståelse hvordan du beskytter dig selv mod deepfake videoer er et must nu, i betragtning af hvor ivrigt industrier omfavner teknologiens fordele, især inden for underholdning.
Hollywood brugte det på flere projekter længe før Metafysikkens deepfake AGT-indgang, som viste verden, hvor hurtig og effektiv deepfake-skabelse kan være. Her er hvad processen involverer.
Hvordan virker Deepfakes?
Med hensyn til, hvad der ligger bag deepfakes, ligger et fingerpeg i navnet: deep learning, videnskaben om kunstige neurale netværk (ANN'er). Det, disse gør for deepfake-algoritmer, er at absorbere data, lære af dem og skabe nye data i form af ansigtsudtryk eller et helt ansigt oven på dit.
Udviklere af deepfake-software bruger typisk en af to ANN-typer: autoencodere eller generative adversarial networks (GAN'er).
Autoencodere lærer at replikere de mængder af data, de får, hovedsageligt fotos af ansigter og udtryk, og genskabe anmodede datasæt. De er dog sjældent nøjagtige kopier.
GAN'er har på den anden side et smartere system, som inkluderer en generator og en diskriminator. Førstnævnte reproducerer data, det er indlært, til deepfakes, som derefter må narre sidstnævnte.
Diskriminatoren sammenligner generatorens kreationer med rigtige billeder og bestemmer deres effektivitet. De bedste deepfakes er selvfølgelig dem, der perfekt efterligner menneskelig adfærd.
Så hvordan laves deepfakes med denne teknologi? Algoritmerne bag apps som Reface og DeepFaceLab lær konstant af de data, der går igennem dem, så de effektivt kan justere ansigtstræk og udtryk eller lag et ansigt over et andet.
Softwaren er dybest set en videoeditor, der er specielt designet til at manipulere ansigter. Nogle apps er mere komplekse end andre, men alt i alt kan du gøre alt fra at ælde nogen op eller ned til at redigere dig selv til film.
Men teknologien har stadig mangler. Deepfake skabelse kan være mere kompliceret end hvordan falske livevideoer laves, men det kan være lige så ligetil at opdage som falsk.
Sådan får du øje på en Deepfake
Fordi deepfakes hovedsageligt fremstilles af maskiner, ser det digitale ansigts funktioner eller manerer ikke altid naturlige ud. Der kan også være fejl i videoens opsætning. Med andre ord kan du fortælle falske optagelser, hvis du ved, hvad du skal kigge efter.
Her er nogle afslørende tegn:
- Unaturligt blink: Maskinlæring overser ofte øjenblink eller får det til at se akavet ud.
- Slørede eller ustabile funktioner: En persons hår, mund eller hage kan være let sløret eller bevæge sig på mærkelige, ofte overdrevne måder.
- Manglende eller forkert fremstilling af følelser: Dårlige deepfakes er passive eller efterligner følelser dårligt.
- Akavet kropssprog: Hvis personen i videoen bevæger hovedet eller kroppen på forvrængede eller usammenhængende måder, kan det være en deepfake.
- Forkerte farver og belysning: Misfarvninger, uforklarlige lys og skygger er sikre tegn på en falsk video.
- Inkonsistente objekter: Mens du justerer en video, kan deepfake-software lave fejl, såsom at ændre formen på tøj, smykker og baggrundsgenstande.
- Dårlig lyd: Deepfakes kan forvrænge tale og lyde i en video.
Få mest ud af måder at spotte deepfakes ved at lære, hvad sådanne videoer normalt er lavet til, og være meget opmærksomme på detaljerne i de optagelser, du ser online – sænk farten, hvis det er muligt.
Derudover udvikles flere og flere værktøjer, f.eks Microsoft Authenticator og Sensity's Forensic Deepfake Detection, der analyserer videoer på minutniveau.
Hvem bruger Deepfakes?
Filmskabere bruger i stigende grad deepfakes til at ælde eller erstatte skuespillernes ansigter, som i Star Wars. Kunstnere formår at animere portrætter og få dem til at tale og synge.
Marketingfolk eksperimenterer med deepfake-teknologi til salgsfremmende indhold, der ikke kræver ansættelse af skuespillere. Virksomheder som WPP anvender det også på deres træningsvideoer.
Teknikere skaber generelt sjove videoer, hvor de bytter ansigter med venner eller lag en skuespiller over en anden i populære film. Sylvester Stallone har overtaget Home Alone, og Heath Ledgers Joker optrådte i A Knight's Tale.
Desværre, hvis du udforsker, hvad deepfake-teknologi ellers bruges til, vil du finde masser af ondsindede sager. Deepfake-skabere kan lide at sprede misinformation og stødende budskaber, samt målrette berømtheder og sætte dem i voksenfilm. Folk bliver endda afpresset med falske optagelser.
I sin nuværende uhæmmede form er deepfake synonymt med risiko for folks privatlivsrettigheder, sikkerhed, og endda ophavsret, for eksempel, når algoritmen tydeligvis bruger et foto eller kunstværk, der ikke er offentligt ledig.
Det er derfor, lande og mærker sætter foden ned. Fra 2021, ifølge Cyber Civil Rights Initiatives kort af deepfake love i USA slår fire stater nu ned på offentliggjorte deepfake-videoer, der skildrer nogen på en eksplicit eller på anden måde skadelig måde.
Kina tager også skridt til at kriminalisere deepfakes, der skader mennesker og samfund, hvad enten det er ved at krænke individuelle rettigheder eller sprede falske nyheder. Også selvom Meta annonceret i 2020, at vildledende, manipulerede videoer ikke var velkomne.
Ud over regulering presser officielle organer verden over for bedre opdagelse og forebyggelse af deepfake-forbrydelser. Det Rathenau Instituuts rapport om, hvordan europæisk politik skal håndtere deepfakes, støtter software med værktøjer som højttaler- og ansigtsgenkendelse, registrering af stemmeliv og analyse af ansigtstræk.
Lær, hvordan Deepfakes virker for at vildlede dig
Deepfakes er allerede blevet mainstream, på godt og ondt. Så nyd de sjove og inspirerende videoer, mens du forbereder dig på at tackle eventuelle ondsindede videoer.
I slutningen af dagen, hvad er en deepfake som denne, men et værktøj designet til at narre dig? Hvis du ved, hvad du skal kigge efter, og hvordan du skal reagere, har den mindre magt over dig.
For eksempel vil du være i stand til at spotte deepfakes på sociale medier sammen med falske nyheder og konti og undvige misinformation, phishing-forsøg og mere. Efterhånden som teknologien til deepfake-detektion og -forebyggelse forbedres, vil der komme mere support til dig.
