Dybfalske billeder af Trumps arrestation fik folk til at tro, at det faktisk skete.
Hvis du er aktiv på Twitter, har du måske set nogle chokerende billeder af den tidligere amerikanske præsident Donald Trump, der blev arresteret af politibetjente, kæmper med dem og endda løb væk fra dem. Det viste sig, at intet af dette var ægte. Men hvordan skete det hele?
Anholdelsen af Donald Trump, der aldrig skete
Den tidligere amerikanske præsident delte en formodet lækage gennem sin embedsmand Sandhed Socialt håndtag den 18. marts. Posten oplyste, at han forventede en anholdelse tirsdag i den følgende uge for "gamle og fuldt afkræftede" anklager mod ham. Det varede ikke længe, før billeder af Trumps arrestation begyndte at dukke op overalt på internettet.
Billederne viste, hvad der så ud til at være optagelser af Trumps arrestation af en gruppe retshåndhævende betjente.
Billederne var AI-genereret
Billederne var dog ikke autentiske. De var deepfakes lavet med Midjourney, en AI-billedgenerator. Midjourney bruger en dyb læringsalgoritme til at generere billeder fra bunden ved hjælp af tekstprompter. I dette tilfælde var tekstbeskederne variationer af, at Trump blev arresteret.
Deepfake teknologi har eksisteret i et stykke tid, og det bliver stadig mere sofistikeret. AI-genererede billeder plejede at være let identificerbare: De manglede detaljer og realisme. Imidlertid, Midjourneys seneste udgivelse (v5) løste de fleste af disse problemer og var i virkeligheden den version, der blev brugt til at generere Trumps arrestationsdeepfakes.
Hvordan billederne blev virale
Eliot Higgins, en undersøgende journalist, skabte de første versioner af Trump-anholdelsen deepfakes for at visualisere, hvordan en Trump-anholdelse ville se ud. Han lagde dem op på sin Twitter-konto. Mens hans billedtekst var tydelig fra starten, at billederne var falske, tog det ikke lang tid, før opslaget gik viralt.
Da billederne spredte sig på sociale medier, troede mange mennesker, at det var ægte. Trumps indlæg på Truth Social havde allerede folk mistænkelige, og de realistiske billeder gav kun næring til ilden. Det tog et stykke tid, før det stod klart, at billederne var falske, og anholdelseshistorien havde været en fup.
Indlæg på sociale medier, der "rapporterer" den falske anholdelse, er blevet slettet eller har misinformationsetiketten på sig. Som straf udelukkede Midjourney også Higgins fra deres server i en måned, pr Washington Post.
The Era of Deepfakes kræver årvågenhed
Trump-anholdelsen af deepfakes fremhæver de alarmerende fremskridt inden for AI-teknologi. Falske billeder kan nu skabes med utrolig lethed og se så realistiske ud, at det er svært at skelne, hvad der er ægte, fra hvad der ikke er. Årvågenhed er nu mere kritisk end nogensinde, når det kommer til onlineindhold.
