Kan Deepfake Fool ansigtsgenkendelse? Et nyt studie siger ja!

Deepfakes og AI-genererede videoer er kommet for at blive. Men i løbet af de sidste par år er de vokset i kvalitet og mængde, hvilket får mange mennesker til at bekymre sig om national sikkerhed og privatliv.

Alligevel, uanset hvor hårdt anonyme onlinebrugere forsøgte at gøre deres falske video realistisk, kunne de aldrig komme forbi avanceret ansigtsgenkendelsessoftware. Indtil nu.

Narre ansigtsgenkendelse API'er

Forskere ved Sungkyunkwan University i Suwon, Sydkorea, testet kvaliteten af ​​den nuværende deepfake -teknologi. De testede både Amazon og Microsoft API'er ved hjælp af open source og almindeligt anvendt deepfake video genererende software for at se, hvor godt de klarer sig.

Forskerne brugte ansigterne på Hollywood -berømtheder. For at skabe solide deepfakes har softwaren brug for mange billeder i høj kvalitet fra forskellige vinkler på de samme personer, som er meget lettere at erhverve af berømtheder i stedet for almindelige mennesker.

Forskerne besluttede også at bruge Microsoft og Amazons API som benchmarks for deres undersøgelse, da begge virksomheder tilbyder kendte ansigtsgenkendelsestjenester. De brugte offentligt tilgængelige datasæt og skabte lidt over 8.000 deepfakes. Fra hver deepfake -video udtrak de flere faceshots og indsendte det til API'erne er i tvivl.

Med Microsofts Azure Cognitive Services var forskerne i stand til at narre systemet 78 procent af tiden ved hjælp af deepfakes. Amazons resultater var lidt bedre, idet 68 procent af de indsendte ansigter blev identificeret som ægte.

Hvad med Deepfake -detektorer?

Deepfake -detektorer fungerer mere eller mindre på samme måde, som deepfake gør. Detektorerne er software, der blev uddannet ved hjælp af maskinlæringsmodeller om, hvordan man registrerer deepfake -videoer.

Men i stedet for at fokusere på at skabe en hyperrealistisk video for at narre detektorerne, kan deepfakes nu inkludere modstridende eksempler i hver ramme for at forvirre AI-systemet. Faktisk har deepfake -angreb af denne type succesrater, der varierer fra 78 til 99 procent.

Det bliver værre

Deepfakes er en applikation til maskinlæring. For at skabe en, der endda er overbevisende, har du brug for hundredvis af billeder af den samme persons ansigt fra forskellige vinkler og med forskellige følelser.

På grund af behovet for massive mængder data, skulle man tro, at kun mennesker med en stor online tilstedeværelse er i fare, som berømtheder og politikere. Men sådan er det ikke længere.

Ifølge Deeptrace steg antallet af deepfakes online med 330 procent på under et år - fra oktober 2019 til juni 2020. For ikke at nævne, bliver softwaren og algoritmerne, som deepfake -producenter bruger, stærkere og lettere tilgængelige og tilgængelige.

Hvem er i fare for Deepfakes?

Da deepfakes først blev mainstream, det primære bekymringer var for privatlivets fred og national sikkerhed. Folk frygtede, at videooptagelser af politikere og officielle statsarbejdere ikke længere kunne stole på.

Men selvom det ville være uansvarligt at se bort fra den sikkerhedsrisiko, deepfake udgør, fandt flere undersøgelser, at deepfake -producenter ikke er så interesserede i at forstyrre politik endnu. Størstedelen af ​​deepfakes -videoer online kan opdeles i to kategorier: sjove videoer med berømthedsinterviews og film og pornografisk materiale.

Selvom den nylige undersøgelse blev udført ved hjælp af kendte ansigter for at sikre, at deepfakes var af høj kvalitet for at narre API'erne, betyder det ikke, at du ikke kan lave deepfakes med færre data. Nok har de måske ikke en chance for at narre avancerede ansigtsgenkendelsessystemer, men de kan være overbevisende nok til at narre andre mennesker.

I dag kan deepfakes af alle med en social tilstedeværelse laves overbevisende. Det eneste de har brug for er et par fotos af dig og måske en video, du vises i. Den resulterende deepfake kan have lav kvalitet, men det er stadig muligt og kan være skadeligt.

Fremtiden er stadig ukendt

Der er mange modstridende forudsigelser vedrørende tilstanden af ​​deepfakes, da de ikke forsvinder når som helst.

Nogle forventer en apokalyptisk cyber -fremtid, hvor du ikke kan stole på nogen optagelser, du støder på online. Andre er mere optimistiske, sammenligner deepfakes med animation og siger, at det kan have en fremtid inden for indholdsproduktion.

Sådan beskytter du dig selv mod Deepfake -videoer

Deepfakes bliver mere udbredt. Sådan kan de true din online privatliv og hvordan du undgår at blive taget ind.

Læs Næste

Om forfatteren