Microsoft distribuerer et Deepfake Detection Tool

I betragtning af, hvordan deepfakes begge potentielt ødelæggende for nogens omdømme og er meget svære at få øje på, når de gøres rigtigt, er de et stort sikkerhedsproblem. Nu sigter Microsoft på at hjælpe med at stoppe dybe forfalskninger ved at frigive et værktøj, der kan registrere dem.

Truslen fra dybe forfalskninger er så stor, at den forårsagede Facebook for at forbyde alt dybt falsk indhold. Den største hindring er imidlertid, hvordan deepfakes får overbevisende ud; som sådan er det meget vanskeligt at finde og bekræfte en dyb forfalskning.

Facebook forbyder Deepfakes og Photoshops

Facebook forbyder dybe forfalskninger og fotoshoppede fotos. Idéen er at fjerne manipulerede medier designet til at bedrage brugere.

Som rapporteret om Microsoft om problemerne, vil virksomheden ændre det med sit nye værktøj. Det kaldes Microsoft Video Authenticator, og det analyserer videoer for at se efter de "sømme", der er efterladt fra deepfake-oprettelse. Disse sømme er usynlige for menneskelige øjne, men en computer kan se dem ved hjælp af ramme-for-ramme-analyse.

For at forhindre ondsindede agenter i at reverse engineering af teknologien er Microsoft Video Authenticator ikke en offentlig frigivelse. I stedet distribuerer Microsoft sit system til nyheder og politiske organisationer. På den måde kan disse organisationer bruge værktøjet til at adskille det virkelige fra det falske.

Imidlertid har Microsoft annonceret en anden teknologi til identifikation af dybe forfalskninger. Virksomheden foreslår et system, hvor en indholdsskaber kan tagge deres videoer med en unik "signatur". Hvis videoen redigeres, den genererer en anden signatur end originalen og identificerer således en dyb forfalskning.

Forfatteren af ​​Deep Fakes and the Infocalypse, Nina Schick, sagde følgende:

Den eneste rigtig udbredte anvendelse, vi hidtil har set, er pornografi mod kvinder uden samtykke. Men det forventes, at syntetiske medier bliver allestedsnærværende om cirka tre til fem år, så vi er nødt til at udvikle disse værktøjer fremover. Men da detekteringsfunktioner bliver bedre, vil også generationens kapacitet - det er aldrig vil være tilfældet, at Microsoft kan frigive et værktøj, der kan registrere alle former for video manipulation.

Deepfakes er et væsentligt problem for medie troværdighed, og virksomheder har brug for en måde at fortæl hvad der er ægte fra hvad der er fiktion. Microsoft har frigivet et værktøj til at hjælpe med at få øje på redigerede videoer. Hvorvidt værktøjet vil være nok til at holde trit med deepfake-udviklere eller ej, skal dog stadig ses.

Hvis du er i tvivl om, hvad deepfakes er, og hvorfor de betyder noget, er det bestemt værd at tage lidt tid på at lære om dem. Deepfakes er klar til at blive dette tiårs ækvivalent med "Photoshopping" -billeder og kan forårsage alvorlig skade, hvis de bruges skadeligt.

Deepfakes forklaret: AI, der gør falske videoer for overbevisende

AI-genererede falske videoer underminerer fuldstændigt vores forståelse af verdensbegivenheder. Her er hvordan deepfakes kan ændre alt.

Om forfatteren