Hvad er PhotoDNA og hvordan fungerer det?

Internettet har gjort mange ting lettere, lige fra at holde kontakten med venner og familie til at få et job og endda arbejde fjernt. Fordelene ved dette tilsluttede computersystem er enorme, men der er også en ulempe.

I modsætning til nationalstater er internettet et globalt netværk, som ingen enkelt regering eller myndighed kan kontrollere. Derfor ender ulovligt materiale online, og det er utroligt svært at forhindre børn i at lide og fange de ansvarlige.

En teknologi, der er udviklet af Microsoft og kaldet PhotoDNA, er imidlertid et skridt i retning af at skabe et mere sikkert online-rum for både børn og voksne.

Hvad er PhotoDNA?

PhotoDNA er et billedidentifikationsværktøj, der først blev udviklet i 2009. Selvom den primært er en Microsoft-understøttet service, blev den udviklet af professor Hany Farid fra Dartmouth College, en ekspert i digital fotoanalyse. Formålet med PhotoDNA er at identificere ulovlige billeder, herunder materiale om seksuelt misbrug af børn, almindeligvis kendt som CSAM.

Efterhånden som smartphones, digitale kameraer og højhastighedsinternet er blevet mere almindeligt, er mængden af ​​CSAM fundet online. I et forsøg på at identificere og fjerne disse billeder sammen med andet ulovligt materiale indeholder PhotoDNA -databasen millioner af poster for kendte billeder af misbrug.

Microsoft driver systemet, og databasen vedligeholdes af det USA-baserede National Center for Missing & Exploited Children (NCMEC), en organisation dedikeret til at forhindre misbrug af børn. Billeder kommer til databasen, når de er blevet rapporteret til NCMEC.

Selvom det ikke er den eneste tjeneste, der søger efter kendt CSAM, er PhotoDNA en af ​​de mest almindelige metoder, herunder mange digitale tjenester som Reddit, Twitter og de fleste Google-ejede produkter.

PhotoDNA skulle fysisk konfigureres på stedet i de tidlige dage, men Microsoft driver nu den skybaserede PhotoDNA Cloud-service. Dette giver mindre organisationer uden en stor infrastruktur mulighed for at foretage CSAM -detektion.

Hvordan fungerer PhotoDNA?

Når internetbrugere eller retshåndhævende myndigheder støder på misbrugsbilleder, rapporteres de til NCMEC via CyberTipline. Disse er katalogiseret, og oplysningerne deles med retshåndhævende myndigheder, hvis de ikke allerede var det. Billederne uploades til PhotoDNA, som derefter går i gang med at oprette en hash eller digital signatur for hvert enkelt billede.

For at komme til denne unikke værdi konverteres billedet til sort og hvid, opdelt i firkanter, og softwaren analyserer den resulterende skygge. Den unikke hash tilføjes til PhotoDNAs database, deles mellem fysiske installationer og PhotoDNA Cloud.

Softwareudbydere, retshåndhævende myndigheder og andre betroede organisationer kan implementere PhotoDNA -scanning i deres produkter, cloud -software eller andre lagringsmedier. Systemet scanner hvert billede, konverterer det til en hashværdi og sammenligner det med CSAM -databasens hash.

Hvis der findes et match, får den ansvarlige organisation besked, og detaljerne videregives til retshåndhævelse for at blive retsforfulgt. Billederne fjernes fra tjenesten, og brugerens konto afsluttes.

Det er vigtigt, at ingen oplysninger om dine fotos gemmes, tjenesten er fuldt automatiseret uden menneskelig involvering, og du kan ikke genskabe et billede fra en hashværdi.

Siden 2015 har organisationer også været i stand til at bruge PhotoDNA til at analysere videoer.

I august 2021 brød Apple trin med de fleste andre Big Tech -virksomheder og meddelte, at de ville bruge deres egne service til at scanne brugerens iPhones efter CSAM.

Forståeligt nok modtog disse planer betydelige tilbageslag for at se ud til at krænke virksomhedens privatlivsvenlige holdning, og mange mennesker bekymrede sig for, at scanningen gradvist ville omfatte ikke-CSAM, hvilket i sidste ende ville føre til en bagdør for lov håndhævelse.

Bruger PhotoDNA ansigtsgenkendelse?

I disse dage kender vi algoritmer nok. Disse kodede instruktioner viser os relevante, interessante indlæg på vores feeds på sociale medier, understøtter ansigtsgenkendelsessystemer og bestemmer endda, om vi får tilbudt en jobsamtale eller kommer på college.

Du tror måske, at algoritmer ville være kernen i PhotoDNA, men automatisering af billeddetektering på denne måde ville være yderst problematisk. For eksempel ville det være utroligt invasivt, ville krænke vores privatliv, og det er ikke at nævne, at algoritmer ikke altid er rigtige.

Google har for eksempel haft veldokumenterede problemer med sin ansigtsgenkendelsessoftware. Da Google Fotos første gang blev lanceret, kategoriserede det offensivt sorte mennesker som gorillaer. I marts 2017 hørte et huskontroludvalg, at nogle ansigtsgenkendelsesalgoritmer var forkerte 15 procent af tiden og mere tilbøjelige til at fejlagtigt identificere sorte mennesker.

Disse typer maskinlæringsalgoritmer er stadig mere almindelige, men kan være udfordrende at overvåge korrekt. Effektivt træffer softwaren sine egne beslutninger, og du skal ombygge, hvordan det nåede frem til et specifikt resultat.

I betragtning af den type indhold, PhotoDNA leder efter, kan virkningen af ​​fejlidentifikation være katastrofal. Heldigvis er systemet ikke afhængigt af ansigtsgenkendelse og kan kun finde på forhånd identificerede billeder med en kendt hash.

Bruger Facebook PhotoDNA?

Som ejer og operatør af verdens største og mest populære sociale netværk beskæftiger Facebook sig med meget brugergenereret indhold hver dag. Selvom det er svært at finde pålidelige, aktuelle skøn, analyse i 2013 foreslog, at der uploades omkring 350 millioner billeder hver dag på Facebook.

Dette vil sandsynligvis være meget højere nu, da flere mennesker har tilsluttet sig tjenesten, og virksomheden driver flere netværk (herunder Instagram og WhatsApp), og vi har lettere adgang til smartphone -kameraer og pålidelige internet. I betragtning af sin rolle i samfundet skal Facebook reducere og fjerne CSAM og andet ulovligt materiale.

Heldigvis adresserede virksomheden dette tidligt og tilmeldte sig Microsofts PhotoDNA -service i 2011. Siden meddelelsen for over ti år siden har der været få data om, hvor effektivt dette har været. Imidlertid, 91 procent af alle rapporter om CSAM i 2018 var fra Facebook og Facebook Messenger.

Gør PhotoDNA Internettet mere sikkert?

Den Microsoft-udviklede service er utvivlsomt et vigtigt værktøj. PhotoDNA spiller en afgørende rolle i at forhindre disse billeder i at sprede sig og kan endda hjælpe med at hjælpe børn i fare.

Hovedfejlen i systemet er imidlertid, at det kun kan lede efter på forhånd identificerede billeder. Hvis PhotoDNA ikke har en hash gemt, kan den ikke identificere misbrugsbilleder.

Det er lettere end nogensinde at tage og uploade misbrugsbilleder i høj opløsning online, og det er misbrugerne i stigende grad tager til mere sikre platforme som Dark Web og krypterede messaging -apps for at dele ulovligt materiale. Hvis du ikke har stødt på Dark Web før, er det værd at læse om de risici, der er forbundet med den skjulte side af internettet.

Er det mørke web ulovligt?

Kriminelle aktiviteter kan findes via darknets, men er det faktisk ulovligt at gå på det mørke web?

Læs Næste

Om forfatteren