Twitter-brugere opdager potentiel racemæssig bias i automatisk beskæringsalgoritme

Twitter forsøger at afgøre, hvorfor dets billedeksempelfunktion viser tegn på race-bias. Flere brugere fandt ud af, at sorte ansigter var mere tilbøjelige til at blive beskåret ud af billedeksempler sammenlignet med hvide ansigter.

En fejl i Twitters algoritme

Når du ser et billede på Twitter, er det bare en forhåndsvisning, du skal klikke på det for at se hele billedet. Twitter bruger en algoritme til at beskære fotos og diktere, hvad du vil se i billedeksempler.

I 2018 annoncerede Twitter sin smarte funktion for automatisk beskæring i et indlæg på Twitter-blog. Denne funktion bruger "markant" til at finpudse de mest fremtrædende dele af fotos, og den beskærer derefter fotoeksempler i overensstemmelse hermed.

Twitter-brugere opdagede, at platformens neurale netværk kan have en racistisk bias. En bruger indsendte et billede af den amerikanske senator Mitch McConnell sammen med den tidligere præsident Barack Obama.

Billedeksemplaret beskærer Obamas ansigt åbenlyst, selv når hans ansigt er placeret øverst på billedet. Da den samme bruger forsøgte at vende billedets farver, kom Obamas ansigt til sidst frem i billedeksemplet.

Andre brugere begyndte at gennemføre deres egne eksperimenter. Gang på gang fandt brugerne, at algoritmen tilsyneladende konsekvent foretrak hvide ansigter frem for sorte ansigter.

Liz Kelley, et medlem af Twitter-kommunikationsteamet, sendte en Tweet ud som svar på Twitter-brugernes resultater. Hun bemærkede, at mens Twitter-teamet allerede testede algoritmen for bias, skulle det undersøge nærmere.

Alle disse opdagelser stammer fra en brugers Tweet om en Problemer med zoomopkald. Zoom kunne konstant ikke opdage sin sorte vens ansigt, da han forsøgte at bruge en virtuel baggrund. Da brugeren henvendte sig til Twitter for at sende skærmbilleder af problemet, beskår Twitter sin sorte ven ud af billedeksemplet.

At tage bias ud af Twitter

Mens alle disse eksperimenter er uformelle, ser de ud til at fremhæve et reelt problem. Twitter bliver helt sikkert nødt til at se nærmere på dets auto-beskæringsfunktion og se, om den har en indgroet race-bias.

Når det er sagt, er Twitter's auto-crop-algoritme ikke den eneste Twitter-funktion, der er blevet kritiseret. Når alt kommer til alt er mange brugere heller ikke fans af platformens algoritme, der automatisk arrangerer dit feed.

Hvordan (og hvorfor) deaktiverer algoritmiske feeds på Twitter, Instagram og Facebook

Algoritmiske feeds tjener kun sociale netværk. Sådan skifter du til kronologiske feeds på Twitter, Instagram og Facebook.

Om forfatteren