Twitter afslører, at det er grønt AI-beskæring på grund af race og kønsforstyrrelse

Første gang vi hørte ideen om, at Twitters billedbeskæringsalgoritme muligvis havde nogle fordomme, var i september 2020. Den kryptografiske ingeniør Tony Arcieri uploadede to billeder med majoritetsleder fra senatet Mitch McConnell og den tidligere præsident Barack Obama, og AI blev beskåret til McConnells ansigt begge gange.

Da kontroversen til sidst nåede ud til folkene på Twitter, lovede virksomheden at analysere sin model. Endelig får vi læst gennem disse fund.

Twitter deler resultaterne af dens algoritmeanalyse

I begyndelsen af ​​maj Twitter udrullede endelig billedeksempler i fuld størrelse på sine mobile tidslinjer. Et indlæg på Twitter-bloggen har afsløret, at appen styrede sin billedbeskæringsalgoritme, efter at en analyse viste, at den havde race- og kønsbaserede fordomme.

Platformen begyndte at bruge en vigtig algoritme i 2018 til at beskære sine billeder. Twitter siger, at fremhævelsesmodeller trænes i menneskelige øjesporingsdata, som derefter bruges af algoritme til at estimere, hvilke emner / elementer i billedet det mener mest sandsynligt er vigtigst for mennesker.

Algoritmen ville derefter komme med en skarpsindighedsscore for alle dele af billedet, før den valgte det punkt med den højeste score for at være centrum for afgrøden.

Efter at have kørt en kvantitativ test for at kontrollere potentielle forstyrrelser fandt holdet, at algoritmen for salinitet syntes at favorisere kvinder frem for mænd og hvide personer overfor sorte individer.

Twitter testede også algoritmen for det "mandlige blik", men der blev ikke fundet nogen tegn på objektivisering.

Selv hvis algoritmen til fremhævelse blev justeret til at afspejle perfekt lighed på tværs af race og kønsundergrupper, er vi [Twitter] bekymrede ved den automatiserede algoritmes repræsentationsskade, når folk ikke får lov til at repræsentere sig selv, som de ønsker på platform. Salience har også andre potentielle skader uden for denne analyses anvendelsesområde, herunder ufølsomhed over for kulturelle nuancer.

Når man overvejer afvejningerne mellem hastigheden og konsistensen af ​​automatiseret beskæring og dens risici, Twitter siger, at dets team indså, at hvordan man beskærer et billede, er en beslutning, der bedst træffes af mennesker - ikke algoritmer.

Relaterede: Teknologitendenser, der allerede ændrer fremtiden

Twitter slipper af med automatisk billedbeskæring

Twitter bruger ikke længere salginitetsalgoritmen og viser nu standard billedformatforhold fuldt ud på både iOS og Android. Når du laver en tweet, finder du ud af, at den nye opdatering også indeholder en ægte forhåndsvisning af uploadede billeder, så du ved, hvordan alt ser ud, når det først er offentliggjort.

Hvis du er interesseret i at læse undersøgelsens akademiske artikel, kan du finde den på arXiv.org. Du kan også finde Twitters kode til analysen den GitHub.

Sådan uploades og vises 4K-billeder på Twitter

Twitter-appen giver dig nu mulighed for at uploade og se billeder i 4K. Sådan ændrer du dine indstillinger.

Læs Næste

Om forfatteren