Når det kommer til sociale medier, ved vi alle, at det ud over de mange fordele, det giver ved at skabe forbindelser lettere, kan der også være visse risici og farer, der følger med at interagere online, især for unge mennesker. Heldigvis er der apps derude, der er proaktive og forsøger at begrænse disse skader, der kan komme til unge mennesker ved at implementere ordentlige modereringsteknologier.
Yubo, den live sociale opdagelsesapp, der er mest brugt af Gen Z, har annonceret, at dens live-stream lydmoderering teknologi udvides til sine største markeder, nemlig USA, Storbritannien, Australien og Canada.
Dette sker efter flere måneders test af funktionen i nogle områder af USA, da virksomheden lærte, hvordan man tackler de problemer, der følger med at analysere lyd i realtid.
Vigtigheden af indholdsmoderering
Moderering af indhold online er en vanskelig opgave at udføre. Vi har set dette med Facebook og Twitter og Instagram og så videre. Mellem fornærmelser, hadefulde kommentarer eller endda nogle gange vold eller selvskade er mådehold enormt vigtigt for at holde disse platforme sikre og deres brugere beskyttet. Der er noget ved at kunne gemme sig bag den formodede anonymitet, som internettet tilbyder, som kan få det værste frem i nogle mennesker.
Nå, Yubo fortsætter med at vise, at den gør alt, hvad den kan for at forhindre dette, især da dens brugerbase er meget yngre. Ifølge Yubo er 99% af deres brugerbase Gen Z i alderen 13-25. Selvom onlinechikane ikke er rart for nogen at udholde, kan det være særligt skadeligt for teenagere.
Billed- og videomodereringsteknologi har eksisteret i et stykke tid og er blevet implementeret med forskellige stadier af succes. Lydmoderering, er dog fortsat en stor udfordring, især med livestreams. Om det er en livestream, der er taget, mens du går ned ad gaden, eller en, hvor nogen spiller et videospil, det er lige meget.
Hvordan Yubos lydmoderering fungerer
Fra maj 2022 begyndte Yubo en prøvefase for sin lydmodereringsteknologi i forskellige områder i hele USA. Nu omfatter næste fase de fleste engelsktalende regioner, hvor Yubo har en stor brugerbase for at give virksomheden mulighed for at få bedre indsigt i deres nye sikkerhedsværktøj.
Selvom det stadig er nyt, er dette en teknologi, der kan ende med at blive meget brugt til at opdage vold eller selvskade i fremtiden.
Yubo gør ikke alt dette alene, men snarere i samarbejde med Hive. Hive, hvis du ikke har hørt om dem, er en virksomhed, der skaber og leverer indholdsmoderering API'er til at behandle billeder og videoer i næsten realtid.
Teknologien, som Yubo implementerede, fungerer ved at optage og transskribere 10-sekunders lydstykker i livestreams af 10 eller flere personer. Teksten analyseres øjeblikkeligt af kunstig intelligens for at opdage ord eller sætninger, der overtræder appens Fællesskabsretningslinjer.
Vent, det stopper ikke her. Mens kunstig intelligens kan være fantastisk til at opdage sådanne ting, er det stadig langt fra det punkt, hvor den kan skelne mellem faktiske problematiske anvendelser og falske flag.
Falske flag kan for eksempel være sange, der afspilles i baggrunden, eller legende sprog, der ikke er mistænkt.
Så det er her, Yubos sikkerhedsspecialister kommer i spil, da de bliver hentet ind for at undersøge de markerede hændelser. Mennesker er dem, der skal bestemme, om en situation kræver eskalering eller ej, hvis der er handlinger der bør tages imod folk, der bruger dårligt sprog, eller endda hvis der er behov for retshåndhævelse i.
Hvis livestreamen er helt ok, bliver ingen transskriptioner gennemgået eller holdt forbi en 24-timers grænse, så det hele forbliver privat; eller så privat som en livestream med over 10 personer kan være.
Men hvis algoritmerne for eksempel opdager voldelige trusler, hadefulde ytringer eller selvskade, gemmes udskrifterne i op til et år. Dette er naturligvis en sikkerhedsforanstaltning for virksomheden, hvis retshåndhævelsen kræver oplysningerne, eller virksomheden selv har brug for detaljerne til yderligere interne undersøgelser.
Yubos Chief Operating Officer, Marc-Antoine Durand, ser udvidelsen af lydmoderering teknologi som et nøgleelement i udviklingen af online sikkerhed på tværs af hele branchen.
"Der er stadig mange fremskridt, der skal gøres inden for stemmedetektion, men vi er stolte af at slå en vej for vores jævnaldrende ved at at være den første til at lancere lydmoderering med Hive og hjælpe med at gøre dette værktøj mere pålideligt og effektivt gennem denne prøveperiode," Durand sagde.
Det er klart, at sociale platforme ikke ønsker voldsom mobning, hadefulde ytringer og voldsfremkaldende kommentarer, da det ville skubbe andre brugere væk. Implementering af en sådan modereringsteknologi er et fantastisk værktøj til at holde brugerne sikre, og også til at hjælpe med at garantere Yubos vækst og succes i det lange løb.
