Midt i det kaos, der er forårsaget af deepfake-billeder, skal vi nu også håndtere truslen fra deepfake-musik.
Nye sange af kendte kunstnere går viralt på sociale medier, hvilket normalt ikke er et problem, undtagen når en stemmeklon er den, der synger. Selvom det var et af de sidste medier, der holdt ud, er deepfake-musik nu en realitet.
Det fungerer ved at træne en AI-model på en sangers stemme, og resultaterne er ikke altid dårlige. Der er masser af ægte kreativitet i at skabe deepfake-sange, men problemet ligger ikke kun i outputtet. I mange tilfælde bliver der ikke givet tilladelse, og spørgsmål om, hvem der bliver betalt, og om det er etisk, er blot nogle af problemerne med deepfake musik.
1. Uautoriserede datasæt
Hvis du vil oprette et dybt falsk spor af en berømt kunstner, skal du samle lydfiler af deres sangstemme i et datasæt. Ligesom alle data, der tilhører nogen, bør du nok få deres tilladelse til at bruge dem, men en dyb falsk sang kan komme til en stor musikplatform som YouTube, Spotify eller TikTok, efter at have brugt en uautoriseret datasæt.
Dette skete for kunstnerne Drake og The Weeknd, da en bruger ved navn Ghostwriter skabte "Heart on My Sleeve". Hitsangen indeholdt kunstnernes AI-syntetiserede stemmer, komplet med tekster om The Weeknds ekskæreste.
Sangen blev virkelig nydt af fans, med ekstra ros til Ghostwriter for den kreative brug af deepfake vokalen, men som Det rapporterede Seattle Times, ikke alle så det sådan. En talsmand fra Universal Music Group, det store label bag begge kunstnere, spørger:
"Hvilken side af historien ønsker interessenter i musikøkosystemet at være på: siden af kunstnere, fans og menneskeligt kreativt udtryk, eller på siden af dybe forfalskninger, bedrageri og at nægte kunstnere deres behørige kompensation?"
2. Forældet lov om ophavsret
Hvis du er en kunstner, der ikke ønsker, at din stemme skal klones, kan loven om ophavsret muligvis ikke hjælpe dig endnu. Da vores love om ophavsret blev skrevet på et tidspunkt, hvor denne type AI-teknologi ikke eksisterede, er det ingen overraskelse, at love stadig forsøger at indhente det.
Den nærmeste retssag om "stemmetyveri" i USA går tilbage til 1990'erne. Som rapporteret af Los Angeles Times, vandt sangeren Tom Waits $2,475 millioner i erstatning fra Frito-Lay Inc., den mægtige chipgigant bag Doritos, Cheetos, Cracker Jack's og flere.
Annoncen brugte stemmen fra en person, der lød tæt nok på Tom Waits til, at folk kunne tro, at den rigtige kunstner stod bag reklamekampagnen. Det samme kunne siges om deepfake-sange, der i øjeblikket cirkulerer, men AI-musik er endnu ikke testet i en juridisk kamp.
Mens vi venter på, at retssystemet opdateres, er det værd at bemærke, at ikke alle har problemer med, at folk kloner deres stemme. Holly Herndon, for eksempel. Over for den kommende tidevand af AI-musikapplikationer valgte hun at autorisere sin vokale tvilling kaldet Holly+ sammen med et system, der gav hende et rimeligt vederlag.
Uanset hvilken side du tager, forbliver problemet det samme. Der er ikke en specifik lov om ophavsret, der siger, at du skal have tilladelse fra kunstneren, før du bruger deres stemme. Indtil da kan kunstnere befinde sig i det vilde vesten af AI-teknologi, uden nogen love til at guide dem.
3. Hvem bliver betalt?
Er det okay at tjene penge på musik ved at bruge nogens stemme? Det er et vanskeligt spørgsmål, der kan blive et større problem, efterhånden som mere deepfake musik udgives til streamingplatforme og tjene penge på sociale medieplatforme.
Som vi alle ved, er det okay at synge et cover af en berømt sang og poste den på YouTube eller Spotify, og i så fald kan ting som teksten, sangstrukturen, melodien, rytmen osv. er kopieret. Men vokalkloner er ret forskellige, og deepfake musik er ikke ligefrem at riffe på en eksisterende sang, men at skabe en helt ny sang ved hjælp af en andens stemme.
Sagt på en anden måde ville stemmekloner ikke eksistere, hvis det ikke var for AI-værktøjer og uautoriserede datasæt. Kunstnere bruger et helt liv på at finpudse den stemme, de er født med, og skabe en unik lyd. At stjæle nogens stemme og tjene penge på det kan være et skridt for langt.
4. En gråzone-genre
For at komplicere tingene, ser nogle mennesker måske ikke deepfake-musik som helt dårligt. I modsætning til deepfake-billeder eller -videoer, som du måske griner kort af, før du scroller forbi på din telefon, bygger deepfake-musik mod en genre for sig.
Nogle mennesker sammenligner det med ideen om fanfiction-skrivning, en sjov og kreativ måde at hylde en kunstner på. Det er et mere positivt syn, der gør det vanskeligt at udelukke deepfake musik som simpelthen tabu. Bare tag et kig på Holly Herndons tilgang til AI-stemmekloning i videoen nedenfor.
Selvom ikke alle er enige om, at denne type musik bør tillades. Som Det skriver Financial Times, det store pladeselskab, Universal Music Group, havde til formål at få fjernet sange af lavere kvalitet fra streamingplatforme, inklusive dem, der er skabt af AI. Til sidst bliver streamingplatforme som Spotify, Apple Music eller Tidal nødt til at træffe en beslutning om, hvorvidt denne musikgenre er tilladt på dens platform.
Deepfake musik antænder lignende debatter, som allerede sker i kunstverdenen: bør AI-genereret kunst betragtes som kunst? Først nu stiller vi spørgsmålstegn ved AI-musik.
5. Etiske bekymringer omkring race og identitet
Tiden med deepfake musik er startet med en masse musik, der efterligner rapmusik. Med genrens historiske rødder, der går tilbage til afroamerikansk ungdom, der voksede op i Bronx, New York City, i begyndelsen af 1970'erne, er nogle mennesker bekymrede for race og identitet i AI-musik.
Forfatter Lauren Chanel, er en person, der finder deepfake musik et alvorligt problem. Som citeret i en artikel af New York Times, forklarer de:
"Det er en anden måde for folk, der ikke er sorte at tage en sort persons kostume på - at række hænderne op til Kanye eller Drake og gøre ham til en marionet - og det er alarmerende for mig." "Dette er blot endnu et eksempel på en lang række af mennesker, der undervurderer, hvad der skal til for at skabe den type kunst, som historisk set sorte mennesker lave."
Det er ikke første gang, at musik skabt med AI-værktøjer ikke har været etisk. Som rapporteret i magasinet Rolling Stone, en virtuel avatar-rapper ved navn FN Meka blev signet til et label, og droppede derefter hurtigt, da online civil rettighedsgruppen Industry Blackout skrev, at projektet videreførte "grove stereotyper" om Back kultur.
Om noget minder dybfalsk musik os om, at AI-værktøjer ikke kan adskilles fra historien om musikproduktion, og ignorering af det føjer til farerne ved AI deepfakes.
6. Forvolder skade på kunstnere
En ting, der ikke bør overses, er den følelsesmæssige indvirkning en deepfake sang kan have på kunstneren, især når en stemme kloner kan synge om situationer, der aldrig er sket, udtrykke følelser, der ikke er deres egne, og lade som om de bekymrer sig om ting, de måske ikke ville.
I tilfældet med den falske Drake-sang ft. The Weeknd, sangteksterne indeholdt linjer om Selena Gomez, der plejede at date The Weeknd. Ved at bruge en blanding af virkelige fakta og opdigtede tekster var det en mærkelig forvrængning af virkeligheden, der kunne være skadelig for kunstneren, der gennemlevede den virkelige oplevelse.
Tilsvarende producere AI-genererede sangtekster "i stil med" en berømt person, der bruger AI-tekstgeneratorer, har fået nogle kunstnere til at fortvivle over brugen af AI-teknologi. Som Nick Cave udtrykker det, "Hvad ChatGPT er, i dette tilfælde, er replikering som parodi."
Deepfake musik er i stand til at lægge ord i munden på kunstneren, som de aldrig har talt eller i dette tilfælde sunget. På det personlige plan kan dette være skadeligt for kunstneren, der har ringe kontrol over at fjerne indholdet, uden at tage kampen for retten.
Forberedelse til ændringer i musikindustrien
Takket være den voksende adgang til AI-værktøjer er musik kommet ind i deepfakes-verdenen, især gennem stemmekloner. At fortælle forskellen mellem en AI-stemme og en menneskelig stemme bare ved at lytte er ekstremt svært, hvilket gør det nemt for en deepfake-sang at nå streamingplatforme, før den fjernes.
På den ene side kan fans nyde deepfake musik, og en gyldig genre kan dukke op, der bruger berømte stemmer til at skabe ny og interessant musik. Men ikke alle kunstnere er enige i at få deres stemme klonet, og der er ingen love, der forhindrer folk i at oprette uautoriserede datasæt.
At opnå samtykke, kompensere kunstnere og undersøge etiske bekymringer er blot nogle få problemer, som kunstnere og musikindustrien står over for. Med den hurtige udvikling af AI-teknologi er det værd at tage en pause for at reflektere over de problemer, de har skabt.
