ChatGPT er en kraftfuld ny AI-chatbot, der er hurtig til at imponere, men alligevel har mange mennesker påpeget, at den har nogle alvorlige faldgruber. Spørg det hvad du vil, og du vil modtage et svar, der lyder som om det er skrevet af et menneske, efter at have lært sin viden og skrivefærdigheder fra massemængder af information på tværs af internettet.
Ligesom internettet er sandhed og fakta dog ikke altid givet, og ChatGPT er skyldig i at tage fejl. Med ChatGPT indstillet til at ændre vores fremtid, er her nogle af de største bekymringer.
Hvad er ChatGPT?
ChatGPT er en stor sprogindlæringsmodel, der er designet til at efterligne menneskelig samtale. Den kan huske ting, du har sagt til den tidligere, og er i stand til at rette sig selv, når den er forkert.
Den skriver på en menneskelignende måde og har et væld af viden, fordi den er trænet i alverdens tekst fra internettet, såsom Wikipedia, blogindlæg, bøger og akademiske artikler.
Det er nemt at lære hvordan man bruger ChatGPT, men det, der er mere udfordrende, er at finde ud af, hvad dets største problemer er. Her er nogle, der er værd at vide om.
1. ChatGPT er ikke altid rigtigt
Den fejler grundlæggende matematik, kan tilsyneladende ikke besvare simple logiske spørgsmål og vil endda gå så langt som til at argumentere for fuldstændig forkerte fakta. Som brugere af sociale medier kan bevidne, kan ChatGPT tage fejl ved mere end én lejlighed.
OpenAI kender til denne begrænsning og skriver at: "ChatGPT skriver nogle gange plausibelt klingende, men forkerte eller meningsløse svar." Det her "hallucination" af fakta og fiktion, som nogle videnskabsmænd kalder det, er især farligt, når det kommer til noget som medicinsk råd.
I modsætning til andre AI-assistenter som Siri eller Alexa, bruger Chat GPT ikke internettet til at finde svar. I stedet konstruerer den en sætning ord for ord, og vælger den mest sandsynlige "token", der skal komme næste, baseret på dens træning.
Med andre ord kommer ChatGPT frem til et svar ved at foretage en række gæt, hvilket er en del af grunden til, at det kan argumentere for forkerte svar, som om de var fuldstændig sande.
Selvom det er fantastisk til at forklare komplekse begreber, hvilket gør det til et stærkt værktøj til læring, er det vigtigt ikke at tro på alt det siger. ChatGPT er ikke altid korrekt - i hvert fald ikke endnu.
2. Bias er bagt ind i systemet
ChatGPT blev trænet i den kollektive skrivning af mennesker over hele verden, fortid og nutid. Det betyder, at de samme skævheder, som findes i dataene, også kan optræde i modellen.
Faktisk har brugere vist, hvordan ChatGPT kan give nogle forfærdelige svar, nogle, for eksempel, der diskriminerer kvinder. Men det er kun toppen af isbjerget; det kan give svar, der er ekstremt skadelige for en række minoritetsgrupper.
Skylden ligger heller ikke blot i dataene. OpenAI-forskere og -udviklere vælger de data, der bruges til at træne ChatGPT. For at hjælpe med at løse det, OpenAI kalder "biased adfærd", beder den brugere om at give feedback på dårlige output.
Med potentialet til at forårsage skade på mennesker, kan du argumentere for, at ChatGPT ikke burde have været udgivet til offentligheden, før disse problemer er undersøgt og løst.
En lignende AI-chatbot kaldet Sparrow (ejet af Googles moderselskab, Alphabet) blev udgivet i september 2022. Den blev dog holdt bag lukkede døre på grund af lignende bekymringer om, at den kunne forårsage skade.
Måske burde Meta også have stået i spidsen for advarslen. Da den udgav Galactica, en AI-sprogmodel, der blev trænet på akademiske artikler, blev den hurtigt tilbagekaldt, efter at mange mennesker kritiserede den for at udsende forkerte og partiske resultater.
3. En udfordring til gymnasieengelsk
Du kan bede ChatGPT om at læse korrektur på dit forfatterskab eller påpege, hvordan du kan forbedre et afsnit. Alternativt kan du fjerne dig selv fra ligningen helt og bede ChatGPT om at skrive noget til dig.
Lærere har eksperimenteret med at fodre engelske opgaver til ChatGPT og har modtaget svar, der er bedre, end hvad mange af deres elever kunne gøre. Fra at skrive følgebreve til at beskrive store temaer i et berømt litteraturværk, ChatGPT kan gøre det uden at tøve.
Det rejser spørgsmålet: Hvis ChatGPT kan skrive for os, skal eleverne så lære at skrive i fremtiden? Det kan virke som et eksistentielt spørgsmål, men når eleverne begynder at bruge ChatGPT til at hjælpe med at skrive deres essays, bliver skolerne nødt til hurtigt at finde et svar. Den hurtige udrulning af kunstig intelligens i de seneste år vil chokere mange industrier, og uddannelse er blot en af dem.
4. Det kan forårsage skade i den virkelige verden
Tidligere nævnte vi, hvordan ukorrekte oplysninger fra ChatGPT kan forårsage skade i den virkelige verden, hvor det mest åbenlyse eksempel er forkert lægerådgivning.
Der er også andre bekymringer. Falske konti på sociale medier udgør et stort problem på internettet, og med introduktionen af AI-chatbots ville internetsvindel blive lettere at udføre. Spredningen af falsk information er en anden bekymring, især når ChatGPT får selv forkerte svar til at lyde overbevisende rigtige.
Den hastighed, hvormed ChatGPT kan producere svar, som ikke altid er korrekte, har allerede skabt problemer for Stack Exchange, et websted, hvor brugere kan stille spørgsmål og få svar.
Kort efter dets udgivelse blev svar fra ChatGPT forbudt fra siden på grund af, at et stort antal af dem var forkerte. Uden nok menneskelige frivillige til at sortere i efterslæbet, ville det være umuligt at opretholde et højt niveau af kvalitetssvar, hvilket forårsager skade på hjemmesiden.
5. OpenAI har al magten
Med stor magt følger et stort ansvar, og OpenAI har meget magt. Det er et af de første AI-virksomheder, der virkelig rystede verden med ikke én, men flere AI-modeller, inklusive Dall-E 2, GPT-3 og nu ChatGPT.
OpenAI vælger, hvilke data der bruges til at træne ChatGPT, og hvordan de håndterer de negative konsekvenser. Uanset om vi er enige i metoderne eller ej, vil den fortsætte med at udvikle denne teknologi i overensstemmelse med sine egne mål.
Mens OpenAI betragter sikkerhed som en høj prioritet, er der meget, vi ikke ved om, hvordan modellerne er skabt. Uanset om du mener, at koden skal gøres til open source, eller er enig i, at den skal holde dele af den hemmelig, er der ikke meget, vi kan gøre ved det.
I sidste ende kan vi kun stole på, at OpenAI vil forske i, udvikle og bruge ChatGPT ansvarligt. Alternativt kan vi slå til lyd for, at flere mennesker får indflydelse på, hvilken retning AI skal lede, og deler AI-kraften med de mennesker, der vil bruge den.
Hvis du er interesseret i, hvad OpenAI ellers har udviklet, så tjek vores artikler om hvordan man bruger Dall-E 2 og hvordan man bruger GPT-3.
Håndtering af AI's største problemer
Der er meget at være begejstret for med ChatGPT, OpenAIs seneste udvikling. Men ud over dets umiddelbare anvendelser er der nogle alvorlige problemer, der er værd at forstå.
OpenAI indrømmer, at ChatGPT kan producere skadelige og partiske svar, for ikke at nævne dets evne til at blande fakta med fiktion. Med sådan en ny teknologi er det svært at forudsige, hvilke andre problemer der vil opstå. Så indtil da, nyd at udforske ChatGPT og pas på ikke at tro på alt, hvad der står.
