I dag er ChatGPT påberåbt af millioner som en nyttig ressource, hvad enten det er til arbejde, sjov eller uddannelse. Men kan du stole på, at denne AI-chatbot altid giver fakta? Lyver ChatGPT nogensinde, eller vil det kun give dig faktuelle oplysninger?
Hvor får ChatGPT sine oplysninger fra?
I sin træningsperiode blev ChatGPT tilført data fra kilder på tværs af nettet, såsom regerings- og agenturers websteder, videnskabelige tidsskrifter, undersøgelser, nyhedsartikler, podcasts, onlinefora, bøger, databaser, film, dokumentarer og sociale medier medier.
Specifikt blev ChatGPT-3 trænet ved hjælp af en omfattende database med information, der beløb sig til 570 GB data. Som der står i en artikel fra Videnskabsfokus300 milliarder ord med information blev ført ind i GPT-3-systemet under dets udvikling.
Noget der er værd at bemærke her er, at ChatGPT kun er blevet tilført data, der eksisterede før 2021. Det betyder, at chatbotten ikke kan besvare spørgsmål vedrørende de seneste begivenheder. ChatGPT har heller ikke adgang til internettet. De data, den blev tilført under træning, er den eneste type, den bruger til at opfylde brugerbeskeder.
Men forsyner ChatGPT kun dig med fakta, eller er nogle mere tvetydige oplysninger blandet i dets svar? Kan ChatGPT desuden lyve for dig?
Lyver ChatGPT?
Mens ChatGPT ofte leverer sandfærdig information til brugere, har den evnen til at "lyve". ChatGPT beslutter sig naturligvis ikke for ondsindet at lyve for brugerne, da det simpelthen ikke kan gøre det. ChatGPT er trods alt et sprogbehandlingsværktøj, ikke en efterligning af en ægte, sansende person.
ChatGPT kan dog teknisk set stadig ligge gennem et fænomen kendt som AI-hallucination.
AI hallucination involverer et AI-system, der giver information, der virker rimelig eller plausibel, men som i virkeligheden slet ikke er sand. Faktisk kan AI-hallucination give information om, at den aldrig blev fodret i løbet af sin træningsperiode. Alternativt kan det forekomme, når et AI-system giver information, der ikke er relateret til prompten eller anmodningen. Et AI-system kan endda hævde at være menneske i en hallucinationsbegivenhed.
AI-systemer, såsom chatbots, falder i hallucinationsfælden af flere årsager: deres manglende virkelighedsforståelse, softwarefejl og begrænsninger på de leverede data.
Som tidligere nævnt kan ChatGPT kun levere information ved hjælp af data offentliggjort frem til 2021, hvilket helt sikkert begrænser, hvilke slags prompts det kan opfylde.
En af ChatGPTs store problemer er, at den også kan blive offer for bias, når den giver brugerne oplysninger. Selv ChatGPTs skabere har udtalt, at AI-systemet har været "politisk forudindtaget, stødende" og "på anden måde anstødeligt" i fortiden. Som rapporteret af Den uafhængige, ChatGPTs udviklere er forpligtet til at tackle dette problem, men det betyder ikke, at det ikke længere udgør en risiko.
På spørgsmålet udtalte ChatGPT, at årsagerne til, at det kan give unøjagtige oplysninger, omfatter følgende:
- Tvetydighed i spørgsmålet (vage, uklare prompter);
- Ufuldstændige oplysninger givet;
- Forudset eller ukorrekt information givet; eller,
- Tekniske begrænsninger (hovedsageligt på grund af manglende adgang til aktuelle data).
Så ChatGPT sagde selv, at der er scenarier, hvor det ikke vil give nøjagtige oplysninger til brugerne.
I et andet svar i samme samtale udtalte ChatGPT, at "det er altid en god idé at verificere enhver information [den giver] med andre kilder."
Kan du stole på ChatGPT?
Fordi det kan give falske oplysninger, du klart kan ikke stole på ChatGPT 100 % af tiden.
Du kan sænke risikoen for, at en AI-chatbot hallucinerer ved at indstille specifikke parametre for, hvordan den kan svare dig. Der er dog stadig ingen garanti for, at nogle falske oplysninger ikke slipper igennem.
På grund af dette er det bedst at tjekke alle oplysninger, som ChatGPT giver dig, især hvis du anmoder om oplysninger om seneste begivenheder. Dobbelttjek af disse data ved at henvise til andre kilder kan hjælpe dig med at afgøre, om ChatGPT har ret i, hvad det siger, og kan forhindre dig i at træffe uovervejede beslutninger.
ChatGPT er nyttigt, men ikke altid sandfærdigt
Desværre kan du ikke stole på, at ChatGPT giver sandfærdig, upartisk information 100 % af tiden. Denne AI-drevne chatbot er unægtelig nyttig og kan hjælpe dig på forskellige måder, men det er altid værd at verificere, om de oplysninger, den giver, er faktuelle.