Med millioner af ChatGPT-brugere undrer du dig måske over, hvad OpenAI gør med alle sine samtaler. Analyserer den konstant de ting, du taler om med ChatGPT?
Svaret på det er, ja, ChatGPT lærer af brugerinput - men ikke på den måde, som de fleste tror. Her er en dybdegående guide, der forklarer, hvorfor ChatGPT sporer samtaler, hvordan det bruger dem, og om din sikkerhed er kompromitteret.
Husker ChatGPT samtaler?
ChatGPT tager ikke prompter til pålydende værdi. Den bruger kontekstuel hukommelse til at huske og referere til tidligere input, hvilket sikrer relevante, ensartede svar.
Tag nedenstående samtale som eksempel. Da vi spurgte ChatGPT om opskriftsideer, overvejede det vores tidligere besked om jordnøddeallergi.
Her er ChatGPTs sikre opskrift.
Kontekstuel hukommelse lader også AI udføre flertrinsopgaver. Billedet nedenfor viser ChatGPT, der forbliver i karakter, selv efter at have givet den en ny prompt.
ChatGPT kan huske snesevis af instruktioner i samtaler. Dens output forbedres faktisk i nøjagtighed og præcision, efterhånden som du giver mere kontekst. Bare sørg for at forklare dine instruktioner eksplicit.
Du bør også styre dine forventninger, fordi ChatGPTs kontekstuelle hukommelse stadig har begrænsninger.
ChatGPT-samtaler har begrænset hukommelseskapacitet
Kontekstuel hukommelse er begrænset. ChatGPT har begrænsede hardwareressourcer, så det husker kun op til specifikke punkter i aktuelle samtaler. Platformen glemmer tidligere prompter, når du rammer dens hukommelseskapacitet.
I denne samtale instruerede vi ChatGPT til at rollespille en fiktiv karakter ved navn Tomie.
Det begyndte at besvare meddelelser som Tomie, ikke ChatGPT.
Selvom vores anmodning virkede, brød ChatGPT karakter efter at have modtaget en prompt på 1.000 ord.
OpenAI har aldrig afsløret ChatGPTs nøjagtige grænser, men rygter siger, at det kun kan behandle 3.000 ord ad gangen. I vores eksperiment fungerede ChatGPT efter blot 2.800+ ord.
Du kan opdele dine prompter i to sæt på 1.500 ord, men ChatGPT vil sandsynligvis ikke beholde alle dine instruktioner. Bare start en ny chat helt. Ellers bliver du nødt til at gentage specifikke detaljer flere gange i løbet af din samtale.
ChatGPT husker kun emnerelevante input
ChatGPT bruger kontekstuel hukommelse til at forbedre outputnøjagtigheden. Det gemmer ikke kun oplysninger for at indsamle dem. Platformen glemmer næsten automatisk irrelevante detaljer, selvom du er langt fra at nå token-grænsen.
På billedet nedenfor forsøger vi at forveksle AI med forskellige usammenhængende, irrelevante instruktioner.
Vi holdt vores kombinerede input under 100 ord, men ChatGPT glemte stadig vores første instruktion. Det knækkede hurtigt karakter.
I mellemtiden fortsatte ChatGPT med at spille rolle under denne samtale, fordi vi kun stillede emnerelevante spørgsmål.
Ideelt set skal hver dialog følge et enkelt tema for at opretholde nøjagtige, relevante output. Du kan stadig indtaste flere instruktioner samtidigt. Bare sørg for, at de stemmer overens med det overordnede emne, ellers kan ChatGPT droppe instruktioner, som den anser for irrelevante.
Træningsinstruktioner overmander brugerinput
ChatGPT vil altid prioritere forudbestemte instruktioner over brugergenereret input. Det stopper ulovlige aktiviteter gennem restriktioner. Platformen afviser enhver prompt, som den anser for farlig eller skadelig for andre.
Tag rollespilsanmodninger som eksempler. Selvom de tilsidesætter visse begrænsninger for sprog og frasering, kan du ikke bruge dem til at begå ulovlige aktiviteter.
Selvfølgelig er ikke alle restriktioner rimelige. Hvis stive retningslinjer gør det udfordrende at udføre specifikke opgaver, så fortsæt med at omskrive dine prompter. Ordvalg og tone påvirker i høj grad output. Du kan hente inspiration fra de fleste effektive, detaljerede prompter på GitHub.
Hvordan studerer OpenAI brugersamtaler?
Kontekstuel hukommelse gælder kun for din aktuelle samtale. ChatGPTs statsløse arkitektur behandler samtaler som uafhængige instanser; den kan ikke referere til oplysninger fra tidligere. Start af nye chats nulstiller altid modellens tilstand.
Dette betyder ikke, at ChatGPT dumper brugersamtaler med det samme. OpenAIs brugsbetingelser anføre, at virksomheden indsamler input fra ikke-API-forbrugertjenester som ChatGPT og Dall-E. Du kan endda bede om kopier af din chathistorik.
Mens ChatGPT frit har adgang til samtaler, OpenAIs privatlivspolitik forbyder aktiviteter, der kan kompromittere brugere. Trænere kan kun bruge dine data til produktforskning og -udvikling.
Udviklere leder efter smuthuller
OpenAI gennemsøger samtaler efter smuthuller. Den analyserer tilfælde, hvor ChatGPT demonstrerer databias, producerer skadelig information eller hjælper med at begå ulovlige aktiviteter. Platformens etiske retningslinjer bliver konstant fornyet.
For eksempel de første versioner af ChatGPT besvarede åbent spørgsmål om kodning af malware eller at bygge sprængstoffer. Disse hændelser fik brugerne til at få lyst OpenAI har ingen kontrol over ChatGPT. For at genvinde offentlighedens tillid, trænede det chatbotten til at afvise ethvert spørgsmål, der kunne gå imod dens retningslinjer.
Trænere indsamler og analyserer data
ChatGPT bruger overvågede læringsteknikker. Selvom platformen husker alle input, lærer den ikke af dem i realtid. OpenAI-trænere indsamler og analyserer dem først. Dette sikrer, at ChatGPT aldrig absorberer den skadelige, skadelige information, den modtager.
Superviseret læring kræver mere tid og energi end uovervågede teknikker. Det er dog allerede bevist, at det er skadeligt at lade AI kun analysere input.
Tag Microsoft Tay som et eksempel - en af de gange maskinlæring gik galt. Da det konstant analyserede tweets uden udviklervejledning, trænede ondsindede brugere det til sidst til at spytte racistiske, stereotype meninger.
Udviklere holder konstant øje med skævheder
Flere eksterne faktorer forårsager skævheder i AI. Ubevidste fordomme kan opstå fra forskelle i træningsmodeller, datasætfejl og dårligt konstruerede restriktioner. Du kan se dem i forskellige AI-applikationer.
Heldigvis har ChatGPT aldrig demonstreret diskriminerende eller racemæssige skævheder. Måske den værste skævhed, brugere har bemærket, er ChatGPTs tilbøjelighed til venstreorienterede ideologier, ifølge en New York Post rapport. Platformen skriver mere åbent om liberale end konservative emner.
For at løse disse skævheder forbød OpenAI ChatGPT helt at give politisk indsigt. Den kan kun svare på generelle fakta.
Moderatorer gennemgår ChatGPT's præstation
Brugere kan give feedback på ChatGPT's output. Du finder tommel-op- og tommelfinger-ned-knapperne i højre side af hvert svar. Førstnævnte indikerer en positiv reaktion. Når du har trykket på "synes godt om" eller "dislike"-knappen, vil et vindue dukke op, hvor du kan sende feedback med dine egne ord.
Feedbacksystemet er nyttigt. Bare giv OpenAI lidt tid til at gennemgå kommentarerne. Millioner af brugere kommenterer ChatGPT regelmæssigt - dets udviklere prioriterer sandsynligvis alvorlige tilfælde af skævheder og generering af skadelig output.
Er dine ChatGPT-samtaler sikre?
I betragtning af OpenAIs privatlivspolitikker kan du være sikker på, at dine data forbliver sikre. ChatGPT bruger kun samtaler til datatræning. Dets udviklere studerer den indsamlede indsigt for at forbedre outputnøjagtigheden og pålideligheden, ikke stjæle personlige data.
Med det sagt, er intet AI-system perfekt. ChatGPT er ikke i sig selv partisk, men ondsindede personer kan stadig udnytte dets sårbarheder, f.eks. datasætfejl, skødesløs træning og sikkerhedshuller. For din beskyttelse, lær at bekæmpe disse risici.