Hvor lang tid kan der gå et ChatGPT-svar, før den generative AI holder op med at reagere på dig?

ChatGPT er store nyheder. Men hvor store er de svar, du får fra denne chatbot til alle formål?

At etablere dette er ikke så simpelt, som du måske tror. For det første, stil netop dette spørgsmål til ChatGPT, og du vil være sikker på, at der ikke er nogen faste grænser for længden af ​​dets svar.

Men som vi afslører her, er det ikke så ligetil. Der er skjulte grænser for længden af ​​et ChatGPT-svar, men der er også nogle smarte og enkle løsninger, der hjælper dig med at få længere svar.

Hvordan bestemmer ChatGPT længden af ​​et svar?

Hvordan ChatGPT fungerer, er komplekst, og svarlængden varierer afhængigt af, hvad der bliver spurgt, og den ønskede detaljeringsgrad. Som det næste skærmbillede viser, hævder ChatGPT, at der ikke er nogen strenge grænser.

Det er ikke det, vi fandt. Eksemplet nedenfor viser ChatGPT, der pludselig stopper et svar midt i sætningen. Vi bad den om at udarbejde et essay på tusind ord om fordelene ved en cirkulær økonomi. ChatGPT holdt op med at svare, da det nåede 677 ord.

instagram viewer

Vi gentog testen flere gange med forskellige spørgsmål, og hver gang stoppede den midt i sætningen; lejlighedsvis blev dette ledsaget af en netværksfejl. Dette er en almindelig fejl, og det er der forskellige måder at rette netværksfejl på i ChatGPT.

En del af svaret på, hvorfor dette sker, ligger i noget, der kaldes token-systemet.

Hvad er tokensystemet ChatGPT bruger?

I stedet for en simpel ordtælling til at bestemme længden af ​​både forespørgsler og svar, bruger ChatGPT et token-system. Dette opdeler hvert input og output i en række tokens, der bruges til at klassificere anmodningen og svarstørrelsen.

Selvom ordtælling spiller en rolle i dette, er det ikke hele historien. Eksempelvis blev nedenstående eksempel indgået OpenAis Tokenizer-værktøj.

Sætningen og svaret var "Tokenized" til en værdi af ni tokens. Dette er i overensstemmelse med OpenAI's "tommelfingerregel" om, at et token svarer til tre fjerdedele af et ord.

GPT 3.5-modellen begrænser brugerspørgsmål og data til 4.097 tokens. Efter OpenAI's beregning svarer det til omkring 3.000 ord. Det er dog vigtigt at bemærke, at denne grænse gælder både for svaret og spørgsmålet.

Selvom alt dette er fint og godt i teorien, nærmede de resultater, vi stødte på, aldrig disse grænser. Det ufuldstændige svar, som ChatGPT returnerede i vores tidligere test, vejede kun 798 tokens.

Hvorfor er ChatGPTs svar begrænset?

Denne spæde teknologi er hurtigt blevet den mest omtalte teknologiske udvikling i dette århundrede. Dette har skabt stor efterspørgsel efter ChatGPT. I sidste ende har denne efterspørgsel effektivt indskrænket svarene til langt under de angivne grænser.

Selvom der ikke er nogen officiel bekræftelse på dette, ser der ud til at være en de facto-grænse på omkring fem hundrede ord eller 4.000 tegn.

For at understrege, er dette ikke en fast regel - vi genererede output, der oversteg dette med næsten to hundrede ord. Dette kan dog betragtes som en sikker øvre grænse for at opnå fuldstændige svar.

Sådan får du længere svar fra ChatGPT

Når du først forstår, at der er en "skjult grænse" for ChatGPTs svar, er der nogle enkle måder, du kan hjælpe dig med at få mere fuldstændige svar.

  1. Bed ChatGPT om at fortsætte: Hvis ChatGPT stopper halvvejs gennem et svar, så er en mulighed blot at bede den om at fortsætte. I eksemplet nedenfor skrev vi "Fortsæt", og det tilføjede yderligere to hundrede ord til svaret.
  2. Del dit spørgsmål op i mindre sektioner: For eksempel bad vi den flere gange om at skrive et essay om virkningen af ​​AI på samfundet. Hver gang stoppede svaret. En mulighed her er at bede den om at punktopstille nogle emner til et essay om AI og derefter bruge de medfølgende punktopstillinger som individuelle prompter.
  3. Brug muligheden Gendan: Selvom dette kan give den samme fejl, uden noget at tabe, er det altid et forsøg værd.
  4. Angiv en øvre grænse for dit ordantal i din prompt: Billedet nedenfor illustrerer, hvordan dette kan bruges til at manipulere det maksimale antal ord i et svar.

Disse tips hjælper dig med at få mere fuldstændige svar fra ChatGPT og omgå den uofficielle grænse i længden af ​​dets svar.

ChatGPT: Kvalitet frem for kvantitet

Selvom der ikke er nogen faste grænser for længden af ​​ChatGPTs svar, ser platformen ud til at pålægge en grænse på omkring fem hundrede ord eller 4.000 tegn.

Dette kan hovedsageligt tilskrives på grund af den enorme efterspørgsel efter ChatGPT. Dette har ført til ufuldstændige svar og stoppede svar midt i sætningen, men der er enkle løsninger, der hjælper dig med at få længere svar.

På trods af sine begrænsninger forbliver ChatGPT en bemærkelsesværdig teknologisk udvikling, der vil fortsætte med at udvikle og udvide kvalitets- og kvantitetsgrænserne for sit output.