OpenAIs automatiserede AI-drevne chatbot, ChatGPT, har taget internettet med storm, men ikke uden at skabe et par problemer på vejen. Med forfattere, kodere, marketingfolk og tilsyneladende alle andre i mellem at bruge ChatGPT til at generere indhold, stirrer virksomheder verden over ned i en tsunami af AI-genereret indhold.
Med problemer med plagiat og stjålet indhold, der konstant hvirvler rundt i ChatGPT og dets output, har OpenAI nu udgivet en ny GPT-Classifier, et værktøj designet til at opdage og afsløre, om den tekst, du læser, var et værk af ChatGPT eller en af dens andre GPT værktøjer.
OpenAI lancerer GPT-Classifier for at hjælpe med at kontrollere AI-skrevet tekst
OpenAI's meddelelse kommer som granskning af AI-skrivning og AI-genereret tekst trin op, og virksomheder integrerer ChatGPT-output.
Den nye GPT-Classifier forsøger at finde ud af, om et givent stykke tekst var menneskeskrevet eller værket af en AI-generator. Mens ChatGPT og andre GPT-modeller trænes grundigt i alle former for tekstinput GPT-Classifier-værktøjet er "finjusteret på et datasæt af par af menneskeskreven tekst og AI-skrevet tekst på samme emne."
Så i stedet for at samle information og genskabe dens bedste tilnærmelse, forsøger GPT-klassificeringen at sammenligne ligheder mellem kendt menneskelig tekst og kendt AI-tekst for at finde uoverensstemmelser, der afslører kilden forfatter.
GPT-klassificeringsdetektion er i øjeblikket begrænset
Mens ideen om nemt at få øje på AI-genereret tekst vil være musik i redaktører og underviseres ører, har OpenAI advaret om, at dens "klassificering ikke er fuldt pålidelig."
I øjeblikket identificerer GPT-Classifier "korrekt 26% af AI-skrevet tekst", mens 9% af menneskelig tekst mærkes som AI-skrevet. OpenAI bemærker også, at værktøjets nøjagtighed "typisk forbedres, efterhånden som længden af inputteksten øges."
En overfladisk test af GPT-Classifier opdagede et menneskeskabt eksempel og markerede det "meget usandsynligt at være AI-genereret," og angav også korrekt, at et ChatGPT-genereret uddrag om USB-problemer "muligvis var AI genereret."
Efterspørgslen efter ChatGPT-detektion er høj
Selv med GPT-klassificeringens begrænsninger, vil efterspørgslen efter pålidelig ChatGPT-detektion sandsynligvis se, at mange vender sig til dette værktøj. OpenAIs forpligtelse til at bygge og frigive et gratis GPT-detektionsværktøj er vigtigt, fordi efterhånden som flere studerende, forfattere, programmører og andre bruger AI-tekstgenereringsværktøjer, vil forståelse og registrering af dette input blive vital.
For nu, selvom GPT-Classifier er oppe at køre og tilgængelig til test, er det bedst at tage dens mærkning med et gran salt.