Hvem har ikke brugt ChatGPT på nuværende tidspunkt? Det er sjovt, absolut fascinerende, hvis du har nogen interesse i kunstig intelligens, og gratis (indtil videre).
Selvom det normalt beskrives som en chatbot, er ChatGPT meget mere end det. Det kan generere kopi, forklare komplekse emner, fungere som oversætter, komme med vittigheder og skrive kode. Men det kan også væbnes af trusselsaktører.
Hvordan ChatGPT fungerer, og hvorfor det er attraktivt for cyberkriminelle
ChatGPT (Generative Pre-trained Transformer) blev udviklet af forskningslaboratoriet for kunstig intelligens OpenAI og lanceret i november 2022. Det er en stor sprogmodel, der bruger en kombination af overvågede og forstærkende maskinlæringsteknikker.
Måske endnu vigtigere er, at ChatGPT konstant finjusteres og trænes af brugere, som enten kan opstemme eller nedstem dets svar, hvilket gør det endnu mere præcist og kraftfuldt, da det indsamler data på egen hånd.
Det er det, der adskiller ChatGPT fra andre chatbots. Og hvis du nogensinde har brugt det, ved du, at forskellen er mærkbar med det samme: i modsætning til andre lignende produkter, er den i stand til at deltage aktivt i en samtale og udføre komplekse opgaver med forbløffende nøjagtighed, mens du leverer sammenhængende og menneskelignende svar.
Hvis du fik vist et kort essay skrevet af et menneske, og et skrevet af ChatGPT, ville du sandsynligvis kæmpe for at afgøre, hvilken der er hvilken. Som et eksempel er her en del af teksten ChatGPT genereret, da han blev bedt om at skrive et kort essay om The Catcher in the Rye.
Dette betyder ikke, at ChatGPT ikke har sine begrænsninger - det har den helt sikkert. Jo mere du bruger det, jo mere vil du bemærke, at dette er tilfældet. Så stærk som den er, kan den stadig kæmpe med elementær logik, begå fejl, dele falske og vildledende information, misfortolke instruktioner på en komisk måde og blive manipuleret til at tegne forkert konklusion.
Men ChatGPTs magt ligger ikke i dens evne til at samtale. Det ligger snarere i sin næsten ubegrænsede kapacitet til at udføre opgaver i massevis, mere effektivt og meget hurtigere end et menneske kunne. Med de rigtige input og kommandoer og et par kreative løsninger kan ChatGPT omdannes til et foruroligende kraftfuldt automatiseringsværktøj.
Med det i tankerne er det ikke svært at forestille sig, hvordan en cyberkriminel kunne bevæbne ChatGPT. Det handler om at finde den rigtige metode, skalere den og få AI til at udføre så mange opgaver som muligt på én gang, med flere konti og på flere enheder, hvis det er nødvendigt.
5 ting, som truslen skuespillere kunne gøre med ChatGPT
Der er allerede et par rigtige eksempler på, at ChatGPT bliver brugt af trusselsaktører, men det er flere det er sandsynligt, at det bliver våben på en række forskellige måder, eller vil blive det på et tidspunkt i fremtid. Her er fem ting, hackere kan gøre (og sandsynligvis gør) med ChatGPT.
1. Skriv Malware
Hvis ChatGPT kan skrive kode, kan den skrive malware. Ingen overraskelse der. Men dette er ikke blot en teoretisk mulighed. I januar 2023 opdagede cybersikkerhedsfirmaet Check Point Research, at cyberkriminelle allerede er bruge ChatGPT til at skrive malware-og praler med det på undergrundsfora.
Trusselsaktøren Check Point Research opdagede brugte den avancerede chatbot ret kreativt til at genskabe Python-baseret malware beskrevet i visse forskningspublikationer. Da forskere testede det ondsindede program, fortalte cyberkriminelle sandheden: hans ChatGPT-genererede malware gjorde præcis, hvad den var designet til at gøre.
2. Generer phishing-e-mails
Så kraftfulde som spamfiltre er blevet, farlige phishing-e-mails stadig glider gennem sprækkerne, og der er ikke meget, den gennemsnitlige person kan gøre, end at rapportere afsenderen til deres udbyder. Men der er meget, en dygtig trusselsaktør kunne gøre med en mailingliste og adgang til ChatGPT.
Med de rigtige kommandoer og forslag kan ChatGPT generere overbevisende phishing-e-mails, hvilket potentielt automatiserer processen for trusselsaktøren og giver dem mulighed for at skalere deres operationer.
3. Byg fupwebsteder
Hvis du bare Googler udtrykket "byg en hjemmeside med ChatGPT", vil du finde en masse tutorials, der meget detaljeret forklarer, hvordan du gør netop det. Selvom dette er gode nyheder for alle, der gerne vil lave et websted fra bunden, er det også gode nyheder for cyberkriminelle. Hvad forhindrer dem i at bruge ChatGPT til at bygge en masse svindelsider eller phishing-destinationssider?
Mulighederne er næsten uendelige. En trusselaktør kunne klone et eksisterende websted med ChatGPT og derefter ændre det, bygge falske e-handelswebsteder, køre et websted med scareware-svindel, og så videre.
4. Opret spamindhold
For at oprette et falsk websted, køre en fupside på sociale medier eller bygge et copycat-websted, har du brug for indhold - meget af det. Og det skal se så legitimt ud som muligt, for at fidusen virker. Hvorfor skulle en trusselsaktør hyre indholdsforfattere eller skrive blogindlæg på egen hånd, når de bare kan få ChatGPT til at gøre det for dem?
Indrømmet, et websted med AI-genereret indhold ville sandsynligvis blive straffet af Google ret hurtigt og ikke blive vist i søgeresultaterne, men der er mange forskellige måder, hvorpå en hacker kan promovere et websted, sende trafik til det og snyde folk ud af deres penge eller stjæle deres personlige oplysninger.
5. Spred desinformation og falske nyheder
Online desinformation er blevet et stort problem i de senere år. Falske nyheder spredte sig som en steppebrand på sociale medier, og folk, der ikke ved bedre, falder ofte for vildledende – og nogle gange bogstaveligt opdigtede – historier. Dette kan have alvorlige konsekvenser i det virkelige liv, og det ser ud til, at ingen har nogen idé om, hvordan man stopper spredningen af falske nyheder uden at overtræde lovene om ytringsfrihed.
Værktøjer som ChatGPT kan forværre dette problem. Trussel om aktører, der har adgang til software, der er i stand til at generere tusindvis af falske nyheder og opslag på sociale medier hver dag, virker som en opskrift på katastrofe.
Tag ikke vores ord for det
Hvis du ikke er overbevist, spurgte vi ChatGPT, hvordan en cyberkriminel ville bruge det. Det ser ud til at stemme overens med kernen i denne artikel.
I de forkerte hænder bliver ChatGPT farlig
Man kan kun forestille sig, hvad kunstig intelligens vil være i stand til om fem eller 10 år. Indtil videre er det bedst at ignorere hypen og panikken og vurdere ChatGPT rationelt.
Som al teknologi er ChatGPT hverken i sig selv nyttigt eller skadeligt. På trods af nogle mangler er det langt den mest dygtige chatbot, der nogensinde er udgivet til offentligheden.
