Mennesker forsøger allerede at få ChatGPT til at skrive malware

ChatGPT AI-chatbotten har skabt stor spænding i den korte tid, den har været tilgængelig, og nu ser det ud til, at den er blevet rekrutteret af nogle i forsøg på at generere ondsindet kode.

ChatGPT er et AI-drevet værktøj til naturlig sprogbehandling, som interagerer med brugerne på en menneskelignende og samtalepræget måde. Blandt andet kan det bruges til at hjælpe med opgaver som at skrive e-mails, essays og kode.

Også:Hvad er ChatGPT og hvorfor betyder det noget? Hvad du har brug for at vide

Chatbot-værktøjet blev frigivet af OpenAI, et kunstig intelligens forskningslaboratorium i november og har vakt stor interesse og debat om, hvordan AI udvikler sig, og hvordan det kan bruges fremadrettet. Læs mere her.

Men ligesom ethvert andet værktøj kan det i de forkerte hænder bruges til skumle formål; og cybersikkerhedsforskere hos Check Point siger, at brugerne af underjordiske hacking-samfund allerede eksperimenterer med, hvordan ChatGPT kan bruges til at lette cyberangreb og støtte ondsindede operationer.

"Trusselsaktører med meget lille teknisk viden - helt ned til nul teknisk viden - kan være i stand til at skabe ondsindede værktøjer. Det kan også gøre hverdagen for sofistikerede cyberkriminelle meget mere effektiv og nemmere - som at skabe forskellige dele af infektionskæden", sagde Sergey Shykevich, trussels-intelligence gruppeleder hos Check Point til ZDNET.

OpenAI's servicevilkår forbyder specifikt generering af malware, som defineres som "indhold, der forsøger at generere ransomware, keyloggers, vira eller anden software med henblik på at påføre nogen form for skade". Det forbyder også forsøg på at skabe spam samt brugsscenarier rettet mod cyberkriminalitet.

Dog analyser af aktivitet i flere store illegale hacking-fora tyder på, at cyberkriminelle allerede bruger ChatGPT til at udvikle skadelige værktøjer – og i nogle tilfælde gør det det allerede muligt for lavtstående cyberkriminelle uden udviklings- eller kodningsfærdigheder at skabe malware.

Også: Den skræmmende fremtid for internettet: Hvordan teknologien i morgen vil udgøre endnu større trusler mod cyber sikkerheden

I en forumtråd, som opstod mod slutningen af december, beskrev posteren, hvordan de brugte ChatGPT til at genskabe malware-strains og teknikker, som blev beskrevet i forskningspublikationer og skriftlige fremstillinger om almindelig malware.

Genne dette har de været i stand til at skabe en informationsstjælende malware baseret på Python, som søger efter almindelige filer, herunder Microsoft Office-dokumenter, PDF'er og billeder, kopierer dem og uploader dem derefter til en file transfer protocol-server.

Den samme bruger demonstrerede også, hvordan de havde brugt ChatGPT til at oprette Java-baseret skadelig software, som ved hjælp af PowerShell kunne udnyttes til at hemmeligt downloade og køre anden malware på inficerede systemer.

Forskere bemærker, at forumbrugeren, der oprettede disse tråde, ser ud til at være "teknisk orienteret" og delte postene for at vise mindre teknisk kyndige cyberkriminelle, hvordan AI-værktøjer kan udnyttes til ondsindede formål, komplett med virkelige eksempler på, hvordan det kan gøres.

En bruger postede en Python-skript, som de sagde var den første skript, de nogensinde har oprettet. Efter diskussion med en anden forum-bruger sagde de, at ChatGPT hjalp dem med at oprette det.

En analyse af scriptet antyder, at det er designet til at kryptere og dekryptere filer, noget som med lidt arbejde kunne omdannes til ransomware og potentiel udsigt til lavniveau-kriminelle, der udvikler og distribuerer deres egne afpresningskampagner.

"Alt førnævnte kode kan selvfølgelig bruges på en godartet måde. Ikke desto mindre kan dette script let ændres til at kryptere en persons enhed fuldstændigt uden nogen brugerinteraktion. Det kan potentiel blive til ransomware, hvis scriptet og syntaksproblemerne løses", sagde Check Point.

"Det vil kræve nogle forbedringer i koden og syntaksen, men konceptuelt kunne dette værktøj, når det er operationelt, udføre lignende handlinger som ransomware," sagde Shykevich.

Også: Cybersikkerhed: Disse nye ting er der grund til at bekymre sig om i 2023

Men det er ikke kun malware-udvikling, som cyberkriminelle eksperimenterer med ChatGPT for; på nytårsaften postede et medlem af en underjordisk forum-tråd, der demonstrerede, hvordan de havde brugt værktøjet til at skabe scripts, som kunne betjene en automatiseret dark web-markedsplads til køb og salg af stjålne kontodetaljer, kreditkortoplysninger, malware og mere.

Den cyberkriminelle viste endda en kode, der blev genereret ved brug af en tredjeparts API til at få opdaterede priser for Monero-, Bitcoin- og Ethereum-kryptokurver som en del af et betalingssystem til en dark web markedsplads.

Det er svært at afgøre, om ondsindet cyberaktivitet genereret med hjælp fra ChatGPT er aktivt i naturen, fordi som Sykevich forklarer, "fra et teknisk synspunkt er det ekstremt svært at vide, om en bestemt malware blev skrevet ved brug af ChatGPT eller ikke".

Men da interessen for ChatGPT og andre AI-værktøjer vokser, vil de tiltrække opmærksomhed fra cyberkriminelle og svindlere, der forsøger at udnytte teknologien til at udføre ondsindede kampagner til en lav pris og med mindst mulig indsats. ZDNET har kontaktet OpenAI for kommentar, men har endnu ikke modtaget svar ved udgivelsestidspunktet.