Een misleidend bericht gemaakt door WormGPT (afb: blog slashnext.com)

Kletsbots als ChatGPT van OpenAI en Bard van Google zijn inmiddels wereldberoemd en sinds een paar maanden vrij te raadplegen. Dat is voor allerlei duistere figuren aanleiding geweest ‘navolgers’ te maken die zich voordoen als het echte werk, maar met minder edele bedoelingen zoals het ontvreemden van inlogcodes.
De populariteit van kletsbots (aangeduid met ‘grote taalmodules’) heeft criminelen gelokt om daar een slaatje uit te slaan. Op het duistere web zou op fora reclame gemaakt worden voor bots als WormGPT en FraudGPT. ChatGPT en soortgenoten hebben ‘vangrails’ om ervoor te zorgen dat die ki-systemen geen kwalijke zaken produceren zoals kwalijke code of nepnieuws. Daar zouden de ‘navolgers’ geen last van hebben.

WormGPT werd het eerst waargenomen door een webbeveiliger van SlashNext. Er zouden volgens het bedrijf meer van dergelijke valse ‘navolgers’ in omloop kunnen zijn. Die grote taalmodules zijn volgens het bedrijf uitermate geschikt voor illegale activiteiten als het hengelen naar inloggegevens. Die zouden de problemen voor aspirantrovers verlagen die technisch minder begaafd zijn. Zo liet het bedrijf WormGPT een tekst voor een e-bericht maken om, zogenaamd, een ondergeschikte te manen tot betaling. Dat bericht (zie afb.) was niet alleen behoorlijk overtuigend, maar ook strategisch listig opgesteld, stelde SlashNext.

Lekken

WormGPT zou gebouwd zijn naar analogie van het GPTJ-taalmodel, een open model dat wordt/werd gebruikt door EleutherAI inn 2021. Met welke informatie WormGPT is ‘opgeleid’ is niet bekend.

FraudGPT zou onontdekbare kwalijke code kunnen ontwikkelen of lekken in beveiligingssystemen achterhalen. Dat taalmodel zou ook officieel lijkende nepberichten kunnen opstellen die mensen moeten verleiden om op knoppen te klikken of anderszins voor de criminele voordelige handelingen te verrichten. Inmiddels zouden er al honderden ‘abonné’s’ op dat systeem zijn. Of dat allemaal klopt is de vraag, want webcriminelen zijn niet te beroerd om ‘collega’s’ te vernachelen of te bestelen.
Deskundigen waarschuwen dat dit nog maar het begin is. De Amerikaanse federale politie FBI heeft al gewaarschuwd dat de onderwereld driftig aansluiting zoekt bij het succes van lerende systemen. Ook Europol heeft een soortgelijke waarschuwing doen rondgaan (pdf-document).

Voorlopig zouden die criminele ki-systemen nog niet al te effectief te zijn in het creëren van kwalijke code of het ontdekken van lekken, maar dat lijkt (me=as) een kwestie van tijd.

Bron: Wired